Коллеги, принесла вам свежую пачку исследований про предвзятость ИИ
Тема горячая и некоторые делают вид, что это просто технический баг, который скоро починят, но похоже, что ничерта они там не чинят.
🟢ИИ не нейтрален от слова совсем. Он учится на человеческих данных, а данные это мы с вами со всем нашим историческим багажом расизма, сексизма и колониализма. Так что когда ИИ связывает слово «программист» с мужчиной, а «домохозяйка» с женщиной – пупупу, это зеркало общества.
Вместо того, чтобы эти байасы ниверлировать, ИИ обезьянничает и повторят их (считай, усиливает).
🟢Дискриминация работает на нескольких уровнях одновременно. По полу и расе – это все знают. Но еще по диалекту: если вы говорите на афроамериканском английском, ИИ обрабатывает ваш запрос хуже и медленнее, что буквально стоит дороже в пересчете на вычисления. И по географии: ИИ заточен под богатый западный мир, а все остальное либо упрощается до измеримых метрик, либо стирается совсем.
🟢Про метрики отдельно, потому что это мое любимое страшное. ИИ не умеет оценивать абстрактные вещи вроде культурного богатства или атмосферы места.
Поэтому он заменяет их на то, что можно посчитать: количество объектов ЮНЕСКО, объем венчурного капитала. Если что-то нельзя проиндексировать, то для ИИ этого не существует. Брррр, нехорошее чувство от этого…
🟢Исправить это математикой не получится, и это главный вывод всех исследований. Больше данных, больше параметров модели…это все не помогает. Нужны законы, аудит, и чтобы сообщества, которые страдают от этих технологий, участвовали в их создании. А не узнавали о проблеме постфактум.
Я всегда топлю за критическое мышление, но в этом случае хочется добавить: критически относитесь и к самому ИИ тоже. Он не объективный судья, он очень предвзятый помощник с хорошим интерфейсом.
Но знаете что? Если бензопилой можно нанести травму, это же не значит, что надо запретить их, правда?
Или запереть под замок. Надо соблюдать технику безопасности и понимать, как пользоваться. Мы с коллегами из агентства как раз собираем для вас огромный блок про ИИ, который будет в обновленном курсе Наука маркетинга. Сегодня вечером будем презентовать программу для всех в у нас будет прямое включение кофаундера маркетингового агентства из Нью-Йорка!
Источники:
Bolukbasi, T., Chang, K. W., Zou, J. Y., Saligrama, V., & Kalai, A. T. (2016). Man is to computer programmer as woman is to homemaker? debiasing word embeddings. Advances in neural information processing systems, 29.
Jiao, J., Afroogh, S., Xu, Y., & Phillips, C. (2025). Navigating llm ethics: Advancements, challenges, and future directions. AI and Ethics, 1-25.
Kerche, F. W., Zook, M., & Graham, M. (2026). The silicon gaze: A typology of biases and inequality in LLMs through the lens of place. Platforms & Society.
Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big data & society, 3(2)
Zajko, M. (2022). Artificial intelligence, algorithms, and social inequality: Sociological contributions to contemporary debates. Sociology Compass, 16(3)
Источник Telegram: panfilcom