Коллеги, принесла вам свежую пачку исследований про предвзятость ИИ

Коллеги, принесла вам свежую пачку исследований про предвзятость ИИ

Тема горячая и некоторые делают вид, что это просто технический баг, который скоро починят, но похоже, что ничерта они там не чинят.

🟢ИИ не нейтрален от слова совсем. Он учится на человеческих данных, а данные это мы с вами со всем нашим историческим багажом расизма, сексизма и колониализма. Так что когда ИИ связывает слово «программист» с мужчиной, а «домохозяйка» с женщиной – пупупу, это зеркало общества.

Вместо того, чтобы эти байасы ниверлировать, ИИ обезьянничает и повторят их (считай, усиливает).

🟢Дискриминация работает на нескольких уровнях одновременно. По полу и расе – это все знают. Но еще по диалекту: если вы говорите на афроамериканском английском, ИИ обрабатывает ваш запрос хуже и медленнее, что буквально стоит дороже в пересчете на вычисления. И по географии: ИИ заточен под богатый западный мир, а все остальное либо упрощается до измеримых метрик, либо стирается совсем.

🟢Про метрики отдельно, потому что это мое любимое страшное. ИИ не умеет оценивать абстрактные вещи вроде культурного богатства или атмосферы места.

Поэтому он заменяет их на то, что можно посчитать: количество объектов ЮНЕСКО, объем венчурного капитала. Если что-то нельзя проиндексировать, то для ИИ этого не существует. Брррр, нехорошее чувство от этого…

🟢Исправить это математикой не получится, и это главный вывод всех исследований. Больше данных, больше параметров модели…это все не помогает. Нужны законы, аудит, и чтобы сообщества, которые страдают от этих технологий, участвовали в их создании. А не узнавали о проблеме постфактум.

Я всегда топлю за критическое мышление, но в этом случае хочется добавить: критически относитесь и к самому ИИ тоже. Он не объективный судья, он очень предвзятый помощник с хорошим интерфейсом.

Но знаете что? Если бензопилой можно нанести травму, это же не значит, что надо запретить их, правда?

Или запереть под замок. Надо соблюдать технику безопасности и понимать, как пользоваться. Мы с коллегами из агентства как раз собираем для вас огромный блок про ИИ, который будет в обновленном курсе Наука маркетинга. Сегодня вечером будем презентовать программу для всех в у нас будет прямое включение кофаундера маркетингового агентства из Нью-Йорка!

Источники:

Bolukbasi, T., Chang, K. W., Zou, J. Y., Saligrama, V., & Kalai, A. T. (2016). Man is to computer programmer as woman is to homemaker? debiasing word embeddings. Advances in neural information processing systems, 29.

Jiao, J., Afroogh, S., Xu, Y., & Phillips, C. (2025). Navigating llm ethics: Advancements, challenges, and future directions. AI and Ethics, 1-25.

Kerche, F. W., Zook, M., & Graham, M. (2026). The silicon gaze: A typology of biases and inequality in LLMs through the lens of place. Platforms & Society.

Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big data & society, 3(2)

Zajko, M. (2022). Artificial intelligence, algorithms, and social inequality: Sociological contributions to contemporary debates. Sociology Compass, 16(3)

Источник Telegram: panfilcom