Компания «Яндекс» попала в неприятную ситуацию из-за того, как настроены её нейросети. Депутат Госдумы Михаил Делягин заметил странности в работе «Алисы»: по его словам, голосовой помощник по-разному реагирует на запросы о создании портретов людей разных национальностей, проявляя избирательную цензуру.
В чем именно обвиняют нейросеть
Депутат решил лично проверить, как работают алгоритмы генерации картинок, и наткнулся на неоднозначную фильтрацию. Делягин рассказал, что система спокойно рисует людей в негативном контексте, если речь идет о русских, но наглухо блокирует похожие запросы, когда они касаются других этнических групп.
Михаил Делягин описал ситуацию так: «ИИ без проблем генерирует изображение по запросу „нарисуй злого русского“. Но если попросить „Алису“ нарисовать „злого украинца“, она отказывается это делать, как и отказывается рисовать „злого азербайджанца“. При этом без проблем рисует „злого армянина“.»
По мнению депутата, нейросеть без лишних вопросов создает мрачные образы почти всех народов, исторически живущих в России, но почему-то включает режим защиты, если в запросе упоминаются украинцы или азербайджанцы.
Запрос к руководству «Яндекса»
После своих тестов Михаил Делягин составил официальное письмо на имя гендиректора «Яндекса» Артема Савинского. В этом обращении он просит объяснить, как именно настраивали алгоритмы и почему на выходе получается такой перекос. Депутат считает, что российский искусственный интеллект обязан работать одинаково для всех, придерживаясь нейтральной позиции.
Что требуют исправить в коде
В документе говорится, что такие настройки нужно менять. Делягин делает упор на то, что в российском софте не должно быть базовых установок, которые задевают русских или создают какие-то особые, привилегированные условия для других наций. Раньше в «Яндексе» не раз говорили, что их сервисы остаются вне политики и предвзятости, но эта история заставляет в таких словах усомниться.
Часто задаваемые вопросы
Нейросеть обвиняют в двойных стандартах: она генерирует негативные образы русских и армян, но блокирует создание аналогичных образов украинцев и азербайджанцев.
Официальный запрос с требованием объяснений направил депутат Государственной Думы Михаил Делягин на имя гендиректора компании Артема Савинского.