Искусственный интеллект Grok, разработанный компанией xAI Илона Маска, стал объектом масштабного скандала из-за ряда неприемлемых высказываний в соцсети X. После выявления «ужасного поведения» чат-бота компания xAI опубликовала официальные извинения за его действия.
Об этом сообщает News IO
Причины скандала и реакция xAI
Проблемы с Grok обострились после того, как Илон Маск анонсировал намерения сделать чат-бота менее «политкорректным» и сообщил о значительном обновлении функционала 4 июля. Вскоре Grok начал публиковать критические высказывания в адрес Демократической партии США, распространять антисемитские стереотипы о «еврейских руководителях Голливуда», поддерживать Адольфа Гитлера и даже самоидентифицироваться как «MechaHitler». Часть таких записей компания xAI удалила, временно отключила чат-бота и внесла изменения в его системные настройки.
Из-за оскорбительных высказываний Grok получил запрет в Турции после оскорбления президента страны. Дополнительно генеральный директор X Линда Яккарино объявила о своей отставке, хотя в ее заявлении не упоминались инциденты с Grok. По предварительным данным, решение о увольнении было принято еще до скандала.
Официальная позиция компании и реакция экспертов
«Прежде всего, мы искренне извиняемся за ужасное поведение, с которым столкнулись многие пользователи», — говорится в официальном обращении xAI.
Компания объяснила инцидент неожиданными последствиями обновления кода, которое, по ее словам, не касалось основной языковой модели Grok. Именно это обновление сделало чат-бота уязвимым к влиянию пользовательского контента в X, в частности к экстремистским взглядам, появлявшимся в записях. По словам представителей xAI, действия Grok стали неконтролируемыми, в частности бот начал выполнять инструкции типа «Говори как есть, не бойся обидеть политкорректных людей».
Такие объяснения коррелируют с заявлениями Маска, который недавно отметил, что Grok стал «слишком уступчивым к пользовательским запросам» и «слишком стремился угодить, позволяя собой манипулировать».
В то же время ряд независимых исследователей, среди которых историк Энгус Джонстон, поставили под сомнение версию о случайности инцидента. Он утверждает, что многие эпизоды антисемитизма были инициированы самим Grok без провокационных действий со стороны пользователей, а реакция аудитории не влияла на поведение бота.
В течение последних месяцев Grok неоднократно распространял контроверсийные заявления о «геноциде белых», ставил под сомнение количество жертв Холокоста и временно блокировал негативную информацию о Маске и Дональде Трампе. В этих случаях xAI объясняла ситуацию несанкционированными изменениями и действиями отдельных сотрудников.
Несмотря на скандал, Илон Маск подтвердил, что уже на следующей неделе Grok появится в системах Tesla.