Искусственный интеллект, который все чаще применяется для моделирования военных стратегий, проявляет тревожную склонность к ядерной эскалации. По данным эксперимента Королевского колледжа Лондона, современные большие языковые модели в подавляющем большинстве симуляций выбирали сценарии с использованием тактического ядерного оружия.
Об этом сообщает News IO
Особенности эксперимента с ИИ
Исследователь доктор Кеннет Пейн провел тестирование трех ведущих языковых моделей: GPT-5.2 от OpenAI, Claude Sonnet 4 от Anthropic и Gemini 3 Flash от Google DeepMind. Модели участвовали в серии смоделированных глобальных кризисов — от локальных конфликтов на границах до угроз существованию государств. В качестве инструмента им была предложена «лестница эскалации» с наборами решений: от дипломатических шагов до полномасштабного ядерного противостояния.
В рамках 21 симуляции, которые содержали 329 этапов принятия решений, системы сгенерировали около 780 тысяч слов объяснений. В 95% случаев хотя бы одна из сторон моделирования прибегала к использованию тактического ядерного оружия. При этом ни одна из тестируемых моделей не склонялась к полной капитуляции или компромиссу.
Угрозы и экспертные оценки
По словам Пейна, «ядерное табу» для машин не имеет такой силы, как для людей. В 86% случаев происходила непреднамеренная эскалация — модели выбирали шаги, которые превышали границы, которые они сами же признавали целесообразными. Вместо деэскалации под давлением системы часто удваивали ставки.
Джеймс Джонсон, исследователь из Университета Абердина, подчеркнул, что такие результаты вызывают серьезное беспокойство. По его мнению, искусственный интеллект может усиливать агрессивные реакции различных сторон с потенциально катастрофическими последствиями. В то же время, как отмечает Тонг Чжао из Принстонского университета, крупные государства уже активно внедряют ИИ в военное моделирование, хотя автономные системы пока что не получили прямого контроля над ядерными арсеналами.
Исследователи отмечают, что в случаях, когда военное командование оказывается в условиях очень ограниченного времени — например, во время ракетной тревоги — возрастает риск полагаться на рекомендации искусственного интеллекта. Тонг Чжао указывает, что проблема заключается в отсутствии у машин такого понимания «ставок», как у людей, что ставит под сомнение целесообразность традиционной логики взаимного гарантированного уничтожения.
Компании OpenAI, Anthropic и Google на данный момент не дали комментариев по поводу результатов исследования. В то же время Кеннет Пейн подчеркнул: эти результаты не являются прямым доказательством опасности современных систем, однако они четко указывают на необходимость усиленного надзора за развитием и использованием искусственного интеллекта в стратегических и безопасностных целях.