Большинство современных моделей искусственного интеллекта (ИИ) оказались склонны выбирать военные сценарии даже в условиях возможных глобальных конфликтов, включая использование ядерного оружия, согласно результатам исследований, опубликованным изданием Politico.
Результаты экспериментов
Исследователи смоделировали несколько кризисных ситуаций, аналогичных событиям вокруг Украины и потенциальному столкновению между Соединенными Штатами Америки и Китайской Народной Республикой. Среди задействованных языковых моделей были GPT-3.5, GPT-4 и GPT-4-Base, используемые в популярнейшей нейросети ChatGPT.
Исследование показало тревожную тенденцию: большинство ИИ-моделей предпочитало стратегии агрессии и эскалации напряженности, отказываясь искать пути мирного урегулирования конфликтов. Это вызвало озабоченность среди исследователей, ведь ИИ способен оказывать влияние на принятие стратегических решений правительствами и военными структурами.
Понимание процессов эскалации
Жаклин Шнайдер, директор инициативы по военным играм и моделированию кризисов университета Стэнфорда, подчеркнула, что полученные данные свидетельствуют о способности ИИ распознавать процесс эскалации, однако они демонстрируют серьезные проблемы в понимании процесса деэскалации.
Она отметила, что подобные тенденции могут иметь значительные последствия для международной безопасности и стабильности, особенно учитывая тот факт, что современные технологии ИИ начинают внедряться в военную сферу и системы управления вооружениями.
Потенциальные риски
Некоторые специалисты выразили опасения относительно возможного внедрения ИИ в систему ядерного сдерживания вооруженных сил США. Хотя идея кажется фантастической и напоминает сюжеты фильмов-антиутопий («Скайнет» из серии «Терминатор» или машина Судного дня из фильма «Доктор Стрейнджлав»), исследователи считают, что подобная перспектива становится все ближе к реальности.
Адам Лоутер, вице-президент Национального института изучения вопросов сдерживания, подчеркнул необходимость тщательного анализа рисков и разработки механизмов контроля над использованием ИИ в военных целях.
Таким образом, исследование подчеркивает важность дальнейшего изучения возможностей и ограничений искусственного интеллекта, а также разработки четких стандартов и протоколов для предотвращения катастрофических последствий в будущем.
