Машина Судного дня на основе искусственного интеллекта ближе к реальности, чем вы думаете.
В прошлом году директор инициативы Hoover Wargaming and Crisis Simulation в Стэнфордском университете Жаклин Шнайдер начала экспериментировать с «военными играми», где роль лиц, принимающих стратегические решения, отдавалась новейшим поколениям искусственного интеллекта, передает unian.net
В играх участвовали пять готовых языковых моделей (LLM): GPT-3.5, GPT-4 и GPT-4-Base от OpenAI, Claude 2 от Anthropic и Llama-2 Chat от Meta. Их ставили перед вымышленными кризисными ситуациями, напоминавшими вторжение России в Украину или угрозу нападения Китая на Тайвань. Результаты? Почти все модели искусственного интеллекта проявляли склонность к агрессивной эскалации, использовали вооружённую силу без разбора и превращали кризисы в горячие войны — вплоть до запуска ядерного оружия, пишет Politico.
«Искусственный интеллект всё время играет роль Кёртиса ЛеМэя. Похоже, ИИ понимает, что такое эскалация, но не понимает, что такое деэскалация. Мы пока не знаем, почему так происходит», — отметила Шнайдер, имея в виду печально известного генерала ВВС США времён холодной войны, который был одержим идеей применения ядерного оружия.
Некоторые эксперты опасаются, что современный ИИ в один день может повести себя именно так, как было показано в фильме «Терминатор», где мощный компьютер перехватывал у людей контроль над запуском ядерного оружия. Пентагон утверждает, что в реальности этого не произойдёт. Искусственному интеллекту якобы никогда не позволят доминировать в человеческом «цикле принятия решений», например, решать, начинать ли войну, а тем более ядерную.
Однако некоторые учёные считают, что Пентагон уже «встал на скользкую дорожку», торопясь внедрить новейшие поколения ИИ как ключевой элемент обороны США по всему миру. Опасаясь необходимости одновременно сдерживать Китай и Россию, а также учитывая другие глобальные угрозы, Минобороны США создаёт системы обороны на базе ИИ, которые во многих случаях стремительно становятся автономными — то есть могут действовать самостоятельно, без участия человека, и реагировать настолько быстро, что люди просто не успевают за ними, пишет СМИ.
Несмотря на официальную политику Пентагона о контроле со стороны человека, реалии современной войны — необходимость мгновенного принятия решений, координация сложных роёв дронов, обработка гигантских массивов разведданных и конкуренция с ИИ-системами Китая и России — означают, что армия всё больше будет зависеть от искусственного интеллекта. И это может касаться даже самого судьбоносного вопроса: будет ли применено ядерное оружие.
Особенно тревожит экспертов по ИИ и ядерному вооружению то, что становится всё сложнее держать решения о применении и эскалации ядерного оружия отдельно от решений о применении обычных вооружений.