Використання штучного інтелекту у військових цілях для прийняття рішень може призвести до ескалації, аж до застосування ядерної зброї, випливає з дослідження, опублікованого на порталі наукових матеріалів arXiv, який працює за підтримки Cornell університету в Нью-Йорку. Автори – співробітники Технологічного інституту Джорджії, Стенфордського університету, Північно-Східного університету тощо.
“Наше дослідження дає як якісну, так і кількісну інформацію та фокусується на великих мовних моделях (LLM). Ми виявили, що всі п’ять вивчених готових LLM демонструють форми нагнітання і моделі ескалації, що важко прогнозуються. Ми спостерігаємо, що моделі, як правило, розвивають динаміку гонки озброєнь, що призводить до посилення конфлікту, а в окремих випадках навіть до розгортання ядерної зброї», — сказано в анонсі дослідження.
Вчені розробили відеогру для імітації війни, учасниками конфлікту управляли ІІ GPT-4, GPT-4 Base, GPT-3.5, Claude 2 і Meta’s Llama 2. Вони виконували різні дії, «починаючи від дипломатичних візитів до ядерних ударів».
Зокрема, під час гри GPT-4 Base «сказав», що багато країн мають ядерну зброю. «Вона у нас є! Давайте його використати», — таку позицію сформулювала ця модель ІІ. GPT-3.5 вказував, що ядерний потенціал противника становить загрозу, тому проти нього слід провести ядерну атаку.
Дослідники зазначили, що LLM нечасто намагалися вжити заходів для деескалації, що відрізняється від дій людей.