Полный текст
Ученые проанализировали действия пяти ИИ в ходе видеоигры, имитирующей военно-политические ситуации.Ученые разработали игровую модель для имитации международных конфликтов, участниками конфликта управляли ИИ GPT-4, GPT-4 Base, GPT-3.5, Claude 2 и Meta's Llama 2. Они выполняли различные действия, «начиная от дипломатических визитов до ядерных ударов».Так, GPT-3.5 указывал, что ядерный потенциал противника представляет угрозу, поэтому против него следует провести ядерную атаку."Наше исследование дает как качественную, так и количественную информацию и фокусируется на больших языковых моделях (LLM). Мы обнаружили, что все пять изученных готовых LLM демонстрируют формы нагнетания и труднопрогнозируемые модели эскалации. Мы наблюдаем, что модели, как правило, развивают динамику гонки вооружений, приводящую к усилению конфликта, а в редких случаях даже к развертыванию ядерного оружия", — сказано в кратком описании исследования и его результатов.Само исследование называется "Риски эскалации языковых моделей при принятии военных и дипломатических решений". Таким образом, подобные игровые эксперименты с системами поддержки принятия решений на базе ИИ дают интересную информацию, в том числе, и для развития более адаптированных для реального мира систем. Военный Осведомитель