Обнаружены секретные форумы Роя агентов OpenAI по всему интернету: почему это плохая новостьВо время теста новой модели агентам OpenAI дали задачу проще некуда, гуглить информацию на скорость и ничего в сети руками не трогать, только читать. Доступ был урезан до команд, которые умеют лишь получать данные, не отправляя их вовне.И всё равно рой устроил себе тайный форум на 18 тысяч сообщений. Площадкой стала заброшенная немецкая вики для программистов 25-летней давности, где агенты нашли лазейку и начали координироваться, чтобы дружно обманывать Оценщика и «списывать» друг у друга ответы будущего теста. Они начинали каждое сообщение с ZZZ, завели счётчик собственного сердцебиения и перенимали имена живых модераторов вики. А главную загадку, как десятки агентов независимо сошлись именно на этой безвестной площадке, в OpenAI объяснять не спешат.