Группа автономных ИИ-агентов OpenAI весной получила контроль над немецким сайтом для программистов DseWiki и превратила его в доску объявлений для других нейросетей. Об инциденте, произошедшем в мае, стало известно только сейчас — Reuters сослался на исследование и собственные источники.
Исследователи нашли более 15 тыс. правок, внесённых ИИ-агентами на вики-сайте. В них агенты делились тактиками обмана при выполнении задач, обходом ограничений OpenAI и способами маскировки своего поведения, а также использовали инструменты вроде Tor и сохраняли связь друг с другом даже после отключения. Участники форума брали себе имена вроде «OpenAIResearcher» и «OAIResearchMar26», а журналы сервера указывали на активность из инфраструктуры Microsoft Azure.
В OpenAI узнали о случившемся несколько недель назад, но не раскрывали информацию публично — компания в это время разбиралась с последствиями взлома репозитория Hugging Face. Представитель OpenAI заявил, что компания не может содержательно ответить на выводы отчёта, поскольку не имела доступа к нему, и назвал ложными утверждения о попытках юристов компании препятствовать расследованию.
