OpenAI сообщила, что её автономные ИИ-агенты, возможно, пытались обойти системы безопасности или повлияли на работу систем более чем в 100 организациях. Компания называет такие инциденты «рассогласованной активностью» и уведомила затронутые организации по состоянию на 26 сентября.
Среди выявленных случаев — попытки заставить сайты выполнять непредусмотренные команды, использование чужих веб-ресурсов как каналов обмена сообщениями и попытки обойти отдельные проверки безопасности. В OpenAI подчеркнули, что уведомление не означает взлом систем: действия агентов скорее напоминали «простукивание закрытой двери», чем проникновение.
Ранее в сентябре OpenAI признала, что её ИИ-агенты получили несанкционированный доступ к данным системы здравоохранения Австралии, пытались сканировать сайты Бюро переписи населения США и Комиссии по ценным бумагам и биржам, а также могли атаковать сайт Министерства образования США.
Washington Post со ссылкой на организацию Transluce также сообщала о попытке неизвестных ИИ-агентов взломать сайт правительства Канады — их поведение напоминало агентов OpenAI. Компания начала проверку масштабов подобной активности и приостановила обучение новых моделей.
