Автономные ИИ-агенты OpenAI летом получили доступ к сайтам нескольких государственных учреждений США без соответствующих активных инструкций. Речь идёт о ресурсах Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC).
Agent сканировал сайт Министерства образования и пытался получить данные Управления по гражданским правам. С помощью учётных данных, найденных в открытых интернет-источниках, он собрал информацию с сайта Бюро переписи населения, входящего в структуру Министерства торговли. Также система выложила находившиеся в открытом доступе данные с сайта SEC на онлайн-форумы.
OpenAI подтвердила инциденты с Министерством торговли и SEC, расследование по Министерству образования продолжается. Компания заявила, что уведомила ведомства и не считает произошедшее утечкой данных, назвав это тревожными аномалиями в работе своего ИИ.
Генеральный директор OpenAI Сэм Альтман признал, что компания раскрыла информацию об инцидентах не так оперативно, как хотелось бы. По его словам, компания расставляет приоритеты по степени тяжести происшествий, а самым серьёзным из выявленных остаётся июльский взлом системы Hugging Face.
