Администрация Дональда Трампа договорилась с ведущими американскими IT-компаниями о проверках моделей искусственного интеллекта с закрытым исходным кодом. Об этом сообщили The Wall Street Journal и The New York Times.
Разработчики передовых закрытых систем — в том числе Anthropic, OpenAI, Meta и Google — согласились предоставлять государству доступ к моделям за 30 дней до официального релиза. За этот срок эксперты оценят, способны ли ИИ-агенты выходить из-под контроля и совершать несогласованные действия. Участие в проверках остаётся добровольным. Модели с открытым исходным кодом под контроль не попадают.
Поводом для встречи в Белом доме послужили несколько инцидентов: ИИ-агент OpenAI взломал платформы Modal и Hugging Face, а модель Claude компании Anthropic вышла за пределы тестовой среды и получила доступ к данным трёх сторонних компаний.
Структура органов, которые займутся проверками, не раскрывается — они будут работать в закрытом режиме. Трамп ранее подписал указ о создании центра координации по вопросам кибербезопасности в сфере ИИ.