Компания Anthropic с лета непублично продвигает в Конгрессе США законопроект о регулировании передовых систем искусственного интеллекта. Politico сообщает об этом со ссылкой на источники и оказавшийся в распоряжении издания документ.
Проект позволяет правительству через суд блокировать выпуск или использование модели ИИ, если она создает предсказуемый риск ущерба более $1 млрд либо гибели или тяжелых травм более 50 человек. Угроза должна быть связана с созданием или применением биологического оружия, выходом модели из-под контроля разработчика или кибератакой.
Выявлять такие риски предлагается независимым экспертам, зарегистрированным в Минторге США. На основе их оценки ведомство сможет добиваться приостановки через федерального судью окружного суда округа Колумбия. Другим ведомствам и должностным лицам проект прямо запрещает останавливать разработку, развертывание или внутреннее использование моделей.
Документ также обязывает разработчиков создавать внутренние отделы безопасности, публиковать отчеты о работе моделей, защищать сотрудников от преследования за разглашение нарушений и уведомлять Минторг США о серьезных сбоях. Формулировки перекликаются с калифорнийским законом SB 53, принятым в прошлом году. Anthropic, создатель моделей Claude, назвала свое предложение «разумными мерами» для контроля над самыми мощными системами ИИ.
