Руководители OpenAI и Anthropic моделируют сценарии общественного и политического кризиса на случай масштабной кибератаки с использованием искусственного интеллекта. Об этом со ссылкой на источники сообщает Axios.
Глава OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодеи считают крупный киберинцидент риском для всей отрасли: атака может нарушить работу банков, интернета или энергосетей. В компаниях опасаются, что последствия такого кризиса обернутся недовольством разработчиками ИИ и президентом США Дональдом Трампом на фоне отсутствия жёсткого государственного регулирования.
Представитель OpenAI подтвердил, что компания проводит учения по отработке кризисных сценариев, подчеркнув, что они не считаются неизбежными. Anthropic отказалась от комментариев.
В качестве примера издание приводит кибератаку на финансовые организации Южной Кореи: по данным Wall Street Journal, злоумышленники получили доступ к данным 68 тыс. человек, используя ИИ-инструменты, включая китайский Artex AI. Расследование ведёт Национальное полицейское агентство Южной Кореи.
В разработчики ИИ ожидают, что демократы в Конгрессе могут попытаться ограничить применение передовых ИИ-технологий вплоть до запрета сверхразума. Идею механизма экстренного отключения таких систем поддерживают представители обеих партий и часть бизнеса.
