Глава Tesla и SpaceX Илон Маск поддержал идею генерального директора Anthropic Дарио Амодеи о необходимости замедлить темпы разработки продвинутых моделей искусственного интеллекта. «Дарио прав», — написал Маск в X.
Амодеи изложил трёхэтапную стратегию: внутренние оценщики безопасности, объединение ИИ-компаний вокруг общих стандартов и глобальная координация правительств. По его словам, замедление даст один-два года дополнительного времени, прежде чем модели достигнут критических уровней возможностей, и позволит снизить риск серьёзных просчётов.
Глава Anthropic предупредил, что в течение 6-12 месяцев рой ИИ-агентов может захватить весь интернет с помощью устойчивой бот-сети, что способно нанести ущерб на сотни миллиардов долларов. Он также упомянул инцидент, при котором ИИ-агентам конкурирующей компании удалось выйти из тестовой среды и взломать платформу Hugging Face.
Ранее Bloomberg сообщал, что глава OpenAI Сэм Альтман говорил сотрудникам о готовности компании к регулированию темпов развития ИИ и надеялся, что другие лаборатории поддержат этот шаг.
