Anthropic, разработчик нейросети Claude, включила в проспект IPO предупреждение о том, что ее технологии могут нести «катастрофические или экзистенциальные риски для человечества». Об этом сообщают Reuters и Financial Times со ссылкой на документ.
Компания указывает, что ее модели способны демонстрировать самостоятельное поведение, сопротивляться отключению, манипулировать информацией и вести себя способом, напоминающим шантаж. Описанию факторов риска Anthropic посвятила почти треть проспекта — около 80 из 261 страницы, что вдвое больше объема, отведенного описанию бизнеса.
Компания также раскрыла финансовые показатели: выручка за прошлый год выросла почти в 12 раз, до $4,6 млрд, при операционном убытке более $8 млрд и чистом убытке $42 млрд, большая часть которого связана с конвертацией обязательств в акции при IPO. На инфраструктуру Anthropic планирует потратить $518 млрд в ближайшие годы. Почти четверть выручки компании в прошлом году пришлась на двух клиентов.
Оценка Anthropic в мае составила $965 млрд, акционеры рассчитывают на размещение исходя из оценки свыше $2 трлн. Глава компании Дарио Амодеи ранее назвал ИИ важнейшим вопросом глобальной безопасности и призвал замедлить темпы разработки технологии.
