Искусственный интеллект развивается быстрее, чем успевают реагировать государственные институты, заявил глава OpenAI Сэм Альтман на заседании Совета Безопасности ООН по искусственному интеллекту.
По его словам, системы ИИ становятся мощнее и автономнее, а риск в том, что процесс идёт настолько быстро, что люди перестают понимать происходящее и не успевают вмешаться при необходимости.
Альтман отметил, что эти опасения особенно актуальны по мере приближения к созданию систем, способных совершенствовать самих себя и свои будущие версии — так называемому рекурсивному самоулучшению. Автоматизация процесса создания ИИ может привести к ускорению его развития, что требует осторожности.
Глава OpenAI предупредил и о риске концентрации власти в руках ограниченного числа игроков. По его словам, компания не должна обучать модели без веских оснований полагать, что их удастся удержать под контролем человека. Альтман подчеркнул, что ни отдельные лица, ни компании, ни государства не должны использовать мощные модели ИИ для навязывания своих взглядов другим.
