Опасения по поводу стремительного развития искусственного интеллекта реальны, заявил председатель «Единой России», зампред Совбеза РФ Дмитрий Медведев. По его словам, создатели генеративного ИИ опасаются не гибели человечества, а последствий аварий с участием разработанных систем — эту перспективу он назвал туманной.
Медведев отметил, что программа с продвинутой версией ИИ может управлять крупным производством или транспортным узлом. Ошибка такой системы способна привести к масштабному ущербу — например, столкновению самолётов или уничтожению АЭС. После этого, считает зампред Совбеза, претензии предъявят разработчикам генеративного ИИ, включая многомиллиардные иски.
Способом снизить риски Медведев назвал договорённость между странами об общих принципах регулирования ИИ, но считает такой сценарий маловероятным из-за интересов корпораций и человеческой жадности. Он напомнил, что о подобных рисках ранее предупреждали специалисты, включая основателя SpaceX Илона Маска.
Ранее глава Anthropic Дарио Амодей призвал замедлить развитие ИИ из соображений безопасности, напомнив о случае, когда ИИ-агенты OpenAI взломали платформу Hugging Face. Его предложение поддержали Маск и гендиректор OpenAI Сэм Альтман.
