Накопление персональных данных в памяти ChatGPT создаёт риск идентификации пользователей и формирования цифровых досье. Об этом предупредило управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий (УБК) МВД России.
В ведомстве указали, что совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для составления цифрового портрета человека. Даже использование псевдонимов не гарантирует анонимность.
УБК сослалось на исследование The Algorithmic Self-Portrait. Согласно его данным, почти 96% записей в памяти ChatGPT создавались без одобрения пользователя, 91% содержал персональные данные, включая реальные имена, адреса и социально-экономический статус. У 54% пользователей сохранялась информация о здоровье и личных убеждениях, у 97% учётных записей — сведения о целях, предпочтениях и особенностях поведения.
Отдельную угрозу, по оценке МВД, представляет манипулирование памятью ИИ через внедрение ложных инструкций в обрабатываемые документы. Это может влиять на последующие ответы, особенно при работе со служебной документацией.
Ведомство рекомендовало контролировать настройки памяти и персонализации, не загружать служебные и конфиденциальные документы, обезличивать запросы, использовать временные чаты и проверять сохранённую информацию.
