МВД предупредило, что ChatGPT собирает цифровое досье на своих пользователей

Ведомство ссылается на международное исследование, выявившее, что OpenAI сохраняет личные данные пользователей для формирования их цифровых «портретов», причем без их ведома и согласия. При этом отраслевые эксперты отмечают, что подобные методы характерны для всех поисковых платформ и сервисов, поскольку улучшают поисковую выдачу

Нейросеть ChatGPT собирает цифровое досье на своих пользователей, предупредили в управлении по борьбе с киберпреступностью МВД России. В ведомстве указали на то, что все данные — в том числе конкретные имена, служебные документы и даже личные переживания — сохраняются в памяти ИИ.

В МВД ссылаются на международное исследование этого года, согласно которому OpenAI сохраняет личные данные пользователей для формирования их цифровых «портретов». Как говорится в исследовании, порядка 95 процентов записей создавались без согласия пользователей, а 91 процент — касались персональных данных.

Для защиты данных пользователям советуют внимательно контролировать настройки памяти нейросетей и обезличивать свои запросы. Комментирует управляющий директор Angel Relations Group Алексей Карлов:

Алексей Карлов управляющий директор Angel Relations Group «Большинство компаний собирает различные персональные данные, персональные зацепки, историю и прочее, чтобы лучше персонализировать свой продукт. Так работают и поиск, и многие другие российские и зарубежные сервисы. Это делается скорее не во вред, а для удобства пользователей. Есть масса исследований, где людям предлагали, например, поисковики без персонализации и поисковики с ней, и абсолютное большинство выбирало персонализированные ответы. Это уже давно если не стандарт, то общепринятая практика. Данные собирают все и всегда и будут собирать, чтобы улучшить свой продукт и персонализировать ответы. Да и сами пользователи этого на самом деле хотят. Причем абсолютное большинство компаний делает это автоматически: собираются персональные данные, но без привязки к конкретной фамилии и имени, а скорее к сессии пользователя, когда он заходит со своего аккаунта и задает какие-либо вопросы, то есть делает с программой то, что привык делать. Поэтому я скорее за персонализацию и сбор таких данных. Тем более большинство крупных компаний публичные, и они гораздо больше потеряют, если произойдет какая-то утечка либо недобросовестное использование. Некоторые ответы, в частности в нейросетях, полезно получать с привязкой к своей истории, а некоторые — от более широкого круга данных. Поэтому периодически проводить настройки с включением памяти, отключением памяти, отправкой данных для улучшения продукта или неотправкой — это уже давно было во всех программах и нейросетях, и это тоже дело пользователя, зависит от его профессиональных или бытовых задач. Поэтому я бы не говорил, что память включать или выключать обязательно нужно, но зайти в настройки и проверить, как программа настроена на вас, — это всегда полезно для дополнительного контроля».

Также в МВД предположили, что ИИ потенциально может использоваться для скрытого влияния на решения госслужащих и ученых с учетом их персональных данных и психологических особенностей.