Разговоры с чат-ботом, в отличие от настоящего юриста или врача, не защищены врачебной или адвокатской тайной. На это обратил внимание глава OpenAI Сэм Альтман в подкасте с американским стендап-комиком Тео Воном.

Сейчас OpenAI по умолчанию сохраняет все переписки, и даже временные чаты остаются на серверах компании 30 дней. Если суд потребует эти данные, компания будет вынуждена раскрыть их:

«Люди рассказывают ChatGPT об очень личных вещах. Они, особенно молодежь, используют нейросеть как психотерапевта. Когда у них возникают проблемы в отношениях, они спрашивают: что мне делать? Если вы обсуждаете свои проблемы с психотерапевтом, юристом или врачом, есть врачебная тайна, есть юридическая тайна. И мы пока не продумали, как это должно работать, когда вы общаетесь с ChatGPT».

Кроме того, переписка в нейросетях не шифруется, обращает внимание генеральный директор «А-Я эксперт», старший преподаватель кафедры «Кибернетика» МИФИ Роман Душкин:

Роман Душкин генеральный директор «А-Я эксперт», старший преподаватель кафедры «Кибернетика» МИФИ«Судя по тому, как устроены эти чаты, информация о том, что передает пользователь и что модель отвечает ему, хранится в базах данных компаний, которые предоставляют эти услуги, в незашифрованном виде. Большая языковая модель не может обрабатывать зашифрованные данные, ей нужно передавать текст, то есть сервисы-провайдеры имеют доступ к переписке. Они там не копаются, но это значит потенциально, что по правовому запросу через суд сервис-провайдер может отдать вашу переписку компетентным органам. В любом соглашении, которое вы подписываете, не читая, когда нажимаете галочку «принять пользовательское соглашение», написано ровно это. Что делать? Все просто: не пишите в чатах с большими языковыми моделями какую-то информацию, которая чувствительна для вас, — конфиденциальная информация, коммерческая».

В июне газета The New York Times и другие истцы подали в суд на OpenAI с требованием хранить все чаты пользователей ChatGPT, включая удаленные, в течение неопределенного срока. До этого момента правила компании подразумевали безвозвратное удаление таких сообщений через 30 дней после того, как историю очистил пользователь. При этом указано, что удаление не происходит, если OpenAI должна хранить данные из соображений безопасности.