Роскомнадзор протестирует систему Expert для проверки видео на ложь и дипфейки

Сервис разработан на основе искусственного интеллекта специалистами Национального центра когнитивных разработок ИТМО. Система анализирует видео и аудио, оценивая уверенность, уровень внутренней и внешней агрессии, а также противоречивость

Роскомнадзор протестирует систему проверки видео на ложь и поиск дипфейков. Сервис Expert разработан на основе искусственного интеллекта специалистами Национального центра когнитивных разработок ИТМО для подведомственного Роскомнадзору Главного радиочастотного центра, пишет «Коммерсантъ».

Как говорят разработчики, данная система анализирует видео и аудио, оценивая уверенность, уровень внутренней и внешней агрессии, а также противоречивость.

Expert «заточен на работу с английским языком», но система может проанализировать уровень агрессии или уверенности на любом языке. Сервис прошел тестирование в преддверии выборов в сенат США. В ближайших планах стоит его адаптация для русского языка.

Дипфейк — это как потрясающая возможность, так и большая проблема, поскольку нельзя верить своим глазам. И она будет только нарастать. Так что Роскомнадзор занялся этим вовремя, считает IT-обозреватель «Российской газеты» Олег Капранов:

Олег Капранов IT-обозреватель «Российской газеты» «На порносайтах недавно стали появляться ролики, например, с известными актрисами или актерами. Там использовалась технология дипфейка, просто накладывалось на лицо какого-то неизвестного актера лицо известного актера. И получалось, что какая-то звезда снимается в порно. Есть истории, например, собеседования через Zoom или через иные инструменты для видео-конференц-связи, когда люди использовали дипфейк для того, чтобы использовать личность другого человека, обладающего, допустим, каким-то необходимыми компетенциями, чтобы затем получить удаленную работу. Роскомнадзор специализируется на всем, что касается угроз, идущих через каналы связи и, безусловно, технология дипфейка используется в первую очередь в каналах связи, потому что вы не можете загримировать человека, идущего просто по улице при помощи дипфейка, но можете загримировать его в ролике, в трансляции, в Zoom-конференции и так далее, а это уже область Роскомнадзора. Насколько удастся обучить нейросеть, которая будет использоваться при поиске дипфейков, это, наверное, один из самых больших вопросов. Но, я думаю, что Роскомнадзор просто пытается таким образом сейчас не упустить сегмент отрасли и разработать разные инструменты для того, чтобы иметь возможность в будущем отслеживать и пресекать такие злоупотребления. Такие вещи не делаются при необходимости за пару-тройку месяцев, и то, что они начали делать это сейчас, это скорее хорошо, это важная технология, и востребованность, и частота ее использования будет только расти».

Может ли новый сервис быть использован в качестве доказательства в судах? Говорит управляющий партнер Reasons Law Firm, юрист в сфере IT, IP и защиты данных Арам Татоян:

Арам Татоян управляющий партнер Reasons Law Firm, юрист в сфере IT, IP и защиты данных «На этом этапе можно сказать, что данный инструмент по распознаванию дипфейков можно будет использовать в исполнении тех законов, которые уже действуют на данный момент. Допустим, это законы о фейках, законы о призывах к санкциям, о дискредитации вооруженных сил Российской Федерации и так далее, то есть государство занимается тем, что придумывает новые и более эффективные способы для контроля информации в Сети. Если говорить о нормативно-правовой базе, каких-то особенных законов на этот счет пока нет. Конечно, необходимо будет предусмотреть законодательством какую-то процедуру, как будет использоваться это программное обеспечение, потому что в мировой практике в большинстве стран есть такая проблема, что не все доказательства могут быть приняты судом. Открытым остается вопрос, на основе чего это будет применяться, и в чьем ведомстве это программное обеспечение будет находиться. Если мы говорим о Роскомнадзоре, то это одна ситуация, соответственно, он будет использовать это программное обеспечение непосредственно для контроля информации в интернете, чем он и сейчас занимается. Если мы говорим о подведомственности, например, Министерства внутренних дел, то ситуация здесь, конечно, уже меняется. Мы все-таки должны понимать, что будут неудачные опыты применения, если такое программное обеспечение будет применяться, и говорить о том, что программа сразу будет запущена и реализована успешно, конечно, чересчур оптимистично, но тенденция идет на это».

Ряд экспертов считает, что «вероятность ложных срабатываний в новом сервисе будет достаточно высока, и потребуются годы, чтобы проект начал приносить пользу».