Слишком эффективная система: в Китае отключат нейросеть, вычисляющую коррупционеров

С 2012 года она «поймала за руку» почти 9 тысяч служащих. Чиновники нескольких округов КНР заявили о «большом давлении» от действий программы

Пока в России арестовывают сенаторов прямо в зале заседаний, а в Минюсте России предлагают ввести понятие «вынужденной коррупции», в Китае отказываются от сверхуспешного проекта по борьбе со взяточничеством.

Как пишет South China Morning Post, чиновники нескольких округов Китая приняли решение свернуть программу искусственного интеллекта Zero Trust, которая была разработана Академией наук КНР. Стоимость разработки не раскрывалась, однако у проекта была амбициозная цель: борьба с растратами, кумовством и коррупцией.

Как работает Zero Trust? Нейросеть имеет доступ к базам данных госзначения. Отслеживает работу и социальную жизнь чиновников, вычисляет странные транзакции, соотносит затраты и выполненные работы. Система забьет тревогу, когда мелкий чиновник вдруг приобрел элитный автомобиль или зарегистрировал дорогую недвижимость, которая явно ему не по карману.

Тестировалась программа шесть лет в 30 городах Китая. В общей сложности, нейросеть охватила не более 1% от всего населения страны. Однако за это время в ее прицел попало почти 9 тысяч чиновников разных рангов. Кто-то попал под суд, кто-то отделался взысканием. Однако даже этого, судя по всему, хватило. Со временем ряд городов и округов начал отказываться от участия в проекте. Мотивировка одна: госслужащие стали чувствовать себя на работе «некомфортно» испытывают «большое давление».

Сама структура нейросети была разработана на добротном уровне, говорит основатель и директор по развитию компании «Промобот» Олег Кивокурцев:

Олег Кивокурцев основатель, директор по развитию компании «Промобот» «Чтобы исключить отрицательные последствия, необходимо правильно определить перечень данных, на которых будет обучена нейронная сеть. Например, для распознавания лиц берется большое количество данных. Касательно истории с китайской нейронной сетью. Есть понимание, что там использовали более десяти различных источников, по которым отслеживали данные. Это достаточно хорошая выборка, чтобы правильно принимать решения. Нейронная сеть Zero Trust выглядит как достаточно хороший инструмент. Конечно, риски ошибки есть, они допустимы, как в человеческой деятельности, так и в технологической. Поэтому, скорее всего, от нее решили отказаться. Думаю, данную тенденцию стоит продолжать, потому что нейронную сеть можно обучить на большем количестве данных, это приведет к более точным показателям и исключит ошибки. Здесь этический элемент одержал победу над технологическим».

Как такое решение могли принять в стране, в которой генсек Си Цзиньпин вынес борьбу с коррупцией в число приоритетных направлений своей политики? В стране, где с начала нулевых за взятки расстреляно больше 10 тысяч чиновников?

В оправдание чиновники КНР заявляют о существенном недостатке системы. Указав на нарушителя, она не приводила конкретных причин, почему тот попал под подозрение. К расследованию каждого случая привлекаются ресурсы, возникают разночтения, уходит время.

Могут ли у такого решения быть другие причины? Об этом рассуждает региональный редактор Центра по исследованию коррупции и организованной преступности Роман Шлейнов:

Роман Шлейнов региональный редактор Центра по исследованию коррупции и организованной преступности «У них есть прекрасная система распознавания лиц, а теперь еще и система мониторинга действий чиновников. Если система эффективная, может быть, это мешает государственному строительству? Ведь в России было принято говорить о том, что слишком интенсивная борьба с коррупцией может разрушить государство. У нас постоянно об этом говорят время от времени. Почему? Потому что даже сами чиновники, в том числе те, кто был замечен в коррупции, они объясняют, а как иначе, ведь других-то нет. В Китае, может, тоже осознали, что эта система мешает им строить госполитику, потому что слишком многие попали бы под раздачу из-за того, что система определяет коррупционные действия. Может быть, нам эту систему закупить и попытаться внедрить? Проблема в том, что в России никакой системы не нужно, чтобы видеть эту коррупцию. Поскольку огромное количество публикаций есть, огромное количество информации собрано. Вопрос не в отсутствии информации или данных, что тот или иной чиновник ворует, а в политической воле».

В России, к слову, нейросети коррупционеров пока не вычисляют. Пока их используют только в Китае, где 64 миллионов человек заняты в органах государственной, региональной и муниципальной власти. Однако это не значит, что в нашей стране нет похожих программ. Просто они задействованы в других сферах: проверяют кредитные истории, страховые гарантии, больничные листы. По оценкам экспертов, отрасль будет развиваться и дальше. Вот только, как показала история Поднебесной, даже высокая эффективность искусственного интеллекта может кого-то не устроить.