Финальное решение — за человеком: в Китае разработали цифрового прокурора

Искусственный интеллект протестировали в прокуратуре в Шанхае, он предъявляет обвинение с точностью 97%. Технология направлена на то, чтобы разгрузить прокуроров

Обновлено в 16:15

В Китае создали цифрового прокурора. Искусственный интеллект предъявляет обвинение с точностью 97%. Систему уже протестировали в прокуратуре в Шанхае, пишет South China Morning Post. По мнению разработчиков, новая технология разгрузит прокуроров, чтобы те смогли заниматься более сложными делами, и способна в определенной степени заменить их при принятии решений.

Цифровой прокурор обучался, основываясь на 17 тысячах дел, которые рассматривались с 2015-го по 2020 год. На данном этапе ИИ может выдвинуть обвинение в мошенничестве с кредитками, организации азартных игр, опасном вождении, воровстве, «развязывании ссор и провоцировании неприятностей» и еще по нескольким распространенным в Шанхае преступлениям. Пока искусственный интеллект все-таки помогает прокурору, но финальное решение остается за человеком, говорит директор по развитию коммуникационной группы Outlandish Group Артем Жданов:

Артем Жданов директор по развитию коммуникационной группы Outlandish Group «До массового внедрения еще далеко, и об этом пишут во всех китайских источниках. [Цифровой прокурор] тестируется в районе Пудун в Шанхае. Но это не то, что ИИ принимает все решения. Во всех источниках пишется, что он не решает виновность человека и так далее. В данном случае искусственный интеллект обрабатывает big data и помогает человеку, то есть прокурору и его команде, сколько нужно времени, чтобы собрать всю доказательную базу и вынести приговор. Обвинение по каким делам? Кредитные карты, то, что связано с азартными играми, опасное вождение. Это все так или иначе фиксируется онлайн, камерами на дорогах и системой распознавания лиц. То есть искусственный интеллект помогает только на 97%. ИИ будет обучаться. Наверное, у него тоже будут ошибки. Но если мы посмотрим, сколько человеческого фактора в подобных решениях и обвинительных приговорах, со временем обычная статистика покажет, что лучше. Для этого эксперимент сейчас и проводится. Обычных краж стало меньше. Я могу оставить даже не в центре города свой электромотоцикл, шансы, что его своруют очень малы. Почему? Потому что камеры везде и это все отследят, в том числе ИИ. Все моментально найдется».

Для того чтобы искусственный интеллект мог обвинить человека в преступлении, такого количества рассмотренных дел явно мало, считает директор по правовым инициативам Фонда развития интернет-инициатив (ФРИИ) Александра Орехович:

Александра Орехович директор по правовым инициативам Фонда развития интернет-инициатив (ФРИИ) «Это высокорисковая история, могут быть несерьезные статьи, однако каждому человеку может испортить судьбу предъявление обвинения даже в очень несерьезной статье, это следует учитывать. Даже по восьми статьям 17 тысяч дел — мало. В Европейском союзе разработан законопроект об искусственном интеллекте, и он относит системы оценки, которые используются в правоохранительных и судебных органах, к высокорисковым системам, к которым нужно предъявлять серьезные критерии и большой контроль. Никогда нельзя будет отдавать на откуп искусственному интеллекту принятие решения по этим системам, всегда должен быть контроль со стороны человека, и конечное решение всегда должно приниматься им. То же самое сказано в этической карте Совета Европы. Полагаю, есть ряд сфер, где применение систем искусственного интеллекта будет вполне естественным. Главное, чтобы оно не влекло определенных рисков дискриминации личности, рисков влияния на личность. Там использование систем искусственного интеллекта будет абсолютно естественным и доведенным до автоматизма».

Китай первым в мире начал применять технологии искусственного интеллекта в работе прокуратуры. В 2016 году началось использование технологии, которая способна оценить силу доказательств, условия ареста и то, насколько подозреваемый считается опасным для общества.