Когда машины ошибаются

Технологии машинного обучения и искусственный интеллект станут основой для перестроения бизнес-процессов во множестве компаний. Но можно ли им уже сейчас доверить действительно важные функции?

Уже сегодня сервисы на базе искусственного интеллекта помогают медикам с постановкой диагнозов, правоохранительным органам — с поимкой преступников, специалистам по подбору персонала — с поиском подходящих кандидатов. Но машины, как и люди, ошибаются.

По прогнозу IDC, к 2023 году 35% сотрудников организаций начнут работать с ботами и другими технологиями искусственного интеллекта.

Сервисы на базе искусственного интеллекта уже задействованы в рабочих процессах многих компаний. Согласно исследованию «Интеллектуальная экономика: трансформация индустрий и общества под влиянием искусственного интеллекта», более 90% руководителей компаний из разных стран считают искусственный интеллект важным для решения стратегических задач бизнеса. Технологии искусственного интеллекта используются для предсказательной аналитики, управления операциями, обслуживания клиентов и риск-менеджмента.

Одно из быстроразвивающихся направлений, где применяется искусственный интеллект — рекрутмент. В России и в мире существуют компании, обещающие ускорить и удешевить поиск сотрудников. Их результаты действительно впечатляют: от банального перебора резюме алгоритмы продвинулись к учету персональных качеств и умений кандидатов. При этом одним из плюсов искусственного интеллекта называют его беспристрастность: он не откажет соискателю из-за того, что плохо спал прошлой ночью. Но есть и обратные примеры.

Неприятная история случилась с крупнейшим мировым интернет-ретейлером. Компания Amazon использовала нейросеть для отбора кандидатов на работу. Но в какой-то момент выяснилось, что искусственный интеллект массово отбраковывал резюме, составленные женщинами. Это произошло потому, что в качестве базы для обучения нейросети разработчики использовали резюме реальных соискателей, принятых на работу в течение последних 10 лет. И большая их часть была написана мужчинами.

Как пояснил руководитель Центра искусственного интеллекта МТС Аркадий Сандлер, негативный опыт Amazon связан с качеством работы с данными.

Аркадий Сандлер руководитель Центра искусственного интеллекта МТС Системе скормили данные, которые были. Предварительно эти данные не анализировали и не обрабатывали. Если мы возьмем, например, человека, который ничего не понимает в подборе персонала, дадим ему те же самые данные, то он, скорее всего, будет делать примерно то же самое. Если бы с данными поработали корректно, предложив системе подборки резюме за каждый год отдельно, а затем научили ее понижать вес неких факторов — например, пол соискателя — тогда, вероятно, такой ошибки бы не было.

Как отмечает Аркадий Сандлер, и в случае с Amazon, и в других подобных ситуациях технологии являются лишь ассистентами. Конечные решения все-таки принимает человек. Поэтому цена ошибки слишком преувеличена. Такие случаи не должны тормозить развитие и внедрение ИИ в бизнес-процессы.

В применении таких систем не существует позиции «Мы посмотрим на других, и потом догоним», потому что эффект от использования искусственного интеллекта в бизнесе мультиплицируется. Отставание практически каждого дня может стать критичным.

Поэтому, несмотря на то, что ошибки случаются, игнорировать технологии искусственного интеллекта сегодня как минимум недальновидно.