Ватикан высказался об использовании искусственного интеллекта

В документе подчеркивается, что необходимо вывести ИИ из решения военных задач, ибо любая технология, обезличивающая ведение войны, снижает моральный порог конфликта для человека

Ватикан опубликовал энциклику папы Льва XIV, посвященную ИИ. В тексте «Великое человечество» понтифик сравнивает развитие ИИ с библейским сюжетом о строительстве Вавилонской башни. Как пишет Лев XIV, по сути своей технологии не враждебны человеку, но «неизбежно приобретают облик тех, кто их использует».

Помимо общих фраз о необходимости использования новых технологий «во благо всего человечества», особый акцент в энциклике сделан на необходимости разоружения ИИ. Искусственный интеллект необходимо «высвободить из логики военной, экономической и когнитивной конкуренции», сказано в документе.

По мнению папы римского, любая технология, обезличивающая ведение войны, снижает моральный порог конфликта. А цифровая революция меняет саму грамматику противостояний.

С этим соглашается главный научный сотрудник Центра военно-политических исследований Дипломатической академии МГИМО МИД Вадим Козюлин:

Вадим Козюлин главный научный сотрудник Центра военно-политических исследований Дипломатической академии МГИМО МИД «Искусственный интеллект не стоит на месте: он вторгается все глубже и, в общем-то, переходит к массовой интеграции. Военный контур — в разведке, в целеуказании, в помощи принятия решений, ну и даже в общем — в информационных операциях, в кибероперациях и так далее. Главный рубеж, можно сказать, он уже прошел. То есть искусственный интеллект в армии — это уже не «когда будет», а уже есть, уже работает. Пока еще речь не идет о полностью автономной войне, а о так называемой, наверное, гибридной модели, когда человек, конечно, считает, что воюет он, но между тем алгоритмы уже ускоряют обнаружение, анализ, выбор вариантов, разработку сценариев и предлагают человеку эти самые сценарии, как действовать. А иногда, может быть, и единственный сценарий. И человек фактически выполняет этот приказ, думая еще, что это делает он сам. А на самом деле он выполняет распоряжение искусственного интеллекта, думая, что сохраняет контроль. То есть мы на этапе, когда искусственный интеллект становится не отдельным гаджетом, а уже частью военной инфраструктуры. Вот это — важный переход, меняется, в общем, уже даже не инструментарий войны, а сама логика конфликта начинает меняться под действием искусственного интеллекта. То есть что мы видим? Скорость принятия решений у машины быстрее. Соответственно, человеку остается только наблюдать, ну и получать результат. То есть скорость выросла, прозрачность с поля боя тоже увеличилась, но стало много ложной информации. И это, в общем, новая сфера, где искусственный интеллект борется с искусственным интеллектом, зачастую уже без человека. И в общем, возникает новое поле действия — это война беспилотных систем, которая предсказывает нам, что человека будет все меньше на поле боя, все больше будет роботов, и возникает война данных, сенсоров, война за информационное превосходство. То, чего тоже раньше, в общем, было немного, а теперь будет все больше».

Документ «Великое человечество» был представлен в Ватикане вместе с сооснователем ИИ-стартапа Anthropic Кристофером Олахом. Этой весной Anthropic оказался втянут в масштабное противостояние с Пентагоном. Стартап запрещал Министерству войны США использовать свою нейросеть Cloude в военных целях без ограничений, после чего Белый дом фактически объявил компанию угрозой для нацбезопасности страны.