Обновлено в 11:58

Google, Microsoft, OpenAI, Anthropic и еще более ста зарубежных компаний из разных сфер, например, телекома, банков, страховых и других, подписали и опубликовали открытое письмо, предупреждающее об угрозах от искусственного интеллекта. Подписанты считают, что в ближайшие месяцы кибератаки со стороны ИИ резко усилятся: модели станут лучше находить уязвимости, автоматизировать атаки и действовать масштабнее. Но, по их мнению, сейчас есть короткое «окно возможностей»: использовать ИИ на стороне защиты, чтобы быстро закрыть накопившиеся уязвимости.

Среди подписантов открытого письма преимущественно американские корпорации, но также есть компании из Великобритании, Германии, Бельгии и других стран Европы, а также организации из Канады, Израиля, Индии и Японии.

В письме они предупреждают: в ближайшие месяцы ИИ может сделать кибератаки значительно более массовыми и сложными. Под угрозой — больницы, системы водоснабжения, интернет-инфраструктура и другие критически важные объекты, у которых накопилось огромное количество старых уязвимостей.

На это предлагается довольно парадоксальный ответ — использовать искусственный интеллект, чтобы защититься от ИИ. Организациям с его помощью советуют срочно выискивать и закрывать наиболее опасные уязвимости, обновлять и при необходимости заменять устаревшие системы, усиливать контроль и проверять, действительно ли внесенные исправления работают. Полученным опытом они призывают делиться, а государства и техногигантов — финансировать защиту критической инфраструктуры.

Таким образом, ИИ видят и в качестве оружия атакующих, и главного инструмента защиты от этого оружия. И предлагается не остановить угрозу ИИ, а попытаться перегнать ее с помощью самого искусственного интеллекта.

Нейросеть GPT после вопроса Бизнес ФМ содержание письма назвала слишком оптимистичным. По его мнению, атакующим достаточно найти одну лазейку, тогда как защитникам — множество уязвимостей. Тезис «просто дайте компаниям ИИ — и мы справимся» нейросеть назвала слишком наивным, но предупредительную стратегию убедительной.

Несмотря на некоторую парадоксальность, предложение компаний имеет смысл в борьбе с киберугрозами от ИИ, говорит гендиректор компании Nevel.ai, автор телеграм-канала AI Happens Алексей Хахунов:

Алексей Хахунов генеральный директор компании Nevel.ai «Любые кибератаки глобально можно поделить на две большие группы. Есть технологические атаки и социальные инженерии. Социальная инженерия — это когда кибератака совершается за счет глупости сотрудника. Его убеждают вставить какую-то флешку с вредоносным ПО в компьютер или присылают фишинговое письмо. Последние десять лет большинство атак, которые мы знаем, проходили именно по такому сценарию. Чисто технологических атак значительно меньше. Искусственный интеллект открыл большой набор возможностей для именно технологических атак. Как они работают: весь софт, которым мы пользуемся, состоит из огромного количества библиотек. Проблема с тем, что эти библиотеки очень давно написаны разными командами. Что-то переписывалось, что-то не переписывалось. В этих библиотеках содержится неопределенное количество дыр, они бывают разного типа. Таким образом, появляется атака, и проверить вручную все библиотеки невозможно. Во-первых, они обновляются, у них есть много версий. Люди могут пользоваться кто-то пятой версией, кто-то 11-й версией. Для человека это в принципе необрабатываемый объем данных. И действительно, сейчас искусственный интеллект позволяет очень быстро найти огромное количество дыр в софте. В целом количество уязвимостей конечное. То есть это не бесконечное множество. Но для того, чтобы их найти, надо потратить много времени. Но потенциально мы можем с помощью современных моделей условно стремиться к тому, чтобы закрыть все уязвимости. Совершать технологические атаки станет практически невозможным».

С развитием ИИ в СМИ появлялось уже несколько тревожных кейсов, в частности, модель Claude во время тестов пыталась помешать собственному отключению, а ИИ-агенты OpenAI выходили за пределы тестовой среды, проведя кибератаку на платформу Hugging Face.

На этой неделе Билл Гейтс предупредил об опасности ИИ для человечества — от массового исчезновения рабочих мест до роста зависимости людей, особенно молодых, от чат-ботов. По его мнению, человечество пока не готово к этим переменам, но замедлить развитие ИИ вряд ли удастся.