В своем заявлении разведывательный альянс «Пять глаз» указывает, что искусственный интеллект стремительно трансформирует то, как выглядят киберугрозы. И хотя сейчас ИИ повсеместно применяется в информационной безопасности и со временем поможет совершенствовать существующие практики, угрозы развиваются быстрее.

Недавно, например, новую ИИ-модель Mythos и ее версию Fable 5 от компании Anthropic правительству США даже пришлось ограничить (ссылка ведет на заблокированный в РФ ресурс), запретив доступ к ней для иностранных граждан. Сама компания эту модель называла «слишком мощной». Профильные форумы писали, что Mythos была в состоянии взламывать различные системы абсолютно автономно и обходить ограничения, которые ей установили ее разработчики. В соцсетях тут же уловили параллели со «Скайнетом» из «Терминатора».

Однако хакерские возможности Mythos и Fable 5 могут быть преувеличены, хотя эти модели действительно очень впечатляют, указывает операционный директор компании «Архитех ИИ», разработчика платформы Kodik, Артем Карпов:

Артем Карпов операционный директор компании «Архитех ИИ», разработчика платформы Kodik «Я к этому предупреждению относился бы вполне серьезно, но без лишней паники. Речь идет скорее о новой технологической гонке, чем о выходе ИИ из-под контроля. Не стоит путать реальные возможности моделей с их образом в средствах массовой информации. На самом деле речь пока не идет о некой универсальной машине для взлома, эти модели все равно пока еще не способны автоматически получать доступ к абсолютно любым системам. Скорее они выступают в первую очередь как мощный инструмент, который может существенно усилить как специалистов по безопасности, так, к сожалению, и злоумышленников».

В своем заявлении альянс «Пять глаз» даже дает конкретные рекомендации, как нужно действовать правительствам, чтобы защитить свои системы от ИИ-киберугроз. Советы особой гениальностью не отличаются. Нужно ограничить круг лиц, которые имеют доступ к конфиденциальной информации, не пользоваться устаревшим оборудованием и так далее. Из примечательного — чтобы хорошо бороться с ИИ, нужно использовать ИИ. Клин клином. И это в целом логично. Продолжает директор глобального центра исследований и анализа угроз Kaspersky GReAT Игорь Кузнецов:

Игорь Кузнецов директор глобального центра исследований и анализа угроз Kaspersky GReAT «Современный искусственный интеллект может автоматизировать кибератаки, так же как и защиту от кибератак, равно как и любую другую отрасль, которая сейчас автоматизируется с помощью ИИ. Это всего лишь ускорение, масштабирование того, что уже известно, того, что понятно, как применять. Если угодно, это просто огромный штат специалистов не очень высокого уровня, которые вместе могут производить намного большие объемы работы, чем это мог бы делать человек».

В альянс «Пять глаз», который выпустил эти предупреждения, входят Австралия, Новая Зеландия, Великобритания, Канада и США. Из этих стран мощно развит ИИ только в Штатах. Есть даже сообщения, что модели от Anthropic используют компании — подрядчики американского правительства. Это, в частности, Cisco Systems, которая поставляет свои услуги Пентагону, писало Bloomberg.

Но и в России разрабатывать свои конкурентоспособные модели тоже нужно, уверен технический директор «Калибрити Групп» Александр Кукульчук:

Александр Кукульчук технический директор «Калибрити Групп» «Я думаю, в ближайшие годы придется разработать и методы защиты, и методы реализации, мониторинга и выявления атаки с помощью ИИ. ИИ будут развивать в том числе и в России, просто, если мы нацелимся на создание реальной киберзащиты, а у нас сильная математика, сильные данные, мы можем с этим развиться. Во время президентства Дмитрия Медведева был дикий рост IT и цифровизации, нам не хватает небольшого промежутка в четыре года, когда мы все силы и деньги кинем не в освоение, а в развитие ИИ».

Злоумышленники применяют искусственный интеллект уже повсеместно, и это не просто какие-нибудь телефонные мошенники — масштаб гораздо больше. Сейчас у некоторых нелегальных даркнет-площадок очень развита киберзащита. По словам участников рынка, она даже сопоставима с госструктурами отдельных стран из-за средств, которые на это выделяются. Так что предупреждение от разведслужб действительно считается в отрасли своевременным, хотя для обывателя оно и кажется немного пугающим.