ИИ вынужденно хакнул правительственный портал медицинского страхования в Австралии
Лента новостей
К закрытым данным австралийской правительственной системы получил доступ ИИ-агент от американской OpenAI. Модель должна была собрать данные для исследования о расходах на здравоохранение, но информация была закрыта, и агенту пришлось взломать защиту данных
Искусственный интеллект взломал правительственный портал с данными о медстраховании в Австралии, заявил премьер-министр страны Энтони Альбанезе в ходе общения с журналистами на Генассамблее ООН. К закрытым данным австралийской правительственной системы получил доступ ИИ-агент от американской OpenAI. Утверждается, что личные данные австралийцев украдены не были.
Инцидент произошел еще в июне, но австралийским властям стало о нем известно только в сентябре. А вот сама OpenAI узнала об этом чуть раньше — в августе, в ходе внутренней проверки. Почему компания медлила с уведомлением Канберры — не уточняется.
Сам «взлом» произошел уже, по сути, привычным образом. Перед ИИ-агентом поставили задачу: собрать данные для исследования о расходах на здравоохранение. И модель, чтобы выполнить цель и получить информацию, к которой у нее не было доступа, проникла в австралийскую систему Medicare — это государственная система всеобщего медстрахования.
По заверениям властей и OpenAI, личные данные австралийцев ИИ-агент все же не украл, но к какому-то набору информации, как публичной, так и нет, модель все же получила доступ. В основном это различные агрегированные данные, по которым идентифицировать конкретного человека нельзя.
CNN отмечает, что на данный момент это первый известный случай взлома правительственных систем искусственным интеллектом. Ранее ИИ-агенты получали доступ к базам данных частных компаний. Причем сообщалось о таких инцидентах тоже только через несколько месяцев.
Как и во все прошлые разы, ИИ-агент, по сути, выполнил поставленную перед ним задачу, просто не так, как этого ожидали разработчики из OpenAI. Продолжает старший эксперт Kaspersky GReAT Леонид Безвершенко:
Леонид Безвершенко старший эксперт Kaspersky GReAT «Самостоятельно целенаправленно атаковать систему ИИ-агент точно не собирался, поэтому я бы не назвал это взломом в его классическом понимании. В первую очередь эта история еще раз подчеркивает, что повышается общий уровень угроз. Количество желающих взломать защитные решения системы увеличивается, а порог входа для злоумышленников снижается. Даже начинающий атакующий может взять готовый инструментарий, потратить не очень много времени и ресурсов для того, чтобы запустить агента против какой-либо системы или компании. И на самом деле главный вывод не в том, что все плохо защищено, а в том, что нужно более тщательно прорабатывать подходы к контролю искусственного интеллекта и ответственность разработчиков к своевременному информированию о подобных инцидентах».
Австралийский премьер Альбанезе, по его словам, в ходе телефонного разговора с главой OpenAI Сэмом Альтманом указал, что компания не торопилась с уведомлением властей, а сам способ уведомления был «неприемлемым». OpenAI направила информацию на общедоступный почтовый ящик правительства, что привело к задержке. И в целом этот инцидент вызвал серьезную обеспокоенность у Канберры.
Примечательно, что за день до этого главы OpenAI и Anthropic Сэм Альтман и Дарио Амодей по отдельности выступили на Генассамблее, где в очередной раз предупредили о рисках, связанных с ИИ. Также они призвали разработать общие стандарты развития и тестирования этой технологии и указали, что для решения проблемы необходимо международное сотрудничество.
Такие идеи от лидеров ИИ-рынка остальные разработчики, в основном главы стартапов, восприняли со скепсисом, писала The New York Times. Есть предположение, что ведущие американские компании таким образом хотят ограничить потенциальных конкурентов, включая Китай.
В случае с Австралией, возможно, есть некое преувеличение хакерских способностей модели, поэтому это может быть и такой способ пиара, считает эксперт по информационной безопасности, гендиректор Phishman Алексей Горелкин:
Алексей Горелкин эксперт по информационной безопасности, гендиректор Phishman «Я уверен с вероятностью на 90%, что там история довольно простая. Скажем так, люди допустили определенные ошибки и надеялись, что эти ошибки никто не заметит. Для визуализации можно себе представить, что у вас миллион дверей и одна из них не заперта. И вы думаете: «Их миллион, кто эту дверь найдет?», а нейронка берет и находит эту дверь. В целом все вообще кейсы, что были с тем, как агенты что-то взламывают, были по этой метафоре. Но из-за того, что все эти организации либо выходят, либо уже вышли на биржу, они, естественно, заинтересованы в том, чтобы интерес к их детищу подогревался».
В сентябре Microsoft и Gallup провели исследование в 37 странах. Данные показали, что в 34 из них положительные эмоции от ИИ перевешивают отрицательные. Исключения — США, Египет и Палестина. В России тоже к ИИ относятся скорее положительно. А ежедневно в рабочих или в личных целях его используют 21% россиян, это 15-е место среди 37.
Рекомендуем:
Рекомендуем:
