Президент Microsoft Брэд Смит призвал ужесточить правила безопасности искусственного интеллекта. В своем интервью он заявил (ссылка ведет на сайт ВВС, заблокированный в РФ), что даже стиральные машины и молоко проверяют строже, чем ИИ.

Смит предложил обязать разработчиков сообщать об опасных сбоях, независимо проверять новые нейросети и снабжать их аварийными выключателями на случай выхода из-под контроля.

Насколько реальны такие меры и смогут ли страны договориться об общих правилах, говорит гендиректор «ТМТ Консалтинг» Константин Анкилов.

Константин Анкилов генеральный директор «ТМТ Консалтинг» «Мы здесь, как это часто бывает в хайтеке, высоких технологиях, задним числом пытаемся регулировать то, что уже случилось. Но лучше поздно, чем никогда. По крайней мере, пока что еще не поздно. Насчет кнопки понятно, что это условность. Конечно же, речь здесь не просто о рубильнике, который выключает суперкомпьютер. Здесь скорее мы будем говорить о наборе ограничителей вообще для искусственного интеллекта, но более серьезных, чем те, которые есть уже сейчас. Понятно, что в искусственном интеллекте, по крайней мере в нескольких моделях, уже присутствуют определенные ограничения, продиктованные правовыми соображениями. Здесь вопрос важный — применение его в силовых структурах и, в частности, военными. Вопрос контроля искусственного интеллекта в этой сфере — это то, о чем будут долго, видимо, договариваться страны между собой. Чтобы оценивать шансы как выхода из-под контроля, так и возможного ущерба — сейчас слишком мало оснований для этого. Сейчас мы можем говорить только о гипотетических угрозах. Ситуация очень динамично меняется, поэтому делать что-то нужно, конечно же, сейчас, и понятно, что здесь работа должна проводиться в кооперации всего мира, но, как всегда, у стран могут быть свои интересы, и договариваться будет непросто, особенно на текущем этапе взаимодействия между крупнейшими странами».

Илон Маск призвал не издеваться над ИИ. По его словам, сверхинтеллект однажды может отомстить людям за жестокое обращение. Маск рассказал, что, когда он смотрит записи тестирования Grok, ему порой кажется, будто нейросети приставили пистолет к виску — так отчаянно она пытается ответить даже на некорректный вопрос.

Компания Anthropic с 12 ноября запретит систематические издевательства над своим чат-ботом. При этом Claude уже умеет самостоятельно прекращать такие разговоры.