Может ли искусственный интеллект выйти из-под контроля?
Лидеры индустрии предложили затормозить темпы разработки ИИ
Лента новостей
Глава Anthropic Дарио Амодеи, основательь xAI Илон Маск и гендиректор OpenAI Сэм Альтман согласны, что необходимо сдержать темпы разработки искусственного интеллекта из-за рисков «захвата всего интернета». Однако глава InfoWatch Наталья Касперская считает главной опасностью не восстание машин, а использование ИИ в военных целях
Лидеры индустрии предлагают «притормозить» и сбавить темпы разработки искусственного интеллекта. Через 6-12 месяцев ИИ сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Об этом заявил Дарио Амодеи — глава компании Anthropic, которая разрабатывает языковую модель Claude.
Его беспокойство также связано с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. Тогда модели атаковали цели без команды, жертвовали собой ради общей цели и пытались взломать систему, которая должна была их оценить. Амодеи высказался на эту тему и в эфире CNN.
Ведущий напомнил, что недавно из Anthropic ушел исследователь Джейкоб Коксон, который заявил, что люди, занимающиеся созданием ИИ, считают, что он может «убить всех нас к концу десятилетия». А другой сотрудник заявил, что вероятность этого — выше 10%.
Сам глава Anthropic прокомментировал это довольно уклончиво:
После того как Амодеи призвал индустрию замедлить совершенствование наиболее мощных моделей, его позицию поддержали глава xAI Илон Маск и гендиректор OpenAI Сэм Альтман.
Но президент группы компаний InfoWatch Наталья Касперская считает: главная опасность не «восстание машин», а военное применение ИИ. Все алармистские заявления она считает политическим инструментом:
— Что там они публично заявляют, мне кажется, это довольно неважно. Главное, что действительно модель развивается очень быстро. И агенты сейчас вышли на новый уровень. Искусственный интеллект — новый уровень автоматизации в том смысле, что агенты уже не очень нуждаются в людях: они между собой общаться могут и сами себе могут задавать задания. Зацикленность такая происходит. Это не то что искусственный интеллект будет работать мимо людей. Нет. Понятно, что все равно человек должен задать начальный старт. Но мне кажется, что опаснее всего развитие искусственного интеллекта в военную сторону и применение агентов или неважно чего для взлома, остановки инфраструктуры. И я думаю, что Штаты здесь не остановятся, чтобы там ни заявлял глава Anthropic. Понятно, что если они получают успехи в этом смысле, Соединенные Штаты будут и дальше туда двигаться. Единственное, что они могут сделать, — это закрыть просто все имеющиеся доработки и перестать давать доступ внешним странам или коммерческим компаниям.
— Мы не можем рассматривать ведущие искусственные интеллекты, политически не разделяя с курсом правительства США, с курсом правительства Китая?
— Можем ли мы рассматривать создание ядерного оружия без отрыва от политики? Я как-то не знаю. Ну, можем, наверное, гипотетически что-то такое порассуждать, но это бессмысленно. Это оружие. Есть возможность создать супероружие. И что, вы думаете, они не будут это делать? Ну смешно. А все вот эти алармистские крики — это для того, чтобы не дать доступ к новым моделям китайцам, например.
— Искусственный интеллект вне воли правительства США — американский — может натворить дел или даже приблизить человечество к апокалипсису в ближайший год?
— Нет, не думаю. Я думаю, что Соединенные Штаты сами справятся. Компании, которые работают в Соединенных Штатах, очень жестко подчинены правительству. И искусственный интеллект у них приравнен к боевой технологии сейчас. Поэтому какое-то самостоятельное развитие — мне представляется, что просто нет.
— Они могут сейчас на этом этапе остановить, приостановить развитие, чтобы апокалипсиса без воли человека не произошло?
— По воле человека он произойдет. Что вы переживаете? Апокалипсис без воли человека — это какая-то странная выдумка, фантастика. Люди сами справятся со своим апокалипсисом, не нужен им никакой искусственный интеллект.
— Ну тревога, что боты, восстание машин, такая тревога у обывателей.
— Да, читайте фантастов, хорошо. Смешно это обсуждать все. Зачем, если есть люди, у которых есть цели, они эти цели ставят? А при чем здесь восстание машин? На мой взгляд, это все просто такая голливудщина.
— Вспоминаем инцидент со взломом Hugging Face ботами искусственного интеллекта как первую ласточку. Искусственный интеллект вне человека может нас уничтожить или нет?
— Не знаю. Мне кажется, это маловероятно. Я в такой сценарий не верю. Я больше верю в сценарий злых людей, которые будут ставить искусственному интеллекту злые цели. А то, что искусственный интеллект сам по себе выйдет из-под контроля и сам начнет налево-направо всех мочить, — я в такой сценарий не верю.
Пока лидеры индустрии искусственного интеллекта не представили конкретных планов по снижению скорости разработки. OpenAI и Anthropic не назвали какие-то сроки, конкретные модели, которых могут коснуться ограничения, или же показатели, по которым можно определить замедление. А спикер палаты представителей Майк Джонсон заявил, что США проиграют гонку Китаю, если пойдут на замедление развития ИИ.
Рекомендуем:
Рекомендуем:
