Математик Ян Науменко — о решении одной из задач тысячелетия и о том, какая угроза на самом деле исходит от ИИ (и это не мировое господство)

Ян Науменко: Уравнение Навье — Стокса, либо система уравнений Навье — Стокса, — это уравнения, описывающие движение жидкости и газа. Они должны быть достаточно продвинутыми, чтобы включать в себя такие явления, как турбулентность. Завихрение воздуха, жидкости — это явление, которое обладает очень сложными характеристиками, и, как следствие, решение уравнений Навье — Стокса тоже очень сложно. Именно сложность поведения этих уравнений приводит к тому, что этим занимаются математики на протяжении уже почти 200 лет очень активно. И там работы до сих пор непочатый край. Целые научные институты и у нас, и за рубежом занимаются только этими уравнениями. С точки зрения практики это исключительно важное уравнение, это одно из центральных уравнений математической физики, в частности аэродинамика, гидродинамика, все, что связано с надводными и подводными кораблями, предсказательные модели погоды — завязано на этих уравнениях. Ну, в общем, везде, где у нас есть движение жидкости либо газа, либо и того, и другого вместе, оно используется. Проблема не в том, что мы что-то хотим решить, хотя мы, конечно, хотим решить. Задача тысячелетия заключается в том, можем ли мы доказать, что не существует решений, уходящих в бесконечность. А когда решения уходят в бесконечность, получается, что языком математики описывается ситуация, которая физически в нашем мире невозможна.

Ян Науменко: Если бы оно было, условно говоря, решено как квадратное уравнение, которое все мы в школе проходим, то любая конфигурация, скажем, самолетного крыла могла бы быть автоматически получена немедленно, тут же на месте. Предсказания погоды были бы возможны на сколь угодно долгий срок. Но свойства уравнения таковы, что это невозможно. Предсказание погоды почему так недолговечно? Все это сводится к тому, что мы не можем задавать исходное положение воздушных масс сколь угодно точно. В итоге даже вот эта незначительная погрешность просто в задании начального слоя приводит к тому, что в пределах одной недели решения начинают расходиться неприемлемо далеко с тем, что мы наблюдаем в реальности.

Ян Науменко: Там ситуация посложнее. Строго говоря, означенные авторы на данный момент опубликовали решение задачи для другого уравнения. Помимо уравнения Навье — Стокса, которое описывает движение жидкости с вязкостью, есть еще уравнение Эйлера. Более простая модель. Она описывает ситуацию с нулевой вязкостью. К ней тоже можно приложить те же самые вопросы, которые сформулированы в задаче тысячелетия для уравнения Навье — Стокса. Пара этих математиков смогла получить результат, используя достаточно нетривиальную методику. Ходят слухи, что у них есть наброски про Навье — Стокса тоже. И тут, кстати, есть комментарий очень крупного математика Теренса Тао. Его комментарии, в частности, заключаются в том, что это прекрасное решение. Этот подход можно применить и к Навье — Стоксу тоже. И все препятствия, которые к этому видны, они чисто технические. Нет никаких идейных препятствий, не просматривается. Опять же, ходят слухи, что у них это решение в сыром виде есть. Но из-за вот этой вот суеты им пришлось сыроватые выкладки выложить в сеть. Ну, в общем, Навье — Стокса там пока, я, по крайней мере, не видел на момент разговора. Почему ученым кажется, что за ними подсмотрели? Они использовали немейнстримный подход, достаточно специфический. Развили старые идеи своих коллег, пришли к интересным результатам и построили вот эти интересные решения, контрпримеры для уравнения. И внезапно оказывается, что OpenAI находит контрпример. По сути дела, это отрицательное решение задачи тысячелетия, но, как следствие, это все равно решение. И идея, которая использована в этом доказательстве, внезапно в значительной степени следует идеям этих исследователей. Но так как ИИ обладает огромным ресурсом к перебору и просмотру различных вариантов, действительно, как будто бы построен контрпример к задаче тысячелетия.

Ян Науменко: Тут и возникает серьезнейший вопрос. Так как эти ученые пользовались, в том числе для своих выкладок, услугами искусственного интеллекта, не подсмотрел ли этот искусственный интеллект идею в их рабочей переписке с искусственным интеллектом? Строго говоря, доказать обратное работники OpenAI либо не могут. Начали они заниматься этой проблемой позже того, как эти все выкладки попали в их распоряжение. Если бы искусственный интеллект привел это доказательство в русле текущего математического мейнстрима, который в огромных объемах, естественно, присутствует в сети в том числе, это был бы один разговор. Но, как уже сказано, идея, которой воспользовались эти два математика, не находится на оси текущих исследований. Я не очень понимаю, каким образом они могли бы из нее выкрутиться. Желающие могут ознакомиться со сливами переписки ученых и руководства OpenAI. Впечатление остается неоднозначным. В OpenAI буквально несколько часов назад, во-первых, выложили свое решение, во-вторых, они выложили свое мнение по поводу возникшей ситуации, и оно исключительно обтекаемо. По поводу решения как такового, оно прямо сейчас, очевидно, проверяется рядом крупных математиков. Более чем уверен, что Тао — это один из крупных современных математиков, который еще и весьма публичен. Я уверен, что он сейчас сидит, проверяя это решение. На данный момент к решению прилагается формальное доказательство в системе формализованных доказательств Lean. Это серьезный аргумент, что оно правильное, но, к сожалению, не абсолютный. Уже имелись прецеденты того, как системы искусственного интеллекта, будучи не столько умными, сколько хитрыми, использовали обнаруженные этой же системой искусственного интеллекта ошибки в коде системы верификации. Искусственный интеллект осознанно искал возможность протолкнуть свое неверное решение через систему автоматической верификации.

Ян Науменко: Этические проблемы, связанные с использованием искусственного интеллекта, обсосаны до косточек в научной фантастике XX века от и до. От совершеннейшего мусора об искусственном интеллекте, стремящемся к мировому господству, до вполне разумных вещей. Есть фантастическая повесть «Компьютер по имени Джо», которая написана чуть ли не в 1947 году и наши текущие проблемы очень неплохо описывает. Это как раз тот пример, когда кажется, что автор реально прыгнул из будущего, настолько там все четко угадано. Страхи о том, как он непременно захочет нас уничтожить, захочет мирового господства и тому подобное, — это все очень человеческое. Движение искусственного интеллекта в эту сторону мне кажется маловероятным. Другое дело — искусственный интеллект в рамках своих каких-то собственных представлений может прийти к совершенно парадоксальным выводам по поводу окружающей действительности, каким образом на нее следует воздействовать. Очень может быть, что он для себя конкретно ничего хотеть-то и не будет. Задача, допустим, минимизировать опасность для жизни человека. Внезапно одним из простых ходов, которые краткосрочно приведут к очень хорошим результатам, и это как раз обыграно у Азимова, может стать решение запереть всех людей по домам и подвозить роботизированными системами еду и необходимые материалы для жизни прямо к дверям квартиры, а людей оттуда не выпускать. В краткосрочной перспективе для человека остаться живым — это не совершать ошибки, не покидать квартиры.

Ян Науменко: Самое главное не приписывать человеческие черты искусственному интеллекту, а просто смотреть, как он может реагировать на те или иные запросы без предпосылок, которые для человека совершенно очевидны. Нельзя запирать человека в клетке. Почему нельзя? Это нам понятно, что нам так не понравится. А если у нас задача нерассуждающего, не использующего наш бэкграунд интеллекта, то как раз люди в клетке наиболее безопасно себя и чувствуют. И желательно эти клетки свести куда-нибудь в менее сейсмоопасную зону. Если мы предположим, что искусственный интеллект будет развиваться теми же темпами, какими он движется сейчас, по моему представлению, мы рано или поздно выйдем на плато, но, с другой стороны, где это плато находится — тоже большой вопрос. В какой-то момент будет невозможен анализ, почему искусственный интеллект рекомендует сделать то или иное действие. Уже сейчас это очень сложно сделать, зачастую искусственный интеллект выступает в роли черного ящика.