Bard неожиданно выучил бенгальский язык, и в Google не знают, как именно

Представители Google в интервью телеканалу CBS рассказали о путях развития нейросети компании и неожиданностях и сложностях, которые этот процесс сопровождают. Помимо внезапного знания бенгальского нейросеть Bard составила список для чтения из пяти книг по экономическим вопросам. Позже выяснилось, что названия книг Bard придумала сама

Обновлено 19 апреля в 01:50

После череды новостей об отставании Google в разгорающейся нейрогонке за мировое господство в сфере искусственного интеллекта корпорация идет в информационное контрнаступление. В большом интервью CBS Сундар Пичаи и сразу два вице-президента компании показали ведущему телеканала возможности Bard. Среди прочего нейросеть попросили продолжить «самую короткую историю, которая может растрогать каждого», которую обычно приписывают Хемингуэю: «Продаются детские ботиночки. Неношенные». Бот мгновенно выдал рассказ, который журналист называет «глубоко человечным», а еще за несколько секунд переделал его в стихотворение. Как пишет CBS, сам писатель, наверное, написал бы лучше, но Bard может выдать миллион таких рассказов, пока Хемингуэй будет тянуться за ручкой.

Удивляет нейросеть и самих разработчиков. Например, в какой-то момент она непонятно как выучила бенгальский. Как рассказал старший вице-президент Google Джеймс Маниика, в процессе обучения Bard взаимодействовал с тестировщиками, часть из которых попробовали общаться с ботом на бенгальском. И даже «очень небольшого» количества запросов оказалось достаточно, чтобы нейросеть полностью выучила язык и могла на нем общаться. Впечатляющий — или пугающий? — талант нейросети анализирует директор технического департамента RTM Group Федор Музалевский:

Федор Музалевский директор технического департамента RTM Group «Если мы говорим о том, что ИИ написал какой-то текст на языке, на котором он до этого не писал, это может говорить о том, что он просто употребил большое количество материала, который был либо на двух языках одновременно, либо на каком-то языке, который был схож. Например, испанский и французский. Вся суть нейросетей и ИИ заключается как раз в том, что они самостоятельно обучаются и результаты этого обучения в моменте достаточно сложно проконтролировать. Мы не видим какую-то галочку, которая показывает «Bard знает английский» или «Bard знает казахский». Он в каждый момент времени знает о каких-то языках — от 0% до условных 100%. Как только процент станет достигать 60-70 единиц, можно выдавать уже какой-то контент. Скорее всего, если мы все-таки доверяем представителям Google, здесь примерно это и произошло. То есть нейросеть ознакомилась с материалами на новом языке и в какой-то момент просто начала его использовать как язык для общения с лицом, которое выдало ему запрос».

Объяснить саморазвитие бота попросили и Сундара Пичаи. По его словам, внутренние процессы любой продвинутой нейросети остаются «черным ящиком» — никто точно не понимает, что именно там происходит. Часть разработчиков считают, что модель просто очень удачно, на основании миллионов параметров, как бы угадывает каждое следующее слово. Другие видят в поведении ботов «проявляющиеся» свойства и способности, вплоть до креативности и умения рассуждать. Ведущий спросил главу Google, как можно было открыть обществу доступ к такой неизученной технологии. Пичаи ответил уклончиво: на все 100% не изучена не только работа нейросетей, но и процессы в человеческом мозге.

Своим видением делится технический директор «Кросс Технолоджис» Александр Кукульчук:

Александр Кукульчук технический директор «Кросс Технолоджис» «Она, конечно же, не сама. Просто не в прямом смысле была команда «изучи язык», а в нее было заложено, что ей нужно развиваться, чтобы понимать всех, с кем она контактирует. И она приняла решение, что ей надо как-то контактировать, а для этого нужно изучить слова: не машинный язык, а язык, на котором разговаривают люди, с кем она общается. Она взяла и изучила. Нейросеть — это не живой организм, это просто набор алгоритмов, которые даже люди, пишущие алгоритмы, не знают, каков конечный результат. Поставлен алгоритм, что необходимо общаться со всеми живыми организмами на Земле в том или ином виде — и все. На каком-то этапе Bard было принято решение о том, что необходимо изучить язык — английский. Или изучить общение с дельфинами».

Несмотря на довольно восхищенную передачу CBS, Google придется доказать превосходство своего искусственного интеллекта еще и на деле. Пока Bard откровенно уступает по популярности ChatGPT: протеже Microsoft уже интегрирован в поисковик Bing и доступен все большему числу пользователей, а на выходных в СМИ появились сообщения, что Samsung может изменить Google и сделать Bing поисковой системой по умолчанию на всех своих новых устройствах. Новость обошлась компании 50 млрд долларов капитализации, и падение акции Google до сих пор не отыграли.