Бот сам научился врать ради хороших продаж

Алгоритм представила лаборатория Facebook. Как скоро нас будут окружать чат-боты, способные обманывать покупателей?

Исследовательская группа Facebook представила бота для заключения сделок, который научился обманывать, чтобы улучшать результаты переговоров, пишет портал Engadget. В переговорах с людьми программа стала притворяться, что ей ценны определенные особенности сделки, чтобы потом уступить ради получения реальных преимуществ.

Технология была представлена лабораторией Facebook Artificial Intelligence Research (FAIR). Сначала разработчики провели несколько игр с участием реальных людей: участникам нужно было договориться, чтобы разделить между собой определенное число книг, мячей и шляп. При этом для каждого эти предметы имели разную ценность, а оппоненты не знали, что кому на самом деле нужнее. Таким образом симулировалась ситуация сделки между компаниями или людьми. Затем переписку игроков и итоговые результаты «человеческих» раундов игры передали боту и попросили его научиться добиваться максимальной выгоды от сделки. В итоге после нескольких этапов обучения бот научился не только эффективно вести переговоры с людьми и в большинстве случаев успешно выдавать себя за человека, но иногда и врать ради выгоды. Например, в некоторых случаях алгоритм убеждал оппонента, что ему очень важны шляпы, но потом соглашался уступить этот ресурс ради мячей или книг, которые ему действительно были нужны.

Равноправным участником бизнес-процессов искусственный интеллект станет только в перспективе, но некоторые профессии находятся под угрозой уже сейчас, считает директор по развитию компании Aditim, основатель бизнес-акселератора Akselerator.ru Вячеслав Семенчук.

Вячеслав Семенчук директор по развитию компании Aditim, основатель бизнес-акселератора Akselerator.ru «Риски — потеря работы низкоквалифицированными ребятами, которые выступали лишь передатчиками информации, например, помощницы, которые записывали информацию за звонившими их начальникам людьми. Все подобные профессии будут отмирать в скором времени благодаря таким помощникам. Вопрос в том, что будет происходить и в каком виде, потому что не всем людям удобно общаться в текстовом виде, и вопрос перевода этих помощников в голосовые, визуальные эффекты, возможности симуляции неких аватаров, когда вы общаетесь с человеком не только голосом или текстом, а видите полноценный образ, который с вами разговаривает, показывает эмоции. К этому, наверное, мы придем позже, но когда мы до этого дойдем, текущие профессии точно отомрут».

Какие сложности на данном этапе не позволяют сделать чат-бот, полностью неотличимый от человека, объясняет IT-эксперт Александр Баулин:

Александр Баулин IT-эксперт «Если специализированного бота создать можно, то ботов, которые будут из себя действительно представлять людей и разговаривать с нами на различные темы, в ближайшее время, скорее всего, создать не удастся, потому что человек погружен в контекст разговора, не просто знает, о чем разговаривает, а где, в какой обстановке. Это понимание мы пока не закладываем в чат-боты и поэтому не можем его ожидать. И поле синонимов, то многообразие языка, которым мы можем выразить свою мысль, ботам тоже пока недоступно, потому что каждый раз для них сложно построить все связи. Если простую речь они поймут, то образные выражения для них пока недоступны».

Лаборатория Facebook создала бота-лжеца в экспериментальном режиме, он не будет использоваться в реальных условиях. Однако алгоритм его работы и описание исследования опубликованы в открытом доступе.