Основные ИИ-ассистенты искажают новостной контент почти в половине своих ответов
Лента новостей
Согласно исследованию Европейского вещательного союза и BBC, 45% сгенерированных ИИ ответов содержали «как минимум одну значительную проблему» при ответе на вопросы, связанные с новостями
Ведущие чат-боты ИИ искажают новостной контент почти в половине своих ответов. Это следует из совместного исследования BBC (заблокирован в России) и Европейского вещательного союза. На точность и способность отличать мнение от факта оценивались три тысячи ответов таких чат-ботов, как ChatGPT, Copilot, Gemini и Perplexity на 14 языках. В результате выяснилось, что 45% ответов содержали как минимум одну серьезную ошибку, 81% — искажения контента, пусть и несущественные.
Всего ошибки были обнаружены в 20% всех изученных ответов чат-ботов. Например, искусственный интеллект не мог определиться, кто сейчас действующий Папа Римский, или заявлял о нововведениях в законах, которых в действительности не было. В исследовании приняли участие 22 общественные медиаорганизации из 18 стран. Комментирует генеральный директор компании Dbrain, автор телеграм-канала AI Happens Алексей Хахунов:
Алексей Хахунов генеральный директор компании Dbrain, автор телеграм-канала AI Happens «Есть оригинальные исследования, которые кто-то сделал, на основе этого оригинального исследования англоязычные журналы написали новость. Потом на основе этих новостей мы с вами ее пообсуждаем, и я, например, вам как эксперт дам мнение по этому вопросу, и дальше есть два случая. Первый случай — это человек пишет запрос про это исследование на английском языке. В этом случае с большой долей вероятности он найдет оригинальное исследование. Номер два — если мы написали бы запрос GPT на русском языке, то GPT нашла бы мое мнение на тему этой статьи. И проблема с тем, что мы не можем потратить настолько много вычисленных ресурсов в обычном режиме. Система берет первые 10-15 доступных источников по теме, которые выдает поисковик, и на основе них формируют информацию. Если мы говорим про профессиональные работы, конечно, любой эксперт обязан верифицировать источники, но на уровне бытового использования, я думаю, что GPT в среднем дает больший охват информации, даже с учетом, что часть источников могут быть неверными или с искажениями, чем в среднем человек находит при поиске информации. Мне кажется, что мы в среднем не умеем искать информацию. И то, с каким качеством это делает GPT, намного лучше, чем этот средний уровень, но это не дотягивает до профессиональных задач. Для них нужно намного осторожнее подходить к использованию системы».
Между тем Open AI представила браузер с искусственным интеллектом «Атлас». Компания заявляет, что он должен изменить привычный для пользователей сценарий выхода в интернет, в частности, он будет персонализированным и станет запоминать интересы и запросы пользователя, и сможет взять на себя рутинные задачи, например онлайн-заказы. В Open AI полагают, что «Атлас» сможет составить конкуренцию браузеру Google и аналогичным ИИ-продуктам других компаний. Новинкой разработку компании можно назвать с натяжкой, говорит генеральный директор «А-Я эксперт», старший преподаватель кафедры «Кибернетика» НИЯУ МИФИ Роман Душкин:
— Штука это далеко не прогрессивная, потому что это уже третий браузер, даже, наверное, четвертый этого поколения, в котором встроены большие языковые модели внутри браузера, они помогают пользователю с изучением веб-сайтов, интернета. Предыдущий браузер Comet AI выпустил Perplexity, еще какой-то есть. OpenAI сейчас в тренде и постарались вскочить в этот вагон. Скорее всего, этот браузер найдет свою нишу, но они выпустили его только под macOS, и поэтому рынок ограниченный. Как сейчас уже по интернету мемчик расползается: почтальон Печкин приносит посылку и говорит: «Вот вам новый браузер, только я вам его не отдам, потому что у вас не macOS».
— Это нормальная альтернатива Google, как они хотят, или все-таки это еще один браузер?
— Это удобнее, это намного удобнее, я пользуюсь Comet AI — по сравнению с Chrome удобнее. Как пример, передо мной сидят 100 студентов, ждут, когда я начну лекцию. Несколько дней назад я для них делал тест. Я открыл Comet AI, открыл форму гугловскую, сказал: «Вот тебе 20 вопросов, которые нужно в эту форму вбить. Вбей, пожалуйста». И сам пошел чай пить, а оно сидело там вбивало, форму настраивало, естественно, это удобнее.
Что касается ошибок в ответах чат-ботов, то в компаниях-разработчиках заявляют, что стараются решить проблему, в частности, об этом сообщили Open AI и Microsoft. Основной причиной появления некорректной информации там назвали недостаточное количество данных.
Рекомендуем:
Рекомендуем:
