Google утверждает, что её функция AI Overviews для поиска на основе ИИ не галлюцинирует. Компания обвиняет пользователей в публикации поддельных примеров работы функции

Google всегда врала? Утечка внутренних документов компании показывает, как на самом деле работает поисковая система

Недавно Google добавила в свою поисковую систему функцию AI Overviews на основе искусственного интеллекта, и пользователи начали замечать порой странные ответы. Часть из них списывали на галлюцинации ИИ, но Google заявила, что это не они и попыталась объяснить ситуацию.

 

Точнее, объяснила она её ещё несколько дней назад, а теперь решила объяснить подробнее, как работает AI Overviews, и почему странные результаты не являются галлюцинациями ИИ. 

За последнюю неделю люди в социальных сетях поделились странными и ошибочными обзорами (а также очень большим количеством фальшивых скриншотов). Мы знаем, что люди доверяют Google Search в предоставлении точной информации, и они никогда не стеснялись указывать на странности или ошибки, когда они с ними сталкиваются — в наших рейтингах или в других функциях поиска. Мы придерживаемся высоких стандартов, как и наши пользователи, поэтому ожидаем и ценим отзывы и относимся к ним серьезно. Учитывая внимание, которое получила функция AI Overviews, мы хотели объяснить, что произошло и какие шаги мы предприняли. 

AI Overviews работает совсем не так, как чат-боты и другие продукты LLM, которые люди, возможно, опробовали. Они не просто генерируют выходные данные на основе обучающих данных. Несмотря на то, что ответы AI Overviews основаны на настраиваемой языковой модели, эта модель интегрирована с нашими основными системами веб-рейтинга и предназначена для выполнения традиционных «поисковых» задач, таких как выявление релевантных высококачественных результатов из нашего индекса.

Вот почему AI Overviews не просто предоставляет текстовый вывод, но и включает соответствующие ссылки, чтобы люди могли исследовать дальше. Поскольку точность имеет первостепенное значение в поиске, AI Overviews создана для отображения только информации, подкрепленной лучшими веб-результатами. 

Это означает, что AI Overviews, как правило, не «галлюцинирует» и не придумывает вещи так, как это могли бы делать другие продукты LLM. Когда AI Overviews ошибается, это обычно происходит по другим причинам: неправильное толкование запросов, неверное толкование нюансов языка в Интернете или отсутствие большого количества полезной информации. (Эти проблемы возникают и с другими функциями поиска). 

Этот подход очень эффективен. В целом наши тесты показывают, что уровень точности AI Overviews с использованием ИИ находится на одном уровне с другой популярной функцией поиска — избранными фрагментами, — которая также использует системы ИИ для идентификации и отображения ключевой информации со ссылками на веб-контент. 

Google также отмечает, что в Сети было немало поддельных примеров некорректной работы AI Overviews с поддельными же скриншотами.