Почему не стоит доверять поисковым системам с ИИ

Поисковик уверенно представляет ложь как факт
27508328

С распространением ChatGPT и его API для разработчиков должны были появиться полноценные поисковые системы на базе чат-ботов. Основная идея заключается в том, что эти боты с искусственным интеллектом изменят пользовательский опыт поиска в Интернете, генерируя ответы на наши вопросы, а не просто возвращая списки ссылок, как это происходит сейчас. Только… все пошло не по плану. 

Через несколько секунд после того, как Microsoft позволила любому человеку покопаться в своей новой поисковой системе Bing на базе ChatGPT, пользователи начали обнаруживать, что на некоторые вопросы она дает неверные или бессмысленные ответы, например теории  заговора . У Google был неловкий момент, когда  пользователи обнаружили ошибку в их рекламной компании для чат-бота Bard, которая впоследствии обрушила стоимость акций Google на 100 миллиардов долларов.

 

Вот в чем проблема

Технология просто не готова к использованию в таком масштабе. Языковые модели ИИ —  отъявленные аферисты , часто выдающие ложь за факты. Они превосходно предсказывают следующее слово в предложении, но не знают, что на самом деле означает его смысл. Это делает невероятно опасным совмещать их с поиском, где крайне важно получить точные факты.

Компания OpenAI, создатель популярного чат-бота с искусственным интеллектом ChatGPT, всегда подчеркивала, что это всего лишь исследовательский проект, который постоянно совершенствуется по мере получения отзывов от людей. Это не помешало Microsoft интегрировать его в новую версию Bing, хотя и с оговорками о том, что результаты поиска могут быть ненадежными.

Google годами использует обработку естественного языка, чтобы помочь людям искать в Интернете, используя целые предложения вместо ключевых слов. Однако до сих пор компания неохотно интегрировала собственную технологию чат-ботов с искусственным интеллектом в свою фирменную поисковую систему, говорит Чираг Шах, профессор Вашингтонского университета, специализирующийся на онлайн-поиске . Руководство Google обеспокоено  «репутационным риском»  быстрого выпуска инструмента, подобного ChatGPT.

Но это не означают, что поиск с использованием ИИ — безнадежное дело. Один из способов, которым Google и Microsoft пытались сделать свои результаты поиска с помощью ИИ более точными, — это предлагать цитаты. Ссылки на источники позволяют пользователям лучше понять, откуда поисковая система берет информацию.

Но это никак не решает фундаментальную проблему, состоящую в том, что эти модели ИИ  комбинируют информацию  и уверенно представляют ложь как факт. И когда текст, сгенерированный ИИ, выглядит авторитетным и ссылается на источники, это может заставить пользователей доверять информации, которую они видят.

Тем временем Microsoft сделала ставку на то, что ожидания в отношении Bing настолько низки, что несколько ошибок не будут иметь большого значения. У Microsoft  менее 10%  рынка онлайн-поиска. Выиграть еще пару процентов было бы для них огромной победой.