С распространением ChatGPT и его API для разработчиков должны были появиться полноценные поисковые системы на базе чат-ботов. Основная идея заключается в том, что эти боты с искусственным интеллектом изменят пользовательский опыт поиска в Интернете, генерируя ответы на наши вопросы, а не просто возвращая списки ссылок, как это происходит сейчас. Только… все пошло не по плану.
Через несколько секунд после того, как Microsoft позволила любому человеку покопаться в своей новой поисковой системе Bing на базе ChatGPT, пользователи начали обнаруживать, что на некоторые вопросы она дает неверные или бессмысленные ответы, например теории заговора . У Google был неловкий момент, когда пользователи обнаружили ошибку в их рекламной компании для чат-бота Bard, которая впоследствии обрушила стоимость акций Google на 100 миллиардов долларов.
Вот в чем проблема
Технология просто не готова к использованию в таком масштабе. Языковые модели ИИ — отъявленные аферисты , часто выдающие ложь за факты. Они превосходно предсказывают следующее слово в предложении, но не знают, что на самом деле означает его смысл. Это делает невероятно опасным совмещать их с поиском, где крайне важно получить точные факты.
Компания OpenAI, создатель популярного чат-бота с искусственным интеллектом ChatGPT, всегда подчеркивала, что это всего лишь исследовательский проект, который постоянно совершенствуется по мере получения отзывов от людей. Это не помешало Microsoft интегрировать его в новую версию Bing, хотя и с оговорками о том, что результаты поиска могут быть ненадежными.
Google годами использует обработку естественного языка, чтобы помочь людям искать в Интернете, используя целые предложения вместо ключевых слов. Однако до сих пор компания неохотно интегрировала собственную технологию чат-ботов с искусственным интеллектом в свою фирменную поисковую систему, говорит Чираг Шах, профессор Вашингтонского университета, специализирующийся на онлайн-поиске . Руководство Google обеспокоено «репутационным риском» быстрого выпуска инструмента, подобного ChatGPT.
Но это не означают, что поиск с использованием ИИ — безнадежное дело. Один из способов, которым Google и Microsoft пытались сделать свои результаты поиска с помощью ИИ более точными, — это предлагать цитаты. Ссылки на источники позволяют пользователям лучше понять, откуда поисковая система берет информацию.
Но это никак не решает фундаментальную проблему, состоящую в том, что эти модели ИИ комбинируют информацию и уверенно представляют ложь как факт. И когда текст, сгенерированный ИИ, выглядит авторитетным и ссылается на источники, это может заставить пользователей доверять информации, которую они видят.
Тем временем Microsoft сделала ставку на то, что ожидания в отношении Bing настолько низки, что несколько ошибок не будут иметь большого значения. У Microsoft менее 10% рынка онлайн-поиска. Выиграть еще пару процентов было бы для них огромной победой.
