Появление нового чат-бота оборачивается серьезной угрозой для Google

NYT: чат-боты готовы потеснить традиционные интернет-поисковики.

За последние три десятилетия всего несколько продуктов, таких как браузер Netscape, поисковая система Google и iPhone от Apple, совершили настоящий переворот в технологической индустрии и сделали все то, что существовало до их появления, похожим на неуклюжих динозавров.

Три недели назад экспериментальный чат-бот ChatGPT громко заявил о своих претензиях на то, чтобы стать следующим крупным прорывом в своей отрасли. Этот чат-бот способен выдавать нужную информацию в четких, простых предложениях, вместо того чтобы предлагать длинный список ссылок. Он способен объяснять различные понятия так, чтобы люди легко его понимали. Он даже может самостоятельно генерировать идеи с нуля, включая бизнес-стратегии, варианты подарков на Рождество, темы для блогов и планы на отпуск.

Хотя чат-бот ChatGPT все еще нуждается в усовершенствовании, его выход заставил руководство компании Google объявить “красный код” – это равносильно срабатыванию пожарной сигнализации. Некоторые опасаются, что компания, возможно, уже приближается к моменту, которого боятся крупнейшие компании Кремниевой долины, – к наступлению эпохи радикальных технологических перемен, которые поставят крест на этом бизнесе.

На протяжении более 20 лет поисковая система Google служила главными воротами в интернет. Но, поскольку новые технологии чат-ботов способны полностью преобразить или даже заменить собой традиционные поисковые системы, Google может впервые столкнуться с серьезной угрозой для своего основного поискового бизнеса. Один из руководителей Google считает, что текущий момент может стать решающим для будущего всей компании.

Чат-бот ChatGPT был выпущен довольно энергичной научно-исследовательской лабораторией под названием OpenAI, и Google вошел в список тех компаний, лабораторий и исследовательских центров, которые помогали разрабатывать эту технологию. Однако, по мнению экспертов, у технологического гиганта могут возникнуть серьезные трудности в процессе соперничества с более новыми и менее крупными компаниями, разрабатывающими подобных чат-ботов, потому что эта технология способна навредить его бизнесу самыми разными способами.

Компания Google потратила несколько лет на создание чат-ботов, и, подобно другим крупным технологическим компаниям, она энергично занималась разработкой технологий искусственного интеллекта. Google уже удалось создать чат-бота, который мог бы посоперничать с ChatGPT. На самом деле технология, лежащая в основе продукта компании OpenAI, была разработана специалистами Google.

Чат-бот компании Google под названием LaMDA (расшифровывается как Language Model for Dialogue Applications, то есть языковая модель для диалоговых приложений) привлек к себе всеобщее внимание летом, когда инженер по программному обеспечению Блейк Лемойн (Blake Lemoine) объявил журналистам, что перед ними по-настоящему “свободно мыслящее разумное существо”. Разумеется, это неправда, однако LaMDA продемонстрировал, насколько далеко вперед технологии шагнули за последние несколько месяцев.

Возможно, Google не торопится запускать своего чат-бота в массовое использование в качестве замены онлайн-поисковикам, потому что тот не подходит для доставки цифровой рекламы, на которую в прошлом году пришлось более 80% прибыли компании.

“Ни одна компания не является непобедимой, они все уязвимы, – сказала Маргарет О’Мара (Margaret O’Mara), процессор Вашингтонского университета, специализирующаяся на истории Кремниевой долины. – Компаниям, которые стали чрезвычайно успешными в каком-то одном определяющим рынок продукте, тяжело конкурировать во втором акте с кем-то совершенно иным”.

Поскольку эти новые чат-боты обретают свои навыки, анализируя огромные объемы данных, размещенных в интернете, они порой смешивают факты и вымысел. Они выдают информацию, которая может оказаться предвзятой в отношении женщин и цветных. Они могут генерировать агрессивные формулировки, в том числе ксенофобские высказывания.

Все это может настроить людей против Google и нанести ущерб корпоративному бренду, который компания создавала десятилетиями. Как показал пример OpenAI, более молодые компании в большей степени готовы к риску столкнуться с жалобами ради быстрого роста.

Даже если Google усовершенствует свои чат-боты, ему придется решить решить еще одну проблему: может ли эта технология лишить компанию возможности получать огромную прибыль от поисковой рекламы? Если чат-бот отвечает на запросы короткими предложениями, у людей будет меньше причин кликать на рекламные ссылки.

“У Google есть очевидная проблема с бизнес-моделью, – сказал Амр Авадаллах (Amr Awadallah), который работал в Yahoo и Google, а сейчас руководит стартапом Vectara, разрабатывающим аналогичную технологию. – Если Google будет выдавать вам идеальные ответы на каждый запрос, вы не станете кликать на рекламные баннеры”.

Глава Google Сундар Пичаи (Sundar Pichai) принял участие в серии совещаний, чтобы выработать стратегию компании с области искусственного интеллекта, и он полностью изменил планы работы многочисленных групп внутри компании, чтобы отреагировать на угрозу, которую представляет ChatGPT. Сотрудникам также было поручено разработать продукты на основе ИИ, которые могут создавать различные картины и графические изображения, – подобные технологии DALL-E компании OpenAI, которой уже пользуются более трех миллионов человек.

Начиная с текущего момента и до масштабной конференции, которую Google проведет в мае, команды специалистов из различных подразделений компании должны будут помогать в разработке и выпуске новых продуктов и прототипов на основе ИИ.

По мнению экспертов отрасли, по мере развития технологий компании Google придется решить, будет ли она перестраивать свою поисковую систему и сделает ли она полноценный чат-бот лицом своего флагманского сервиса.

Google не готова делиться своей технологией, потому что, подобно ChatGPT и другим подобным системам, чат-бот компании способен генерировать ложную, токсичную и предвзятую информацию. В настоящее время LaMDA доступен только ограниченному числу людей через экспериментальное приложение AI Test Kitchen.

Как говорится в служебной записке, с которой ознакомились репортеры The New York Times, руководство Google стремится развернуть свой ИИ, при этом не нанеся вреда сообществу пользователей. В ходе недавнего совещания один менеджер Google признал, что более мелкие компании как правило испытывают гораздо меньше опасений относительно развертывания подобных инструментов, но он добавил, что Google обязательно нужно вступить в эту борьбу, потому что в противном случае отрасль двинется вперед без нее.

У других компаний аналогичная проблема. Пять лет назад Microsoft выпустила чат-бот под названием Tay, который извергал расистские, ксенофобские и другие непристойные высказывания, в связи с чем компании пришлось немедленно удалить его из интернета, куда он больше не вернулся. Совсем недавно компания Meta удалила своего более нового чат-бота практически по тем же самым причинам.

На другом совещании руководители компании заявили, что Google намеревается выпустить технологию, которая могла бы управлять ее чат-ботом как операционная система на базе облака, и что это позволило бы использовать технологию для выполнения различных задач клиентской поддержки. Компания будет придерживаться стандартов безопасности в своих официальных продуктах, однако она также будет выпускать продукты, которые этим стандартам не соответствуют.

Она может ограничить использование этих прототипов 500 тысячами пользователей и предупредить их, что технология способна выдавать ложные или оскорбительные высказывания. С момента запуска в последний день ноября число пользователей ChatGPT, который тоже может выдавать токсичный контент, превысило отметку в миллион человек.

“Клевый демо-вариант диалоговой системы, с которой люди могут взаимодействовать в несколько подходов, и это кажется сногсшибательным? Это хороший шаг вперед, однако это не то, что действительно изменит общество, – сказал в интервью The New York Times Зубин Гахрамани (Zoubin Ghahramani), курирующий лабораторию ИИ внутри Google Brain, в ноябре, то есть еще до выхода ChatGPT. – Это не то, чем люди могут с уверенностью пользоваться на ежедневной основе”.

Google уже работает над улучшением своей поисковой системы, используя ту же технологию, которая лежит в основе чат-ботов, таких как LaMDA и ChatGPT. Эта технология – “большая языковая модель” – это не просто способ, позволяющий машинам вести разговор.

Сегодня эта технология помогает поисковой системе Google выделять результаты, которые могут дать прямой ответ на заданный вами вопрос. Прежде, если вы набирали в строке поиска Google “приходится ли косметологам подолгу стоять на работе?”, он не понимал, о чем вы спрашиваете. Теперь же Google правильно отвечает коротким сообщением, описывающим особенности физической нагрузки работников индустрии красоты.

Многие эксперты считают, что Google и дальше будет придерживаться этого подхода, постепенно совершенствуя свою поисковую систему, а не переделывая ее радикальным образом.”Google Search довольно консервативен, – сказала Маргарет Митчелл (Margaret Mitchell), которая работала над ИИ в Microsoft и Google, где она помогла создать команду Ethical A.I., а сейчас работает в исследовательской лаборатории Hugging Face. – Он пытается не испортить работающую систему”.

Другие компании, в том числе Vectara и поисковая система Neeva, работают над совершенствованием поисковых технологий аналогичным образом. Но по мере того, как OpenAI и другие компании улучшают свои чат-боты, работая над устранением проблем с токсичностью и предвзятостью, они могут стать весьма жизнеспособной заменой сегодняшним поисковым системам. Кто доберется туда первым, тот может стать победителем.

“В прошлом году меня охватывала досада из-за того, что вырваться из железной хватки Google было так трудно, – сказал Шридхар Рамасвами (Sridhar Ramaswamy), который ранее курировал поисковую рекламу Google, а теперь руководит Neeva. – Но в мире технологий такие моменты, как сейчас, создают возможности для более активной конкуренции”.

Нико Грант (Nico Grant), Кейд Метц (Cade Metz)
Источник