Понимание революции искусственного интеллекта. Часть 1

Революция искусственного интеллекта (ИИ) уже наступила, и она изменит мир, каким мы его знаем. Это главная мысль, которую можно разобрать в шумихе, поднявшейся после выхода в ноябре 2022 года версии 3.5 ChatGPT от OpenAI. И это было только начало. С тех пор произошло много событий: вышла значительно улучшенная версия 4.0, которая была интегрирована в поисковую систему Bing от Microsoft, состоялся бета-релиз Gemini от Google.

С тех пор было написано немало о том, что ИИ означает для общества: от позитивных крайностей в виде скорого появления технологий из “Стартрека” и общества с “нулевыми предельными затратами” до якобы надвигающегося “захвата ИИ”, который приведет к массовой безработице или порабощению (если не уничтожению) человечества. Однако, что из этого вымысел, а что — реальность? В нескольких статьях я кратко расскажу о реальности и вымысле вокруг ИИ, о том, что он принесет в экономику, а также о реальных опасностях и угрозах. Это начало конца или конец начала?

Большинство людей знакомы с термином “искусственный интеллект” по научно-фантастическим книгам и фильмам. ИИ в таких фильмах — это небиологическое сознательное существо, своего рода человек-машина. Интеллектуальная машина часто изображается как лишенная определенных человеческих качеств, таких как эмпатия или этика. Однако она также не обременена человеческими ограничениями, такими как несовершенная вычислительная способность и отсутствие знаний. Иногда ИИ является добродетельным, другом или даже слугой человечества, как, например, андроид Дейта в сериале “Стартрек: следующее поколение”, но часто ИИ используется для иллюстрации проблемы напряженности или даже экзистенциальной угрозы. Примерами такого антиутопического ИИ являются Скайнет в фильмах о Терминаторе, машины в “Матрице” и HAL 9000 в “2001: Космическая одиссея”.

ИИ, который мы имеем сегодня в реальном мире, например, ChatGPT от OpenAI и Gemini от Google, совсем не похож на этих фантастических “существ”; он и близко не достигает их уровня сознания. На самом деле, то, что мы имеем сегодня, настолько далеко от того, что мы обычно называем интеллектом, что был изобретен новый термин, чтобы отличить “настоящую вещь” от существующих чат-ботов, которые теперь называются “ИИ”: искусственный общий интеллект. Сознательные, мыслящие, рассуждающие и действующие небиологические существа-машины в научной фантастике — это искусственный общий интеллект. В связи с этим возникает вопрос: Что такое ИИ?

Машинное обучение и большие языковые модели

Современный ИИ — это интеллект в том же смысле, что и библиотека книг. И там и там хранятся массивы информации, которые классифицируются различными способами, например по темам, ключевым словам, авторам и издателям. В обычной библиотеке книги распределены по категориям, чтобы помочь пользователям найти то, что они ищут.

Однако представьте, если бы все книги в библиотеке были отсканированы, чтобы все буквы, слова, предложения и т. д. хранились вместе и были доступны для поиска. Эту массу контента можно было бы классифицировать индуктивно, то есть компьютерное программное обеспечение, просеивающее весь контент, могло бы самостоятельно определять новые категории на основе данных. Какие слова и фразы часто встречаются? Как сочетаются слова, в каком порядке и в каких контекстах они встречаются? Какие фразы чаще встречаются в каких типах книг или глав? Какие сочетания слов встречаются редко или вообще отсутствуют? Есть ли различия в употреблении слов и структуре предложений у разных авторов, книг и тем?

Такое индуктивное просеивание контента под руководством статистических алгоритмов называется “машинным обучением” и является мощным инструментом для поиска ценных иголок в стогах сена. Обратите внимание, что эти иголки могут быть неизвестны — машинное обучение находит иголки, о существовании которых мы знаем, но может также обнаружить иголки, о существовании которых мы даже не подозревали. Например, использование таких методов для анализа медицинских данных позволяет найти (и уже находило) взаимосвязи и потенциальные причины заболеваний, о которых ранее не было известно. Аналогичным образом Центр Меркатуса при Университете Джорджа Мейсона прогнал тексты нормативных актов через подобные алгоритмы машинного обучения, чтобы создать RegData — базу данных, позволяющую пользователям анализировать, сравнивать и отслеживать бремя нормативных актов в Соединенных Штатах и за их пределами.

RegData предназначена для поддержки социологических исследований нормативно-правовых актов, но машинное обучение может использоваться для всех видов информации. Когда такие алгоритмы работают с огромными объемами текста, чтобы выяснить, как используется язык, это называется большой языковой моделью (LLM). Таким образом, эти модели отражают статистическое “понимание” того, как используется язык или, как выражается Кембриджский словарь (объясняя генеративный предварительно обученный трансформер (GPT) LLM, на котором основан ChatGPT), “сложное математическое представление текста или других типов носителей, которое позволяет компьютеру выполнять некоторые задачи, такие как интерпретация и создание языка, распознавание или создание изображений и решение проблем, таким образом, который кажется похожим на работу человеческого мозга”.

Действительно, основываясь на статистическом понимании языка, чатбот на основе LLM может предиктивно генерировать текстовые ответы на вопросы и заявления, имитируя реальный разговор. Таким образом, он создает видимость понимания вопросов и создания соответствующих ответов; он даже может “притвориться”, что испытывает эмоции и выражает сочувствие или благодарность, основываясь на том, как он понимает, какие слова могут быть использованы.

Другими словами, чат-боты, такие как ChatGPT, могут пройти тест Тьюринга, поскольку человеку очень сложно отличить их ответы от ответов реального человека. Тем не менее, они являются статистическими предсказателями.

Но является ли ИИ интеллектуальным?

Конечно, это впечатляющий подвиг — программное обеспечение, имитирующее человеческий разговор настолько, что заставляет реальных людей поверить в то, что это человек. Однако вопрос о том, является ли он интеллектуальным, остается открытым. Если снова обратиться к Кембриджскому словарю, интеллект означает “способность учиться, понимать и выносить суждения или иметь мнения, основанные на разуме”. Хотя мы иногда используем такие глаголы, как “учиться” и “понимать”, применительно к машинам, они используются в переносном, а не в прямом смысле. Карманный калькулятор не “понимает” математику только потому, что может давать нам ответы на математические вопросы или решать уравнения; он не “выучил” ее; он также не может “выносить суждения” или “иметь мнение”.

Безусловно, ИИ значительно превосходит калькуляторы. Однако это не отменяет того факта, что логически они одинаковы: оба представляют результаты, основанные на предопределенных, заранее структурированных и собранных правилах и данных; ни один из них не обладает ни агентностью, ни сознанием, и ни один не может создать что-либо de novo. Это очевидно для калькулятора, который сравнительно глуп и выдает результаты только в соответствии с простыми правилами математики.

Однако то же самое справедливо и для ИИ. Он, конечно, намного сложнее калькулятора и обладает дополнительной способностью создавать собственные категории и индуктивно находить взаимосвязи, но у него нет “мнений, основанных на [его собственном] разуме”. Он лишь предиктивно генерирует ответы, которые, основываясь на уже обработанных им текстах, со статистической вероятностью будут такими же, как у человека (или, по крайней мере, могут быть такими). Вот почему ИИ иногда, несмотря на обширные знания, к которым он имеет доступ, генерирует всякую чепуху и с трудом придерживается истины. Он просто не может увидеть разницу. (Он вообще не может “различать”).

Другими словами, с точки зрения логики, ИИ прямо противоположен тому, что мы ожидаем от человеческого (или инопланетного, или искусственного) интеллекта: он ориентирован на прошлое, придумывает ответы на основе уже существующих языковых данных и не добавляет ничего, что не было бы статистически (повторно) получено из прошлой информации. Он также не терпит неудач, не барахтается и не забывает, и ему не хватает субъективности.

Конечно, настоящий интеллект тоже будет опираться на опыт, но он будет обладать способностью генерировать новое содержание и новые следствия. Он способен мыслить по-новому и творчески подходить к различным выводам на основе одних и тех же данных. Настоящий интеллект будет забывать ценную информацию, допускать ошибки и использовать ошибочные умозаключения, а также субъективно взвешивать и интерпретировать факты — или просто игнорировать данные.

Однако даже если ИИ, возможно, не является интеллектом — по крайней мере, в научно-фантастическом смысле, — это не означает, что он не важен или его применение не имеет последствий. Технологический прогресс, который он представляет собой, является революцией и будет иметь далеко идущие последствия как для экономики, так и для общества.

Автор: Пер Байлунд

Оригинал статьи

Перевод: Наталия Афончина