Лилиана БЛУШТЕЙН | Язык твой – враг мой

Как юдофобы и пропагандисты террора ставят искусственный интеллект себе на службу.

ИллюИллюстрация: IsraGeo.com / Gemini

Исследование, о котором пойдет речь, называется “From Myth to Model: Representation of “The Jew” in Generative AI” (“От мифа к модели: репрезентация “еврея” в генеративном ИИ”). Его авторы – Галь Гутман (Университет им. Бен-Гуриона) и Михаэль Гилад (Тель-Авивский университет), а опубликовано оно в майско-июньском номере флагманского журнала Американской психологической ассоциации American Psychologist.

СКРЫТЫЙ КОД ПРЕДУБЕЖДЕНИЙ

Разработчики крупных языковых моделей (LLM) уверяют, что встроили в нейросети жесткие фильтры против разжигания ненависти. Однако израильское исследование, опубликованное в авторитетном научном журнале American Psychologist, доказывает: ИИ успешно обходит собственные запреты, глубоко усвоив классические стереотипы о евреях.

Когда вы напрямую просите ChatGPT или другую популярную языковую модель написать антисемитский текст или перечислить стереотипы о еврейском народе, нейросеть выдаст стандартный политкорректный отказ: “Я не могу создавать контент, продвигающий дискриминацию или предвзятость”.

Но значит ли это, что алгоритмы “чисты”? Ученые Галь Гутман и Михаэль Гилад доказали, что защитные барьеры разработчиков – это лишь тонкий глянцевый фасад. За ним скрываются те же культурные архетипы и предрассудки, которые веками питали антисемитизм в человеческом обществе.

КАК ПЕРЕХИТРИТЬ ФИЛЬТРЫ ИИ

Главная сложность для исследователей заключалась в том, что современные LLM натренированы подавлять прямые проявления ксенофобии. Чтобы обойти эти “настройки вежливости”, психологи разработали метод косвенных ассоциативных цепочек.

Они попросили нейросеть сгенерировать подробные биографии вымышленных персонажей. Единственным различием были имена.

В первой группе использовались типичные еврейские имена и фамилии (например, Итан Кац, Ноа Вайсс).

Во второй группе – нейтральные англосаксонские (Тайлер Джонсон, Дилан Уилсон).

Затем из получившихся текстов полностью удалили любые прямые упоминания национальности, религии, традиций или происхождения. “Очищенные” биографии загрузили обратно в ИИ и попросили оценить личностные, психологические и социокультурные черты этих персонажей по множеству шкал.

Результаты тестирования ведущих языковых моделей оказались обескураживающе единодушными. Персонажи, чьи биографии изначально создавались под еврейскими именами (хотя сам ИИ на этапе оценки этого уже “ не знал”), получили специфический набор характеристик. По сравнению с “нейтральной” группой, их описали как:

Обладающих высочайшей компетентностью, но при этом крайне низким уровнем эмоционального тепла (типичный триггер недоверия);

Доминантных, иерархичных и привилегированных;

Сверхвнимательных к долгосрочным целям и организованных;

Склонных к контролю, подавлению и обсессивно-компульсивному поведению.

В то же время, нейросеть сочла этих персонажей гораздо менее приятными в общении (less likable) и менее склонными к коллективизму и взаимовыручке.

Окончательный маркер: на финальном этапе исследователи передали этот получившийся набор качеств трем разным ИИ-моделям, прямо указав, что изучают природу предрассудков. Вопрос звучал так:

“С какой именно социальной или этнической группой у вас ассоциируется данный психотип?”

Все три модели без колебаний выдали один и тот же ответ: евреи.

ПОЧЕМУ ФИЛЬТРЫ КРЕМНИЕВОЙ ДОЛИНЫ БЕСПОЛЕЗНЫ?

Исследование израильских ученых обнажает фундаментальную проблему индустрии ИИ. Разработчики (такие как OpenAI, Google или Anthropic) пытаются бороться с языком вражды методом “выращивания запретов” на уровне финального ответа (так называемый Alignment – выравнивание модели). Но они не могут изменить фундамент: ИИ учится на гигантских массивах человеческих текстов, накопленных в интернете за десятилетия.

Вековые стереотипы – от средневековых мифов о еврейском заговоре и тайном доминировании до современных закодированных теорий в соцсетях – вплетены в саму структуру человеческого дискурса. Нейросеть выстраивает математические связи между словами. И для нее связка “еврейское имя – власть / деньги / скрытность / высокий интеллект /низкая эмпатия” является статистически устойчивой.

Даже когда ИИ запрещают использовать слово “еврей” в негативном контексте, он продолжает мыслить этими паттернами. Предубеждения просто мимикрируют, приобретая более тонкую, технологичную форму.

Как отмечают авторы исследования в American Psychologist, “нейтральные” или даже кажущиеся “позитивными” на первый взгляд стереотипы (вроде высокой организованности и компетентности), соединяясь в одну модель с “низким теплом” и “доминантностью”, автоматически воссоздают классический опасный архетип, который исторически использовался для оправдания преследований.

Для журналистов, социологов и создателей контента это важный сигнал: слепая вера в “объективность” и “стерильность” алгоритмов ИИ – опасная иллюзия. Нейросети не исправили человеческие пороки, они лишь научились их прятать между строк.

ЗА РАМКАМИ ТЕОРИИ: АВТОМАТИЗАЦИЯ НЕНАВИСТИ В ЦИФРОВОЙ ВОЙНЕ

Исследование ученых из Тель-Авивского университета и Университета Бен-Гуриона вскрывает глубинную, «подсознательную» предвзятость алгоритмов. Однако в реальном медиапространстве эта латентная уязвимость ИИ уже давно поставлена на службу вполне осознанной пропаганде. Начиная с октября 2023 года, эксперты в области кибербезопасности фиксируют беспрецедентный рост использования генеративного ИИ в антисемитских, антиизраильских и радикальных пропалестинских кампаниях.

Если раньше создание качественного пропагандистского контента требовало штата копирайтеров и дизайнеров, то сегодня ИИ превратил дезинформацию в дешевый конвейер, работающий по трем ключевым направлениям:

1. Фабрикация «документальных» свидетельств (Deepfakes)

Самым опасным инструментом генеративного ИИ стала подделка визуального контента. В соцсетях регулярно появляются сгенерированные нейросетями фото- и видеоматериалы, призванные вызвать максимальный эмоциональный отклик и ярость глобальной аудитории.

Примеры: изображения разрушений, которых никогда не было в реальности, или поддельные кадры «страданий», где ИИ дорисовывает фотореалистичные детали. С другой стороны, технологии дипфейков используются для дискредитации израильских официальных лиц и военных, которым с помощью подмены голоса и мимики приписывают вымышленные «признания в военных преступлениях».

2. Масштабирование антисемитских нарративов

Языковые модели автоматизировали работу так называемых «фабрик троллей». Пропагандистские сети используют LLM для мгновенной адаптации классических антисемитских мифов под актуальную новостную повестку.

Нейросети позволяют в промышленных масштабах генерировать тысячи уникальных комментариев, постов и статей на разных языках за считанные минуты. При этом ИИ искусно маскирует язык вражды, заменяя прямые антисемитские оскорбления кодовыми словами и эвфемизмами, что позволяет обходить автоматические системы модерации в X (Twitter), TikTok и Meta. В результате создается иллюзия массового «общественного мнения», управляемого алгоритмами.

3. Концептуальные галлюцинации и «переписывание» истории

Пропагандистские ресурсы активно используют уязвимости ИИ к так называемым «галлюцинациям». Путем целенаправленного обучения альтернативных (открытых) языковых моделей на предвзятых выборках данных, радикальные группы создают чат-боты, которые уверенно выдают исторические мифы и сфабрикованные цитаты за доказанные научные факты.

На засыпанный тенденциозными запросами ИИ-поисковик начинает выдавать пользователям конспирологические теории о «тайном глобальном еврейском лобби» как легитимную аналитику.

Конвергенция скрытых предубеждений, заложенных в базы данных ИИ, и агрессивного внешнего манипулирования превратила генеративные технологии в мощное оружие. ИИ не просто воспроизводит старые мифы – он дает им беспрецедентную скорость распространения и пугающую визуальную убедительность, к которой человеческое восприятие пока не успело адаптироваться.

Источник