КОНТИНЕНТ - Новости и аналитика актуальных событий в мире, мнения и комментарии экспертов и обозревателей
Сенатор Марша Блэкберн (республиканка из Теннесси) написала в среду в письме генеральному директору Google Сундару Пичаи, что удаление Gemma из их AI-студии не мешает распространению модели, которая продолжает генерировать «явно ложные и клеветнические заявления» о ней и других консерваторах.
Блэкберн направила письмо руководителю Google после того, как обвинила компанию в распространении «явно ложного материала», созданного моделью Gemma AI на платформе AI Studio, который, по её словам, ее оклеветал.
Она ответила Google после того, как получила письмо от компании, в котором та пыталась объяснить, почему модель Gemma AI выдала «клеветнические» заявления о ней, обвинив её в сексуальном насилии. Объяснение Google Блэкберн не сочла убедительным.
В своём письме Пичаи, которое оказалось в распоряжении Breitbart News, Блэкберн назвала произошедшее «катастрофическим провалом контроля над моделью ИИ, которую скачали более 200 миллионов человек. Это также отражает более широкую системную предвзятость против консерваторов в продуктах Google».
Блэкберн подняла вопрос о том, что простого удаления Gemma с платформы AI Studio недостаточно, заявив:
«Google признаёт, что Gemma по-прежнему полностью доступна для разработчиков, которые уже экспортировали и внедрили те же исходные модели в сотни прикладных систем и интерактивных инструментов. Удаление Gemma из AI Studio никак не мешает этим разработчикам продолжать развёртывать и распространять вариации той же модели, которая сгенерировала явно ложные и клеветнические заявления обо мне и других консерваторах. Иными словами, модель, породившая клеветнический контент, не была изолирована. Она продолжает перепаковываться и распространяться на платформах, которые вы не контролируете, но существование которых обеспечивает ваша компания.
Google знала о вредных галлюцинациях Gemma в течение многих лет, но предпочла закрывать на это глаза, пока не возникла необходимость спасать свою репутацию. Google продемонстрировала, что технически способна предотвратить такие клеветнические ответы. Когда тот же вопрос – была ли я обвинена в изнасиловании – вводится в вашу флагманскую модель Gemini, она не выдумывает уголовных обвинений. Это доказывает, что вред не является ни неизбежным, ни присущим самой технологии. Он является результатом решений в области разработки и внедрения, принятых Google.»
Во время недавнего заседания Комитета Сената по торговле Блэкберн отметила, что Gemma AI сгенерировала, как сообщается, клеветнические утверждения о консервативном активисте Робби Старбаке, назвав его «насильником детей» и «серийным сексуальным хищником». Представитель Google по связям с правительством заявил, что подобные галлюцинации – известная проблема, и компания работает над её устранением.
Блэкберн сказала: «Мой посыл прост: полностью отключите свои модели ИИ, пока вы не сможете их контролировать. Американская общественность заслуживает системы искусственного интеллекта, которые точны, справедливы и прозрачны – а не инструменты, которые очерняют консерваторов сфабрикованными уголовными обвинениями.»
«Ответ Google – это отчаянная попытка уйти от ответственности, переложив вину за фабрикацию чудовищных уголовных обвинений на “технические проблемы”. Неприемлемые оправдания Google не объясняют, как это произошло и как компания собирается предотвратить это в будущем», – заключила Блэкберн в своём письме компании.
Перевод Рины Марчук
Эта рассылка с самыми интересными материалами с нашего сайта. Она приходит к вам на e-mail каждый день по утрам.
