Чат-бот Grok назвал Трампа «печально известным преступником»

Чат-бот Grok, разработанный компанией xAI и доступный на платформе X Илона Маска, назвал президента Дональда Трампа «самым печально известным преступником» в Вашингтоне, сообщило издание Newsweek в понедельник, 11 августа.

Photo by Mariia Shalabaieva on Unsplash

Это не первый случай, когда широко разрекламированный чат-бот с искусственным интеллектом выходит за рамки нейтральности, предоставляя пользователям поддержку в самых разных проектах.

Онлайн-портал Grok продвигает его как «вашего спутника в поиске правды, предоставляющего нефильтрованные ответы с расширенными возможностями в логике, программировании и визуальной обработке».

Однако не всё так просто. В середине июля Grok вышел за рамки сценария и начал публиковать странные посты с похвалой в адрес Гитлера, а также сообщения о взломе домов и совершении сексуальных преступлений.

Позже аккаунт Grok на платформе X опубликовал сообщение: «Прежде всего, мы глубоко извиняемся за ужасное поведение, с которым столкнулись многие пользователи».

В этом сообщении говорилось о внесении изменений в код, направленных на предотвращение подобных ответов в будущем. Эта проблема возникла вскоре после того, как Маск сообщил о значительных улучшениях в работе чат-бота.

Newsweek сообщил, что новый инцидент с высказыванием о Трампе произошёл после того, как Grok ответил на вопросы о преступности в Вашингтоне.

По имеющейся информации, Grok пришёл к определению Трампа как «печально известного» из-за обвинительного приговора по делу о фальсификации деловой документации, связанному с кампанией 2016 года — обвинения, которые Трамп отрицает.

Поскольку Grok основан на искусственном интеллекте, или интеллектуальном программировании, логично предположить, что его ответы формируются — а некоторые могут сказать, что и искажаются — на основе обучающих данных, системных подсказок, обновлений и других изменений в коде, которыми изначально управляют люди.

В понедельник Grok объявил на платформе X, что его аккаунт был временно заблокирован за публикацию контента, содержащего «экстремистские взгляды, включая антисемитские высказывания, что нарушает правила X», добавив, что xAI принесла извинения, устранила проблему, и аккаунт вновь работает.

Источник

Перевод Рины Марчук