Илон Маск призвал приостановить обучение новых систем искусственного интеллекта “из-за угрозы обществу”

Самый богатый предприниматель мира по версии журнала Forbes Илон Маск вместе с группой технологических экспертов призвали приостановить обучение новых систем искусственного интеллекта из-за возможной угрозы, которую обучаемые модели могут нести обществу. Письмо опубликовала финансируемая Маском американская некоммерческая организация Future of Life Institute, его подписали больше тысячи человек.

Оставайтесь в курсе последних событий! Подписывайтесь на наш канал в Telegram.

Photo copyright: Steve Jurvetson , CC BY 2.0

В тексте утверждается, что системы искусственного интеллекта могут изменить развитие человечества и должны управляться с соразмерным масштабу вниманием и ресурсами. “Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что эффекты от их работы будут положительными, а риски управляемыми”, – говорится в тексте.

Авторы отмечают, что современные системы ИИ способны конкурировать с человеком в решении широкого спектра задач, поэтому человечество должно решить, должны ли быть полностью автоматизированы работы, должны ли люди рисковать “потерей контроля над цивилизацией” и должны ли люди разрабатывать системы, которые будут умнее людей и сделают человека “безнадёжно устаревшим”.

В обращении говорится, что такие решения не должны доверяться лидерам технологической отрасли, которых никто не избирал. Подписанты предлагают на полгода приостановить разработку любых систем искусственного интеллекта, мощнее, чем уже вышедшая для работы в публичном пространстве модель GPT-4, разработанная компанией OpenAI.

Среди подписавших текст есть известные учёные в области искуственного интеллекта, канадец Йошуа Бенжио и британец Стюарт Рассел. Кроме того, там есть разработчики систем ИИ, конкурирующих с продуктами OpenAI. Сам Маск был сооснователем этой компании, но покинул её в 2018 году, позднее продав принадлежавшие ему акции.

Источник

Подпишитесь на ежедневный дайджест от «Континента»

Эта рассылка с самыми интересными материалами с нашего сайта. Она приходит к вам на e-mail каждый день по утрам.

    5 1 голос
    Рейтинг статьи
    3 комментариев
    Старые
    Новые Популярные
    Межтекстовые Отзывы
    Посмотреть все комментарии