КОНТИНЕНТ - Новости и аналитика актуальных событий в мире, мнения и комментарии экспертов и обозревателей
К 100-летию журнала Forbes основатель SpaceX и Tesla Илон Маск написал эссе об опасностях искусственного интеллекта.
Оставайтесь в курсе последних событий! Подписывайтесь на наш канал в Telegram.
От искусственного интеллекта общество получит много пользы, включая самоуправляемые автомобили и продвинутые технологии медицинской диагностики. Однако вместе с искусственным интеллектом мы можем открыть ящик Пандоры и подвергнуть опасности все человечество. Если бы суперинтеллект непреднамеренно настроили на причинение вреда человеку, последствия были бы катастрофическими.
Произойти такое может самыми разными способами: например, если попросить искусственный интеллект избавиться от спама и он придет к выводу, что спама не будет, если не будет и людей. Или, скажем, программа по работе с финансами решит, что быстрее всего заработать деньги можно, увеличив цену на акции компаний, занятых в оборонно-промышленном комплексе, и начав войну.Мы первый вид, способный истребить себя сам, а если дать на это достаточно времени, то такой вариант развития событий более чем вероятен. Возникает вопрос: можем ли мы это предотвратить?
Необходимо учиться на собственном опыте и создать правительственное ведомство для регулирования искусственного интеллекта. В итоге подтянутся негосударственные компании, и мы сможем создать безопасные и полезные технологии, которые благотворно повлияют на дальнейшее развитие человечества.
Перевод Антона Бундина
Источник
Эта рассылка с самыми интересными материалами с нашего сайта. Она приходит к вам на e-mail каждый день по утрам.