Ученые: контролировать обладающий сверхразумом ИИ невозможно!

По мере того, как ученые продолжают делать машины все более и более умными, многие люди задаются вопросом: «Что произойдет, если компьютеры станут слишком умными, и не будут ли они действовать исключительно ради собственного блага?». Индустрия развлечений — от «Матрицы» до «Терминатора» — уже начала задумываться, будут ли роботы будущего когда-нибудь угрожать человечеству. Международная группа ученых в ходе своего нового исследования пришла к выводу, что нет никакого способа остановить развитие машин. По их мнению, люди не смогут помешать супер-искусственному интеллекту делать то, что тот посчитает нужным.

Ученые из Центра изучения людей и машин при Институте Макса Планка начали размышлять над тем, как будет выглядеть такая машина. Представьте себе систему ИИ, интеллект которой намного превосходит человеческий – настолько, что она сможет учиться самостоятельно без дополнительного программирования. Исследователи говорят, что если такую машину подключить к Интернету, то ИИ получит доступ ко всем данным человечества и даже сможет взять под контроль другие машины по всему миру.

Авторы исследования ставят вопрос, что такой разум мог бы сделать со всей этой мощью? Будет ли все это работать во благо людей? Будут ли направлены огромные вычислительные мощности на решение таких проблем, как изменение климата? Или машина будет стремиться взять под контроль жизнь своих соседей-людей?

Контролируя неконтролируемое — опасности сверхразумного искусственного интеллекта

И специалисты по компьютерной технике, и философы изучали, есть ли способ удержать сверхразумные машины от потенциального нападения на их создателей, гарантируя что компьютеры будущего не причинят вреда своим хозяевам. Новое исследование, к сожалению, показывает, что удержать в узде сверхразумный ИИ практически невозможно.

«Суперинтеллектуальная машина, управляющая миром – сегодня это звучит как научная фантастика. Но уже есть машины, которые самостоятельно выполняют определенные сложные задачи, а программисты не до конца понимают, как те научились этому. Поэтому возникает вопрос, может ли это в какой-то момент стать неконтролируемым и опасным для человечества», — говорит соавтор исследования, руководитель Digital Mobilization Group в Центре людей и машин Мануэль Себриан.

В ходе исследования был создан теоретический алгоритм сдерживания, который не позволил бы ИИ причинять вред людям ни при каких обстоятельствах. В моделировании ИИ перестает функционировать, если исследователи сочтут его действия вредными. Авторы исследования говорят, что в реальном мире это может просто не сработать.

Источник