Искусственный интеллект способен уничтожить человечество за 5 лет. Вывод эксперта

Элиезер Юдковски - американский исследователь искусственного интеллекта и писатель, специализирующийся на теории принятия решений и этике. Он наиболее известен благодаря популяризации идей, связанных с дружественным искусственным интеллектом (ИИ), в том числе идеей о том, что, возможно, не будет «сигнала-предупреждения» о том, что он внезапно перестанет быть нам "дружественным".

Его работа о возможности потери контроля над ИИ повлияла на книгу философа Ника Бострома «Суперинтеллект: пути, опасности, стратегии», опубликованную в 2014 году.

В интервью британскому СМИ The Guardian Юдковский предсказал, что отсутствие контроля может произойти раньше, чем многие полагают. «Трудность в том, что люди не осознают, что у человечества есть лишь небольшой шанс выжить», - уверен технопессимист.

«Если вы спросите меня, у меня возникает ощущение, что наши текущие оставшиеся сроки больше похожи на пять лет, чем на пятьдесят. Может быть, два года, может быть, десять».

Под «оставшимся сроком» Юдковски подразумевает время, которое у нас осталось до тех пор, пока мы не столкнемся с концом всего, что вызвано машинами, в сценарии, который может варьироваться от сценария в стиле Терминатора (война, вызванная или управляемая ИИ) до Матрицы (цивилизация, зависящая от ИИ, который ведет себя как "бог")

«Не нужно представлять искусственный мозг в закрытой коробке. Чтобы понять, к чему все движется, попытайтесь представить инопланетную цивилизацию, которая думает в тысячу раз быстрее, чем мы».

Пытаясь поколебать человечество от самоуспокоенности в этом вопросе, Юдковски прошлой весной опубликовал статью в журнале Time, в которой он зашел так далеко, что предложил в качестве последней альтернативы выживания человечества бомбить компьютерные фирмы, где разрабатываются и обучаются ИИ.