Новый рубеж искусственного интеллекта

Перспективы и опасности прорыва в машинном интеллекте

Создайте компьютер, который мог бы заканчивать ваши предложения, используя лучшие обороты речи; или используйте обрывок мелодии, чтобы сочинять музыку, которая звучит так, как если бы вы ее написали (хотя вы никогда бы этого не сделали); или решайте проблему, создавая сотни строк компьютерного кода, позволяя вам сосредоточиться на чем—то еще сложнее. В некотором смысле этот компьютер - всего лишь потомок ткацких станков и паровых двигателей, ускоривших Промышленную революцию. Но он также принадлежит к новому классу машин, потому что он улавливает символы в языке, музыке и программировании и использует их творчески. Немного похож на человека.

“Базовые модели”, которые могут делать эти вещи, представляют собой прорыв в области искусственного интеллекта или ии. Они тоже обещают революцию, но эта революция затронет интеллектуальную работу высокого статуса, которую Промышленная революция никогда не касалась. Нет никаких гарантий относительно того, что ждет впереди — в конце концов, ии спотыкался в прошлом. Но пришло время взглянуть на перспективы и опасности следующего большого изобретения в области машинного интеллекта.

Базовые модели - это новейший поворот в “глубоком обучении” (dl), методе, который получил известность десять лет назад и сейчас доминирует в области ии. Свободно основанные на сетевой структуре нейронов в человеческом мозге, системы dl “обучаются” с использованием миллионов или миллиардов примеров текстов, изображений или звуковых клипов. В последние годы растущие затраты времени и денег на обучение все более крупных систем dl вызвали опасения, что технология достигает своих пределов. Некоторые беспокоились о “зиме ии”. Но фундаментальные модели показывают, что строительство становится все более масштабным и сложным dl действительно продолжает открывать все более впечатляющие новые возможности. Никто не знает, где лежит предел.

Полученные модели представляют собой новую форму творческого, нечеловеческого интеллекта. Системы достаточно сложны, чтобы не только владеть языком, но и последовательно нарушать правила. Собака не может смеяться над шуткой, но ии может объяснить, почему это смешно.

Базовые модели обладают некоторыми удивительными и полезными свойствами. Самым жутким из них является их “возникающее” поведение, то есть навыки (такие как способность шутить или сопоставлять ситуацию и пословицу), которые возникают из-за размера и глубины моделей, а не являются результатом преднамеренного проектирования. Как быстрая череда фотографий создает ощущение движения, так и триллионы двоичных вычислительных решений сливаются в симулякр текучего человеческого понимания и творчества, который, что бы ни говорили философы, очень похож на реальный. Даже создатели этих систем удивлены их мощью.

Этот интеллект является широким и адаптируемым. Да, базовые модели способны вести себя как идиоты, но ведь и люди тоже. Если вы спросите того, кто получил Нобелевскую премию по физике в 1625 году, он может предложить Галилея, Бэкона или Кеплера, не понимая, что первая премия была присуждена в 1901 году. Тем не менее, они также поддаются адаптации способами, которых не было у более ранних ии, возможно, потому, что на каком-то уровне существует сходство между правилами манипулирования символами в таких разных дисциплинах, как рисование, творческое письмо и компьютерное программирование. Такая широта означает, что базовые модели могут использоваться во множестве приложений, от помощи в поиске новых лекарств с использованием предсказаний о том, как белки сворачиваются в трех измерениях, до выбора интересных диаграмм из наборов данных и решения открытых вопросов путем изучения огромных баз данных для формулирования ответов, которые открывают новые области исследований.

Это захватывающе и обещает принести большие выгоды, большинство из которых еще предстоит представить. Но это также вызывает беспокойство. Люди неизбежно опасаются, что ии, достаточно креативный, чтобы удивить своих создателей, может стать вредоносным. Фактически, базовые модели находятся на расстоянии световых лет от разумных роботов-убийц, любимых Голливудом. Терминаторы, как правило, сосредоточены, одержимы и слепы к более широким последствиям своих действий. Фундаментальный ии, напротив, нечеткий. Однако, ии становятся все более эффективными, и их знания вполне могут оказаться необходимыми для разработки технологии, которая ускорит переход к возобновляемым источникам энергии.

Более глубокое беспокойство вызывает вопрос о том, кто контролирует базовые модели. Обучение действительно большой системы, такой как PaLM от Google, стоит более 10 миллионов долларов в год и требует доступа к огромным объемам данных — чем больше вычислительных мощностей и чем больше данных, тем лучше. Это вызывает опасения, что технология сосредоточена в руках небольшого числа технологических компаний или правительств.

Если это так, данные обучения могут еще больше укрепить предубеждения в мире — и особенно удушающим и неприятным образом. Стали бы вы доверять десятилетнему ребенку, у которого все чувство реальности сформировалось благодаря серфингу в Интернете? Могут ли обученные в Китае и Америке ии быть привлечены к идеологической борьбе за то, чтобы подчинить умы? Что произойдет с культурами, которые плохо представлены в Интернете?

И тогда возникает вопрос о доступе. На данный момент самые большие модели ограничены, чтобы предотвратить их использование в гнусных целях, таких как создание поддельных новостей. Стартап Open ai разработал свою модель, получившую название dall-e 2, в попытке остановить ее создание изображений насилия или порнографии. Фирмы правы, опасаясь злоупотреблений, но чем мощнее эти модели, тем более ограниченный доступ к ним создает новую элиту. Саморегулирование вряд ли решит эту дилемму.

Принесите революцию

В течение многих лет говорилось, что автоматизация на базе искусственного интеллекта представляет угрозу для людей, выполняющих повторяющуюся, рутинную работу, и что художники, писатели и программисты были в большей безопасности. Фундаментальные модели бросают вызов этому предположению. Но они также показывают, как ии можно использовать в качестве вспомогательного программного обеспечения для повышения производительности. Этот машинный интеллект не похож на человеческий, но предлагает нечто совершенно иное. При правильном обращении он, скорее всего, дополнит человечество, чем узурпирует его.