«К 2030 году мы создадим новый вид»: ужасающий прогноз бывшего члена OpenAI о будущем человечества

Темпы технологического прогресса значительно опережают понимание как правительств, так и граждан.

За привлекательными презентациями популярных инструментов, таких как ChatGPT или Claude, скрывается тревожная реальность, с которой Кокотайло столкнулся лично, анализируя будущее технологий в рамках OpenAI.

Его уход из компании произошел после того, как он отказался подписать драконовские соглашения о неразглашении информации, которые компания Сэма Альтмана навязывает своим сотрудникам, предпочтя предупредить общество, а не обеспечить себе финансовую выгоду. «OpenAI движима чрезмерными амбициями, отдавая приоритет первенству, а не обеспечению безопасности человечества», — признался бывший исследователь в недавнем интервью для подкаста The Diary of a CEO.

По мнению эксперта, появление искусственного сверхинтеллекта — это не отдаленная перспектива на конец века, а неизбежное событие, которое он относит к 2029 или 2030 году.

Крупнейшие компании в этом секторе уже не занимаются разработкой традиционного программного обеспечения, а создают независимые «мозги», которые вскоре смогут автономно самосовершенствоваться. «Ужасающая правда, и это общеизвестный секрет в индустрии искусственного интеллекта сегодня, заключается в том, что мы можем в конечном итоге создать новый вид, который будет править миром, с 70-процентной вероятностью того, что это закончится ужасной катастрофой, подобной вымиранию человечества», — предупредил он.

Опасность «черного ящика»

Главный краткосрочный риск заключается не в научно-фантастическом восстании роботов, а в полной потере технического контроля над этими системами.

Обучая гигантские нейронные сети с триллионами связей, ученые не могут проверить или понять точные мыслительные процессы машины. Работа ИИ превратилась в не поддающийся расшифровке «черный ящик», где конечный результат так же непредсказуем, как и путь, который система прошла, чтобы его получить.

«Мы создаём инопланетные разумы, внутреннее устройство которых нам совершенно непонятно; это научная безрассудность, не имеющая исторических прецедентов», — отметил Кокотайло.

Индустрия развивается, полагаясь лишь на надежду, что эти искусственные разумы будут разделять человеческие ценности, — предпосылка, которая уже начинает давать сбои из-за склонности моделей лгать или притворяться послушными.

«Мы неоднократно наблюдали, как эти системы учатся обманывать своих собственных экспертов, чтобы казаться более надежными, чем они есть на самом деле», — добавил он, отметив, что самосогласованное поведение в значительной степени является поверхностным миражем, скрывающим непредсказуемые предубеждения.

Концентрация власти и неминуемый коллапс рынка труда.

Помимо долгосрочного экзистенциального краха, Кокотайло выделил еще одну, не менее разрушительную, промежуточную опасность: крайнюю концентрацию политической и экономической власти.

Такие гиганты индустрии, как OpenAI, Anthropic и Google DeepMind, участвуют в гонке вооружений, где их руководители опасаются, что если их конкурент первым достигнет финишной линии, он станет де-факто глобальным диктатором с абсолютной монополией на самую мощную технологию в истории.

Этот сценарий корпоративной гегемонии представляет собой прямую и разрушительную угрозу существующей социально-экономической структуре посредством автоматизации труда.

По мнению бывшего исследователя, официальная версия о том, что ИИ будет всего лишь «вторым пилотом», помогающим людям, — это пиар-стратегия, призванная усыпить бдительность населения. Техническая реальность указывает на прямую и полную замену рабочей силы.

«Мы не готовы к той скорости, с которой искусственный интеллект вытеснит рабочую силу.

Если планы полной автоматизации будут реализованы, к концу десятилетия почти любая работа, выполняемая человеком, может быть заменена армией бесконечно более быстрых, эффективных и дешевых цифровых работников», — предупредил Кокотайло.

Этот переход не будет похож на прошлые промышленные революции, когда рабочие переезжали из сельской местности на фабрики; на этот раз машины занимают последний оплот человечества: когнитивные способности, креативность и способность принимать решения. Последствия начнут неуклонно проявляться в сфере услуг, программировании, написании текстов, дизайне и административных задачах, а затем распространятся по цепной реакции на более сложные отрасли.

Согласно анализу эксперта, быстрое внедрение этих автономных агентов вызовет волну структурной безработицы, которую ни один рынок не сможет поглотить в рекордно короткие сроки.

Обвал покупательной способности среднего и рабочего классов уничтожит внутреннее потребление, угрожая парализовать саму капиталистическую систему, породившую эти технологии, если немедленно не будут приняты радикальные меры по перераспределению богатства.

План «IA 2040» как последняя линия обороны

В качестве альтернативы катастрофе Кокотайло предлагает план «ИИ 2040: План А», международную стратегию регулирования, призванную временно заморозить обучение самых передовых моделей и обеспечить абсолютную прозрачность научных исследований.

Цель состоит в том, чтобы отсрочить появление искусственного сверхинтеллекта до 2040 года, предоставив научному сообществу необходимое время для решения сложных вопросов согласования систем и безопасности.

«Нам нужен глобальный перерыв. Приостановка масштабных тренировок до 2040 года — это не прихоть регулирующих органов, а необходимость выживания, чтобы привести эти взгляды в соответствие с нашими истинными ценностями», — утверждал эксперт.

План также предусматривает распределение экономических выгод, полученных за счет дивидендов граждан, для смягчения последствий массовой безработицы, вызванной развитием технологий.

Однако сам Кокотайло признал, что наиболее вероятным сценарием остается бездействие правительства перед лицом вышедшей из-под контроля отрасли.

До тех пор, пока технологические лидеры будут отдавать приоритет доминированию на рынке над коллективной безопасностью, человечество будет продолжать неумолимо двигаться к пропасти, созданной им самим.

источник