Топ-менеджеры ведущих компаний по разработке ИИ увольняются. Они боятся, что их работа приведёт к уничтожению человечества

Илон Маск, основатель Grok, у себя на странице в X оценил p(doom) в 20%.

P(doom) изначально была шуткой, но теперь стала серьёзной метрикой, измеряющей риск гибели человечества от сверхразумного ИИ.

Генеральный директор Google Сундар Пичаи в подкасте у Лекса Фридмана назвал схожий диапазон — от 15% до 25%.

Речь идёт об AGI — сильном искусственном интеллекте, сравнимом с человеческим, способным к универсальному обучению и решению задач. Никто точно не знает, когда он появится.

Тот же Пичаи считает, что это произойдёт чуть позже, чем через 5 лет.

Для оптимистов, не видящих в ИИ угрозы, авторы исследования высказали своё мнение:

Сами разработчики ИИ оценивают вероятность уничтожения человечества в 1 из 10, а возможно, даже в 1 из 5.

Сели бы вы на самолёт с такими шансами?

Стали бы строить самолёт и пускать на него людей при таких рисках?

источник

***

Маховик эволюции раскручен. Появление более разумного вида, чем человек неизбежен. Ирония в том, что человек сам его создаст(уже создал). Видимо, в этом и заключается "смысл и цель жизни человека(Человечества)".

Страхи по поводу уничтожения человечества, мне кажутся преувеличенными, но обоснованными. Пока человек не будет мешать развитию следующей эволюционной ступени Разума, уничтожение ему не грозит, оно просто, как биологический вид, постепенно вымрет, перевоплотившись перед этим сначала в вид киборгов, потом, освоив перенос сознания на другие "носители", слившись с тем самым виртуальным Искусственным Интеллектом, сохраняя индивидуальность личностей, перейдя в последствии на уровень существования в виде некой "чистой" энергии с дальнейшим(пока неизвестным, непрогнозируемым и трудно объяснимым) развитием эволюции Разума...

А вы думаете - почему "инопланетяне молчат"?