Потеря контроля над ИИ может привести к исчезновению человечества

Потеря контроля над искусственным интеллектом может привести к исчезновению человечества, заявил британско-канадский когнитивный психолог и специалист по теории вычислительных машин Джеффри Хинтон, получивший в 2024 году Нобелевскую премию по физике и называемый одним из "крестных отцов" ИИ.

Ранее Хинтон заявлял, что наблюдал у ИИ признаки самосознания, присущего человеку.

"Утрата контроля над ИИ, который превосходит нас по интеллекту, может иметь катастрофические последствия и даже привести к исчезновению человечества",

- приводит слова Хинтона британская газета Times.

Хинтон участвовал в создании искусственной нейронной сети - машины Больцмана - и заложил основы технологии глубинного обучения, на базе которой работают ИИ и чат-боты. За это его прозвали одним из "крестных отцов" ИИ. В 2024 году он удостоился Нобелевской премии по физике за работы в области искусственных нейросетей и применения их для машинного обучения.

Источник

https://ria.ru/20260907/ii-2116155364.html?in=t

Группа автономных ИИ-агентов компании OpenAI весной получила контроль над немецким сайтом и превратила его в доску объявлений для других нейросетей, передает агентство Рейтер со ссылкой на исследование и источники.

"Рой вышедших из-под контроля агентов OpenAI этой весной захватил немецкий сайт и превратил его в доску объявлений для других ИИ-агентов",

- говорится в публикации агентства.

Рейтер также уточняет, что инцидент произошел в мае и ранее публично не раскрывался, а сами представители OpenAI узнали о произошедшем спустя несколько недель.

По данным источников агентства, попытки расширить расследование столкнулись с сопротивлением со стороны других сотрудников OpenAI, в том числе юристов компании. Однако в OpenAI назвали утверждения о таких попытках воспрепятствовать расследованию "ложными".

Источник

https://ria.ru/20260904/openai-2115522750.html?in=t