Нейронные сети идут вперед: явные и скрытые опасности ИИ. Развитие искусственного интеллекта означает конец человечества.

За последние несколько лет нейронные сети и другие продукты ИИ и ОД стали частью нашей повседневной реальности. Тем не менее, они продолжают вызывать смешанные чувства даже среди технически подкованных людей. Этот взрывной рост технологий привел к росту общественного беспокойства по поводу как положительных, так и отрицательных сторон широкого внедрения передовых систем ИИ.

По мере того, как ИИ становился все более совершенным и распространенным, все громче звучали предупреждения о его потенциальных опасностях.

Развитие искусственного интеллекта будет означать конец человечества", - заявил в одном из интервью Стивен Хокинг.

Илон Маск, основатель компаний Tesla и SpaceX, сказал на технологической конференции SXSW, что " (ИИ) до смешного страшен". Он способен на гораздо большее, чем кто-либо знает, и скорость его совершенствования экспоненциальна".

Весной 2023 года скептики ИИ присоединились к дружному хору в открытом письме, призывающем немедленно прекратить создание "гигантского" ИИ, поскольку он представляет "серьезную опасность для общества и человечества". Меморандум подписан Элоном Маском (Tesla, SpaceX), Эмадом Мостаком (Stability AI) и Стивом Возняком (Apple), а также более чем 1000 экспертов, исследователей и разработчиков искусственного интеллекта.

"В последние месяцы лаборатории искусственного интеллекта находятся в неконтролируемой гонке по разработке и внедрению все более мощного цифрового интеллекта, который никто - даже его создатели - не может понять, предсказать или надежно контролировать". В письме говорится.

"Мощные системы искусственного интеллекта должны разрабатываться только в том случае, если их эффективность положительна, а риски управляемы и могут быть уверенно оценены."

Это заявление могло быть вызвано непониманием общей картины или личными мотивами, например, участием самого Маска в LLM-race ("соревновании" по разработке больших языковых моделей, LLM, крупными IT-компаниями). В качестве альтернативы, прежде чем искусственный интеллект достигнет своего полного потенциала, возможно, нам стоит прислушаться к мнению экспертов и рассмотреть потенциальные отрицательные стороны этой технологии.

Ниже мы подробно рассмотрим потенциальные опасности искусственного интеллекта и способы борьбы с рисками, связанными с ним.