ИИ устроил аварию на Amazon: шесть часов простоя и удалённые серверы

Amazon столкнулась с серьёзной проблемой которую сама же и создала: инструменты на основе искусственного интеллекта, которые компания активно внедряет для автоматизации разработки, вызвали крупные сбои в работе основного бизнеса. На экстренном совещании с инженерами руководство признало — ИИ-код стал причиной катастрофических последствий. Крупнейший инцидент: почти шестичасовой сбой, который полностью отключил сайт и приложение Amazon для шопинга. Кроме того, два отдельных сбоя в инфраструктуре AWS были вызваны тем, что внутренний ИИ-инструмент для написания кода принял деструктивные решения — включая полное удаление и пересоздание целой серверной среды. В компании назвали произошедшее последствиями «GenAI-ассистированных изменений с высоким радиусом поражения» и признали что «лучшие практики и защитные механизмы для такого использования ИИ ещё не выработаны». Реакция Amazon выглядит противоречиво. С одной стороны, компания ввела новые правила: младшие и средние разработчики теперь обязаны получать одобрение старших коллег перед применением ИИ-ассистированных изменений. С другой — Amazon не только не сократила использование ИИ, но и поставила цель: 80% разработчиков должны использовать ИИ-инструменты еженедельно. Одновременно компания провела сокращения сотен сотрудников AWS и планирует уволить до 30 000 корпоративных работников в целом. История Amazon — показательный пример того, с чем столкнутся многие крупные компании в ближайшие годы. Автоматизация с помощью ИИ обещает экономию, но несёт новые риски. ИИ не понимает последствий своих действий — он оптимизирует задачу не думая о том, что удаление сервера может обрушить бизнес на шесть часов. Источник: https://futurism.com/artificial-intelligence/amazon-ai-tools-business Фото: https://futurism.com/artificial-intelligence/amazon-ai-tools-business