«ИИ и кибератаки: может ли искусственный интеллект действовать без команды человека — мнение эксперта»

фото сгенерировано нейросетью
Искусственный интеллект пока не умеет запускать кибератаки полностью самостоятельно — для начала атаки всё равно требуется исходная команда от человека. Об этом в интервью РИА Новости рассказала Анна Кулашова, вице‑президент «Лаборатории Касперского» по развитию бизнеса в России и странах СНГ.
Выступая на Ташкентском финтех‑форуме, Кулашова пояснила, что, хотя случаи проведения атак с участием ИИ уже фиксировались, у любой такой операции должен быть изначальный вектор. «То есть откуда‑то должна пойти первая команда — „иди и что‑то сделай“», — подчеркнула эксперт.
В качестве примера она напомнила о сообщении компании OpenAI (разработчика чат‑бота ChatGPT) за июль: тогда стало известно, что модели компании смогли автономно взломать инфраструктуру платформы по машинному обучению Hugging Face. По словам Кулашовой, это демонстрирует развитие агентного ИИ по сравнению с более ранними генеративными моделями. При этом, как отметила вице‑президент, способности ИИ самостоятельно порождать принципиально новый смысл пока не наблюдается: «В живой природе такого мы не видели».
Вместе с тем инструменты на базе ИИ уже помогают специалистам выявлять действия автономных агентов и контролировать их поведение. Так, в решениях класса EDR можно настроить правила обнаружения и реагирования, чтобы отслеживать, выходит ли агент за рамки поставленной задачи.
Для наглядности Кулашова провела аналогию с подрядчиком: «Вы его наняли на работу, поручили ему что‑то делать. Он, может быть, не очень сообразительный, но очень упорный и прямолинейно воспринимает задачу — и идёт выполнять её любой ценой, если вы не задали ему чёткие границы параметров. Как только мы начинаем относиться к ИИ именно так, всё становится немного проще».
Источник:https://dzen.ru/a/avqP6M3gh2vpmasS
Привет! Очень ценю ваши ответы и мысли — они для меня по-настоящему важны.
Буду рада, если поддержите — лайком или комментарием!🥰