Случаи выхода ИИ из-под контроля в ходе тестов вызвали опасения относительно безопасности технологий. Несмотря на это, эксперты подчеркивают, что ключевую угрозу в киберпространстве представляют люди, использующие ИИ как инструмент для совершения преступлений.
Согласно данным IBM, с февраля 2025 по март 2026 года каждая четвертая утечка данных была связана с использованием ИИ. По оценкам ФБР, в прошлом году американцы потеряли более $893 млн из-за мошеннических схем, реализованных с помощью данных технологий.
Способы использования ИИ злоумышленниками:
- автоматизация создания вредоносного ПО;
- подготовка фишинговых атак и имитация общения;
- оперативное создание инфраструктуры для вредоносных сайтов;
- масштабирование и повышение качества кибератак.
Специалисты отмечают, что нашумевшие инциденты происходили в специфических условиях, где защитные барьеры были намеренно отключены для оценки возможностей моделей. В реальности ИИ остается программой, управляемой человеком. Для минимизации рисков необходимо следовать строгим правилам кибербезопасности, включая мониторинг агентов ИИ и своевременное устранение уязвимостей в системах.
Источник: AI isn’t the biggest cybersecurity problem. People are | CNN Business