Исследование компьютерных атак на основе методов машинного обучения

Автор: Шкерин Никита Владимирович

Исследование компьютерных атак на основе методов машинного обучения

 

1. Основные направления использования ИИ злоумышленниками:

• Автоматизация фишинга (генерация персонализированных писем)

• Создание адаптивного вредоносного ПО

• Обход систем защиты через adversarial-атаки

• Оптимизация bruteforce-атак

2. Типы ИИ-атак:

• Атаки на модели ИИ (data poisoning, evasion attacks)

• Генеративные атаки (deepfake для социальной инженерии)

• Автоматизированные DDoS с адаптивным поведением

3. Примеры из практики:

• Кейс 2023 г.: ИИ-бот для обхода CAPTCHA

• Использование GPT для создания убедительных фишинговых писем

• Adversarial-атаки на системы распознавания изображений

4. Методы защиты:

• Регулярное обновление моделей МЛ

• Использование ensemble-моделей

• Мониторинг аномальной активности

• Внедрение explainable AI для анализа решений

5. Прогнозы развития:

• Рост на 40% ИИ-атак к 2026 г.

• Появление самообучающихся вредоносов

• Увеличение атак на IoT через уязвимости ИИ-моделей