В информационно-методическом журнале «Защита информации. Инсайд», № 2 (116) март–апрель 2024 г. вышла наша новая статья
"Проблемы обеспечения безопасности нейросетей глубокого машинного обучения от бэкдор-атак"
Авторы:
Елена Владимировна Артамонова,
кандидат технических наук, член МАИТ
Александр Сергеевич Милаков
Международное научное общественное объединение «Международная академия информационных технологий»
(МНОО МАИТ)
Аннотация
Рассмотрены вопросы безопасного функционирования нейросетей глубокого машинного обучения (DNN) как сущности, являющейся одновременно и средством
обеспечения информационной безопасности, и объектом кибератак, ландшафт которых постоянно расширяется. Главным механизмом настройки DNN на решение конкретной задачи является машинное обучение (МО). В то же время, МО является угрозой и одновременно уязвимостью DNN перед атаками, связанной с внедрением программных закладок – бэкдоров. В работе приведены примеры взлома (отравления) искусственного интеллекта (ИИ) на основе DNN по ряду систем распознавания образов. Представлены математические и структурные модели взлома ИИ на этапе МО и даны рекомендации по противостоянию бэкдор-атакам на основе технологий обрезки и тонкой настройки.
Отправить статью в социальные сети, на печать, e-mail и в другие сервисы:
