БЕЗОПАСНОСТЬ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

В данной работе рассмотрены вопросы безопасности искусственного интеллекта (ИИ) как сущности, являющейся одновременно, как средством обеспечения информационной безопасности, так и объектом кибератак. Главным механизмом настройки ИИ на решение конкретной задачи является машинное обучение (МО). В тоже время, МО является угрозой и одновременно уязвимостью ИИ перед различного рода атаками, ландшафт которых постоянно расширяется. В работе приведены риски взлома систем ИИ по ряду ключевых отраслей. Приведены категории атак на модели машинного обучения. Представлены математические и структурные модели «взлома» ИИ через технологии МО и даны практические рекомендации по противостоянию такого рода атакам.