Американское министерство внутренней безопасности (Department of Homeland Security, DHS) опубликовало в четверг руководство по внедрению технологий искусственного интеллекта (ИИ) на объектах критической инфраструктуры

Руководство не обязательно к использованию, его цель — повысить качество предоставления критически важных услуг, а также открытость и доверие организаций друг к другу, защитить гражданские права и свободы.

DHS выделило три основные категории ИИ-уязвимостей критической инфраструктуры в области безопасности и защищённости:

• атаки с использованием ИИ;
• атаки, нацеленные на ИИ-системы;
• ошибки при разработке и внедрении ИИ-систем.

Для решения связанных с этими уязвимостями проблем руководство содержит рекомендации каждому из ключевых участников процесса создания и использования ИИ-систем.

Так, поставщикам облачной и вычислительной инфраструктуры предлагается отслеживать «аномальную активность» и предусмотреть возможность для доклада о подозрительной и вредоносной деятельности.

Разработчикам ИИ рекомендовано придерживаться принципа обеспечения безопасности на стадии проектирования (Security by design), анализировать опасные возможности ИИ-моделей, обеспечить соответствие ИИ-продуктов человекоцентричным ценностям (что бы это ни значило – ред.).

Операторам и владельцам критически важной инфраструктуры DHS советует сконцентрироваться на вопросе внедрения ИИ-систем, защите данных клиентов при настройке ИИ-продуктов. Представителям гражданского общества – продолжить участие в разработке стандартов вместе с правительством и индустрией.

Государству, указано в документе, следует продолжить сотрудничество между федеральным правительством и иностранными партнёрами для защиты «всех граждан в мире», а также для совместной работы на всех уровнях правительства для финансирования и поддержки мер, способствующих прогрессу в фундаментальных исследованиях в сфере защищённости и безопасности ИИ.

См. также: Министерство внутренней безопасности США опубликовало первую «дорожную карту» применения ИИ >>>