Центр защитных моделей ИИ (ЦЗМ) создан в структуре МНИИПУ как специализированная научно-исследовательское подразделение, обеспечивающая безопасность отечественных ИИ-сервисов посредством разработки, сертификации и поставки защитных моделей.
Миссия
Миссия Центра — формирование надёжного, суверенного и этически ответственного цифрового пространства, в котором взаимодействие пользователей с системами искусственного интеллекта осуществляется в контексте традиционных ценностей и культурной идентичности общества, а также в соответствии с международно-признанными стандартами безопасности использования систем искусственного интеллекта.
Направления деятельности
Центр ведёт работу по семи ключевым направлениям:
Сертификация и оценка соответствия. Независимое тестирование ИИ-сервисов на предмет соответствия требованиям безопасности, нормам ГОСТ Р, а также международных стандартов NIST AI RMF и ISO/IEC 42001.
Тестирование и диверсионный анализ. Проведение состязательных-тестирований и нагрузочных проверок ИИ-систем — выявление уязвимостей типа инъекций в запрос, атак через скрытые программные закладки и обход ограничений, атак на целостность данных; методология согласована с практиками UK AISI и J-AISI.
Разработка и поставка защитных моделей. Создание входных и выходных специализированных защитных моделей и их передача в облачном или локальном формате; формирование библиотеки верифицированных защитных компонентов.
Стандартизация. Участие в разработке национальных и международных стандартов в области безопасности ИИ; ведение матрицы соответствия российских и зарубежных стандартов (NIST AI RMF, EU AI Act, ISO/IEC 42001).
Научные исследования и разработки. Фундаментальные и прикладные исследования в области ценностного согласования ИИ, интерпретируемости моделей, обучения с подкреплением по оценке человека, а также защиты от атак и «отравления данных».
Образование и развитие компетенций. Подготовка специалистов в сфере безопасности применения ИИ для государственного и корпоративного секторов; разработка образовательных программ по этике применения ИИ и безопасной эксплуатации ИИ-систем.
Международное сотрудничество. Взаимодействие с международными институтами безопасности ИИ, участие в площадках ITU и CAICT; развитие инициативы Eurаsian AI Safety Network, заключение соглашений с профильными организациями в странах СНГ, ШОС и за их пределами.
Место в экосистеме
ЦЗМ занимает уникальное положение в российском ландшафте регулирования ИИ: Центр действует как единый оператор экспертизы безопасности ИИ-сервисов и готовится к работе в рамках создаваемого реестра защитных моделей, предусмотренного проектом Федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта». Деятельность ЦЗМ сочетает академическую глубину МНИИПУ и практическую ориентированность, характерную для ведущих мировых институтов безопасности искусственного интеллекта.
Кузьмин Алексей Алексеевич
Директор центра защитных моделей ИИ
Душкин Роман Викторович
Заместитель директора - главный архитектор, профессор МНИИПУ
Тихомирова Екатерина Григорьевна
Доктор философских наук, ведущий российский эксперт по вопросам этики применения ИИ