12 августа 2025 г.
Лидером Рабочей группы № 2 по тестированию технологий искусственного интеллекта Консорциума исследований безопасности технологий искусственного интеллекта стал Старший управляющий директор ГК Swordfish Security Антон Башарин. Задача команды экспертов — ответить на ключевые вопросы, касающиеся безопасности применения ИИ в государственных информационных системах.
В числе приоритетных направлений рабочей группы на ближайшие месяцы — создание методики аудита систем с участием ИИ для определения уровня их безопасности. Полученную методику будут использовать для ранжирования моделей ИИ по степени защищенности и оценки доверия к ним. Первые результаты рабочая группа рассчитывает получить уже осенью.
«Большие языковые модели уже активно внедряют в бизнес, и „дивный новый мир“ с участием искусственного интеллекта уже наступил, мы учимся в нем эффективно работать. Один из ключевых вопросов, на который нам предстоит ответить — можно или нельзя использовать модели вроде ChatGPT, DeepSeek или GigaChat в различных государственных информационных системах, и какие меры предосторожности необходимо неукоснительно соблюдать. Так, мы организуем своего рода испытательный полигон и разработаем специальное ПО для проведения испытаний технологий ИИ в различных сферах», — рассказал Антон Башарин.
«Участие в Консорциуме представителей вендоров и интеграторов в области кибербезопасности позволяет подойти к защищенности процессов, в которых применяют ИИ, комплексно. Практический опыт здесь особенно важен. Сообща мы вырабатываем общие требования к языковым моделям, методики их аудита на протяжении всего их жизненного цикла, основные метрики безопасности, чтобы на основе этого разработать единую национальную стратегию по искусственному интеллекту», — отметил генеральный директор АНО «НТЦ ЦК» Игорь Федорович Качалин
Источник: Пресс-служба ГК Swordfish Security
