Внедряемые в госсекторе и стратегических отраслях (энергетика, транспорт, финансы) системы ИИ представляют собой «чёрные ящики». Непрозрачность их устройства несёт национальные риски:
1. Угроза безопасности. В алгоритмах или их обучающих данных могут быть умышленно или случайно заложены уязвимости, «закладки» или логические ошибки, способные в критический момент парализовать работу систем.
2. Зависимость от иностранного кода. Использование иностранных моделей и фреймворков с закрытым кодом ставит под угрозу технологический суверенитет и делает страну уязвимой для внешнего давления.
3. Несоответствие стандартам. Без проверки невозможно гарантировать, что алгоритм работает в соответствии с национальными законами, этическими нормами и не нарушает права граждан.
Практический результат
1. Гарантия национальной безопасности. Минимизация рисков саботажа, шпионажа или аварий, вызванных скрытыми дефектами в алгоритмах.
2. Стимул для отечественных разработчиков. Формирование приоритетного рынка для прозрачных, проверяемых российских ИИ-решений.
3. Доверие общества. Граждане и бизнес получат уверенность, что ключевые автоматизированные системы прошли независимую государственную проверку.
1. Установить правовой режим. Принять закон, обязывающий проводить обязательную сертификацию в аккредитованном государственном центре (например, в предлагаемом Федеральном центре компетенций по ИИ) для всех систем ИИ, внедряемых:
- в органах государственной и муниципальной власти;
- в организациях критической информационной инфраструктуры (КИИ);
- в системах, принимающих автоматические решения о правах и обязанностях граждан.
2. Ввести процедуру контроля. Сертификация должна включать экспертизу архитектуры, исходного кода (где это возможно), обучающих данных на предмет уязвимостей, скрытых функций и соответствия заявленным возможностям.
3. Создать реестр. Вести единый государственный реестр сертифицированных отечественных ИИ-решений, рекомендуемых к использованию в госсекторе.
Для голосования вы должны быть
.
Внимание! Отозвать голос можно только один раз в течение 2 часов с момента голосования
Для рассмотрения решения на федеральном уровне осталось 99 998 голосов
Против решения: 0 голосов