Госорганы и компании всё чаще используют системы ИИ для подготовки решений (например, о назначении выплат, оценке рисков, распределении бюджетов). Возникает опасная практика: ответственное лицо не анализирует вывод алгоритма, а лишь формально его утверждает. Это приводит к:
1. Профанации управления. Решения принимаются без понимания их причин и возможных последствий, снижается профессиональный уровень госслужащих.
2. Псевдолегитимности. Гражданам отказывают или назначают выплаты по непонятным алгоритмическим критериям, которые нельзя оспорить по существу.
3. Сокрытию ошибок и предвзятости. Невозможно выявить ошибку в данных или логике ИИ, если лицо, принявшее решение, само её не анализировало.
Практический результат
1. Повышение качества и прозрачности решений. Чиновники и управленцы будут вынуждены вникать в суть, а не слепо доверять алгоритму.
2. Усиление контроля общества. Граждане получат право знать, «кто» (человек или машина) был основным источником решения, и требовать человеческого объяснения.
3. Снижение рисков. Это создаст дополнительный барьер для принятия необдуманных или предвзятых решений, сгенерированных ИИ на основе некачественных данных.
Принять федеральный закон, который обяжет государственные органы, муниципалитеты и компании-монополисты в социальной сфере:
1. Публично декларировать использование конкретных систем ИИ для подготовки решений, затрагивающих права и обязанности граждан.
2. Включать в итоговое решение (приказ, справку, ответ) обязательную письменную отметку о том, использовался ли ИИ в качестве источника аналитики.
3. Закрепить норму, что должностное лицо, подписывающее решение, обязано предоставить краткое человеческое обоснование ключевых выводов, даже если они основаны на данных ИИ. Это обоснование должно отражать его собственную оценку.
4. Установить, что отсутствие такого обоснования или его формальность может стать основанием для отмены решения и дисциплинарной ответственности.
Для голосования вы должны быть
.
Внимание! Отозвать голос можно только один раз в течение 2 часов с момента голосования
Для рассмотрения решения на федеральном уровне осталось 99 998 голосов
Против решения: 0 голосов