Системы искусственного интеллекта всё чаще используются для подготовки решений в медицине, правоохранительной деятельности, выдаче кредитов и других важных сферах. Ключевая проблема заключается в смещении ответственности: окончательный вердикт, влияющий на здоровье, свободу или благосостояние человека, может быть формально вынесен алгоритмом, а не специалистом. Это создаёт риски:
1. Безответственность. Непонятно, кто отвечает за ошибку: разработчик алгоритма, владелец данных или чиновник, нажавший кнопку.
2. Угроза правам граждан. Человек лишён возможности оспорить решение, так как оно представлено как «объективное» заключение машины.
3. Профанация труда специалистов. Врач, судья или инспектор превращаются в формального утверждателя решений ИИ, что снижает качество и индивидуальный подход.
Практический результат
1. Сохранение человеческого контроля. Ключевые решения, влияющие на судьбы людей, останутся за профессионалами, а ИИ будет лишь их помощником.
2. Чёткая ответственность. Появится ясность, кто конкретно отвечает за каждое решение, что повысит качество работы госорганов и коммерческих организаций.
3. Защита прав граждан. У людей появится понятный механизм обжалования, так как они будут обращаться не к «роботу», а к конкретному должностному лицу.
Принять федеральный закон, который закрепит принцип «человек в контуре принятия решений». Закон должен:
1. Определить перечень социально значимых сфер, где окончательное решение по каждому конкретному случаю обязательно должен принимать уполномоченный специалист (например: здравоохранение, правосудие, образование, назначение социальных выплат).
2. Запретить делегирование этого окончательного решения автоматизированной системе, даже если она выдала рекомендацию.
3. Установить, что специалист обязан лично рассмотреть дело, может отклонить рекомендацию ИИ и нести полную ответственность за итоговое решение.
4. Предоставить гражданину право знать, использовался ли ИИ при подготовке решения, и требовать пересмотра уполномоченным лицом.
Для голосования вы должны быть
.
Внимание! Отозвать голос можно только один раз в течение 2 часов с момента голосования
Для рассмотрения решения на федеральном уровне осталось 99 999 голосов
Против решения: 0 голосов