Опубликовать инициативу
Всего
инициатив:

Инициатива №
78Ф89462
Уровень инициативы:
Федеральный

Ввести ограничения на поведение систем искусственного интеллекта (роботов) в процессе взаимодействия с человеком

В настоящее время в процесс предоставления информационных услуг все больше внедряются роботизированные системы, основанные на искусственном интеллекте. При этом взаимодествие с пользователем осуществляется посредством телефона или интернет-чата, когда пользоватлеь не может прямо идентифицировать того, кто ему отвечает. Такая идентификация оказается возможной лишь по косвенным признакам, а именно: по характеру вопросов и ответов. С развитием технологий искусственного интеллекта такая идентификация становится все более затруднительной.
При этом возникает ряд этических проблем, которые требуют немедленного разрешения:
1. Человек, взаимодействующий с такой системой, вводится в заблужение, поскольку не может правильно идентифицировать с кем он разговаривает.
2. Человек и "машина" не должны разговаривать на равных. Любая, даже самая совершенная программа – это всего лишь нескоторый инструмент, основное назначение которого помогать человеку, а не быть ему равным.
Роботы не должны называться человеческими именами. Имя человека несет в себе определенный смысл, часто сакральный. Присвоение роботам человеческих имен, обесценивает значение имен, и ставит роботов на один уровень с человеком, что категорически недопустимо. Сначала мы потеряем свои имена, а потом они будут командовать нами.
Поэтому в начале взаимодействия с ними человека робот всегда должен явно идентифицировать себя как некоторую искусственную систему: "программа", "автоматическая система", "робот". Например: "Вам отвечает автоматическая система … банка".
Кроме того, человек должен всегда иметь право, отказаться от взимодействия с роботом и переключиться на общение с человеком, без ухудшения качества оказания услуг и увеличения времени ожидания.

Практический результат

Восстановление прав потребителей в области оказания информационных услуг.

Решение

Необходимо законодательно ввести следующие ограничения на поведение интерактивный автоматических систем:
1. Ввести запрет на присвоение искусственным системам человеческих имен.
2. В начале взаимодействия человека с любыми интерактивными автоматическими системами, такая система всегда должна явно идентифицировать себя как искусственную систему, например: "программа", "автоматическая система", "робот".
3. Человеку, взаимодействющему с интерактивной автоматической системой, должно быть предоставлено право переключения на человека-оператора без ухудшения качества оказываемых услуг.
Для голосования вы должны быть .

Внимание! Отозвать голос можно только один раз в течение 2 часов с момента голосования

Для рассмотрения решения на федеральном уровне осталось 99 360 голосов

640

Против решения: 58 голосов

К началу списка инициатив