Поделиться
Компании обяжут информировать клиентов о том, что им звонит или пишет бот
Рабочая группа Госдумы внесла в законопроект о регулировании ИИ положение, обязывающее компании предупреждать клиента, что с ним общается бот или нейросеть, чтобы минимизировать возникающие, как считают депутаты, риски нарушения прав граждан.
Регулирование ИИ
Российские компании и госструктуры при использовании искусственного интеллекта (ИИ) в общении с гражданами по телефону или через интернет должны будут указывать, что клиент общается не с реальным человеком. Такое положение содержит законопроект «О регулировании систем искусственного интеллекта», подготовленный в Госдуме рабочей группой, состоящей из депутатов, представителей бизнеса и деловых ассоциаций, пишут «Известия».
Клиенту должна быть предоставлена возможность выбрать общение с оператором. Если взаимодействие осуществляется через чат-бота в интернете, должно быть указание на автоматизированный характер формирования ответов и сообщений, говорится в документе. Должен быть также указан порядок направления претензий и обращений в организацию, применяющую ИИ.
Представители Минцифры сказали изданию, что только планируют подключиться к обсуждению проекта закона и добавили, что «любая технология должна применяться исключительно с соблюдением прав и интересов граждан».
Зачем нужны предупреждения
Пользователь должен понимать, когда он получает автоматизированный ответ, чтобы адекватно оценивать его значимость, точность и возможные ограничения. Кроме того, наличие функции переключения на живого специалиста по запросу усиливает контроль со стороны клиента и снижает риск недопонимания, прокомментировал член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин.
Это особенно актуально в борьбе с мошенниками, которые могут действовать под видом ИИ, подчеркнул он, информирование поможет минимизировать риски манипуляций, особенно в чувствительных сферах, например, при финансовом консультировании, обслуживании уязвимых категорий граждан или предоставлении медицинской информации.
Сейчас, как правило, человек довольно быстро распознает, что общается с роботом, считает директор Института исследований интернета Карен Казарян. Другое дело — переписка в интернете. Можно сутками «стучаться» в чат-бот на базе ИИ и не понимать, что это робот, который не может реагировать на нестандартные ситуации и решать специфические проблемы, объяснил эксперт.
Злоупотребления использованием ИИ
Компании все чаще стали подключать нейросети в систему поддержки пользователей, чтобы сэкономить на операторах, полагает гендиректор группы компаний ST IT, эксперт рынка TechNet НТИ Антон Аверьянов.
Однако, общение с голосовыми ботами, имеющими ограниченный функционал, может вести к нарушению прав потребителя. Проблема может возникнуть, когда нужно оперативное решение вопроса, например, в случаях с кредитными организациями, когда человек может стать жертвой мошенников и у него возникнет необходимость блокировки платежных средств, ограничения доступа в личный кабинет или запрета на совершение определенных действий, пояснила председатель коллегии адвокатов «Сулим и партнеры» Ольга Сулим.
По мнению Сулим, больше всего злоупортебляют ИИ при взаимодействии с клиентами банки, маркетплейсы, операторы связи: «В ряде случаев они вовсе отказываются от колл-центров и переводят все общение с клиентами на голосовых помощников (ботов)».
В апреле 2024 г. CNews приводил заявление К. Критивасана (K. Krithivasan), руководителя транснациональной ИТ-компании из Индии TCS. Критивасан был твердо уверен, что год — это предельный срок для тотальной цифровизации если не всех, то подавляющего большинства колл-центров — операторов заменит искусственный интеллект.
Впрочем, представители российских операторов связи, ритейлеров и маркетплейсов сказали тогда CNews, что не планирует отказываться от операторов центров дистанционного сервиса в пользу ИИ, в том числе из-за негативного влияния на удовлетворенность покупателей.
Короткая ссылка
