В соответствии с актуальными направлениями развития технологий, искусственный интеллект (ИИ) все глубже проникает в различные аспекты нашей повседневной жизни. Одним из наиболее распространенных примеров применения ИИ являются чат-боты — специализированные программы, предназначенные для осуществления коммуникации с людьми посредством текста или голоса. Данные программные агенты оперативно обрели широкое распространение благодаря своей способности к автоматизации процессов взаимодействия с клиентами и предоставлению сервисов с незначительными временными и финансовыми издержками.
Началом применения технологий искусственного интеллекта в государственных структурах принято считать 10 октября 2019 года. В этот день был подписан указ Президента Российской Федерации, утверждающий Национальную стратегию развития искусственного интеллекта до 2030 года. Ключевая задача данной стратегии заключается в стимулировании спроса на продукты и сервисы, разработанные на основе искусственного интеллекта, на территории России. Стратегия ориентирована на широкий круг потребителей, включая граждан, коммерческие организации и правительственные учреждения.
Внедрение технологий искусственного интеллекта началось годом ранее на всеми известной правовой платформе Госуслуги. Чат-бот, именуемый “Максом” стал значимым этапом в процессе цифровой трансформации государственных сервисов и оптимизации взаимодействия граждан с государственными структурами. Благодаря чат-боту пользователи имеют возможность быстро получать сведения о требуемых документах, условиях предоставления услуг и необходимых процедурах, что существенно уменьшает временные затраты на поиск ответов на возникающие вопросы.
Совместный опрос 1287 респондентов специалистами компании «Росгосстрах жизнь» и банка ВТБ проводился в 17 регионах России в июле 2024 года. 36% опрошенных россиян хотя бы раз получали консультацию по различным вопросам через чат-ботов, работающих на базе искусственного интеллекта (ИИ). Согласно данным исследования, 28% респондентов, обращавшихся к персональному цифровому помощнику, положительно оценили опыт взаимодействия с ним, а 50% участников опроса — нейтрально. В половине случаев россияне (52%) прибегали к помощи чат-ботов в области госуслуг.
В качестве примера применения искусственного интеллекта можно привести использование чат-ботов в Министерстве здравоохранения — «minzdravbot» — и Министерстве образования — «Помощник Рособрнадзора». Эти инструменты служат для оповещения населения о внедрении новых государственных программ, принятии законодательных актов и внесении поправок в действующие нормы права. Кроме того, они предоставляют консультации по вопросам, представляющим общественный интерес.
Федеральная служба судебных приставов (ФССП) также внедрила систему поддержки на основе искусственного интеллекта. Отличившись от вышеупомянутых министерств, этого чат-бота назвали женским именем «Полина». Данный ассистент предоставляет гражданам сведения о наличии задолженностей, текущем статусе исполнительных производств и оказывает консультационную помощь по вопросам, связанным с долговыми обязательствами.
Существуют и чисто юридические чат-боты, способные генерировать документы и давать консультации по правовым вопросам. Безусловно, они могут помочь гражданам, да и профессионалам (хотя здесь вопрос: будет ли профессионал пользоваться чат-ботом?) в определенной мере, однако это создает и дополнительные риски. Например, ошибки в документах могут привести к проигрышу дела в суде, отказу в принятии иска, а также привлечении к административной или даже уголовной ответственности.
Однако цифровое государственное управление не ограничивается цифровизацией процессов оказания государственных услуг и взаимодействия с внешними бенефициарами. Ключевым этапом цифровой трансформации государственного управления является переход к управлению, основанному на данных. Необходимо уделять значительное внимание сохранению конфиденциальности и обеспечению безопасности пользовательских данных. Общество должно быть убеждено в том, что персональные сведения граждан надежно защищены от несанкционированного доступа и неправомерного использования.
Принимая во внимание всё вышесказанное, зададимся вопросом: кто же несет ответственность за деятельность и ошибки чат-бота, и кто будет за него отвечать?
Изучая данный вопрос, пришли к тому, что в данном случае возможны два варианта.
В большинстве случаев, организация, разработавшая и поддерживающая чат-бота, несет ответственность за его высказывания. Разработчик отвечает за содержание и функционирование своего продукта в рамках действующего законодательства. В случае несоблюдения установленных норм или законов, компания может быть привлечена к юридической ответственности. Анализ нормативных актов, направленных на регулирование сферы искусственного интеллекта, включая чат-ботов, позволяет выделить Федеральный закон № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации». В данном законодательном акте определены потенциальные последствия и меры ответственности для субъектов, ответственных за разработанные ими продукты.
Вполне предсказуемо, что развитие технологического прогресса повлечет за собой разработку новых законодательных актов, направленных на упорядочивание применения чат-ботов.
В то же время, в процессе внедрения и авторизации чат-ботов в качестве представителей искусственного интеллекта, и государство обязано принимать на себя ответственность за возможные результаты их функционирования. В ситуациях, когда чат-боты, задействованные в предоставлении государственных сервисов (например, в сфере здравоохранения или социального обеспечения), допускают ошибки, государственные институты должны отвечать за наступившие последствия. Данная ответственность подразумевает компенсацию причиненного вреда и принятие мер по исправлению сложившейся ситуации.
Для предупреждения неисправностей и своевременного обнаружения проблем в функционировании чат-ботов рекомендуется осуществлять ряд профилактических мероприятий.
- Контроль и мониторинг. Основной задачей является осуществление систематического наблюдения и всесторонней оценки эффективности функционирования данных программных средств. Контролирующие структуры будут отвечать за выявление и устранение возможных отклонений от установленных норм и регламентов, а также за обеспечение соответствия чат-ботов требованиям законодательства и ожиданиям пользователей. Подобный контроль позволит гарантировать высокое качество предоставляемых услуг и предотвратить возможные негативные последствия, связанные с некорректной работой автоматизированных систем.
- Обратная связь от пользователей. Для повышения эффективности чат-ботов и оперативного устранения неполадок, государственные структуры могут разрабатывать системы сбора и анализа обратной связи от пользователей. Анализ пользовательских отзывов позволит государству более точно настраивать чат-ботов под нужды населения, что в свою очередь повысит их полезность и востребованность.
- Стандарты качества. Государственные учреждения могут разрабатывать стандарты для обеспечения качества и надежности чат-ботов, включая рекомендации по использованию искусственного интеллекта и обработке информации.
Таким образом, в настоящее время чат боты активно используются в сфере государственного управления, начиная от обычного предоставления ответов на правовые вопросы и заканчивая составлением целых актов. Однако нельзя однозначно говорить о позитивном влиянии использования чат-ботов в деятельности государства, ведь помимо преимуществ, в их работе имеются и достаточно серьезные недостатки. В любом случае, кто бы не нес ответственность за ошибки, на федеральном уровне существуют нормативно-правовые акты, способствующие разрешению дел в отношении допущения искусственным интеллектом сбоев.
Предполагаем, что в недалеком будущем работа чат-ботов будет во многом усовершенствована и успешно внедрена и в остальные сферы деятельности государства.
Экспертное мнение подготовил ведущий рубрики «Вопросы права: взгляд эксперта»
кандидат юридических наук, доцент кафедры теории права и государственно-правовых дисциплин ВИУ РАНХиГС Сергей Латышев