Власти хотят обязать маркировать созданный ИИ контент и предупреждать об общении с ботами

В стране предлагают установить единые этические правила разработки и использования искусственного интеллекта, пишет Economist. Пользователя должны предупреждать, если вместо человека с ним взаимодействует ИИ, сгенерированные или существенно изменённые тексты, изображения, аудио и видео предлагается маркировать, а государственные ИИ-сервисы должны полноценно работать на кыргызском языке. Проект положения, подготовленный Минцифры, вынесен на общественное обсуждение.

Один из базовых принципов проекта — ИИ не становится самостоятельным субъектом права. Ответственность за решения и последствия использования технологии остаётся за людьми и организациями.

В зависимости от ситуации её предлагается распределять между разработчиком, владельцем и пользователем системы. Речь в том числе идёт об ошибках алгоритма, дискриминационных результатах и причинённом ущербе. Даже способность модели к самообучению, вероятностный характер её работы или так называемые «галлюцинации» сами по себе не должны освобождать человека или организацию от ответственности.

Человек должен знать, что разговаривает с ИИ

Для чат-ботов, голосовых помощников и систем автоматизированных звонков вводится отдельный принцип прозрачности. Пользователя должны заранее уведомить, что он взаимодействует не с человеком, а с цифровым агентом. Причём сделать это предлагается до начала взаимодействия или сбора данных.

Отдельные требования предусмотрены для генеративного ИИ.

Тексты, фотографии, видео и аудиозаписи, полностью созданные либо существенно изменённые искусственным интеллектом, предлагается маркировать. Обозначение может быть визуальным, звуковым или содержаться в метаданных.

Особое внимание уделяется контенту, который способен ввести людей в заблуждение, нарушить права граждан, повлиять на избирательные процессы или создать угрозу национальной безопасности. Скрывать применение ИИ в подобных случаях проект не позволяет.

Это означает, что правила потенциально затронут не только разработчиков крупных ИИ-систем, но и организации, СМИ, цифровые сервисы и других пользователей генеративных инструментов. Однако конкретный механизм контроля за маркировкой и санкции за её отсутствие ещё предстоит оценивать исходя из окончательной редакции регулирования.

Государственный ИИ должен понимать кыргызский

Один из наиболее заметных для Кыргызстана разделов касается государственного языка.

ИИ-системы, используемые для государственных и муниципальных услуг, информирования населения, а также в образовании, здравоохранении и публичной инфраструктуре, должны обеспечивать интерфейс и корректное взаимодействие на кыргызском языке наравне с официальным.

Для языковых и мультимодальных моделей рекомендуется использовать репрезентативные кыргызскоязычные данные и не допускать систематического искажения языковых и культурных норм.

Эта часть проекта продолжает политику, которую Кыргызстан начал задолго до нынешнего документа.

Ещё в 2022 году кабмин выделил средства на покупку суперкомпьютера NVIDIA производительностью около 1 петафлопса. Его мощности предполагалось использовать в том числе для развития технологий обработки кыргызского языка — преобразования речи в текст и обратно, анализа и генерации текстов.

В 2024 году власти поручили Минцифры вместе с IT-специалистами активизировать создание ИИ-приложений на кыргызском языке. В 2025 году развитие государственного языка также вошло в повестку созданного Национального совета по вопросам искусственного интеллекта.

Таким образом, нынешний проект впервые пытается перевести эту политику из отдельных технологических инициатив в общие этические требования к применению ИИ.

ИИ предлагают проверять до запуска

Для части систем предусмотрена предварительная оценка этичности и безопасности. Она должна проводиться перед запуском, а также после существенной модернизации.

Для ИИ, который закупают, внедряют или эксплуатируют государственные органы и органы местного самоуправления, такая оценка должна стать обязательной. То же требование предусмотрено для систем повышенной опасности. Для обычных решений частного сектора проверка в основном останется рекомендательной.

Результатом проверки станет Декларация об этике ИИ. В ней предполагается фиксировать риски нарушения прав человека, степень автономности алгоритма, наличие человеческого контроля и меры по снижению потенциального вреда.

Проект также требует бороться с алгоритмической дискриминацией. Разработчикам предлагается проверять модели на предвзятость по полу, расе, языку, этнической принадлежности, инвалидности, возрасту, религии, убеждениям, социальному и имущественному положению.

Для юридически значимых и критических решений ключевой контроль рекомендуется сохранять за человеком.

Отдельно хотят защищать историческую память

Необычная для регулирования ИИ часть кыргызстанского проекта касается исторических и культурных деятелей. При разработке и использовании систем предлагается не допускать генерации заведомо недостоверного контента, порочащего честь, достоинство или деловую репутацию исторических, государственных и культурных деятелей Кыргызстана либо умаляющего их исторические заслуги.

Для генеративного ИИ предлагается использовать контекстные фильтры и технические ограничения, направленные на предотвращение искажения исторических фактов и ущерба национальной памяти. При этом положение не планируют распространять на все государственные ИИ-системы. Из его действия выводятся технологии, используемые для обороны, национальной безопасности, охраны правопорядка и оперативно-розыскной деятельности.

И это принципиальное ограничение будущего документа: наиболее чувствительные силовые сферы будут регулироваться за пределами предлагаемого положения об этике.

Кроме того, документ пока остаётся проектом, вынесенным на общественное обсуждение. Следовательно, перечисленные требования ещё нельзя подавать как уже действующие обязанности разработчиков и пользователей ИИ.