Что делать, чтобы искусственный интеллект не сделал чиновников симулянтами?

– Екатерина Васильевна, проект Цифрового кодекса представлен. Расскажите об истории его создания.

– В своем Послании глава государства обратил внимание на необходимость создания единого нормативного акта, регулирующего цифровую сферу, определиться с основными принципами и подходами такого регулирования. По мнению отраслевого министерства, именно кодекс должен был стать таким документом. Идея разработки кодекса была принята неоднозначно. Во многом это было связано с тем, что примеров действующих цифровых кодексов нет ни в одной юрисдикции мира. Наиболее проработаны единые подходы в регулировании цифрового развития в европейских странах, хотя речь идет не о кодексах. Разработки ведутся в России (анонсируют проект летом 2025 года), Узбекистане и Азербайджане. Наиболее далеко в этом вопросе продвинулся Кыргызстан (в парламенте проект закона прошел первое чтение), но и там все не так просто. Сказать по правде, я тоже не была сторонником спешки в этом вопросе.

Однако разработка кодекса все же началась в 2022 году, после того как министерством было официально объявлено о планах по его созданию. В ноябре 2023 года был опубликован Консультативный документ регуляторной политики к проекту. Затем появился и первый проект, который представлял собой сборник действующих на тот момент «цифровых» законов. Поскольку постановки задачи не было, то в результате это получился не совсем кодекс, это был консолидированный закон. Такой формат организации нормативно-правовых актов используется во многих юрисдикциях мира. Получалось, что одномоментно на утрату ставились все действующие законы и весь массив регуляторных инст­рументов (разного качества и большого количества) поднимался на уровень кодекса. Такой подход не устраивал большую часть экспертного сообщества, да и для отрасли был достаточно сложным.

^{фото пресс-службы Мажилиса}

Тогда регулятором было принято решение, что запускать в работу такой документ нельзя. Вернулись к первоначальному вопросу: каким все-таки должен быть Цифровой кодекс? Дискуссии не прекращались на разных площадках. А весной 2024 года уже в рамках депутатской инициативы мы предложили подойти к подготовке документа с другой стороны. Учитывая отдельные фрагменты международного опыта и в целом истории разработки кодексов, решили разделить работу над кодексом на несколько этапов и принимать документ частями.

Проект общей и пока единственной части Цифрового кодекса был представлен на открытой экспертной площадке Мажилиса в октябре 2024 года. Поскольку сам документ касается цифровой сферы, подходы к работе над ним мы также взяли из профессиональной среды. С 21 октября проект размещен на международном ресурсе GitHub на трех языках. Он предназначен для совместной работы над кодами программного обеспечения в так называемом формате «открытого кода». В таком подходе срабатывает принцип «одна голова хорошо, а тысячи лучше». Только в нашем случае речь идет не о программном коде, а о тексте закона. Ресурс позволяет увидеть и по возможности учесть каждый комментарий и каждое дополнение, хранит историю изменений. «Открытый код» полностью соответствует сегодняшней политике Парламента по открытости и максимальным коммуникациям с экспертным сообществом. Это первый опыт. Думаю, что в будущем такой механизм может стать эффективным при работе над проектами законов. Причем как на стадии обсуждения, так и в последующем на всех этапах правоприменения. Это позволит своевременно реагировать на регуляторные «баги» (ошибки) и делать законы более качест­венными.

– Вы отметили, что этот кодекс о границах для «цифры» и о том, как далеко мы готовы зайти в правах человека. И как далеко мы готовы зайти в правах человека в этой сфере?

– Уже сегодня можно назвать те базовые права человека, которые нарушаются с приходом «цифры».

Первое – это право на неприкосновенность частной жизни. За последние годы мы приняли три пакета поправок по совершенствованию правовой защиты персональных данных наших граждан. И продолжаем работу над этим непрерывно. Однако их сбор и использование все еще происходят избыточно, без полной прозрачности. Для исполнения норм законов нужно усиливать их администрирование. Ведь количество субъектов персональных данных и информационных систем, требующих защиты, растет в геомет­рической прогрессии.

В проекте кодекса мы попытались ответить на ряд запросов по уточнению определения персональных данных, особенностям идентификации личности в цифровой среде. В том числе в особую категорию персональных данных были выделены биометрические данные. Обязательное использование последних в случае принятия кодекса будет устанавливаться только законами РК и проходить через государственную систему биометрической идентификации.

В проекте также отражено право человека на забвение – относительно новая категория для цифрового мира, предполагающая, что по требованию пользователя цифровой объект должен удалить информацию о нем. Однако соблю­дение этого права возможно далеко не всегда.

Второе – это свобода выражения мнений и право на доступ к информации. При видимом расширении каналов коммуникации цифровое пространство обладает несоизмеримо более мощными инструментами модерации (цензуры) контента, чем реальное. Причем линейка инструментов достаточно богата – от удаления до обесценивания.

Что касается доступа к информации, то это тоже весьма спорная «плюшка» цифрового мира. Доступ-то есть, но вот только к тому, что подберет для нас автоматизированный фильтр. Отчасти эти моменты депутаты отрегулировали в рамках закона об онлайн-платформах и онлайн-рекламе. Но администрировать регулирование все равно крайне сложно.

С постепенным внедрением в нашу жизнь ИИ растут отраслевые осложнения при использовании новых технологий. ИИ активно нарушает право на недискриминацию, иногда даже не специально. Он просто обучается на некачественных данных, а после делает выводы.

Уже есть примеры нарушения права на труд и справедливое судебное разбирательство. Это когда работника заменяют машиной, используют скоринговые модели для оценки персонала, на основании чего отказывают в трудоустройстве.

Есть и сопутствующие вопросы. Например, проблема цифрового неравенства на фоне отсутствия доступа к Интернету. Эта проблема порождает ограничение прав на образование и иные базовые потребности человека. Выглядит, конечно, пессимистично. Однако нужно признать, что права человека нарушались во все времена. Обеспечить защиту этих прав хотя бы на том уровне, какой был возможен в мире без «цифры», скорее всего, не получится. Но пытаться нужно...

И конечно, нам всем предстоит работать над новой цифровой и правовой культурой отношений.

– Хочу поговорить об искусственном интеллекте. О том, как далеко он может всех нас завести. Предполагаю, что сегодня нужны некие этические нормы использования ИИ. Ваше мнение, как мы сегодня должны обезопасить себя от дест­руктивных возможностей ИИ и усилить его позитивную роль?

– Начну с последнего вопроса. Сегодня, чтобы усилить позитивную роль ИИ, нужно создать условия для его развития. Это кад­ры, среда, меры поддержки, инфраструктура. Причем последнее требует серьезных инвестиций, которые не под силу не то что стартаперу, но и крупному бизнесмену. В странах-разработчиках государственные и частные инвестиции в развитие ИИ превышают стоимость космических программ. Даже для относительно простых моделей нужны серьезные условия. Сегодня в Казахстане они создаются на базе научно-исследовательских организаций, Министерства цифрового развития. Глава государства уделяет этому вопросу особое внимание во всех стратегических документах. Благодаря этому готовность нашей страны к внедрению ИИ внесена международным рейтингом МВФ в топ-50 (наиболее подготовленными являются Сингапур, Дания и США).

Очень важное направление, которое сегодня поддерживается на государственном уровне, – это LLM-модель, обу­ченная на казахском языке. Ее создание требует больших инвестиций и вычис­лительных мощностей. Но развитие такой модели в будущем позволит нам создавать свои собственные решения в области ИИ, не полагаясь исключительно на зарубежные разработки, обеспечит развитие и использование государственного языка в цифровом мире, повысит качество общения и образования.

Наша задача как законодателей – сформировать адекватную регуляторную среду для развития технологии. Соответствующий законопроект уже разработан депутатами, прошел межведомственную комиссию, ожидаем его в Парламенте. Вот в регуляторном акте нам и предстоит соблюсти баланс между ростом и безопас­ностью. Пока мы ведем речь о базовых нормативах разработки и внедрения ИИ. Это маркировка контента, учет решений, связанных с государственными системами, а также работающих в сфере здравоохранения. Ведь речь в последнем случае идет о жизни и здоровье человека.

Однако новые вызовы в области нарушений интеллектуального права, мошенничество с помощью дипфейков, использование дискриминационных алгоритмов в отношении человека говорят о том, что проект предстоит серьезно доработать.

– Очевидно повсеместное введение ИИ в систему государственного управления. Воп­рос: если судить по исполнительской дисциплине, порой складывается ощущение, что чиновники не всегда понимают реалии, а может, не хотят. Не приведет ли ИИ к их полной оторванности от реалий, склонности к симуляции, что тоже, к сожалению, свойственно госаппарату?

– Здесь, мне кажется, дело не в исполнительской дисциплине. Современные модели ИИ, безус­ловно, обладают серьез­ными компетенциями по анализу и прогнозированию управленческих процессов, принятию точных решений. Но это в идеале. Для этого должен выполняться ряд условий. Во-первых, беспристрастные, недискриминацион­ные алгоритмы лежат в основании таких систем. О большей части из них пользователь мало что знает.

И вот здесь нужно понимать, что в мире ИИ есть страны-разработчики и страны-пользователи. Разработчиков и обладателей генеративных ИИ всего несколько. Чтобы работать с большими моделями, нужны технологии и огромные инвестиции. И сегодня именно технологическая гонка набирает обороты, поскольку многие готовы вкладывать средства в развитие ИИ, но страны-лидеры закрывают продажи техники, разработки ведутся в закрытых форматах.

Понятно, что мы тоже пока в категории пользователей. То есть алгоритмы генеративных ИИ для нас, как и для большинства стран, «иностранная рабочая сила». Поэтому прозрачность и объяснимость этих самых алгоритмов вызывает вопросы.

Во-вторых, качественные достоверные данные сначала для обучения, а потом для анализа и выводов. Буквально полгода назад мы завершили работу над законом о данных, где попытались выстроить требования к эталонным данным, максимально повысить их достоверность. В цифровом правительстве есть значительные успехи в этом вопросе, однако качество данных все еще оставляет желать лучшего, а ставить статистику в один ряд с разновидностями лжи остается традицией.

В-третьих, что, на мой взгляд, самое важное, четкая, правильная постановка задачи человеком. Алгоритмы ИИ выполняют только то, что им поручено, и работают в рамках установленных целей и критериев. При этом проблема качества государственного управления чаще всего и заключается в неумении правильно формулировать задачи. Если бы этой проблемы не было, то и без ИИ разобрались бы.

Ну и общие риски. С одной стороны, ИИ способен автоматизировать рутину и минимизировать человеческий фактор, повышая эффективность работы, снижая коррупцию. Но, с другой стороны, есть риск, что те, кто его использует, могут начать полагаться на алгоритмы настолько, что потеряют компетенции и объективность, работая в какой-то альтернативной реальности. Это также повлияет на сложившиеся «человеческие» институты обратной связи, вытесняя реальное взаимодействие с гражданами. Поэтому применение ИИ в госуправлении должно быть сконцентрировано в основном на решении рутинных проблем, чтобы освободить время для человека.

Но даже если решение и принимается автоматизированным алгоритмом, всегда должна оставаться возможность его пересмотра. Человек всегда должен присутствовать на этапе принятия решений, сгенерированных ИИ в системе госуправления. Над качеством этого присутствия, я полагаю, придется много работать.

– Екатерина Васильевна, что сегодня происходит в мире «цифры» того, чего мы еще не видим и не ощущаем, но оно неизбежно? Долго ли люди смогут расставлять приоритеты в пользу реального мира?

– В мире «цифры» прямо сейчас развиваются процессы, которые постепенно поменяют восприятие реальности. Границы между цифровым и физическим мирами пока не очевидно, но стираются. Посмотрите на развитие метавселенных. Это же не просто игры. Происходит прямая «интеграция» миров: общественных отношений, экономик и быта. Информация о человеке оцифрована настолько и в таком количестве, что можно говорить о рождении полноценных цифровых личностей. Их, к слову, уже начали похищать. В последующем на основании этих данных ИИ сможет имитировать поведение реальных людей, создавая цифровых двойников. Да-да, это именно то, что еще 10 лет назад было хитом фантастических бестселлеров.

«Интернет вещей» – миллионы приборов с датчиками и камерами – активно создает образы реальных городов, домов и экосистем. Снижение количества не интегрированных в информационные системы вещей постепенно делает цифровое взаимодействие важнее реального. AR- и VR-устройства делают виртуальный мир настолько реальным, что мы начинаем воспринимать его как часть своей настоящей жизни. Да мы и без них справляемся. Вспомните нас до пандемии. Кто мог представить, что дистанционные встречи займут такое место в нашем повседневном графике?

Есть у этих тенденций и более глубинные последствия. Мы уже наблюдаем определенное противостояние цифровой и реальной идентичности в социальных сетях. «Казаться» становится важнее, чем «быть». Мы начинаем следовать образам аккаунтов, часто не замечая этого. Жизнь в Сети становится комфортнее за счет информационного вакуума, который создает для нас ИИ, опираясь на наши предпочтения и соз­давая персонализированные потоки контента. Информацию из реального мира использовать хочется меньше и меньше.

И самое поразительное – мы являем­ся свидетелями того, как у людей устанавливаются эмоциональные связи с машинами. Буквально на днях смотрела с младшей дочкой мультфильм про робота на необитаемом острове, где он, вернее, она выполняла роль мамы для маленького гусенка. При всей «мимишности» этого сюжета между строк можно было ощутить установки авторов на очеловечивание роботов. Формирование таких ментальных ассоциаций позволит нашим детям безболезненно впускать машины в самые укромные уголки своей жизни. Ведь то, что отделяет нас от полного погружения в мир роботов, – это отсутствие в нем эмоций. Я могу ошибаться, но маркетинговые алгоритмы давно и надежно работают в этом направлении.

Долго ли люди смогут правильно расставлять приоритеты? Нет, мы уже не можем этого делать. Поэтому дальнейшее проникновение технологий в нашу жизнь неизбежно. Нужно учиться жить в этом и с этим – соблюдать цифровую гигиену, не увлекаться виртуальными собеседниками, не залипать в таргетированной реальности.

Поэтому все, что мы точно можем сделать сегодня, так это дать нашим детям больше любви, внимания и человеческих отношений, потому что в их будущем, возможно, это станет непозволительной роскошью. Не знаю, кому точно принадлежит эта фраза, но она очень точно отражает реалии сегодняшнего дня: «На этой Земле главное – успеть набыться вместе...»