ИИ в законе

В Мажилисе под председательством главы Комитета по экономичес­кой реформе и региональному развитию Нуртая Сабильянова прошла презентация проекта закона «Об искусственном интеллекте» с сопутствую­щими ему поправками. Открывая заседание, он отметил, что законопроекты были инициированы депутатами Парламента. Важность их реализации Президент отмечал в своем Послании народу Казахстана от 2 сентября 2024 года и в выступ­лении на расширенном заседании Правительства в этом году. Проекты направлены на установление единой правовой базы использования технологий искусственного интеллекта.

С нормами законопроекта мажилисменов ознакомила одна из их авторов – депутат Екатерина Смышляева. Как сообщила она, Казахстан может стать одной из первых юрисдикций в мире пос­ле Европейского союза, которая примет отдельный закон, регулирующий вопросы ИИ. Основанием для его разработки стала необходимость в безболезненном внедрении искусственного интеллекта в различные сферы экономики и жизни, обеспечении надежного и безопасного использования его сис­тем и развитии соответствующих технологий в стране.

– В цифровом законодательстве мы стараемся соблюдать принцип технологической нейтральности, то есть не посвящать отдельным технологиям законы или нормы. Но в данном случае технология настолько особенная, что порождает вокруг себя особый тип общественных отношений. Их и будет регулировать настоящий проект закона, – подчеркнула Екатерина Смышляева.

По ее информации, основной законопроект состоит из семи глав и 27 статей. В рамках одной из основных новелл вводится классификация систем ИИ по уровням риска (минимальный, средний и высокий), что позволит регулировать их эксплуатацию в зависимости от потенциального влияния на безопасность пользователей, общества и государства.

Вместе с тем проектом на территории Казахстана запрещается создание и внедрение систем, принимающих решения без возможности вмешательства человека, что снижает вероятность неконтролируемых последствий. К владельцам и разработчикам ИИ устанавливаются требования о необходимости предупреждать пользователей о том, что они взаимодействуют с искусственным интеллектом, а также обеспечивать разъяснение принципов его работы. В целях защиты персональных данных и предотвращения манипуляций вводятся строгие ограничения на использование ИИ для оценки людей по социальным, биометрическим и поведенческим характеристикам, а также запреты на соз­дание и использование ИИ, способного манипулировать поведением человека.

Кроме того, будет создана национальная платформа искусственного интеллекта. Формируется государственная технологическая инфраструктура для разработки, обучения и тестирования систем ИИ в контролируемой среде, что способствует развитию отечественных решений в данной сфере. При этом основные направления госполитики в сфере ИИ и данных остаются за Правительством. Регулятором будет выступать Комитет искусственного интеллекта, созданный при Министерстве цифрового развития, инноваций и аэрокосмической промышленности.

Сопутствующими проектами изменения и дополнения вносятся в Кодекс об административных правонарушениях, а также в законы «Об информатизации», «О персональных данных и их защите», «О защите прав потребителей», «О масс-медиа». Так, вводится административная ответственность за нарушение требований законодательства об ИИ, включая неинформирование пользователей о синтетических данных и отсутствие управления рисками систем ИИ. Также вводятся требования к разработке ИИ-систем в рамках электронного правительства, ограничения на извлечение персональных данных из открытых источников, устанавливается обязанность информировать пользователей об использовании ИИ при создании медиаконтента.

На сегодня преимущества ИИ очевидны. Однако мажилисмен Даулет Мукаев считает, что массовое использование искусственного интеллекта может привести к деградации юных казахстанцев. По его мнению, школьники перестают думать самостоятельно, так как домашние задания за них теперь делает нейросеть.

– Использование ИИ приводит к деградации интеллектуального потенциала человека, к потере способности думать и анализировать. Сейчас школьники не делают сами уроки, используя искусственный интеллект: грузят задание в ChatGPT и получают ответ, – сказал депутат, отметив, что проблема касается не только школьников, студентов, но и чиновников.

Депутат считает необходимым поставить ограничение на использование ChatGPT именно школьниками.

– Если мы этого не сделаем, завтра эти ученики станут студентами, а потом выйдут на рынок труда, и вот тогда через 20 лет мы пожнем плоды работы ИИ, – сказал Даулет Мукаев, но не уточнил, каким именно образом сегодня можно ограничить ИИ, который шагает по планете семимильными шагами.

Его коллега Елнур Бейсембаев выразил обеспокоенность тем, что ИИ, однозначно, повлияет на рынок труда, оставив без работы значительное число граждан.

– Мы понимаем, что искусственный интеллект – это двигатель прогресса, и наша задача – правильно его регулировать. Сам Глава государства каждый раз в своем выс­туплении в последние два года становится провайдером данной идеи. Многие сферы нашей жизнедеятельности можно регулировать через искусственный интеллект. Первый вопрос – есть влияние ИИ на сферу труда. По данным Всемирного экономического форума, а также банков, ИИ по всему миру заменит порядка 90 миллионов рабочих мест. Данные уже несколько лет изучаются. Это, конечно, отразится на рынке труда, – считает Елнур Бейсембаев.

Он призывает использовать опыт стран, в которых при технологических возможнос­тях сознательно не допускают тотальную роботизацию.

Екатерина Смышляева в свою очередь пообещала учесть все предложения своего коллеги и заверила, что нормы закона будут привязаны к практическим кейсам.

– Самый базовый здесь вопрос – это вопрос ответственности. Он сейчас в законопроекте обозначен, – сказала Екатерина Смышляева.