ИИ: между белым и черным

Вчера на пленарном заседании депутаты под председательством спикера палаты Ерлана Кошанова одобрили в первом чтении проект Закона «Об искусственном интеллекте» с сопутствующими поправками, а также приняли закон по вопросам гражданской защиты во втором чтении. Также был ратифицирован Протокол о внесении изменений в Договор об учреждении Евразийского фонда стабилизации и развития.

С нормами проекта Закона «Об искусственном интеллекте» и сопутствующих ему поправок коллег ознакомила соавтор инициативы, руководитель рабочей группы по законопроектам ­Екатерина Смышляева. Докумен­ты разработаны депутатами Мажилиса по поручению Главы государства.

– Развитие искусственного интеллекта сопровождается как большими возможностями, так и серьезными рисками. Одним из ключевых остается отсутствие правового регулирования в этой сфере. Данный законопроект закрывает этот пробел, – пояс­нила депутат.

Екатерина Смышляева отметила, что важной частью проекта закона является Национальная платформа искусственного интеллекта – единая инфраструктура для разработки и использования продуктов с ИИ. Кроме инструментальной среды, платформа будет формировать и обеспечивать доступ разработчиков к библиотекам данных для обучения моделей ИИ.

Также четко определяются права и обязанности всех участников общественных отношений в данной сфере. Владельцы сис­тем ИИ смогут устанавливать условия использования своих систем, защищать свои права и управлять рисками, а пользователи получат право на защиту персональных данных, информирование о работе систем ИИ и возможность оспаривания автоматизированных решений.

Особое внимание в проекте закона уделено вопросам безо­пасности. Системы ИИ будут классифицированы по степени риска – от минимального до высокого. Системы высокого риска будут отнесены к объекту критически важной информационно-коммуникационной инфраструктуры, что позволит обеспечить контроль их безопас­ности. Кроме того, сис­темы с ИИ будут поделены на помощников, полуавтономные системы и полностью автономные алгоритмы. Последние будут запрещены на территории Республики ­Казахстан.

Также проектом запрещаются некоторые практики использования искусственного интеллекта. В частности, использование сис­тем, которые влияют на поведение людей без их осознанного согласия, намеренно пользуются их уязвимостями, оценивают или классифицируют по социальному поведению или характеристикам. В этом ряду также использование ИИ для анализа эмоций людей без их согласия и для распознавания лиц в общественных местах в режиме реального времени, за исключением случаев, разрешенных законом. Как заверяют авторы законопроекта, эти и другие позиции соответствуют международным стандартам защиты прав человека в условиях нового технологического общества.

В ходе обсуждения депутаты задали Екатерине Смышляевой и ответственным лицам профильных госорганов вопросы о рисках введения государственного регулирования в сфере искусственного интеллекта, внедрения данной технологии в трудовые отношения, расширении ее применения в медицине и другие. Особый интерес у мажилисменов вызвали вопросы авторства произведений, созданных ИИ, меры по противодействию мошенничеству с использованием технологий дипфейк и усилению защиты персональных данных.

По итогам рассмотрения председатель Мажилиса Ерлан ­Кошанов отметил, что сегодня в первом чтении был одобрен крайне важный и своевременный законопроект. Искусственный интеллект – это приоритетная отрасль, которая имеет колоссальное значение в современном мире.

– Глава государства уделяет приоритетное внимание развитию искусственного интеллекта. На недавнем заседании Нацио­нального курултая Президент вновь подчеркнул важность развития данной отрасли для нашей страны. Сегодня, несмотря на стремительное развитие применения продуктов ИИ, пока только в редких странах есть правовая основа для его полноценного развития. В этой связи с учетом лучших международных практик нашими депутатами был разработан данный законопроект, – отметил спикер палаты.

Ерлан Кошанов заявил, что до второго чтения необходимо тщательно изучить все поднятые в ходе пленарного заседания проблемы и найти разумный баланс между развитием искусственного интеллекта и безопасностью.

Во втором чтении был принят закон по вопросам гражданской защиты. Руководитель рабочей группы Аян Зейнуллин сообщил, что законодательными поправками решаются вопросы усиления системы гражданской защиты путем повышения статуса сотрудников, возобновления пожарного контроля при приемке в эксплуатацию объектов с массовым пребыванием людей и обеспечения сейсмической безопасности.

В рамках исполнения поручения Главы государства депутатами разработаны нормы по усилению государственного контроля и надзора в области промышленной безопасности. Теперь проверки опасных производственных объектов, к которым относятся шахты, рудники, карьеры, фаб­рики по переработке твердых полезных ископаемых и другие, будут осуществляться без ранее действовавших ограничений, вытекающих из Предпринимательского кодекса. Важной новеллой является сокращение сроков для подготовки проверки – теперь она будет осуществляться через сутки после поступ­ления сигнала.

Мажилис также ратифицировал Протокол о внесении изменений в Договор об учреждении ­Евразийского фонда стабилизации и развития от 9 июня 2009 года. Документ депутатам представил вице-министр финансов Даурен Кенбеил.

Как отметила руководитель рабочей группы Ирина ­Смирнова, поправки предполагают преобразование фонда в самостоятельную международную организацию. Вместе с этим прекращается его институциональная связь с Евразийским банком развития. Это важно не только с точки зрения управления – юридическое отделение снижает риски и дает возможность фонду выстраивать независимые отношения с международными партнерами. Открывается возможность использования национальных валют при реализации проектов, появляется доступ к трастовым взносам и техническому содейст­вию, что существенно расширяет инструментарий фонда.

В ходе пленарного заседания профильные комитеты также приняли в работу законопроект о ратификации Соглашения между правительствами ­Казахстана и Франции о реадмиссии лиц, а также проекты отчетов Правительства и Высшей аудиторской палаты об исполнении республиканского бюджета за 2024 год. В заключение мажилисмены направили 18 депутатских запросов государственным органам по актуальным социальным и экономическим темам.