ИИ должен служить обществу

Как отметил Ерлан Кошанов, в первую очередь закон вводит четкое деление систем искусственного интеллекта по уровню риска и автономности.

– Опасные технологии, которые могут манипулировать поведением, анализировать эмоции без согласия или использовать уязвимости людей, прямо запрещены. Системы высокого риска будут находиться под особым контролем, что гарантирует безо­пасность и ответственность, – подчеркнул глава палаты.

Так, для развития технологий соз­дается национальная платформа искусственного интеллекта. Она станет мощным инструментом поддерж­ки отечест­венных проектов и обеспечит свободный и равный доступ к современным технологиям для всех. И самое важное, закон защищает права пользователей.

– Каждый человек должен иметь право знать, когда информация или контент созданы с помощью искусственного интеллекта. Кроме того, закон затрагивает актуальные вопросы авторских прав. Это соз­даст благоприятные условия для развития инновационных продуктов и защитит интересы создателей, – отметил Ерлан Кошанов.

В целом, сказал он, принятый закон закладывает первоначальную основу для дальнейшего развития искусственного интеллекта и цифровой экономики. Он открывает новые возможнос­ти для внедрения инноваций, повышения качества жизни граждан и создания современных технологических решений.

– Своевременное принятие закона подчеркивает, что Казахстан находится в тренде глобальной мировой повестки и активно участвует в формировании международных стандартов в сфере искусственного интеллекта, – подчеркнул спикер Мажилиса.

Детально о нормах документа рассказала депутат Екатерина Смышляева. В законе закреплены основные этические принципы использования искусственного интеллекта. Среди них – приоритет прав человека, безопасность и прозрачность работы.

– Искусственный интеллект не признается субъектом правоотношений. Человек остается ответственным за все решения. Для разработки и внедрения искусственного интеллекта соз­дается Национальная платформа. Она обеспечит доступ к библиотекам данных, среде разработки и использования продуктов искусственного интеллекта. Закон определяет порядок доступа разработчиков к вычислительной инфраструктуре, включая суперкомпьютеры. Данные являются основным «топливом» для искусственного интеллекта. Результаты его работы зависят от качества данных. Поэтому в законе предусмотрены требования к библиотекам данных и обязанности их изготовителей, – пояснила депутат.

Как уже было сказано, закон уделяет особое внимание защите прав граждан при использовании систем искусственного интеллекта. Пользователи имеют право получать информацию о работе системы, отказываться от взаимодействия с искусственным интеллектом, если это не является обязательным по закону, требовать пересмотра и объяснения решений.

При этом введен важный аспект – запрет на управление поведением людей, использование эмоций человека, проведение социальной оценки, сбор персональных данных без согласия.

Для обеспечения контроля за выполнением этих обязательств вводится вмененный аудит сис­тем искусственного интеллекта.

Как известно, большой проблемой для общества стали дипфейки. Их качество таково, что мы уже не можем отличить синтетические материалы от настоящих. Законом устанавливаются обязательства по маркировке синтетического контента. Кроме того, при оказании услуг и реализации товаров с ИИ потребители должны быть предупреждены об этом.

К слову, ряд норм закона направлен на поддержку отечест­венных решений в области искусственного интеллекта. Это вопрос национальной безопас­ности нашей страны.

Депутаты также ратифицировали ряд международных актов. Так, ратифицированы соглашения с Марокко, направленные на урегулирование отношений между компетентными органами двух стран по вопросам передачи, выдачи осужденных к лишению свободы лиц, а также сотрудничества в уголовных делах.

Еще одно ратифицированное соглашение направлено на создание в рамках СНГ Международного центра оценки рисков (МЦОР) легализации (отмывания) доходов, полученных преступным путем, и финансирования терроризма. Отмечено, что МЦОР позволит странам анализировать трансграничные угрозы, обмениваться статистической информацией, разрабатывать рекомендации по снижению рисков, а также гармонизировать подходы в соответствии с международными стандартами ФАТФ.

Также депутаты приняли во втором чтении поправки по вопросам культуры и образования.