Человек за кулисами ИИ

Депутаты Сената на пленарном заседании под председательством спикера Маулена Ашимбаева внес­ли свои поправки в закон об искусственном интеллекте и вернули его в Мажилис.

Закон «Об искусственном интеллекте» и сопутствующие ему – «О внесении изменений и дополнений в некоторые законо­дательные акты по вопросам искусственного интеллекта и цифровизации» и «О внесении изменений и дополнений в КоАП» – пакет документов, направленных на реализацию задач Главы государства по преобразованию Казахстана в эффективное цифровое государство.

В целом нормы предусматривают определение ключевых понятий, принципов и механизмов регулирования в сфере искусственного интеллекта, установление классификации систем искусственного интеллекта и требований к их безопасному применению, соз­дание правовых основ функ­ционирования национальной платформы искусственного интеллекта. Документы нап­равлены на предотвращение распространения недостоверной информации и касаются закрепления механизма обязательной маркировки результатов деятельности ИИ в машиночитаемой форме. Также предусматривается перечень запрещенных функциональных возможностей при соз­дании и эксплуатации систем искусственного интеллекта на территории нашей страны.

– Президент страны Касым-Жомарт Токаев в Послании народу поручил внедрить технологии искусственного интеллекта во все сферы экономики. С этой целью были разработаны рассмотренные сегодня законы, нормы которых направлены на создание правовой системы регулирования общественных отношений в сфере использования искусственного интеллекта. На законодательном уровне закреп­лены термины «искусственный интеллект», «библиотека данных» и ряд других ключевых понятий. В ходе рассмотрения сенаторы озвучили ряд своих предложений. Надеемся, что законы внесут свой вклад в реализацию задач, определенных Главой государства в сфере цифровизации, – сказал спикер Сената.

Для усиления защиты персональных данных и информационной безопасности в области запрещается нецелевой сбор данных из общедоступных источников, ограничивается использование биометрических данных без согласия субъекта, предусматривается обязательное обезличивание данных для защиты прав и свобод физических лиц. Наряду с установлением ответственности за нарушения законодательства в сфере искусственного интеллекта вводится ответственность за нарушение запрета на продажу энергетичес­ких напитков, а также распрос­транение санкции на некоммерческие организации.

По итогам обсуждения концептуально сенаторы законы поддержали, но предложили внести в них ряд поправок. В частности, предложенные изменения касаются введения административной ответственности некоммерческих организаций за продажу табачных изделий лицам, не достигшим 18 лет. Также вносится правка, соглас­но которой произведения, созданные с использованием систем искусственного интеллекта, охраняются авторским правом только в случае наличия творческого вклада человека в их создание. Предложенные сенаторами изменения касаются в том числе и рисков, связанных с использованием систем искусственного интеллекта. В этой связи, исходя из поправок системного и уточняющего характера, направленных на обеспечение единообразного применения норм, было принято решение вернуть законы в Мажилис.

В ходе обсуждения законов сенаторы выразили обеспокоен­ность тем, что развитие цифровых технологий несет в себе риски манипуляций общественным сознанием, что может привести к катастрофическим последствиям. Так, депутат
Серик Шайдаров констатировал, что с ростом возможностей ИИ стали распространяться дипфейки. По его словам, их могут использовать мошенники для создания фальшивых видео­звонков, где близкий человек якобы просит срочно перевес­ти деньги.

На это вице-министр искусственного интеллекта и цифрового развития Дмитрий Мун ответил, что сейчас совместно с государственными органами прорабатываются соответствующие информационные системы по выявлению таких звонков.

Спикер Сената Маулен Ашимбаев поддержал своего коллегу и призвал уполномоченные органы отнестись к этому технологичес­кому явлению с большей настороженностью, так как, кроме звонков на мобильные телефоны, есть дипфейки в социальных сетях, где от имени известных людей делаются заявления, не соответствующие действительности.

– Нам нужно совместно с право­охранительными органами думать над вопросами ответственности. Эти вещи делают люди, не сами программы с ИИ генерируют контент, они стоят за этими фейками, и именно их надо привлекать к ответственнос­ти за мошенничест­во, шантаж, незаконный сбор денег, – сказал Маулен Ашимбаев.

В свою очередь депутат Мажилиса Екатерина Смышляе­ва отметила, что в Уголовном кодексе есть статья «Мошенничество». В ней отягчающее обстоятельство – это совершение преступления с использованием информационных систем. Она согласилась с тем, что это очень узкое понятие и практи­чески не охватывает системы с искусственным интеллектом.

– Совместно с коллегами мы какой-то более жесткий вариант ответственности должны предусмотреть, – сказала она.

Проекты законов были возвращены в Мажилис.