Искусственный интеллект глазами юристов

Свою точку зрения по поводу цифровизации в Казахстане мы попросили высказать председателя Комиссии по правам человека при Президенте РК, члена Венецианской комиссии Совета Европы от нашей страны – доктора юридических наук Игоря Рогова.

– Игорь Иванович, Вы неоднократно становились участником цифровых форумов. Что Вас привлекает в IT-сфере?

– Министр цифрового развития, инноваций и аэрокосмичес­кой промышленности Багдат Мусин привел убедительные данные, доказывающие, что наша республика является одним из лидеров в процессе цифровизации. При этом особенно мы продвинулись в сфере оказания государственных услуг. Судя по той информации, которую нам представили, Казахстан превращается в слышащее и, по словам Премьер-министра Алихана Смаилова, человекоцентричное государство.

Деятельность Правительства в прошлом году свидетельствует о том, что права человека в Казахстане реально защищаются и многие человеческие проблемы находят свое разрешение благодаря цифровизации. Именно на этом акцентировал внимание осенью прошлого года на форуме, посвященном вопросам цифровизации, Президент Касым-Жомарт Кемелевич Токаев.

Меня как юриста в первую очередь интересует: каково правовое оформление всех происходящих процессов? Насколько наш законодательный массив обеспечивает применение «цифры» именно во благо человека, не будет ли сопутствующих или побочных, как говорят медики, эффектов?

Каков порядок применения тех же видеокамер? Где допустимо их использование и насколько соблюдается конфиденциальность информации, которая аккумулируется в государственных органах, персональных данных человека? К сожалению, решаю­щего рывка в этом направлении мы еще не совершили, хотя серьезные шаги сделаны. Очевидна необходимость правового механизма, защищающего права человека на неприкосновенность личной жизни.

Создание искусственного интеллекта стало объективной реальностью. В то же время возникают вопросы не только об ответственности за возможное причинение вреда с его помощью, но и об осмыслении данного феномена с правовых позиций.

В прошлом году Президент дал поручение разработать цифровой кодекс. Насколько мне известно, работа в этом нап­равлении ведется достаточно активно. Выступая на прошедшем в Алматы форуме, Премьер-министр Алихан Смаи­лов подчеркнул, что мы не должны забывать про защиту персональных данных и информационную безопасность.

У наших партнеров, соседей, кыргызских коллег соответствующий цифровой кодекс разработан и направлен в Парламент. Я думаю, здесь чрезвычайно важен обмен информацией между соответствующими институтами, государственными органами наших стран.

Насколько мне известно, государства – члены Евросоюза и Европарламент также достигли соглашения по закону, который должен регулировать использование искусственного интеллекта. Инициатива направлена на то, чтобы системы ИИ, продаваемые и используемые в ЕС, были безопасными и уважали фундаментальные права и ценности общества.

Симптоматично, что Венецианская комиссия Совета Европы в декабре прошлого года уделила свое внимание вопросу внед­рения цифровых технологий и искусственного интеллекта в ходе избирательных процессов.

– На что должны сделать упор разработчики цифрового кодекса?

– Особенно важно обеспечение прав человека при использовании искусственного интеллекта. Юридическое оформление этого процесса сегодня находится практически на нуле. Хотя две основные проблемы всегда остаются: первая – это кто отвечает за вред, причиненный тем или иным механизмом, которым «руководил» искусственный интеллект, и вторая – что делать с продукцией, произведенной искусственным интеллектом, как быть с авторскими правами?

Искусственный интеллект начинают использовать для написания научных диссертаций, музыки и так далее, я уже не говорю о том, что будущем встанет вопрос о правосубъект­ности искусственного интеллекта. Были такие факты, я об этом говорил еще в прошлом году, что даже брак зак­лючают в некоторых странах с роботами. Правда, потом, как мне известно, суд аннулировал подобные акты.

Но тем не менее сейчас опережающими темпами идет развитие именно цифровой техники, правовое оформление отстает во всех странах и в нашей в том числе, но, я повторяю, работа в данном направлении ведется.

– Есть ли будущее у искусственного интеллекта в юрис­пруденции?

– Есть. У нас уже сейчас активно используется искусственный интеллект даже в правосудии. Сравнительно недавно, в прошлом году, Верховный суд презентовал соответствующий механизм, который готовит проекты решений по гражданским делам.

Стороны заранее могут ознакомиться с тем вариантом, который предлагает искусственный интеллект. Естественно, реальное решение выносит судья именем Республики Казахстан. Искусственный интеллект, слава Богу, таким правом не наделен.

Но тем не менее судья в той или иной степени связан вариантом, предложенным искусственным интеллектом. Ведь в программу ИИ закладывается информация всех законодательных массивов, материалов судебной практики.

Судья, конечно же, вправе, руководствуясь своим правосознанием, чувством справедливости, принять решение, отличающееся от варианта искусственного интеллекта. Но хочет он того или нет, поскольку стороны уже знают о проекте ИИ, ему придется мотивировать свои действия. Таким образом, резко сужается возможность коррупционных мотивов и вероятность профессиональных ошибок при вынесении судебных решений.

– Есть ли примеры более успешного внедрения цифровизации и искусственного интеллекта в других странах?

– По имеющейся информации, Казахстан – не только один из первых, он, по-моему, лидер в данной сфере. Почему ИИ весьма сдержанно внедряется во многих странах, так сказать, с «развитым правосудием»? В Европе, особенно в Великобритании и других странах, где применяется английское право или его элементы, опасаются «десакрализации судейской мантии», как они говорят.

Я не хочу обидеть наших судей, но нам, по-моему, это не грозит, потому что у нас такой сакрализации, к сожалению, до сих пор нет. Поэтому мы спокойно идем на внедрение новых технологий, и я поддерживаю нацеленность судебной реформы на внедрение прогрессивных методов и механизмов цифровизации в правосудии.

Более того, внедрение искусственного интеллекта даже на стадии составления проекта судебного решения, открывает в перспективе возможность придания ИИ функции арбитра.

Представляете, заключается договор, в котором стороны заранее пишут, что арбитром будет искусственный интеллект, с решением которого они согласятся. Сегодня это звучит как фантастика, но как знать? Ведь в спорте нечто подобное уже применяется.

В уголовном судопроизводстве цифровизация также вполне возможна. Не надо будет вести протоколы допроса, осмотра мес­та происшествия и прочее. Дос­таточно сделать соответствую­щие видеозаписи. Естественно, при этом необходимо применять технологии блокчейна, исключаю­щие в принципе возможность подделок и фальсификации процессуальных электронных документов.

В обозримом будущем придется пересматривать соответствующие институты и в уголовном, и в гражданском праве, и в ряде других отраслей права.

– Вы подняли большой пласт проблем, но они пока не нашли отражения в повестке дня цифрового форума…

– Здесь, мне кажется, допустимы предложения об улучшении его работы. Еще в прошлом году я просил организаторов хотя бы одну панельную сессию отвести вопросам права в цифровизации. Это мое пожелание сохраняется и сегодня.

Думаю, юристам, которые следят за процессами цифровизации, есть что сказать и обмен мнения­ми с зарубежными коллегами был бы очень и очень полезным.

– А может, стоит отдельный форум провести для юристов?

– Когда собираются только юристы, этого недостаточно, нужны еще и специалисты в облас­ти цифровизации. Чем применение искусственного интеллекта принципиально отличается от процесса автоматизации? Здесь нужен консенсус мнений юристов и специалистов IT.

К сожалению, члены Комиссии по правам человека пока еще не видели разрабатываемого у нас проекта цифрового кодекса. Надеюсь, он своевременно будет вынесен на обсуждение юридической общественности.

Наша комиссия обладает дос­таточно сильным экспертным составом. Нас интересуют все законопроекты, затрагивающие права человека, и особенно в сфере цифровизации.