Баланс между развитием и безопасностью

Во время выступления на IV заседании Национального курултая Глава государства вновь высказался о важности внедрения искусственного интеллекта для трансформации экономики и общества. Президент отметил, что ИИ способствует кардинальным изменениям во многих отраслях, повышая эффективность использования бюджетных средств, улучшая налоговое и таможенное администрирование, а также оптимизируя государственные закупки и упрощая взаимодействие граждан с государством.

Касым-Жомарт Токаев также подчеркнул, что Казахстан может стать территорией ускоренного развития ИИ, рассматривая это как стратегическую задачу, и предположил, что ИИ вкупе с цифровой трансформацией в ближайшем будущем значительно изменит мир. И наша страна имеет вполне реальные шансы на прорыв в этой сфере, благодаря имеющемуся потенциалу и таланту молодежи.

С этой мыслью согласна и депутат Мажилиса Парламента Екатерина Смышляева. По ее мнению, рост интереса к технологиям ИИ связан с его реальными возможностями, и при правильном подходе, достаточных инвестициях и высоком качестве данных сегодня не только Казахстан, но и человечество в целом имеет все шансы для серьезного технологического прорыва.

– Мир сегодня находится в состоянии технологической гонки, особенно в области инноваций искусственного интеллекта. Объем накопленного цифрового следа позволяет обучать модели гораздо эффективнее, чем это было ранее. К примеру, алгоритмы машинного обучения были известны еще в середине прошлого века, но тогда не существовало таких больших массивов структурированных и качественных данных. Сегодня же, как мы все видим, возможности значительно расширились, и мир переживает настоящую технологическую эйфорию, связанную с искусственным интеллектом, – говорит депутат.

Также, по ее словам, страны, которые сейчас активно инвес­тируют в развитие ИИ, смогут получить конкурентные преимущества. И главным фактором успеха станет не столько создание новых моделей, сколько органичная и масштабная интеграция технологий ИИ в повседневные процессы.

– От успешного внедрения искусственного интеллекта будут зависеть производительность труда, эффективность управления, развитие практически всех отрас­лей и экономический рост. Кроме того, важным направлением является обучение собственных языковых моделей. Это критически необходимо, поскольку только в Казахстане может быть создан ИИ, говорящий на казахском языке. И ответственность за его разработку лежит только на нас, – добавила Екатерина Смышляева.

Уже имеющиеся в мире языковые модели ориентированы на более распространенные языки, такие как английский, и не охватывают все особенности казахского. А интеграция государственного языка в цифровую среду, считает народный избранник, в будущем обеспечит его жизнеспособность и сохранение.

В целом Казахстан обладает высоким уровнем цифровизации, активным накоплением цифрового следа и данных. Это создает благоприятные условия для эффективного внедрения технологий искусственного интеллекта и может стать нашим значимым конкурентным преимуществом.

Но у любого прогресса может быть и обратная сторона. С развитием ИИ и цифровизации возрас­тает и количество киберпреступлений, считает президент ОЮЛ «Интернет Ассоциация Казахстана» Шавкат Сабиров.

– Сегодня самый популярный вид работы искусственного интеллекта – генеративный. Это тот метод, который позволяет генерировать тексты, изображения, видео, картинки, и этим активно пользуются маркетологи, специа­листы по продажам и контенту, SMM. А главное – преступники, которые применяют возможности ИИ в создании махинаций с видеозвонками и генерированием голоса, скрываясь за фейковыми аккаунтами. И нам жизненно необходимо проявлять максимальную осторожность в интернет-среде, потому что, кроме удобства и быстроты, ИИ еще несет в себе серьезную угрозу, потому как новинки всех этих технологий хорошо освоили мошенники, – выразил обеспокоенность Шавкат Сабиров.

Еще одна опасность, по его мнению, в утечке персональных данных. На рынке их стоимость достаточно высока, что говорит о соответствующем спросе. В основном этот рынок формируют агентства, связанные с рекламой и маркетингом. Они в первую очередь заинтересованы в расширении своей базы данных с целью последующих продаж и увеличения сделок, поэтому охотно и приобретают персональные данные. При этом гарантия их дальнейшей безопасности отсутствует.

– В Казахстане наряду с развитием ИИ и цифровой трансформации должна быть разработана национальная программа по безопасному использованию всех этих технологий, когда буквально из каждого утюга должна вестись разъяснительная работа о грамотном поведении в Интернете, о том, что делать, если ты попался на дипфейк. Хотим мы этого или нет, но технологический прогресс двигается вне нашего желания и возможностей, – отметил Шавкат Сабиров.

Однако, по мнению руководителя направления R’n’D в TSARKA Group Игоря Сенюшина, развитие ИИ и повсеместная цифровизация скорее влияют не на рост числа кибермошенников, а на общий рост киберугроз. Это в первую очередь связано с тем, что появляется все больше цифровых процессов, а они, соответственно, рождают рост потенциально уязвимых моментов, которые могут быть использованы злоумышленниками.

– Что касается самих кибермошенников, я не думаю, что их станет значительно больше именно из-за цифровизации или искусст­венного интеллекта. Их активность скорее зависит от других факторов – например, от уровня доверчивости населения или распространенности подобных случаев. Чем чаще люди с этим сталкиваются, тем выше становится их осведомленность. Так что да, кибермошенничество будет развиваться, но прямой зависимости от ИИ и цифровизации здесь, на мой взгляд, нет, – говорит Игорь Сенюшин.

При этом он полагает, что цифровизация действительно может стать одной из ключевых опор развития страны, но многое будет зависеть от внутренних процессов. Важно, чтобы цифровизация развивалась в связке с другими системными изменениями и получала поддержку.

– Цифровизация может значительно улучшить самые разные сферы – от производства до образования. Особенно в связке с внедрением искусственного интеллекта – это мощный инструмент, который уже сейчас приносит ощутимую пользу, – уверен Игорь Сенюшин. – Безусловно, необходимо создавать благоприятную среду для внедрения цифровых решений и искусственного интеллекта. Сейчас этому мешают определенные барьеры – где-то технологические, где-то организационные или правовые. Например, есть участки, которые еще недостаточно исследованы, и там нужно создавать условия для экспериментов – запускать пилотные проекты или тестовые полигоны.

Также важно, по его словам, проанализировать и минимизировать законодательные ограничения и, возможно, где-то создать временные регуляторные режимы. При этом, если барьеры связаны с человеческим капиталом или социокультурными особенностями, стоит продумать подходы через исследования и просвещение. Одним словом, нужна большая подготовительная работа. И желательно проводить ее быстрее, чтобы не отстать от темпа технологических изменений в мире.

Выслушав мнения спикеров, остается резюмировать: в чем-то их точки зрения разделились, но все они согласны в одном, что искусственный интеллект как одна из самых передовых технологий современности открывает перед нами безграничные возможности. И важно помнить, что его развитие должно идти в тесной гармонии с человеческими ценностями и потребностями.

Также эксперты оказались едины в мысли о том, что Казахстан может вполне реально преуспеть, развивая ИИ и цифровые решения. Мы буквально стоим на пороге нового этапа, где технологии не только преобразуют экономику, но и становятся основой для создания более справедливого и процветающего общества. И будущее, которое мы строим, должно быть ориентировано на улучшение качества жизни каждого человека.