Казахский чат-бот в сфере ИИ появится до конца года

Институт умных систем и искусственного интеллекта (ISSAI) при NU к концу года презентует отечественный чат-бот на казахском языке. Об этом стало известно сегодня на брифинге в Астане, передает корреспондент Kazpravda.kz 

Аналитик данных Мадина Абдрахманова ISSAI отметила, что в основе чат-бота лежит KAZ-LLM – национальная языковая модель. Работа над ней началась в апреле. Существует также LLAMA 3 от Meta – это современная модель и архитектура LLM с открытым исходным кодом. Она была хорошей отправной точкой для развития KAZ-LLM.

Поскольку языковые модели используются как государственным, так и частным сектором в качестве технологии общего назначения, использование услуг LLM крупных технологических компаний через облако сопряжено со множеством рисков. Они связаны с национальной и информационной безопасностью – от действия санкций до культурной идентичности и утечки данных.

Как рассказали ученые, в сфере создания национальных языковых моделей идет большая конкуренция в Южной Корее, там в этом соревнуются много корпоративных структур, и их версии на корейском языке гораздо сильнее, чем Gemini. Французы тоже работают на своей версии.

«Для каждой высокоразвитой страны важно поставить свою языковую модель, потому что это дает независимость от корпораций, а также от других стран. Для того, чтобы мы сохранили казахский язык, мы должны создавать инструменты для этого», – заявила Мадина Абдрахманова.

В ходе брифинга разработчики продемонстрировали demo-версию одного из проектов – виртуальный аватар Umay.

По словам ученых, Umay способна не только распознавать пользователей, но также определять их возраст, пол и даже эмоциональное состояние. Потенциально такую модель можно использовать в образовании – в качестве репетиторов, поисковиков. В основе этой системы лежит ChatGPT от OpenAI, хотя он известен своей неоптимальной работой на казахском языке. Чтобы преодолеть это ограничение, Umay использует усовершенствованную модель нейронного машинного перевода Tilmash, также созданного Институтом умных систем и искусственного интеллекта.

Как отметили разработчики, Tilmash по нескольким стандартным показателям конкурирует с системами перевода таких гигантов отрасли, как Google Translate и Yandex Translate. Именно отечественная модель машинного перевода, созданная ISSAI, позволила переводить данные из открытых источников для другого проекта – языковой модели.

Для бесперебойной работы модель должна содержать много информации. Учитывая, что интернет-контента на казахском языке всего 0,2%, онлайн-переводчик призван переводить высококачественную информацию о мире с английского на казахский язык.

«Языковая модель – это продукт, который нацелен на поддержание запросов казахстанцев. Мы делаем не просто модель ради исследования, но также создаем полноценную платформу, где вы можете с ней общаться. Для того, чтобы конечный пользователь мог ее использовать, мы создаем интерфейс, очень похожий на ChatGPT, благодаря чему казахстанцы смогут заходить на сайт и задавать вопросы на казахском языке. Наша задача - натренировать модель на четырех языках (казахский, английский, русский, турецкий). Сейчас она тренируется на казахском языке», – пояснила аналитик.

В планах стоит задача интегрировать в модель другие тюркские языки: татарский, узбекский, кыргызский.

Существует огромное количество областей применения языковой модели, с помощью которой можно создавать репетиторов, ассистентов, связанных с законотворческой деятельностью, то есть в любой области, где важно оптимизировать работу, быстро генерировать и понимать текст, отвечать на запросы.

В институте обещают, что окончательная версия модели будет готова к декабрю. Предполагается, что модель будет очень похожа на ChatGPT по дизайну и доступна по подписке обычным пользователям, а также в специальном формате – для стартапов.