KazLLM

KazLLM (также ISSAI KAZ-LLM) — семейство больших языковых моделей, разработанное Институтом умных систем и искусственного интеллекта (ISSAI) Назарбаев Университета для обработки и генерации текстов с учётом казахского языка и казахстанского контекста. Модели созданы на базе Llama 3.1 компании Meta и поддерживают казахский, русский, английский и турецкий языки. Первые версии с 8 и 70 миллиардами параметров опубликованы в декабре 2024 года.

KazLLM предназначена для использования в качестве основы цифровых помощников, переводчиков и других приложений, работающих с текстом. Опубликованные модели доступны на платформе Hugging Face с ограничением коммерческого использования.

История разработки

Работа над KazLLM началась в апреле 2024 года. По словам заместителя директора ISSAI Мадины Абдрахмановой, из-за отсутствия в Казахстане необходимой серверной инфраструктуры команда использовала вычислительные мощности облачных провайдеров. В подготовке данных участвовали специалисты по машинному обучению и лингвисты.

10 декабря 2024 года ISSAI опубликовал модели с 8 и 70 миллиардами параметров. В том же месяце Astana Hub была передана неисключительная лицензия на разработку. Руководители ISSAI связывали создание модели с недостаточной представленностью казахского языка в цифровых данных и необходимостью учитывать местный культурный и информационный контекст.

В марте 2025 года KazLLM представили на выставке Mobile World Congress в Барселоне. Проект был отмечен премией GSMA Foundry Excellence Award 2025 в области искусственного интеллекта.

Технические характеристики

Для создания KazLLM разработчики адаптировали ранее обученную Llama 3.1. Выпуск KazLLM 1.0 включает варианты 8B и 70B, различающиеся числом параметров и требованиями к вычислительным ресурсам.

По данным ISSAI, для обучения был подготовлен корпус объёмом более 150 миллиардов токенов на четырёх поддерживаемых языках. В него вошли материалы сайтов, новостных изданий и электронных библиотек; часть англоязычных текстов переводили на казахский язык. Для настройки следования инструкциям использовались также синтетические данные. Обучение проводилось на восьми облачных вычислительных узлах NVIDIA DGX H100.

Для обеих размерностей опубликованы четырёхбитные квантованные варианты AWQ4 и GGUF4, позволяющие уменьшить требования к памяти. Всего первоначальный выпуск включал шесть вариантов моделей.

В карточках моделей указана лицензия CC BY-NC 4.0 и необходимость соблюдать условия Llama 3.1. По объяснению исполнительного директора ISSAI Ербола Абсалямова, коммерческое применение требует отдельного согласования с Назарбаев Университетом и/или Astana Hub.

Оценка качества

Разработчики оценивали KazLLM с помощью тестов MMLU, ARC, GSM8K, HellaSwag, Winogrande и DROP, включая адаптированные казахоязычные задания. В опубликованной ISSAI таблице средний показатель версии 70B на казахоязычном наборе тестов составил 74,26 %, исходной Llama-3.1-70B-Instruct — 64,19 %, а GPT-4o — 75,95 %. Эти результаты относятся к набору тестов и методике разработчиков.

В исследовании KazMMLU, опубликованном на конференции ACL в 2025 году, отдельно проверялась версия KazLLM-8B. Набор включал 23 тысячи учебных вопросов на казахском и русском языках. В таблице результатов с англоязычной инструкцией средний показатель KazLLM-8B составил 41,7 %, Llama-3.1-8B — 39,7 %, Llama-3.1-8B-Instruct — 44,6 %. Авторы отмечали, что тест с выбором ответа не охватывает всех возможностей моделей в интерактивных и практических задачах.

Применение

3 июня 2025 года VEON сообщила о запуске учебного помощника AI Tutor, разработанного QazCode и Beeline Kazakhstan на основе KazLLM. Помощник был встроен в приложение Janymda. Первоначально он включал шесть видов упражнений для изучения казахского языка, в том числе составление предложений, поиск ошибок и ответы на вопросы по тексту.

Финансирование

По заявлению ISSAI, модель разработана без привлечения государственных средств; поддержку оказали фонд NU and NIS Foundation, Astana Hub и QazCode.

Одновременно в 2024 году Министерство науки и высшего образования Казахстана объявило конкурс программно-целевого финансирования работ по KazLLM на сумму около 3,9 миллиарда тенге. В решении Национального научного совета от 27 августа 2024 года по программе BR24993001, посвящённой созданию большой языковой модели для поддержки казахского языка, рекомендовано финансирование в размере 3,092 миллиарда тенге на 2024–2026 годы. Заявителем указан Казахский национальный университет имени аль-Фараби.

В мае 2026 года ISSAI сообщал об участии в консорциуме этой программы совместно с КазНУ и другими научными организациями. В опубликованном в сентябре разборе Polites News отмечалось, что объявленные и рекомендованные суммы нельзя автоматически считать подтверждёнными расходами на выпущенную модель ISSAI; установить фактическое расходование всей первоначально объявленной суммы по изученным изданием открытым материалам не удалось.

В марте 2026 года BES.media сообщило, что в ответе Министерства искусственного интеллекта и цифрового развития на запрос редакции не была предоставлена запрошенная постатейная детализация расходов.

Общественное обсуждение

10 февраля 2026 года на расширенном заседании правительства президент Казахстана Касым-Жомарт Токаев указал на недоработки KazLLM и поставил под сомнение её востребованность на фоне популярности ChatGPT. По сообщению BES.media, в ответ министр Жаслан Мадиев заявил о более чем 600 тысячах запросов к модели.

В обзоре Ulysmedia.kz эксперт Тимур Сейдалин связывал трудности массового использования с отсутствием удобного доступа для конечного пользователя и бизнеса. ISSAI, со своей стороны, пояснял, что институт разрабатывал базовую модель, тогда как создание и эксплуатация пользовательских сервисов требуют отдельной работы и инфраструктуры.

9 апреля 2026 года Мадиев заявил, что на рынке доступны три версии KazLLM и, по оценке министерства, ими активно пользуются.

Примечания

Ссылки Страница проекта на сайте ISSAI

Категория:Большие языковые модели Категория:Наука в Казахстане