Как насчёт модели GLM-4-9B в качестве базы?
#2
by
NightFox
- opened
Базовый Вихрь 5той версии (мистраль)
По моим тестам GLM-4-9B это единственная модель в базе которая достаточно хорошо понимает русский язык (хотя порой она вставляет английские слова). Местами превосходит в том числе коммерческие модели (типа Claude Sonnet).
Ещё появилась Mistral NeMo 12B туда добавили русский.
https://huggingface.co/mistralai/Mistral-Nemo-Base-2407
https://huggingface.co/mistralai/Mistral-Nemo-Instruct-2407
Но я пока не тестировал.
Похоже Mistral NeMo лучше. Например mini-magnum-12b-v1.1 даёт порой потрясающие результаты на русском языке.