Instructions to use DICPlay/RusMind-Malysh-4.7 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use DICPlay/RusMind-Malysh-4.7 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="DICPlay/RusMind-Malysh-4.7") messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# pip install -U transformers accelerate # Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("DICPlay/RusMind-Malysh-4.7") model = AutoModelForCausalLM.from_pretrained("DICPlay/RusMind-Malysh-4.7", device_map="auto") messages = [ {"role": "user", "content": "Who are you?"}, ] inputs = tokenizer.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", ).to(model.device) outputs = model.generate(**inputs, max_new_tokens=256) print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:])) - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use DICPlay/RusMind-Malysh-4.7 with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf DICPlay/RusMind-Malysh-4.7:Q4_K_M # Run inference directly in the terminal: llama cli -hf DICPlay/RusMind-Malysh-4.7:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf DICPlay/RusMind-Malysh-4.7:Q4_K_M # Run inference directly in the terminal: llama cli -hf DICPlay/RusMind-Malysh-4.7:Q4_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf DICPlay/RusMind-Malysh-4.7:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf DICPlay/RusMind-Malysh-4.7:Q4_K_M
Use Docker
docker model run hf.co/DICPlay/RusMind-Malysh-4.7:Q4_K_M
- Llama new
- LM Studio
- Jan
- vLLM
How to use DICPlay/RusMind-Malysh-4.7 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "DICPlay/RusMind-Malysh-4.7" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "DICPlay/RusMind-Malysh-4.7", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/DICPlay/RusMind-Malysh-4.7:Q4_K_M
- SGLang
How to use DICPlay/RusMind-Malysh-4.7 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "DICPlay/RusMind-Malysh-4.7" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "DICPlay/RusMind-Malysh-4.7", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "DICPlay/RusMind-Malysh-4.7" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "DICPlay/RusMind-Malysh-4.7", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Ollama
How to use DICPlay/RusMind-Malysh-4.7 with Ollama:
ollama run hf.co/DICPlay/RusMind-Malysh-4.7:Q4_K_M
- Unsloth Desktop
- Pi
How to use DICPlay/RusMind-Malysh-4.7 with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf DICPlay/RusMind-Malysh-4.7:Q4_K_M
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:9931/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "DICPlay/RusMind-Malysh-4.7:Q4_K_M" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use DICPlay/RusMind-Malysh-4.7 with Docker Model Runner:
docker model run hf.co/DICPlay/RusMind-Malysh-4.7:Q4_K_M
- Lemonade
How to use DICPlay/RusMind-Malysh-4.7 with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull DICPlay/RusMind-Malysh-4.7:Q4_K_M
Run and chat with the model
lemonade run user.RusMind-Malysh-4.7-Q4_K_M
List all available models
lemonade list
- Hermes Agent
How to use DICPlay/RusMind-Malysh-4.7 with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf DICPlay/RusMind-Malysh-4.7:Q4_K_M
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:9931/v1 hermes config set model.default DICPlay/RusMind-Malysh-4.7:Q4_K_M
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use DICPlay/RusMind-Malysh-4.7 with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf DICPlay/RusMind-Malysh-4.7:Q4_K_M
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:9931/v1 \ --custom-model-id "DICPlay/RusMind-Malysh-4.7:Q4_K_M" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
RusMind 4.7 · Малыш
Будущее уже сегодня!
Национальный ИИ от DICPlay. Самая компактная модель семейства RusMind — всего 0,75 млрд параметров. Работает полностью без интернета: на бюджетных телефонах, старых ноутбуках и встраиваемых устройствах.
Попробовать RusMind на rusmind.ru · Русский и английский
Новинка: RusMind 4.7 · Сокол — топ-2 российская модель в MERA*
Сокол 4.7 — новая модель RusMind с режимом размышлений: прежде чем ответить, он продумывает задачу шаг за шагом. При 8,9 млрд параметров в независимом бенчмарке MERA v2 — 0,279:
- топ-2 российская модель* — выше только GigaChat 3.5 Reasoning от Сбера;
- обходит гигантский GigaChat 3.5 Ultra от Сбера — модель на 432 млрд параметров, в 48 раз больше;
- выше T-pro и T-lite от Т-Банка, A-Vibe от Авито и других российских моделей; сложные инструкции выполняет в 8 раз точнее T-pro;
- №1 среди всех моделей до 10 млрд параметров — с большим отрывом, сразу в пяти зачётах.
Скачать: DICPlay/RusMind-Sokol-4.7 — полные веса и GGUF для LM Studio, Ollama и llama.cpp.
* По общему баллу MERA v2 на 30.10.2026 среди моделей, созданных или дообученных российскими командами. Выше Сокола — только GigaChat 3.5 Reasoning от Сбера (432 млрд параметров).
RusMind 4.7 · Вспышка
Вспышка 4.7 работает прямо на устройстве, без интернета: на мощных ПК, ноутбуках и флагманских телефонах. В независимом бенчмарке MERA v2, который ведёт Альянс в сфере ИИ (Сбер, Яндекс, МТС, VK и другие), она идёт сразу за Соколом.
- Сокол и Вспышка — №1 и №2 среди всех моделей до 10 млрд параметров — сразу в четырёх зачётах: общий балл (у Вспышки 0,191), рассуждения, культура и регионы России, понимание людей.
- Понимает людей лучше T-pro от Т-Банка — модели на 33 млрд параметров, в 4 раза больше Вспышки.
- Обходит модели в 3–4 раза больше: RuadaptQwen3-32B (32 млрд) и Zero-Mistral (24 млрд), а по общему баллу идёт почти вровень с T-pro.
- Выше Qwen3.5-9B от Alibaba, Gemma 4 E4B от Google, T-lite от Т-Банка и A-Vibe от Авито.
- Грамотный русский (0,719 в исправлении орфографии и пунктуации), понимает персонажей, юмор и слова с противоположными значениями, точно следует сложным инструкциям и вызывает инструменты.
| Общий балл MERA v2 | RusMind Вспышка 4.7 (7,5 млрд) | Qwen3.5-9B · Alibaba (9 млрд) | Gemma 4 E4B · Google (8 млрд) | RuadaptQwen3-32B (32 млрд) | Zero-Mistral (24 млрд) | T-lite · Т-Банк (8 млрд) |
|---|---|---|---|---|---|---|
| Балл | 0,191 | 0,186 | 0,170 | 0,163 | 0,160 | 0,130 |
Скачать: DICPlay/RusMind-Vspyshka-4.7 — полные веса и GGUF для LM Studio, Ollama и llama.cpp.
Для чего Малыш
- Помощник там, где другие модели не помещаются: бюджетные и старые телефоны, ноутбуки без видеокарты, мини-ПК и встраиваемые устройства.
- Полностью офлайн: отвечает без интернета, переписка не покидает устройство.
- Знает Россию: историю и культуру, регионы и народы, традиции — и отвечает на русском и английском.
- Пишет простой код на HTML, Python и JavaScript.
- Грамотный русский: расставляет знаки препинания и исправляет орфографию.
Малыш в рейтинге MERA v2
Что такое MERA. MERA (Multimodal Evaluation for Russian-language Architectures) — ведущий независимый бенчмарк русскоязычных нейросетей. Его ведёт Альянс в сфере искусственного интеллекта, который основали Сбер, Яндекс, МТС, VK, «Газпром нефть» и РФПИ. Методологию разработала команда SberDevices вместе с академическими партнёрами, над версиями бенчмарка работали специалисты Сбера, MTS AI, Сколтеха и НИУ ВШЭ. В рейтинге — GigaChat от Сбера, T-lite и T-pro от Т-Банка, A-Vibe от Авито, модели Google, Alibaba, Mistral и других. Правильные ответы на тестовые задания участникам не показывают: результат считает сама платформа MERA, поэтому подогнать его нельзя. Все цифры ниже — из MERA: открыть рейтинг.
При всего 0,75 млрд параметров Малыш обходит модели в несколько раз больше — вплоть до 14 раз:
- Культура и регионы России — 0,192: выше Qwen3.5-9B от Alibaba (в 12 раз больше), Gemma 4 E4B и E2B от Google, A-Vibe от Авито, RuadaptQwen3-8B, meno-lite и LFM2.5 от Liquid AI.
- По общему баллу (0,087) обходит GFusion-10B (10,7 млрд) и SmolLM-3B — и идёт почти вровень с Gemma 4 E4B от Google (8 млрд).
- В рассуждениях (0,158) выше GFusion-10B и SmolLM-3B.
- В агентных задачах (0,030) впереди Gemma 4 E4B от Google, Zero-Mistral-Small (24 млрд), GFusion-10B и meno-lite.
| Культура и регионы России | RusMind Малыш (0,75 млрд) | RuadaptQwen3-8B (8 млрд) | meno-lite (8 млрд) | A-Vibe · Авито (8 млрд) | Gemma 4 E2B · Google (5 млрд) | Qwen3.5-9B · Alibaba (9 млрд) |
|---|---|---|---|---|---|---|
| Балл MERA v2 | 0,192 | 0,191 | 0,189 | 0,171 | 0,139 | 0,118 |
| Раздел MERA v2 | RusMind Малыш (0,75 млрд) | GFusion-10B (10,7 млрд) | SmolLM-3B (3 млрд) |
|---|---|---|---|
| Общий балл | 0,087 | 0,075 | 0,049 |
| Рассуждения | 0,158 | 0,122 | 0,063 |
| Культура и регионы России | 0,192 | 0,153 | 0,090 |
Данные MERA v2, октябрь 2026; в рейтинге — RusMind Малыш 4.7.
Файлы
Полные веса (safetensors, BF16) — в корне репозитория, для Transformers и своего квантования.
GGUF — для LM Studio, Ollama, PocketPal и llama.cpp:
Файлы GGUF для LM Studio, Ollama и llama.cpp появятся здесь в ближайшее время.
Как запустить
Transformers:
from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("DICPlay/RusMind-Malysh-4.7")
model = AutoModelForCausalLM.from_pretrained("DICPlay/RusMind-Malysh-4.7", torch_dtype="auto")
msgs = [{"role": "user", "content": "Расскажи коротко о Байкале"}]
ids = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors="pt")
print(tok.decode(model.generate(ids, max_new_tokens=200)[0][ids.shape[1]:], skip_special_tokens=True))
llama.cpp:
llama-cli -m RusMind-Malysh-4.7-Q4_K_M.gguf -cnv
Семейство RusMind
| Модель | Где работает | Для чего |
|---|---|---|
| Сокол | на компьютере, без интернета | думает перед ответом; 0,279 в MERA v2 — №1 до 10 млрд, вровень с Gemma 4 26B, выше GigaChat 3.5 Ultra |
| Малыш | на любом устройстве, без интернета | самая компактная: бюджетные телефоны и встраиваемые устройства |
| Моментум | на устройстве, без интернета | быстрые ответы на телефонах и ПК; 0,136 в MERA v2 — выше T-lite от Т-Банка |
| Вспышка | на устройстве, без интернета | 0,191 в MERA v2 — №2 среди моделей до 10 млрд параметров |
| Знание | в облаке и на мощных ПК | баланс скорости и знаний |
RusMind скачивают чаще моделей крупнейших компаний
За последние 30 дней открытые языковые модели RusMind скачали на Hugging Face 127 796 раз — больше, чем открытые языковые модели Т-Банка, Сбера и Яндекса вместе взятые. А RusMind Моментум с 60 950 загрузками — самая скачиваемая за месяц открытая языковая модель среди моделей крупнейших российских компаний.
| Открытые языковые модели | Загрузок за 30 дней |
|---|---|
| RusMind · DICPlay | 127 796 |
| Т-Банк · T-Pro, T-Lite | 58 958 |
| Сбер · GigaChat | 39 002 |
| Яндекс · YandexGPT | 21 445 |
| Авито · A-Vibe | 2 983 |
По данным Hugging Face (счётчик загрузок за последние 30 дней) на 31.10.2026; сравнивались открытые языковые модели Т-Банка (T-Pro, T-Lite), Сбера (GigaChat), Яндекса (YandexGPT) и Авито (A-Vibe).
RusMind в продуктах DICPlay
Модели RusMind работают не только здесь — DICPlay использует их в собственных продуктах. Например, в DIC.Антивирус PRO (200 тыс. скачиваний) RusMind простым языком объясняет пользователю найденные угрозы: что это за программа, чем она опасна и что с ней делать.
Ответственное использование
Ответы на медицинские, юридические и финансовые вопросы носят справочный характер.
Лицензия
Основа. RusMind Малыш создан дообучением открытой модели Qwen3.5-0.8B (Alibaba Qwen, Apache 2.0) на собственных данных DICPlay: русский язык и культура, история и регионы России, законодательство РФ. Текст лицензии Apache 2.0 исходной модели — в файле LICENSE-APACHE-2.0.txt.
Распространяется по собственной лицензии RusMind License (DICPlay) — текст в файле LICENSE. Коротко: бесплатно для личного и некоммерческого использования, исследований и оценки; коммерческое использование, перепродажа, распространение изменённых версий и встраивание в продукты — только по письменному договору с DICPlay. Модель предоставляется «как есть».
© 2026 DICPlay. RusMind — национальный ИИ. Генеральный директор — Кириллин Даниил Станиславович.
- Downloads last month
- 2,178