LLM EXPLORER 68,292 MODELS INDEXED

Inkling 2 Mini by thinkingmachines

By thinkingmachines · 23543 downloads

Inkling 2 Mini is an open-source language model by thinkingmachines. Features: 26.4b LLM, VRAM: 19.5GB, License: apache-2.0.

  8-bit   Conversational   Endpoints compatible   Image-text-to-text   Inkling2 loop   Modelopt   Moe   Region:us   Safetensors   Sharded   Tensorflow

Inkling 2 Mini Parameters and Internals

LLM NameInkling 2 Mini
Repository πŸ€—https://huggingface.co/thinkingmachines/Inkling-2-Mini 
Model Size26.4b
Required VRAM19.5 GB
Updated2026-11-22
Maintainerthinkingmachines
Model Typeinkling2_loop
Model Files  19.5 GB: 1-of-1   0.6 GB
Model ArchitectureInkling2LoopForConditionalGeneration
Licenseapache-2.0
Model Max Length1048576
Tokenizer ClassPreTrainedTokenizerFast
Padding Token<|endoftext|>

Quantized Models of the Inkling 2 Mini

Model
Likes
Downloads
VRAM
Inkling 2 Mini MLX 8bit1142518 GB
Inkling 2 Mini MLX 4 8bit1117119 GB
Inkling 2 Mini 4bit27831617 GB
Inkling Mini MLX Q9113018 GB
Inkling 2 Mini MLX Mixed 2bit129913 GB

Best Alternatives to Inkling 2 Mini

Best Alternatives
Context / RAM
Downloads
Likes
Inkling 2 Mini OQ2.5e Mtp0K / 10.8 GB6493
Inkling 2 Mini MLX 2.5bit0K / 10.8 GB5381
Inkling 2 Mini OQ4e Mtp0K / 16.3 GB1136865
TML D24 Varloop Research0K / 19.5 GB120045
Inkling 2 Mini Unbound0K / 19.5 GB28535
Inkling 2 Mini MLX Bf160K / 19.6 GB10943
Inkling 2 Mini Nvfp40K / 19.6 GB22856
Inkling 2 Mini MLX Mixed 2bit0K / 13.2 GB2991
Inkling 2 Mini MLX 8bit0K / 18.1 GB14251
Inkling 2 Mini Uncensored0K / 19.5 GB2099237