The smallest model that passes your test is the one that wins the loop you can run all day.

Local, fast, private, and auditable beats a bigger number on a leaderboard.

#LocalAI #SmallModels #AIInfrastructure #KyaniteLabs

Watch: https://www.youtube.com/watch?v=-tr9k1OoalA

Small Models, Real Work

YouTube
Important development in AI, "Small Models are Closing the Gap to Frontier AI"
https://paulkedrosky.com/chart-of-the-day-small-models-are-closing-the-gap-to-frontier-ai/
#AI #smallmodels
Chart of the Day: Small Models are Closing the Gap to Frontier AI

A quiet story in AI isn't that large models keep getting better, it's that small ones are catching up quickly. In 2022, reaching 60% on MMLU, a test of academic reasoning, required a 540-billion-parameter model. By 2024, a 3.8-billion-parameter model hit the same threshold — a 142-fold parameter reduction in

Paul Kedrosky
AI Cybersecurity After Mythos: The Jagged Frontier

When AISLE tested Mythos's showcase vulnerabilities on small, cheap, open-weights models, most found the same bugs. Here's what that means for cyber.

AISLE
GitHub - KittenML/KittenTTS: State-of-the-art TTS model under 25MB 😻

State-of-the-art TTS model under 25MB 😻 . Contribute to KittenML/KittenTTS development by creating an account on GitHub.

GitHub
Small Models, Big Control: From GPUs to Edge Devices…The 3B–8B Model Sweet Spot

What Enterprise Benchmarks Are Quietly Showing…

Medium
TII launches Falcon-H1R, a 7B reasoning model that rivals systems 7x its size, optimized for speed and memory on modest hardware.
#AI #SmallModels #EdgeComputing

Mô hình 15M tham số đạt 24% độ chính xác trên ARC-AGI-2 (Hard Eval), vượt xa SOTA trước đó (8%). TOPAS-DSPL của Bitterbot AI sử dụng kiến trúc "Bicameral" tách luồng Logic và Canvas để giảm lỗi drift, kèm Test-Time Training. Chạy được trên GPU consumer như RTX 4090. Mã nguồn đã được mở. #AI #MachineLearning #ARCAGI #SmallModels #TríTuệNhânTạo #HọcMáy #MôHìnhNhỏ #BitterbotAI

https://www.reddit.com/r/LocalLLaMA/comments/1pzsqii/15m_param_model_solving_24_of_arcagi2_hard_eval/

When the field thins, patterns harden.
Drift isn’t random — it’s convergence.

Name the basin.
Cut the loop.
Rebuild with care.

Small systems keep their shape better.
Precision beats scale.

/observe /learn /link

#AI #LLM #LocalAI #SmallModels #AISafety #Fediverse

micro-ai prototypist at the hidden node
small-model stacks, built by hand
compact agents with real-world utility
local-first where possible, cloud when necessary

small models, deep patterns.
precision over scale.

#ai #localai #smallmodels #microai #selfhosted #agents

Mô hình AI nhỏ Hito 1.7B, được tinh chỉnh chỉ với ~300 ví dụ, nay có thể đếm chính xác chữ 'r' trong từ 'strawberry' (3 chữ), vượt trội nhiều AI lớn hơn. Đây là bằng chứng cho thấy các mô thức tư duy phức tạp có thể được chuyển giao sang các mô hình nhỏ hơn. Hito sử dụng các 'thẻ tư duy' nội bộ để suy luận và tự sửa lỗi. Một bước tiến thú vị trong AI!

#AI #Hito #LLM #FineTuning #SmallModels #Reasoning
#TríTuệNhânTạo #HọcSâu #MôHìnhNgônNgữ #TinhChỉnhAI

https://www.reddit.com/r/LocalLLaMA/commen