Se hai mai avuto bisogno di trascrivere una nota vocale, un’intervista o un audio WhatsApp direttamente sul tuo smartphone — senza mandare nulla in cloud, senza abbonamenti, senza privacy violata — allora questo progetto fa per te.

phone-whisper è un’app Android open source che ho sviluppato a partire da un fork di un progetto esistente, riprogettandola per fare una cosa sola ma fatta […]

โฮ่วฉือ (@PCoasol)

P40에서 llama.cpp와 Qwen 3.6을 함께 사용해 6만~7만 토큰 컨텍스트에서 초당 30토큰 수준의 로컬 추론을 만족스럽게 쓰고 있다는 사용 후기다. 집에서 대규모 지식을 다루는 로컬 AI 경험을 강조한다.

https://x.com/PCoasol/status/2045770188822561197

#llamacpp #qwen #localai #inference #llm

Sriniketh J (@srini047)

@devrev 검색 챌린지에서 65만 개의 실제 엔터프라이즈 지식베이스를 대상으로 검색 알고리즘을 벤치마크해 2위를 기록했다는 내용입니다. Alibaba Qwen과 RRF를 활용했으며, 3번째 시도에서 recall 0.2623을 달성했다고 밝혔습니다.

https://x.com/srini047/status/2045752702878306346

#search #benchmark #qwen #rrf #enterprise

RT @leftcurvedev_: The user wants me to translate the text accurately into German. They want ONLY the translation, no explanations, comments, or quotes. Let me translate this tech news post: "Okay this one is insane. A new 18B frankenstein model was just released on @huggingface — Beats the new Qwen3.6-35B-A3B on a 44-test suite despite requiring 12GB VRAM instead of 24GB 🤯 Runs on a SINGLE RTX 3060 (!) 🧠 Opus 4.6 & GLM-5.1 reasoning in one model ⚡️ 66+ tok/s stable on mid-range GPUs 🧪 Experimental, no additional training 🛠️ Perfect tool calling & agentic reasoning 📷 Fits on low hardware, any 12gb card 📚 GGUF size is 9.8GB (Q4_K_M) Another gift from Jackrong, adding both qwopus and glm-distilled qwen together was not on my bingo card. Truly seems like the sweet spot between 9B and 27B models right now. The ultimate model for 12-16GB VRAM owners? huggingface.co/Jackrong/Qwop…" Translation: "Wow, das hier ist unglaublich. Ein neues 18B-Frankenstein-Modell wurde gerade auf @huggingface veröffentlicht — Übertrifft das neue Qwen3.6-35B-A3B in

Mehr auf Arint.info

#GGUF #huggingface #qwen #Qwen3635 #together #arint_info

https://x.com/leftcurvedev_/status/2045449352827580602#m

When I first got into local LLMs nearly 3 years ago, in mid 2023, the frontier closed models were ofcourse impressively capable.

I then tried my hand on running 7b size local models, primarily one called Zephyr-7b (what happened to these models?? Dolphin anyone??), on my gaming PC with 8GB AMD RX580 GPU. Fair to say it was just a curiosity exercise (in terms of model performance).

Fast forward to this month, I revisit local LLM. (Although I no longer have the gaming PC, cost-of-living-crisis anyone 😫 )

And, the 31b size models look very sufficient. #Qwen has taken the helm in this order. Which is still very expensive to setup locally, although within grasp.

I'm rooting for the edge-computing models now - the ~2b size models. Due to their low footprint, they are practical to run in a SBC 24/7 at home for many people.

But these edge models are the 'curiosity category' now.

Ivan Zhang (@izzycodev)

Qwen 3.5를 두 대의 맥(M4 Mini, M1 MacBook Max)에서 약 30 tok/s로 로컬 실행해 백그라운드 업무, 시장조사 등을 Hermes Agent로 처리하는 사례를 공유했다. 클라우드나 API 비용 없이 멀티맥 로컬 AI 워크플로우를 구현한 점이 인상적이다.

https://x.com/izzycodev/status/2045509390753501674

#qwen #localai #inference #agents #mac

Peter Corbett (@corbett3000)

로컬 Mac mini와 M2 기반 exolabs 클러스터에서 Qwen3.6을 실행해 애플리케이션을 개발하고 있다고 언급하며, 개인용 로컬 AI 인프라로 실제 코딩 작업을 하는 활용 사례를 보여준다.

https://x.com/corbett3000/status/2045335996636725741

#qwen #localai #m2 #macmini #aicoding

Brie Wensleydale (@SlipperyGem)

최신 Qwen 모델이 Abliterated 버전으로 공개되었고, 로컬 환경에 배포해 사용하고 싶다는 반응이 나왔다. 오픈소스/로컬 배포용으로 주목할 만한 새로운 모델 업데이트다.

https://x.com/SlipperyGem/status/2045408418517885205

#qwen #opensource #localdeployment #llm #model

Bindu Reddy (@bindureddy)

Qwen 3.6이 공개되었고, 활성 파라미터 30억 규모로 거의 비용 없이 구동되면서 Opus 4.7 성능의 80%를 달성했다고 주장한다. 오픈소스 AI가 빠르게 발전하고 있음을 보여주는 주목할 만한 모델 출시다.

https://x.com/bindureddy/status/2045393596824838361

#qwen #opensource #llm #modelrelease #aidevelopment

Ivan Fioravanti ᯅ (@ivanfioravanti)

Qwen3.6-35B-A3B 8bit 모델을 M3 Ultra와 M5 Max에서 비교한 결과, M5 Max가 더 뛰어난 성능을 보였다고 언급합니다. 로컬 AI 하드웨어 선택과 추론 성능 비교에 참고가 되는 벤치마크 성격의 내용입니다.

https://x.com/ivanfioravanti/status/2045381802655654254

#qwen #benchmark #m3ultra #m5max #localai