Nico Martin (@nic_o_martin)
Transformers.js를 활용해 ML 모델을 브라우저에서 직접 실행하는 방법, WebGPU, 양자화, 에이전트, 프론트엔드 개발자가 무엇에 집중해야 하는지 등을 다룬 대화였다. 웹 환경에서의 온디바이스/클라이언트 측 AI 실행과 관련해 개발자에게 유용한 기술 흐름을 소개한다.
https://x.com/nic_o_martin/status/2049350367532532113
#transformersjs #webgpu #quantization #agents #machinelearning
🤷 Nico Martin (@nic_o_martin) on X
I really enjoyed this conversation with the @neciudan!
We covered a lot.. how I went from Ski instructor to ML engineer and how Transformers.js lets you run ML models directly in the browser to WebGPU, quantization, agents, and what frontend devs should actually focus on🤗
Nico Martin (@nic_o_martin)
Transformers.js 기반의 OpenAI API 호환 JavaScript 서버를 소개하는 프로젝트가 언급됐다. 오픈소스 환경에서 OpenAI 호환 서버를 쉽게 구축할 수 있어 개발자들에게 유용한 도구로 보인다.
https://x.com/nic_o_martin/status/2048004162126758265
#transformersjs #openai #javascript #opensource #api
🤷 Nico Martin (@nic_o_martin) on X
Awesome project❤️! OpenAI API compatible JavaScript server powered by Transformers.js🤗
Nico Martin (@nic_o_martin)
Transformers.js v4.1이 공개되었으며, 이전에는 브라우저에서 실행되지 않던 기능이 한 줄의 코드로 가능해졌다고 예고했다. 브라우저 기반 AI 추론과 경량 모델 활용을 크게 확장할 수 있는 중요한 프런트엔드 AI 도구 업데이트다.
https://x.com/nic_o_martin/status/2044408658327454122
#transformersjs #browserai #javascript #llm #opensource
🤷 Nico Martin (@nic_o_martin) on X
Transformers.js v4.1 is out 🎉
Something that has literally never run in a browser before is now possible. One line of code.
Can you guess what it is? 👇 (hint: think small 🤏)
Nico Martin (@nic_o_martin)
Transformers.js v4가 공개되었으며, 새로운 모델과 기능이 추가되고 성능도 더 빨라졌다고 소개한다. 자바스크립트 환경에서 최신 AI 모델을 더 쉽게 활용할 수 있는 중요한 업데이트로 보인다.
https://x.com/nic_o_martin/status/2038621948863713578
#transformersjs #javascript #webai #llm #opensource
🤷 Nico Martin (@nic_o_martin) on X
🤗 Transformers.js v4 is out!
And I'm incredibly proud to be part of it!
New models, new features, faster than ever 🔥
Check it out 👇
Nico Martin (@nic_o_martin)
MistralAI의 Voxtral과 Transformers.js, WebGPU 조합으로 브라우저에서 실시간 음성 전사가 가능해졌다는 발표입니다. 다양한 언어를 지원하며 문장 중간에 언어가 바뀌어도 인식하는 기능을 강조하여 웹 기반 ASR(자동 음성인식)의 저지연·다국어 적용 사례로 의미가 큽니다.
https://x.com/nic_o_martin/status/2032087412462022663
#mistralai #voxtral #transformersjs #webgpu #speechrecognition
🤷 Nico Martin (@nic_o_martin) on X
Voxtral (by @MistralAI) + Transformers.js + WebGPU enables real-time speech transcription in the browser.
It also supports a wide range of languages, which are even recognized in the middle of a sentence 🚀
Nico Martin (@nic_o_martin)
Transformers.js AgentSkill 설치 명령 안내입니다. 한 줄로 설치 가능한 예시로 npx skills add https://github.com/huggingface/skills … --skill transformers-js 를 제시하며, 개발자가 빠르게 브라우저용 스킬을 추가할 수 있음을 설명합니다.
https://x.com/nic_o_martin/status/2031773330508812421
#transformersjs #huggingface #npx #developers
GitHub - huggingface/skills
Contribute to huggingface/skills development by creating an account on GitHub.
Nico Martin (@nic_o_martin)
브라우저에서 AI 실행을 쉽게 해주는 신규 기능 공개 소식입니다. Transformers.js의 AgentSkill을 출시해 웹앱 내에서 온디바이스 ML 모델을 구동하도록 코딩 에이전트에 필요한 정보를 제공하고, 브라우저 기반 AI 통합을 단축·간소화한다고 안내합니다.
https://x.com/nic_o_martin/status/2031773328441049270
#transformersjs #agentskill #webai #ondeviceai
🤷 Nico Martin (@nic_o_martin) on X
Getting started with AI in the browser has never been easier 🤗
Today we're releasing the Transformers.js #AgentSkill, your shortcut to running ML models in the browser.
It provides all the information your coding agent needs to add on-device AI to your web app.
AA (@measure_plan)
'fruit xylophone'라는 컴퓨터 비전 기반 음악 실험을 소개하는 트윗으로, mediapipe 손 추적과 Roboflow의 RF-DETR 객체 검출을 결합해 브라우저에서 실시간으로 동작하며 transformers.js를 사용해 구현했다고 설명합니다. 실시간 브라우저 ML과 크리에이티브 인터랙션 사례입니다.
https://x.com/measure_plan/status/2031115015567077416
#computervision #mediapipe #roboflow #transformersjs
AA (@measure_plan) on X
introducing: fruit xylophone
a computer vision music experiment built with mediapipe hand tracking and roboflow RF-DETR object detection (running in realtime in the browser using transformers js)
Xenova (@xenovacom)
벤치마크 결과 Qwen3.5-4B가 GPT-4o와 동등한 성능을 보인다는 보고와 함께, Qwen3.5-4B(멀티모달)가 WebGPU와 Transformers.js로 브라우저에서 구동되는 시연이 공개되었습니다. 이는 데이터센터 최전선 모델과 브라우저 로컬 모델 간 격차가 약 2년 정도로 좁혀졌음을 시사하며, 로컬에서의 고성능 멀티모달 LLM 운용 가능성을 의미합니다.
https://x.com/xenovacom/status/2031061185970213215
#qwen #gpt4o #webgpu #transformersjs #multimodal
Xenova (@xenovacom) on X
Benchmarks suggest that Qwen3.5-4B performs just as well as GPT-4o.
Here's Qwen3.5-4B (multimodal) running on WebGPU with Transformers.js.
This means that the gap between frontier models running in a datacenter and local models running in your browser is around 2 years. Insane.
AA (@measure_plan)
사용자가 만든 컴퓨터 비전 시스템이 브라우저 상에서 WebGPU를 활용해 실행된다고 명확히 밝혔다. ML 모델은 Transformers.js를 통해 로드되며, MacBook M2 환경에서는 FPS가 낮지만, 클러스터 환경에서의 실험을 제안했다. 이는 경량 AI 모델의 웹 실시간 추론 구현 가능성을 시사한다.
https://x.com/measure_plan/status/2025998234951266528
#webgpu #transformersjs #browserai #ai #realtime
AA (@measure_plan) on X
@xenovacom my original post wasn't clear, so i want to point out that this runs in the browser using webgpu
the ML models are loaded via transformers js
fps is pretty slow because of my m2 laptop. if anyone wants to try with a cluster of mac minis / studios, just dm me :]
sayzard