fly51fly (@fly51fly)
Sparse Autoencoder가 개념 manifold를 포착하는지 분석한 Harvard University 연구 논문입니다. 모델 내부 표현 해석 가능성과 concept representation 연구에 중요한 결과로, sparse autoencoder와 개념 구조의 관계를 탐구합니다.
https://x.com/fly51fly/status/2050330797467746330
#sparseautoencoder #interpretability #representationlearning #llm #arxiv
Qwen (@Alibaba_Qwen)
Qwen 모델 계열을 위한 희소 오토인코더(open suite)인 Qwen-Scope를 공개했습니다. 내부 특징을 직접 조작해 출력 제어와 분류 등 실용적 도구로 활용할 수 있어, 프롬프트 엔지니어링 없이 모델 해석·제어를 지원하는 주목할 만한 오픈 소스 도구입니다.
Today we’re releasing Qwen-Scope 🔭, an open suite of sparse autoencoders for the Qwen model family. It turns SAE features into practical tools： 🎯 Inference — Steer model outputs by directly manipulating internal features, no prompt engineering needed 📂 Data — Classify &
sayzard