sayzardAvi Chawla (@_avichawla)
OpenAI가 50만 달러를 쓴 Kaggle LLM 취약점 탐지 대회와 유사한 기능을 DeepTeam이 무료 오픈소스로 제공한다는 내용이다. DeepTeam은 편향, PII 유출, 유해성 등 50개 이상 취약점을 탐지하기 위한 20개 이상의 연구 기반 공격을 로컬에서 실행할 수 있다.
Avi Chawla (@_avichawla) on X
OpenAI paid $500k for this! > A Kaggle contest to find LLM vulnerabilities DeepTeam does it for free. It implements 20+ research-backed SOTA attacks to detect 50+ vulnerabilities like bias, PII leakage, toxicity, and more. Runs locally. No dataset needed. 100% open-source.