ImpactArbiter – A PyTorch autograd trap for LLM memory bugs

ImpactArbiter는 LLM이 생성한 KV-cache 라우팅 커널의 메모리 버그를 잡기 위한 PyTorch autograd 기반 검증 도구입니다. LLM이 코드와 테스트 모두 동일한 잘못된 모델에서 유래한 버그를 놓치는 문제를, 논문 요약 기반 RAG 파이프라인과 autograd gradient 비교 트랩으로 해결합니다. 이 도구는 LLM 단위 테스트가 통과해도 잡지 못하는 버그를 검출하고 자동 수정까지 시도하며, Gemini 2.5 Pro 모델의 65% 오류를 모두 잡아내는 높은 신뢰도를 보입니다. 오픈소스로 개발 중이며, 새로운 오라클과 경계 케이스 기여를 받습니다.

https://github.com/msunda17/impactarbiter-cli

#pytorch #llm #memorybug #autograd #rag