sayzardAnthropic (@AnthropicAI)
AI 모델이 아직 범용 정렬 과학자는 아니며, 대부분의 정렬 연구는 성과를 검증하기 어렵다고 설명한다. 다만 이번 실험은 Claude가 연구 실험과 탐색의 속도를 높일 수 있음을 보여주며, 자동화된 정렬 연구의 한계와 가능성을 함께 제시한다.
Anthropic (@AnthropicAI) on X
AI models aren’t yet general-purpose alignment scientists. Progress isn't as easy to verify on most alignment research tasks: our AARs would find “fuzzier” research much harder. But our experiment does show that Claude can increase the rate of experimentation and exploration.