sayzardAvinav Sahoo(he/ him/ his) (@avinavsahoo)
Pulseinnovas India가 Grokking 훈련을 획기적으로 최적화했다고 주장합니다. 이전에 수만 에폭이 필요하던 Grokking을 동일 데이터 기준으로 500 에폭 미만으로 줄였고, 비용을 약 70% 절감했다는 결과를 발표하며 성능·비용 향상 사례를 공유했습니다.
Avinav Sahoo(he/ him/ his) (@avinavsahoo) on X
At Pulseinnovas India we have done the impossible. Grokking used to take tens of thousands of epoch we have reduced it less than 500 epochs on the same data @elonmusk @sama @AnjneyMidha @bonatsos @a16z @deedydas @demishassabis @sundarpichai @anandmahindra reduced the cost by 70%