Mastodawn

Justin H. Johnson (@BioInfo)

200줄, 의존성 없음으로 구현된 'Full GPT' 예제가 공개됨: 토크나이저, autograd, 트랜스포머, Adam 옵티마이저, 학습과 추론까지 포함. Karpathy가 수년간의 ML 지식을 하나의 파일로 압축한 형태로 교육적·오픈소스 관점에서 주목받음(링크 포함).

https://x.com/BioInfo/status/2028014151541629016

#microgpt #karpathy #opensource #gpt

Justin H. Johnson (@BioInfo) on X

200 lines. No deps. Full GPT: tokenizer, autograd, transformer, Adam, training, inference. Karpathy compressed a decade of ML education into a single file. https://t.co/vElkjs3RNn cc @karpathy @rasbt @cwolferesearch @natolambert

X (formerly Twitter)