I built a sub-500ms latency voice agent from scratch

https://www.ntik.me/posts/voice-agent

#HackerNews #sub500ms #latency #voiceagent #voiceAI #techinnovation #buildfromscratch

Torchless - dự án C++ giúp bạn tự xây dựng công cụ suy luận LLM từ đầu! Dù LLM thường là "hộp đen", Torchless minh họa cách chúng hoạt động bằng toán học cơ bản: từ chuyển đổi mô hình, token hóa, xử lý qua transformer với attention và MLP. Rất bổ ích để tìm hiểu sâu về AI!

#LLM #Cplusplus #AI #MachineLearning #BuildFromScratch #DeepLearning
#HocMay #LapTrinhC #KienTrucLLM #ChatGPT

https://www.reddit.com/r/programming/comments/1pdq8t7/build_your_own_chatgpt_from_scratch_in_c/

I built a tensor library from scratch in C++/CUDA

https://github.com/nirw4nna/dsc

#HackerNews #tensorLibrary #C++ #CUDA #programming #buildFromScratch #openSource #HackerNews