zackproserFine-tuning #Llama 3.1 on your own data is easier than you think.
Here’s my full #tutorial using Lightning AI and #TorchTune:
https://zackproser.com/blog/how-to-fine-tune-llama-3-1-on-lightning-ai-with-torchtune
Build smarter models, step by step.
Judith van StegerenMany companies are currently scrambling for ML infra engineers. They need people that know how to manage AI infrastructure, and that can seriously speed up training and inference with specialized tooling like vLLM, Triton, TensorRT, Torchtune, etc.
#inference #training #genai #triton #vllm #pytorch #torchtune #tensorrt #nvidia
HabrОбучение модели токсификации текстов с помощью TorchTune, подробное руководство
Приветствую, хабровчане! Сегодня пятница, поэтому предлагаю немного пошалить и поговорить о слегка необычном, но весьма забавном проекте обучения нейросетевой модели на базе LLaMA2 7B , которая умеет превращать невинные предложения на русском языке в чуть более "токсичные" их версии. Но обучать модель мы будем не абы как, а при помощи недавно вышедшего в свет проекта под названием TorchTune , так как надо ведь пробовать новые инструменты, иными словами, предлагаю соединить тему интересную с темой полезной. Так что пристегнитесь, будет весело и слегка токсично!
https://habr.com/ru/articles/810473/
#Torch #TorchTune #Detoxification #Toxification #llama 2 #levenshtein #llm #nlp #huggingface
