Что происходит внутри LLM, когда ты отправляешь сообщение

Каждый день миллионы людей разговаривают с системой, про которую не могут ответить на простой вопрос: а что она вообще делает, когда отвечает? Не в смысле философии сознания — в смысле буквально, технически, шаг за шагом. Это странно, если подумать. Мы спорим о том, есть ли у неё сознание, но многие не знают, что такое токен. Эта статья не про то, опасен ли ИИ и не про то, заменит ли он программистов. Она про механику — про то, что происходит внутри в те несколько секунд между твоим вопросом и первым появившимся словом ответа. Без формул, но и без упрощений, которые врут.

https://habr.com/ru/articles/1044360/

#LLM #трансформер #нейросети #токенизация #attention #GPT #машинное_обучение #эмбеддинги #генерация_текста #как_работает_ИИ