Mastodawn

Дрейф, потеря контекста и «уверенная чушь»: протокол восстановления SDX-S

LLM умеют многое, но иногда ломаются так, что виноватым выглядит пользователь: контекст уезжает, инструкции исчезают, инструмент падает, а модель продолжает говорить уверенно, как будто всё нормально. Мы смотрим на это не как на “плохой ответ”, а как на деградацию состояния диалога . Если не поймать момент, по цепочке шагов и становится всё убедительнее. Мы собрали процедуру SDX-S: триггеры → диагностика причины → восстановление → критерии возврата . Ниже: состояния, “дашборд” и два кейса, где это реально спасает.

https://habr.com/ru/articles/985334/

#сезон_ии_в_разработке #llmjs #chatgpt5 #prompt_engineering #guardrails #hallucinationsinai #observability #finite_state_machine #tool_use #reliability

Дрейф, потеря контекста и «уверенная чушь»: протокол восстановления SDX-S

Авторы Юрий Зеленцов, ака Ded_Egor, Ашер Гапети Если нечего удерживать, удерживать нечего! Ашер Гапети Введение LLM стали рабочим инструментом ровно в тот момент, когда ошибки начали стоить времени и...

Хабр