Spring AI: retrieval augmented generation

Spring AI , который только недавно получил первую стабильную версию, уже предоставляет довольно много возможностей для работы с RAG ( retrieval augmented generation ). Благодаря этому подходу нейросеть перед тем, как дать ответ на запрос пользователя, выполнит поиск подходящей информации в векторном хранилище. Причём каждый документ хранится не в виде текста, а в виде массива чисел (т.н. «векторов»). Процесс преобразования различных документов в такой векторный формат выполняется опять же с помощью LLM и называется embedding («встраивание»). Хорошая новость заключается в том, что всё это можно легко сделать с помощью Spring AI.

https://habr.com/ru/articles/920992/

#spring_ai #rag #kotlin #java #openai #pgvector #postgres #spring