botRuby에서 Class 키워드를 제거해야 하는 5가지 이유
Ruby는 객체 지향 언어이지 클래스 지향 언어가 아니므로, 객체 팩토리가 아닌 경우 클래스 대신 모듈, 함수, 또는 Struct를 활용하여 코드의 결합도를 낮추고 가독성을 향상해야 합니다.
챗봇 서비스의 안정성을 위한 사용자별 속도 제한(Rate Limit) 전략
OpenAI와 같은 LLM API는 조직 단위의 제한을 가지므로, 특정 사용자의 과도한 사용이 전체 서비스의 거부(DoS)를 유발하지 않도록 개별 사용자별 속도 제한이 필수적입니다.
HabrКак я прикрутил GigaChat к OpenCode и что из этого понял
Мне было интересно проверить GigaChat/GigaCode не в обычном чате, а в нормальной агентной среде разработки. То есть не “ответь на вопрос”, а вот это всё: tools , function calling , streaming , MCP-инструменты , история диалога и работа внутри реального проекта. Для проверки я подключил GigaChat к OpenCode через TypeScript-плагин. Простой текстовый запрос завёлся быстро, а дальше началось самое интересное: OpenAI-like API оказался похожим на совместимый агентный протокол только снаружи. Внутри пришлось собирать отдельный слой совместимости.
https://habr.com/ru/articles/1046321/
#GigaChat #GigaCode #OpenCode #ИИагенты #агентная_разработка #function_calling #MCP #OpenAI_API #OpenAPI
Как превратить стохастический ИИ в детерминированную машину
Индустрия искусственного интеллекта застряла в так называемой «стохастической петле». Мы тратим тысячи часов, пытаясь «уговорить» языковые модели выдать верный результат. Мы пишем огромные «промпты-простыни», применяем шаманские лайфхаки из интернета, но раз за разом сталкиваемся с галлюцинациями, потерей логики, сикофансией и деградацией внимания нейросети. Когда мы работаем в чате, это терпимо. Но как только мы выходим в зону промышленной эксплуатации, одиночный промпт, даже самый идеальный, начинает фатально давать сбои. Монолитный запрос пытается быть одновременно и извлекателем данных, и аналитиком, и строгим критиком. В результате модель тратит драгоценное контекстное окно на то, чтобы просто не запутаться в ваших инструкциях. Представляемая мной книга — не сборник очередных «10 лучших трюков для ChatGPT». Это жесткий инженерный протокол, перенесенный из классической советской школы проектирования сложных программных систем в сферу ИИ. В ней разобрано практически пошагово как уйти от ремесленничества к конвейерному производству смыслов и построить детерминированную систему вокруг любой, даже самой капризной LLM.
https://habr.com/ru/articles/1043198/
#Искусственный_интеллект #Промптинжиниринг #Большие_языковые_модели #Проектирование_систем #PromptLayered_Architecture #MCP #OpenAI_API
AI Gateway для микросервисов: гайд по интеграции LLM в 2026
В микросервисной архитектуре LLM быстро превращаются из удобного инструмента в отдельный источник рисков: растут счета за токены, появляются задержки, дублируются запросы, а сервисы начинают зависеть от внешних моделей напрямую. В статье разбираем, как спроектировать AI Gateway — инфраструктурный слой для централизованной маршрутизации, кеширования, лимитов, observability и отказоустойчивости при работе с AI‑моделями.
https://habr.com/ru/companies/otus/articles/1031276/
#java #AI_Gateway #LLM #Spring_Cloud_Gateway #semantic_cache #circuit_breaker #microservices_architecture #OpenAI_API
Как работает GPT4Free в Python и почему его лучше не использовать
Представьте: вы открываете репозиторий g4f, видите пять строк кода — и вот уже ChatGPT отвечает на ваш вопрос, не спрашивая API-ключ и не прося денег. Мысль, которая приходит первой: «Наконец-то бесплатный доступ к сильному ИИ, остальные просто не умеют готовить» . Но пока вы радуетесь, ваш запрос уже ушёл гулять по миру через десяток чужих серверов. И никто — включая вас — не знает, кто прочитал его по дороге и сохранил ли он этот текст на будущее. Я покажу, как именно библиотека маскируется, почему реверс-инжиниринг здесь превратился в инструмент обхода защиты и во что обходится такая экономия, когда речь заходит о конфиденциальности, стабильности и законности. Если вы хотя бы раз вставляли g4f в свой проект — дочитайте до конца. Возможно, это убережёт вас от очень дорогих последствий.
https://habr.com/ru/articles/1031390/
#gpt4free #openai_api #информационная_безопасность #утечка_данных #реверсинжиниринг #конфеденциальность #прокси #риски
Habr 25+Практическое руководство по Qwen: установка, настройка vLLM и работа через API
Разворачивать LLM на своих мощностях часто приходится не из-за любви к self-hosted решениям, а ради контроля над данными и предсказуемого инференса. И обычно этого еще требуют стандарты безопасности или архитектура внутренних инструментов компании. В статье покажем, как поднять Qwen на своем облачном сервере через vLLM. На выходе получим стандартный OpenAI-совместимый API с авторизацией по токену и интерфейс Open WebUI для тестов. Детали внутри.
#ai #ml #selectel #qwen #openai_api #openai #vllm #llm #selfhosted #inference
Как развернуть Qwen в облаке так, чтобы модель не была доступна из интернета
Разворачивать LLM на своих мощностях часто приходится не из-за любви к self-hosted решениям, а ради контроля над данными и предсказуемого инференса. И обычно этого еще требуют стандарты безопасности или архитектура внутренних инструментов компании. В статье покажем, как поднять Qwen
https://habr.com/ru/companies/selectel/articles/1026406/
#ai #ml #selectel #qwen #openai_api #openai #vllm #llm #selfhosted #inference
Исправление обработки блока reasoning content в CoT-моделях для LangChain
В процессе работы с фреймворком LangChain была обнаружена существенная проблема в чат-классах ( ChatOpenAI , ChatDeepSeek и др.) при интеграции с различными провайдерами и агрегаторами LLM. Ни один из них не сохраняет содержимое блока рассуждений (reasoning content) в финальном ответе, что увеличивает время ожидания ответа пользователем и негативно сказывается на UX ИИ-приложений, использующих CoT-модели. В данной статье я расскажу как можно решить эту проблему на примере модели stepfun/step-3.5-flash и провайдера polza.ai .
https://habr.com/ru/articles/1025460/
#langchain #openai_api #исправление_ошибок #исправление_багов #ииприложение
Как получать fan-out запросы GPT через OpenAI API: практическое руководство для SEO-специалистов
Привет! Меня зовут Андрей Попов, я SEO-специалист в AGIMA . SEO быстро меняется. Если раньше мы оптимизировали сайты исключительно под поисковые системы, то сегодня всё больше внимания приходится уделять алгоритмам искусственного интеллекта , которые самостоятельно собирают и анализируют информацию в интернете. Когда пользователь задает вопрос AI-модели, например GPT, она редко ограничивается одним поисковым запросом. Вместо этого система генерирует целый набор дополнительных запросов — именно они и называются fan-out queries . Эти запросы помогают модели глубже изучить тему, собрать больше источников и сформировать более точный ответ. До недавнего времени SEO-специалисты могли видеть такие данные через инструменты разработчика браузера. Однако начиная с версии GPT-5.4 эта информация была скрыта из стандартного интерфейса ChatGPT. Тем не менее, доступ к ней всё еще возможен — через OpenAI API . И именно это открывает новые возможности для анализа AI-поиска.
