ai

Как я выбирал фреймворки для локальных моделей python Привет! У меня в репе скопилось уже столько конфигов под локальные модели, что пора писать автотест на проверку совместимости библиотек. Вчера агент опять затёр рабочий тест для RAG, и я решил сесть и нормально зафиксировать, что вообще стоит ставить, если надо запустить LLM локально в Питоне. Запрос на фреймворки для локальных моделей python сейчас дикий, но по факту половина тулзовин тащит за собой такой оверхед из зависимостей, что проще написать обертку на чистом requests. Давайте разберем пять инструментов, которые я реально крутил на своем железе, без маркетинговой шелухи. 1. Ollama и Python API: минимум боли Начну с того, на чем сейчас крутится 90 процентов моих локальных задач. Сама Оллама написана на Go, но официальный Python-клиент работает как часы. Никаких танцев с компиляцией

Какие фреймворки для создания агентов топ-5 я реально использую в проектах Привет, это Никита. У меня в репе опять всё упало, потому что вчера ночной агент зачем-то затёр рабочий интеграционный тест и решил, что он умнее юнит-тестов. Знакомая история? Если вы тоже пытаетесь связать несколько LLM в один конвейер, то наверняка уже задолбались писать велосипеды на чистом requests. Рынок штормит, новые библиотеки выходят каждую неделю, но для production-задач пригодных инструментов на самом деле не так много. Ниже мой топ-5 фреймворков для создания агентов, которые мы пощупали руками, поймали на них все возможные ошибки деплоя и теперь понимаем, куда их вообще стоит тащить, а где проще обойтись обычным скриптом. 1. LangGraph: граф состояния для сложных пайплайнов Первый номер в моем списке — LangGraph. После того как классический LangChain