Почему фреймворк вообще нужен
Голый вызов OpenAI API занимает три строки. Проблема начинается, когда нужны цепочки вызовов, память, инструменты, RAG, мониторинг, ретраи и переключение между провайдерами. Фреймворк убирает 70% boilerplate и даёт готовые абстракции. Без него на проде каждый чих превращается в кастомный код.
На reddyx.xyz/feed/ отслеживаются релизы этих фреймворков каждый день, частота выхода версий в 2026 году выше, чем у React в 2019.
LangChain: швейцарский нож с проблемами
LangChain, это самый популярный LLM фреймворк, 95k звёзд на GitHub к маю 2026. Сильная сторона, экосистема: 700+ интеграций, готовые шаблоны для агентов, LangGraph для stateful workflow. Слабая сторона, частые breaking changes и переусложнённые абстракции.
Пример: чат с памятью за 5 строк
pip install langchain langchain-openai
from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage
llm = ChatOpenAI(model="gpt-4o")
response = llm.invoke([HumanMessage(content="Привет")])
print(response.content)
Когда брать: прототип агента с инструментами, нужны 10+ интеграций сразу, команда уже знает API.
LlamaIndex: король RAG задач
LlamaIndex заточен под индексацию документов и retrieval. Если задача, сделать чат поверх 10000 PDF, это правильный выбор. Встроенные парсеры для 160+ форматов, гибридный поиск, reranking из коробки. Версия 0.12 в начале 2026 переписала query engine, скорость выросла на 40%.
pip install llama-index
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
docs = SimpleDirectoryReader("./data").load_data()
index = VectorStoreIndex.from_documents(docs)
query_engine = index.as_query_engine()
print(query_engine.query("Что в документах про revenue?"))
DSPy: программирование вместо промптов
DSPy от Stanford меняет парадигму. Вместо ручного промпт-инжиниринга вы описываете сигнатуру задачи, фреймворк сам оптимизирует промпт через few-shot и bootstrapping. В 2026 это самый быстрорастущий фреймворк по звёздам на GitHub (+22k за год).
pip install dspy-ai
import dspy
dspy.settings.configure(lm=dspy.OpenAI(model="gpt-4o-mini"))
classify = dspy.Predict("text -> sentiment")
result = classify(text="Сервис отвратительный, верните деньги")
print(result.sentiment)
Когда брать: нужна стабильная точность на конкретной задаче, есть размеченные данные для оптимизации, важна воспроизводимость.
Haystack: продакшен без боли
Haystack от deepset делает упор на надёжность. Pipeline как граф, чёткие типы данных, нативная интеграция с Elasticsearch и OpenSearch. Версия 2.x вышла в 2024, к 2026 это зрелый продукт с использованием в банках и страховых.
pip install haystack-ai
from haystack import Pipeline
from haystack.components.generators import OpenAIGenerator
pipe = Pipeline()
pipe.add_component("llm", OpenAIGenerator(model="gpt-4o"))
result = pipe.run({"llm": {"prompt": "Объясни RAG в одном предложении"}})
print(result["llm"]["replies"][0])
Semantic Kernel: выбор для .NET
Semantic Kernel от Microsoft, единственный серьёзный фреймворк с равной поддержкой Python, C# и Java. Если команда на .NET, альтернатив нет. Плагины, планировщики, нативная интеграция с Azure OpenAI. Минус, документация местами отстаёт от кода на месяц-два.
Таблица сравнения
| Фреймворк | Звёзды GitHub | Лучше всего для | Слабое место |
|---|---|---|---|
| LangChain | 95k | Агенты, прототипы | Breaking changes |
| LlamaIndex | 38k | RAG, поиск по документам | Меньше агентных абстракций |
| DSPy | 22k | Оптимизация промптов | Кривая обучения |
| Haystack | 17k | Продакшен RAG | Меньше комьюнити |
| Semantic Kernel | 22k | .NET стек | Документация запаздывает |
Что выбрать в 2026
Если делаете MVP за выходные, LangChain. Чат поверх документов, LlamaIndex. Серьёзная задача с метриками качества, DSPy. Продакшен с SLA, Haystack. Корпоратив на .NET, Semantic Kernel. Комбинировать тоже норма, многие используют LlamaIndex для retrieval внутри LangChain агента.
Новые релизы всех этих фреймворков появляются в каталоге reddyx.xyz/feed/ автоматически.
Частые вопросы
Какой LLM фреймворк самый популярный в 2026?
LangChain с 95k звёзд на GitHub, но DSPy растёт быстрее всех, +22k звёзд за последний год.
Можно ли использовать несколько фреймворков одновременно?
Да, частая практика, LlamaIndex для retrieval плюс LangChain для оркестрации агентов.
Какой фреймворк лучше для RAG?
LlamaIndex заточен под RAG, имеет 160+ парсеров документов и гибридный поиск из коробки.