AI 工具与仓库

TypeScript AI 工具包，用于构建 AI 驱动的产品。统一的 API 支持 OpenAI、Anthropic、Google 等，带流式传输。

微软的 SDK，用于将 LLM 集成到应用中。支持 C#、Python 和 Java，具备企业级特性。

基础模型编程框架。用可组合、可优化的模块替代手写 Prompt。

deepset 出品的端到端 LLM 框架。构建生产就绪的 RAG、问答和语义搜索流水线。

编排角色扮演 AI Agent 的框架。定义具有特定角色、目标和工具的 Agent 团队协作。

OpenAI 的轻量级多 Agent 编排框架。专注于 Agent 之间的任务交接和例行程序。

Pydantic 创建者推出的 Agent 框架。类型安全、模型无关的 Agent，带结构化输出验证。

用图结构构建有状态、多角色 LLM 应用的库。支持循环、分支和持久化。

最初的自主 AI Agent。给它一个目标，它会自主规划、执行和迭代，最少人工干预。

多 Agent 框架，分配不同角色（PM、架构师、工程师）协作完成复杂软件任务。

官方 MCP 服务器集合，支持 GitHub、Slack、Google Drive、PostgreSQL、文件系统等热门服务。

Anthropic 的 Agent 编码工具。通过 MCP 实现可扩展性——连接数据库、API 和自定义工具。

支持 MCP 的 AI 代码编辑器。集成 Claude、GPT-4 和自定义模型，用于代码补全、聊天和编辑。

MCP 服务器的注册表和市场。一条命令发现、安装和管理社区构建的 MCP 服务器。

适用于 VS Code 和 JetBrains 的开源 AI 代码助手。支持任何 LLM，提供自动补全、聊天和编辑功能。

GitHub 的 AI 结对程序员。代码补全、聊天，以及全新的 Agent 模式支持跨文件编辑。

VS Code 的自主编码 Agent。规划、编写和调试代码，每一步都有人工审批。

Codeium 出品的 AI 原生代码编辑器。Cascade 多文件 Agent 编辑和 Supercomplete 智能补全。

StackBlitz 推出的 AI 全栈 Web 应用构建器。用自然语言描述应用，获取完整可部署的项目。

AI 驱动的 UI 生成工具。描述组件或页面，获取使用 Tailwind CSS 的生产就绪 React/Next.js 代码。

Cognition 推出的首个 AI 软件工程师。处理完整的工程任务：规划、编码、测试和调试。

微调 LLM 速度提升 2-5 倍，内存减少 80%。支持 Llama、Mistral、Gemma 等主流架构。

简化 LLM 微调的工具。基于 YAML 配置，支持 LoRA、QLoRA、全量微调和 DPO/RLHF。

HuggingFace 的参数高效微调库。LoRA、QLoRA、前缀微调等——用最少资源进行微调。

Transformer 强化学习库。基于 HuggingFace 的 SFT、奖励建模、PPO、DPO 和 ORPO 训练。

RAG 流水线评估框架。衡量忠实度、答案相关性、上下文精确度和上下文召回率。

测试和评估 LLM 输出。通过自动化测试和 CI 集成对比 Prompt、模型和 RAG 流水线。

基于 Lance 格式的无服务器向量数据库。嵌入式、零配置，支持多模态数据和全文搜索。

开源 AI 原生嵌入数据库。简单的 API 用于存储和查询嵌入向量，支持元数据过滤。

内置向量化的开源向量数据库。混合搜索（向量+关键词）、GraphQL API 和多租户。

LangChain 的调试、测试、评估和监控 LLM 应用平台。与 LangChain/LangGraph 深度集成。

Arize 出品的开源 AI 可观测性工具。追踪 LLM 应用、评估 RAG 质量、检测幻觉和生产监控。

高吞吐量 LLM 推理引擎。PagedAttention 实现高效内存管理，吞吐量比 HuggingFace 高 24 倍。

100+ LLM 提供商的统一 API 代理。用一个接口调用 OpenAI、Anthropic、Bedrock、Vertex 和本地模型。

通过单一端点访问多种 LLM 的统一 API。自动回退、用量跟踪和有竞争力的定价。

桌面应用，用于发现、下载和运行本地 LLM。精美的 GUI，带聊天界面和 OpenAI 兼容服务器。

100% 离线运行的开源 ChatGPT 替代品。用清爽现代的界面下载和运行本地模型。

由定制 LPU 硬件驱动的超快 LLM 推理。以业界领先速度运行 Llama、Mixtral 和 Gemma。