AI 工具与仓库

TypeScript AI 工具包，用于构建 AI 驱动的产品。统一的 API 支持 OpenAI、Anthropic、Google 等，带流式传输。

微软的 SDK，用于将 LLM 集成到应用中。支持 C#、Python 和 Java，具备企业级特性。

基础模型编程框架。用可组合、可优化的模块替代手写 Prompt。

deepset 出品的端到端 LLM 框架。构建生产就绪的 RAG、问答和语义搜索流水线。

编排角色扮演 AI Agent 的框架。定义具有特定角色、目标和工具的 Agent 团队协作。

OpenAI 的轻量级多 Agent 编排框架。教学参考——生产环境请使用 OpenAI Agents SDK。

Pydantic 创建者推出的 Agent 框架。类型安全、模型无关的 Agent，带结构化输出验证。

用图结构构建有状态、多角色 LLM 应用的库。支持循环、分支和持久化。

最初的自主 AI Agent。给它一个目标，它会自主规划、执行和迭代，最少人工干预。

多 Agent 框架，分配不同角色（PM、架构师、工程师）协作完成复杂软件任务。

官方 MCP 服务器集合，支持 GitHub、Slack、Google Drive、PostgreSQL、文件系统等热门服务。

Anthropic 的 Agent 编码工具。通过 MCP 实现可扩展性——连接数据库、API 和自定义工具。

支持 MCP 的 AI 代码编辑器。集成 Claude、GPT-4 和自定义模型，用于代码补全、聊天和编辑。

MCP 服务器的注册表和市场。一条命令发现、安装和管理社区构建的 MCP 服务器。

适用于 VS Code 和 JetBrains 的开源 AI 代码助手。支持任何 LLM，提供自动补全、聊天和编辑功能。

GitHub 的 AI 结对程序员。代码补全、聊天，以及全新的 Agent 模式支持跨文件编辑。

VS Code 的自主编码 Agent。规划、编写和调试代码，每一步都有人工审批。

Codeium 出品的 AI 原生代码编辑器。Cascade 多文件 Agent 编辑和 Supercomplete 智能补全。

StackBlitz 推出的 AI 全栈 Web 应用构建器。用自然语言描述应用，获取完整可部署的项目。

AI 驱动的 UI 生成工具。描述组件或页面，获取使用 Tailwind CSS 的生产就绪 React/Next.js 代码。

Cognition 推出的首个 AI 软件工程师。处理完整的工程任务：规划、编码、测试和调试。

微调 LLM 速度提升 2-5 倍，内存减少 80%。支持 Llama、Mistral、Gemma 等主流架构。

简化 LLM 微调的工具。基于 YAML 配置，支持 LoRA、QLoRA、全量微调和 DPO/RLHF。

HuggingFace 的参数高效微调库。LoRA、QLoRA、前缀微调等——用最少资源进行微调。

Transformer 强化学习库。基于 HuggingFace 的 SFT、奖励建模、PPO、DPO 和 ORPO 训练。

RAG 流水线评估框架。衡量忠实度、答案相关性、上下文精确度和上下文召回率。

测试和评估 LLM 输出。通过自动化测试和 CI 集成对比 Prompt、模型和 RAG 流水线。

基于 Lance 格式的无服务器向量数据库。嵌入式、零配置，支持多模态数据和全文搜索。

开源 AI 原生嵌入数据库。简单的 API 用于存储和查询嵌入向量，支持元数据过滤。

内置向量化的开源向量数据库。混合搜索（向量+关键词）、GraphQL API 和多租户。

LangChain 的调试、测试、评估和监控 LLM 应用平台。与 LangChain/LangGraph 深度集成。

Arize 出品的开源 AI 可观测性工具。追踪 LLM 应用、评估 RAG 质量、检测幻觉和生产监控。

高吞吐量 LLM 推理引擎。PagedAttention 实现高效内存管理，吞吐量比 HuggingFace 高 24 倍。

100+ LLM 提供商的统一 API 代理。用一个接口调用 OpenAI、Anthropic、Bedrock、Vertex 和本地模型。

通过单一端点访问多种 LLM 的统一 API。自动回退、用量跟踪和有竞争力的定价。

桌面应用，用于发现、下载和运行本地 LLM。精美的 GUI，带聊天界面和 OpenAI 兼容服务器。

100% 离线运行的开源 ChatGPT 替代品。用清爽现代的界面下载和运行本地模型。

由定制 LPU 硬件驱动的超快 LLM 推理。以业界领先速度运行 Llama、Mixtral 和 Gemma。