Braintrust
AI工程平台，用于评估、调试和迭代大模型应用
排序
Vectara
基于神经的检索增强生成平台，提供即搜即用服务
Relevance AI
构建AI智能体的平台，集成向量数据库和自动化工具
Patronus AI
大模型评估和防护平台，提供自动化测试和安全护栏
PredictionGuard
大模型安全防护工具，提供内容过滤和PII检测功能
Lambda Labs
提供按需GPU实例和一键集群的云端算力租赁服务
Contextual AI
专注于构建检索增强生成模型和AI应用的科技公司
ModelScope
阿里云的模型社区，提供海量开源模型和数据集下载
LM Arena
通过众包投票对大模型进行基准测试和排名的平台
LocalAI
兼容OpenAI API的本地推理服务，支持多种开源模型
Text Generation WebUI
基于Gradio的大模型文本生成Web界面，支持本地运行
Msty
专门用于搜索和发现最适合需求的大模型搜索引擎
LM Studio
支持在本地电脑运行和聊天大模型的桌面应用程序
llama.cpp
高效的大模型推理库，用C++编写，优化本地运行性能
GPT4All
本地运行大语言模型，支持离线使用与多平台。