DeepEval
LLM评估框架，为大语言模型提供单元测试
排序
Nomic Embed
Nomic开源的长上下文文本嵌入模型
Milvus
开源向量数据库，用于存储和检索海量向量数据
Chroma
开源嵌入式数据库，专为AI应用构建的向量存储
Pydantic AI
基于Pydantic的AI代理框架，确保数据验证
BabyAGI
任务管理AI智能体，自动创建和执行任务
Tavily
专为AI智能体优化的搜索引擎API，提供实时数据
ChatHub
一站式多AI聊天客户端，支持浏览器扩展
AnythingLLM
全栈应用，将任何大模型转变为具备RAG的聊天机器人
LiteLLM
统一调用多种大模型接口的库，支持代理和负载均衡
Patronus AI
大模型评估和防护平台，提供自动化测试和安全护栏
llama.cpp
高效的大模型推理库，用C++编写，优化本地运行性能
GPT4All
本地运行大语言模型，支持离线使用与多平台。
Ollama
简单易用的本地大模型运行工具，支持多平台。
Neptune
MLOps实验记录与模型注册平台，管理AI生命周期。