Swarm
OpenAI轻量级多智能体编排框架，协调多个AI代理完成复杂任务。
排序
Rasa
开源对话AI框架，用于构建企业级自定义文本和语音助手。
Promptflow
微软LLM应用开发套件，提供提示词调试、评估和可视化工具。
KoboldAI
基于浏览器的AI文本生成前端，专注于角色扮演和故事创作。
Camel AI
多智能体框架，连接AI模型与外部工具，解决复杂任务。
Apache TVM
深度学习编译器堆栈，将模型优化并部署到不同硬件后端。
TensorRT
NVIDIA高性能深度学习推理SDK，优化模型在GPU上的运行速度。
TorchServe
PyTorch模型的生产级服务框架，支持大规模模型部署。
ONNX Runtime
跨平台推理加速器，用于高性能运行ONNX格式的机器学习模型。
BentoML
统一的AI模型服务框架，简化模型打包、部署和扩展流程。
Feast
开源特征存储，管理和提供机器学习训练与推理所需的特征。
Pachyderm
面向机器学习的数据版本控制平台，自动化数据管道。
Hopsworks
数据平台，集成特征存储和MLOps功能，支持端到端AI开发。
Tecton
特征平台，用于管理、计算和服务机器学习模型的实时特征。
Dremio
数据湖屋平台，提供高性能SQL查询引擎，直接分析数据湖。