构建AI应用 (示例)
Llama Stack 提供了创建复杂 AI 应用所需的所有构建模块。
入门的最佳方法是查看此 Notebook,其中详细介绍了各种 API(从基本推理到 RAG 智能体)及其使用方法。
Notebook: 构建AI应用
以下是一些有助于您构建有效智能体的关键主题
RAG (检索增强生成): 了解如何通过检索机制增强您的智能体,使其具备外部知识。
智能体 (Agent): 了解 Llama Stack 智能体框架的组成部分和设计模式。
智能体执行循环: 了解智能体如何在连续循环中处理信息、做出决策和执行操作。
工具: 通过与外部工具和 API 集成来扩展智能体的能力。
评估 (Evals): 评估智能体的有效性并确定改进领域。
遥测: 监控和分析智能体的性能和行为。
安全: 实施护栏和安全措施,确保负责任的 AI 行为。