构建AI应用 (示例)

Llama Stack 提供了创建复杂 AI 应用所需的所有构建模块。

入门的最佳方法是查看此 Notebook,其中详细介绍了各种 API(从基本推理到 RAG 智能体)及其使用方法。

Notebook: 构建AI应用

以下是一些有助于您构建有效智能体的关键主题

  • RAG (检索增强生成): 了解如何通过检索机制增强您的智能体,使其具备外部知识。

  • 智能体 (Agent): 了解 Llama Stack 智能体框架的组成部分和设计模式。

  • 智能体执行循环: 了解智能体如何在连续循环中处理信息、做出决策和执行操作。

  • 工具: 通过与外部工具和 API 集成来扩展智能体的能力。

  • 评估 (Evals): 评估智能体的有效性并确定改进领域。

  • 遥测: 监控和分析智能体的性能和行为。

  • 安全: 实施护栏和安全措施,确保负责任的 AI 行为。