logo
  • 产品提交
  • Langfuse 图标

    Langfuse

    开源 LLM 工程平台

    有免费额度 1841 Views 更新:

    Metrics and Evaluation

    什么是 Langfuse ?

    Langfuse 是开源 LLM 工程平台。它提供可观察性、指标、评估、提示管理和一个用于调试和改进 LLM 应用的游乐场。Langfuse 是开放的。它可以与任何模型、任何框架协同工作,允许复杂的嵌套,并具有开放的 API 以构建下游用例。文档:langfuse.com/docs GitHub:github.com/langfuse/langfuse

    Langfuse 的使用场景是什么?

    1. 使用详细的生产跟踪调试 LLM 应用。
    2. 协作提示管理以进行版本控制和部署提示。
    3. 在用户友好的界面中测试不同的提示和模型。
    4. 收集用户反馈并进行评估以提高 LLM 性能。
    5. 从生产数据中推导数据集以进行模型微调。
    6. 跟踪 LLM 应用的成本、延迟和质量等指标。
    7. 与各种 LLM 框架和库集成以增强功能。

    Langfuse 的特色亮点是什么?

    1. 开源 LLM 工程平台。
    2. 全面的跟踪能力以调试 LLM 应用。
    3. 低延迟检索的协作提示管理。
    4. 集成的游乐场用于测试提示和模型。
    5. 用户反馈收集和评估功能。
    6. 跟踪成本、延迟和质量的指标。
    7. 支持与 Python、JS/TS、OpenAI 和 Langchain 等流行 SDK 和库的集成。
    8. 提供企业使用的自托管选项。
    9. 包括 SOC 2 Type II 和 ISO 27001 合规的安全功能。