logo
  • 產品提交
  • Langfuse 圖標

    Langfuse

    開源 LLM 工程平台

    有免費額度 1830 Views 更新:

    Metrics and Evaluation

    什麼是 Langfuse ?

    Langfuse 是開源的 LLM 工程平台。它提供可觀察性、指標、評估、提示管理和一個遊樂場來調試和改進 LLM 應用。Langfuse 是開放的。它可以與任何模型、任何框架協同工作,允許複雜的嵌套,並具有開放的 API 來構建下游用例。文檔:langfuse.com/docs GitHub:github.com/langfuse/langfuse

    Langfuse 的使用場景是什麼?

    1. 使用詳細的生產追蹤來調試 LLM 應用。
    2. 協作提示管理,用於版本控制和部署提示。
    3. 在用戶友好的界面中測試不同的提示和模型。
    4. 收集用戶反饋並進行評估以改善 LLM 性能。
    5. 從生產數據中推導數據集以進行模型微調。
    6. 跟踪 LLM 應用的指標,如成本、延遲和質量。
    7. 與各種 LLM 框架和庫集成以增強功能。

    Langfuse 的特色亮點是什麼?

    1. 開源平台,專為 LLM 工程設計。
    2. 全面的追蹤能力,用於調試 LLM 應用。
    3. 低延遲檢索的協作提示管理。
    4. 集成的遊樂場,用於測試提示和模型。
    5. 用戶反饋收集和評估功能。
    6. 跟踪成本、延遲和質量的指標。
    7. 支持與流行的 SDK 和庫(如 Python、JS/TS、OpenAI 和 Langchain)集成。
    8. 為企業使用提供自我托管選項。
    9. 包括 SOC 2 Type II 和 ISO 27001 合規性的安全功能。