LangSmith 集成 OpenTelemetry 以增强可观察性
realtime news Dec 09, 2024 17:18
作为 AI 应用程序监控平台，LangSmith 现已支持 OpenTelemetry，允许开发人员通过改进的分布式跟踪功能全面洞察应用性能。
根据LangChain，知名的 AI 应用程序监控平台 LangSmith 宣布与 OpenTelemetry 集成，增强其分布式跟踪和可观察性的功能。这一集成使 LangSmith 能够以 OpenTelemetry 格式接收跟踪，为开发人员提供他们应用程序性能的全面视图。
OpenTelemetry 集成详情
OpenTelemetry 是一个支持多种编程语言、框架和监控工具的分布式跟踪和可观察性的开放标准。这一集成意味着 LangSmith 的 API 层现在可以直接接受 OpenTelemetry 跟踪。开发人员可以将任何支持的 OpenTelemetry 导出器指向 LangSmith OTEL 端点，确保他们的跟踪被引入并在 LangSmith 内可访问。此设置提供了应用程序性能的统一视图，将 LLM 监控与系统遥测相结合。
语义约定和支持的格式
OpenTelemetry 为各种用例定义了语义约定，包括数据库、消息系统和诸如 HTTP 或 gRPC 协议。LangSmith 特别侧重于生成型 AI 的约定，这是一个现有标准较少的开发领域。目前，LangSmith 支持 OpenLLMetry 格式的跟踪，这为不同的 LLM 模型、向量数据库和通用框架提供了开箱即用的检测。未来计划包括支持其他语义约定随着它们的发展。
开始使用 OpenTelemetry
要使用此新功能，开发人员可以从 OpenTelemetry 的客户端开始，例如 OpenTelemetry Python 客户端。通过安装必要的依赖项和配置环境变量，开发人员可以开始跟踪他们的应用程序。LangSmith 仪表板将显示这些跟踪，提供对应用程序性能的洞察。
其他 SDK 集成
LangSmith 还支持与其他 SDK 的集成，如 Traceloop 和 Vercel AI SDK。这些集成允许开发人员使用各种 SDK 发送跟踪数据，提供与不同 AI 模型和框架的灵活性和兼容性。例如，Traceloop SDK 支持广泛的集成，Vercel AI SDK 提供一个由 LangSmith 库定义的客户端跟踪导出器。
这些进步将 LangSmith 定位为一个强大的解决方案，为寻求全面可观察性和性能监控的 AI 应用开发人员提供，利用 OpenTelemetry 的能力提供系统操作的详细综合视图。
Image source: Shutterstock