当前位置: 首页 > news >正文

专业的河南网站建设公司哪家好友链目录网

专业的河南网站建设公司哪家好,友链目录网,嘉兴做网站优化价格,做网站和网站维护需要多少钱作者:来自 Elastic Vinay Chandrasekhar•Andres Rodriguez 我们很高兴地宣布 Azure OpenAI 集成现已全面上市,它提供了对 Azure OpenAI 服务性能和使用的全面可观察性!另请参阅本博客的第 2 部分 虽然我们已经提供了对 LLM 环境的可视性一段…

作者:来自 Elastic Vinay Chandrasekhar•Andres Rodriguez

我们很高兴地宣布 Azure OpenAI 集成现已全面上市,它提供了对 Azure OpenAI 服务性能和使用的全面可观察性!另请参阅本博客的第 2 部分

虽然我们已经提供了对 LLM 环境的可视性一段时间了,但添加 Azure OpenAI 集成后,你可以更清楚地了解基于 Azure OpenAI 的应用程序的性能和使用情况,从而进一步增强 LLM 可观察性。

Azure OpenAI 集成利用 Elastic Agent 的 Azure 集成功能来收集日志(使用 Azure EventHub)和指标(使用 Azure Monitor),以深入了解 Azure OpenAI 服务的使用情况。

该集成包括一个开箱即用的仪表板,其中总结了服务使用情况的最相关方面,包括请求和错误率、token 使用情况和 chat completion 延迟。

创建警报和 SLOs 以监控 Azure OpenAI

与所有其他 Elastic 集成一样,所有日志和指标信息均可在 Elastic Observability 的每项功能中充分使用,包括 SLOs、警报、自定义仪表板、深入日志探索等。

例如,要创建警报以监控 token 使用情况,请从 Azure OpenAI 数据流上的自定义阈值规则开始,并设置聚合条件以跟踪和报告超过特定阈值的 token 使用违规行为。

发生违规时,该警报通知中链接的 “Alert Details” 视图提供有关违规的丰富背景信息,例如违规开始的时间、当前状态以及此类违规的任何历史记录,从而实现快速分类、调查和根本原因分析。

同样地,要创建一个用于监控 Azure OpenAI 调用错误率的 SLO,首先使用自定义查询 SLI 定义,将符合条件的事件定义为所有响应中状态码在 400 或以上的结果。然后,通过设定一个合适的 SLO 目标,例如 99%,开始在 7 天、30 天或 90 天内监控 Azure OpenAI 的错误率 SLO,以跟踪性能下降并在问题普遍化之前采取措施。

请参阅用户指南以了解更多信息并开始使用!

原文:LLM Observability: Azure OpenAI — Elastic Observability Labs

http://www.khdw.cn/news/63742.html

相关文章:

  • 学做系统的网站免费建站免费网站
  • wordpress 清理缓存seo网站优化工具
  • 湖南长沙网站建设seo系统是什么意思
  • mac上用什么做网站app拉新推广平台
  • 深圳竞价网站免费做网站网站的软件
  • 日本vtuber在b站的钱青岛疫情最新情况
  • 网站建设放在什么科目seo经典案例
  • 网站备案号如何查询密码视频推广一条多少钱
  • wordpress 隐藏版本号网站优化最为重要的内容是
  • 网站如何做直播镇江网站建设推广
  • 新网站如何做排在前面北京排名seo
  • 智能网站推广优化厦门seo网站推广
  • 如何做图片 网站 链接千万不要去电商公司上班
  • 常熟做网站价格网络推广 公司 200个网站
  • 传媒公司是干嘛的aso应用优化
  • 企业网站是如何做的百度导航是哪个国家的
  • 网站优化标题怎么做市场营销策划公司
  • 做网站赚钱还是做应用赚钱新品推广活动方案
  • 台州网站制作台州网站建设全国疫情的最新数据
  • 政务网站的建设商品推广软文范例100字
  • 淮安营销型网站建设汽车网站建设方案
  • 在做好政府网站建设方面重庆seo哪个强
  • 简单大气的企业网站网络营销师是干什么的
  • 怎样制造网站图片教程公司推广网站
  • 长沙网站建设qq交流群搜索
  • 北京公司做网站郑州网站顾问热狗网
  • 网站改版怎么做中国网新山东
  • 网站一般如何做搜索功能宁波seo高级方法
  • 湖南网站建设价格如何推广宣传一个品牌
  • 社交网站盈利吗沧州seo推广