欧美两性人xxxx高清免费_国产婷婷综合在线视频中文_国产免费久久精品99reswag_在厨房乱子伦在线观看_一边写作业一边c她

取消
搜索歷史
熱搜詞
原創(chuàng)
活動
產(chǎn)業(yè)創(chuàng)新
轉(zhuǎn)型理念
ENI專訪
當(dāng)前位置:首頁 >文章發(fā)布 > 正文
首個云上AI原生全??捎^測平臺來了
來源:工人日報  作者: 佚名 2024-09-23 08:49:49
近日,2024云棲大會,阿里云發(fā)布全新的AI原生全棧可觀測平臺,首次實(shí)現(xiàn)云上AI大模型從訓(xùn)練到推理再到應(yīng)用的全鏈路實(shí)時觀測、告警與診斷。

近日,2024云棲大會,阿里云發(fā)布全新的AI原生全??捎^測平臺,首次實(shí)現(xiàn)云上AI大模型從訓(xùn)練到推理再到應(yīng)用的全鏈路實(shí)時觀測、告警與診斷。同時,阿里云可觀測產(chǎn)品家族也實(shí)現(xiàn)了全新升級,最常用的日志服務(wù)SLS相較于自建體系,運(yùn)維監(jiān)控綜合成本可降低30% 。

AI模型的深入發(fā)展,導(dǎo)致了數(shù)據(jù)處理方式與技術(shù)架構(gòu)的深刻變 化,相關(guān)應(yīng)用產(chǎn)生的日志、鏈路等可觀測數(shù)據(jù)規(guī)模呈指數(shù)級增長,數(shù)據(jù)結(jié)構(gòu)復(fù)雜度也與日俱增,而AI部署的異構(gòu)環(huán)境、資源及平臺也越發(fā)多元,都給可觀測性的準(zhǔn)確、實(shí)時、高效與智能化發(fā)展帶來了巨大挑戰(zhàn)。

“以阿里云可觀測產(chǎn)品家族為代表的云原生可觀測工具,正引領(lǐng)著AI-native可觀測加速邁向智能化。企業(yè)用戶可以像‘搭積木’一樣輕松、靈活地構(gòu)建可觀測體系,更高效地管理與觀測IT資源與服務(wù),為AI創(chuàng)新夯實(shí)技術(shù)底座。”阿里云云原生應(yīng)用平臺負(fù)責(zé)人丁宇表示。

在2024云棲大會上,日志服務(wù)SLS、云監(jiān)控CMS、應(yīng)用實(shí)時監(jiān)控服務(wù)ARMS等阿里云可觀測產(chǎn)品家族實(shí)現(xiàn)了重磅更新,面向模型訓(xùn)練、推理及應(yīng)用提供全鏈路的可觀測服務(wù)。

在模型訓(xùn)練場景中,云監(jiān)控CMS與阿里云AI算力產(chǎn)品及平臺深度集成,全面采集計算、存儲、網(wǎng)絡(luò)調(diào)度等AI基礎(chǔ)設(shè)施的可觀測數(shù)據(jù),有效覆蓋數(shù)據(jù)準(zhǔn)備、模型開發(fā)、訓(xùn)練和部署等環(huán)節(jié),確保模型訓(xùn)練全流程可感知、可觀測,為企業(yè)在AI基礎(chǔ)設(shè)施的容量管理和可用性保障保駕護(hù)航。

在模型推理場景中,可觀測性更多聚焦于推理性能提升、模型輸入輸出的質(zhì)量優(yōu)化及資源消耗的有效管理。應(yīng)用實(shí)時監(jiān)控服務(wù)ARMS推出符合 OpenTelemetry標(biāo)準(zhǔn)的自研Python Agent,全面支持通義千問/ LLamaIndex / LangChain等國內(nèi)外主流框架和模型,采集豐富的指標(biāo)、鏈路及持續(xù)剖析數(shù)據(jù),借助開箱即用的數(shù)據(jù)可視化大盤與性能診斷功能,確保用戶實(shí)時掌握模型運(yùn)行狀態(tài)及潛在瓶頸,為大模型應(yīng)用的穩(wěn)定運(yùn)行與高效運(yùn)維提供堅實(shí)的基礎(chǔ)。

與此同時,日志服務(wù)SLS與大模型服務(wù)平臺百煉深度集成,實(shí)現(xiàn)百煉模型API層面的可觀測指標(biāo)全覆蓋,并應(yīng)用于性能觀測、穩(wěn)定性評估、成本管控、安全合規(guī)等不同應(yīng)用場景,幫助企業(yè)優(yōu)化資源配置和業(yè)務(wù)決策。同時,SLS核心能力大幅提升,掃描性能提升10倍,達(dá)到1GB/s以上;處理性能提升至TB級每分鐘,單GB處理成本降低60%。此外,SLS推出Elasticsearch兼容方案,相較于自建其綜合成本可降30%以上。

據(jù)悉,阿里云已為全球80余個國家的百萬企業(yè)級用戶提供高效便捷、安全穩(wěn)定的可觀測服務(wù)。茶百道基于ARMS快速建立運(yùn)維觀測與響應(yīng)能力,故障恢復(fù)效率提升50%以上;傳音借助Prometheus、Grafana等可觀測產(chǎn)品,業(yè)務(wù)上線效率提高60%;極氪基于阿里云可觀測產(chǎn)品推行的應(yīng)急響應(yīng)機(jī)制與ChatOps協(xié)同機(jī)制,告警平均恢復(fù)耗時縮短50%。

免責(zé)聲明:本文系網(wǎng)絡(luò)轉(zhuǎn)載,版權(quán)歸原作者所有。本文所用圖片、文字如涉及作品版權(quán)問題,請聯(lián)系刪除!本文內(nèi)容為原作者觀點(diǎn),并不代表本網(wǎng)站觀點(diǎn)。
編輯:劉婧
關(guān)鍵詞: AI  AI大模型  AI原生  阿里云  智能化 
活動 直播間  | CIO智行社

分享到微信 ×

打開微信,點(diǎn)擊底部的“發(fā)現(xiàn)”,
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。

朔州市| 廊坊市| 扶余县| 鹤岗市| 金沙县| 辰溪县| 兴山县| 永州市| 西安市| 林口县| 北票市| 延川县| 冕宁县| 松溪县| 葫芦岛市| 颍上县| 漯河市| 新余市| 尤溪县| 黄浦区| 中阳县| 沙河市| 湖北省| 抚松县| 荃湾区| 屏边| 荥经县| 威宁| 邢台市| 怀仁县| 稻城县| 布拖县| 商南县| 绥宁县| 托里县| 调兵山市| 星子县| 定西市| 云南省| 涞源县| 南漳县|