日前，國際數(shù)據(jù)庫頂級學(xué)術(shù)會議 ICDE 2024 于荷蘭烏得勒支舉行。華為云GaussDB、GeminiDB及數(shù)據(jù)領(lǐng)域17篇論文入選，華為成為全球論文入選數(shù)量最多的廠商。華為愛丁堡研究所數(shù)據(jù)庫實驗室主任Nikolaos Ntarmos發(fā)表了題為”Huawei Cloud GaussDB, a Better Way to Database“的演講，向全球的學(xué)術(shù)機(jī)構(gòu)和代表介紹了華為云GaussDB的技術(shù)和商業(yè)成果。
ICDE全稱為“IEEE International Conference on Data Engineering”(IEEE國際數(shù)據(jù)工程大會)，與SIGMOD、VLDB 并稱數(shù)據(jù)庫領(lǐng)域三大頂會，是數(shù)據(jù)庫領(lǐng)域最權(quán)威的國際頂級學(xué)術(shù)會議之一，在國際上享有盛譽并具有廣泛的學(xué)術(shù)影響力。
ICDE收錄了各大研究機(jī)構(gòu)以及科技企業(yè)在數(shù)據(jù)庫領(lǐng)域最前沿、頂級的研究成果。ICDE 2024是第40屆IEEE國際數(shù)據(jù)工程大會，華為17篇論文的入選，是華為科研團(tuán)隊與外部團(tuán)隊或組織友好合作共同努力的結(jié)果。下面將摘選華為在本次大會入選的部分論文。
GaussML: An End-to-End In-database Machine Learning System
《GaussML: An End-to-End In-database Machine Learning System》論文是由清華大學(xué)、華為和蘇黎世理工大學(xué)聯(lián)合共同完成，通過提升數(shù)據(jù)庫內(nèi)機(jī)器學(xué)習(xí)算法訓(xùn)練和推理的性能，深度滿足用戶實時性分析的訴求。該論文獲得大會評審組的高度評價，認(rèn)為其提出了一個全新的機(jī)器學(xué)習(xí)引擎。
原生庫內(nèi)機(jī)器學(xué)習(xí)框架，簡稱GaussML，將機(jī)器學(xué)習(xí)訓(xùn)練作為執(zhí)行算子，利用數(shù)據(jù)庫并行和分布式能力，展示出超越業(yè)界同類產(chǎn)品10倍以上機(jī)器學(xué)習(xí)推理和訓(xùn)練的性能優(yōu)勢，主要能力包括：
第一，論文首次提出數(shù)據(jù)庫內(nèi)原生AI機(jī)器學(xué)習(xí)引擎的架構(gòu)，機(jī)器學(xué)習(xí)算法訓(xùn)練和推理融合在SQL執(zhí)行流程中，借助數(shù)據(jù)庫的優(yōu)化器、負(fù)載管理、并發(fā)處理、分布式并行能力，實現(xiàn)機(jī)器學(xué)習(xí)訓(xùn)練和推理的極致高效;
第二，GaussML同時構(gòu)建庫內(nèi)AutoML能力，可以自適應(yīng)進(jìn)行參數(shù)調(diào)整，根據(jù)負(fù)載變化進(jìn)行模型更正，設(shè)計一種端到端模型自動調(diào)優(yōu)的能力，簡化用戶調(diào)整模型參數(shù)代價，提升數(shù)據(jù)庫內(nèi)模型的使用便利;
第三，GaussML通過在數(shù)據(jù)庫內(nèi)置原生機(jī)器學(xué)習(xí)訓(xùn)練和推理流程，實現(xiàn)端到端自動調(diào)優(yōu)能力，構(gòu)建完整的庫內(nèi)機(jī)器學(xué)習(xí)引擎，支撐客戶業(yè)務(wù)的智能實時分析。該框架通過提供SQL-like接口，簡化數(shù)據(jù)科學(xué)家使用機(jī)器學(xué)習(xí)訓(xùn)練和推理代價，支持常用的機(jī)器學(xué)習(xí)算法，滿足絕大多數(shù)客戶使用。
綜上，論文中提出一種全新的機(jī)器學(xué)習(xí)引擎，在多個公開數(shù)據(jù)集上該引擎表現(xiàn)出卓越的高性能優(yōu)勢，向數(shù)據(jù)庫智能化發(fā)展上邁出了更遠(yuǎn)一步。
更多論文詳情，請點擊鏈接下載：https://e-campaign.huawei.com/events3/UniversalForm/register/988996654/register.html?site=cn&formId=7117&way=onsite
GaussDB-Global: A Geographically Distributed Database System
《GaussDB-Global: A Geographically Distributed Database System》論文是華為技術(shù)團(tuán)隊的研究成果。論文中提出了一種基于高精度時鐘同步方法的分布式事務(wù)處理方法，并構(gòu)建了跨地域分布式的全球數(shù)據(jù)庫系統(tǒng)GaussDB-Global。該論文的主要實現(xiàn)：
第一，采用同步時鐘的去中心化方法，地理分布式數(shù)據(jù)庫系統(tǒng)解決了中心化事務(wù)管理器的性能瓶頸問題，實現(xiàn)了中心化的事務(wù)管理到去中心化分布式事務(wù)管理之間無縫過渡，提供了更加靈活、便捷的部署方式，實現(xiàn)一套集群全球化部署。
第二，在分片數(shù)據(jù)的遠(yuǎn)程讀取和長距離日志傳送問題上，地理分布式數(shù)據(jù)庫系統(tǒng)支持在異步副本上讀取，強(qiáng)一致性，可調(diào)整的新鮮度保證，以及動態(tài)負(fù)載均衡。在跨地域集群上的實驗結(jié)果表明，與中心化基線相比，該方法提供了高達(dá)14倍的只讀性能，標(biāo)準(zhǔn)數(shù)據(jù)集TPC-C吞吐量高出50%以上。
QCFE: An Efficient Feature Engineering for Query Cost Estimation
《QCFE: An Efficient Feature Engineering for Query Cost Estimation》論文是由哈爾濱工業(yè)大學(xué)和華為團(tuán)隊共同完成，通過提出了一個高效的特征工程方法(QCFE)，解決了現(xiàn)有查詢語句評估時的特征工程問題，該方法在時間-準(zhǔn)確性效率方面取得顯著改進(jìn)。論文的主要貢獻(xiàn)包括：
第一，提出了特征快照(Feature Snapshot)的概念，用于整合被忽略變量的影響，如數(shù)據(jù)庫旋鈕、硬件等，以提高查詢成本模型的準(zhǔn)確性。
第二，設(shè)計了差異傳播特征減少方法，通過剪枝無效特征，進(jìn)一步提高模型訓(xùn)練和推斷效率。
第三，引入了簡化的SQL模板設(shè)計，以提高計算特征快照的時間效率。
第四，在廣泛的基準(zhǔn)測試中，展示了QCFE相對于現(xiàn)有方法在時間-準(zhǔn)確性效率方面的優(yōu)勢，包括TPC-H、job-light和Sysbench等。
綜上，該研究的創(chuàng)新點在于提出了一種有效的特征工程方法，能夠顯著改善查詢成本估算的時間和準(zhǔn)確性。
TRAP: Tailored Robustness Assessment for Index Advisors via Adversarial Perturbation
《TRAP: Tailored Robustness Assessment for Index Advisors via Adversarial Perturbation》論文是由廈門大學(xué)、清華大學(xué)和華為共同研究，通過提出一個基于對抗性擾動的工作負(fù)載生成框架TRAP，解決了現(xiàn)有的index advisor的魯棒性評估問題。
TRAP框架能夠生成有效的對抗性工作負(fù)載，用于評估index advisor的魯棒性。在index advisor的評估方面，TRAP具有明顯優(yōu)勢。研究發(fā)現(xiàn)：
第一，通過對抗性工作負(fù)載的有效生成，可以準(zhǔn)確評估index advisor的魯棒性，因為這些工作負(fù)載不會偏離原始工作負(fù)載，但可以識別由于工作負(fù)載漂移而導(dǎo)致的性能漏洞。
第二，為設(shè)計更具魯棒性的基于學(xué)習(xí)的index advisor，采用細(xì)粒度的狀態(tài)表示和候選剪枝策略可以提高性能。
第三，對于設(shè)計更具魯棒性的基于啟發(fā)式的index advisor，考慮索引選擇過程中的索引交互作用和多列索引的使用是至關(guān)重要的。
綜上，以上發(fā)現(xiàn)為index advisor的設(shè)計和評估提供了深刻見解，并強(qiáng)調(diào)了在實際應(yīng)用中評估index advisor的重要性。
Temporal-Frequency Masked Autoencoders for Time Series Anomaly Detection
《Temporal-Frequency Masked Autoencoders for Time Series Anomaly Detection》論文的問世，是為了幫助時序數(shù)據(jù)庫通過提前感知異常來降低損失。通過設(shè)計了一個輕量的基于深度學(xué)習(xí)的時頻掩碼自編碼器異常檢測算法(TFMAE)，展示了其在多個公開數(shù)據(jù)集上的良好性能。該論文被大會評審組高度評價，認(rèn)為其提出了時序異常檢測的新范式，最終無需修改被 ICDE 2024 直接錄用。
作為首篇采用時頻掩碼對比的時序異常檢測論文，論文研究圍繞以下三點進(jìn)行：
第一，提出了基于時間域和頻率域掩碼的時間序列異常檢測對比準(zhǔn)則，其代替?zhèn)鹘y(tǒng)重建誤差確定異常檢測閾值，這是一個不受分布偏移影響的判斷準(zhǔn)則。
第二，提出了基于窗口的時間域掩碼策略和基于幅度的頻率域掩碼策略以消除序列中潛在的異常觀察和模式。因此，TFMAE 是一個抗異常偏置模型。
第三，五個真實世界數(shù)據(jù)集與兩個合成數(shù)據(jù)集上實驗表明，TFMAE 在檢測性能與速度方面均取得提升。
綜上，《Temporal-Frequency Masked Autoencoders for Time Series Anomaly Detection》是首篇采用時頻掩碼對比的時序異常檢測論文，對醫(yī)療、制造、金融等行業(yè)的廣泛應(yīng)用，具有現(xiàn)實推動作用。
本次大會華為入選論文研究方向涉及AI4DB、時序數(shù)據(jù)庫、查詢優(yōu)化、數(shù)據(jù)庫內(nèi)機(jī)器學(xué)習(xí)算法訓(xùn)練和推理……如此多的科技成果得益于華為長期在數(shù)據(jù)庫前沿技術(shù)領(lǐng)域的探索和實踐，以及與全球頂尖學(xué)術(shù)機(jī)構(gòu)共同解決數(shù)據(jù)庫領(lǐng)域世界難題，通過產(chǎn)、學(xué)、研、用深度融合，將前沿創(chuàng)新研究融入產(chǎn)品技術(shù)，構(gòu)建健康的數(shù)據(jù)庫產(chǎn)業(yè)生態(tài)，為客戶提供創(chuàng)新的、有競爭力的數(shù)據(jù)庫產(chǎn)品和服務(wù)。
未來，華為將在數(shù)據(jù)庫領(lǐng)域持續(xù)創(chuàng)新，持續(xù)深耕，引領(lǐng)行業(yè)發(fā)展走出新高度。
分享到微信 ×
打開微信，點擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。
數(shù)據(jù)分類分級方法、標(biāo)準(zhǔn)及應(yīng)用實踐
