每個(gè)工程師可能都遇到過類似場(chǎng)景:時(shí)序數(shù)據(jù)沉淀在數(shù)據(jù)庫中,格式規(guī)范、查詢快捷,但當(dāng)任務(wù)升級(jí)——比如滑窗聚合、多源拼接、機(jī)器學(xué)習(xí)訓(xùn)練——一些業(yè)務(wù)可能就需要更強(qiáng)的計(jì)算能力和更靈活的分析工具。TDengine 專注于高效存儲(chǔ)與極速查詢,而在數(shù)據(jù)“算力”層面,我們選擇了更強(qiáng)的伙伴。
現(xiàn)在,TDengine 正式開放與 Apache Spark 的無縫集成通道。一個(gè)是高性能、低成本的時(shí)序數(shù)據(jù)庫,一個(gè)是橫掃大數(shù)據(jù)世界的分析引擎,二者協(xié)同,打通了“數(shù)據(jù)庫”與“分析引擎”之間的關(guān)鍵鏈路。
輕松讀寫、實(shí)時(shí)訂閱、批流一體:TDengine × Spark = 1+1>2
通過 TDengine 提供的 Java Connector,Spark 不僅可以直接讀取 TDengine 中的歷史數(shù)據(jù),還能將處理結(jié)果回寫數(shù)據(jù)庫,甚至訂閱實(shí)時(shí)流數(shù)據(jù)進(jìn)行流式計(jì)算。Spark 強(qiáng)大的分布式處理能力為 TDengine 插上了“計(jì)算的翅膀”,進(jìn)一步釋放出數(shù)據(jù)背后的洞察力。
結(jié)合 Spark 的 SQL、MLlib、Streaming 等組件,用戶可以基于 TDengine 中的時(shí)序數(shù)據(jù)實(shí)現(xiàn)從基礎(chǔ)報(bào)表,到模型訓(xùn)練、趨勢(shì)預(yù)測(cè)、異常檢測(cè)等一系列數(shù)據(jù)分析任務(wù)。而對(duì) TDengine 用戶來說,無需更換系統(tǒng)、無需遷移數(shù)據(jù),就能擁有一個(gè)靈活、強(qiáng)大的分析引擎,何樂而不為?
一站式集成流程,零門檻體驗(yàn)大數(shù)據(jù)分析
TDengine 與 Spark 的集成過程并不復(fù)雜,只需滿足以下四個(gè)條件:部署 TDengine 3.3.6.0 及以上版本、配置 taosAdapter、準(zhǔn)備 Spark 3.3.2+、加載 JDBC 驅(qū)動(dòng)即可。
完成集成后,你將具備以下能力:
- 使用 SparkSQL 查詢 TDengine 數(shù)據(jù),輕松實(shí)現(xiàn)跨表、跨庫的復(fù)雜分析;
- 基于 Java 提交任務(wù),實(shí)現(xiàn)批量數(shù)據(jù)寫入或結(jié)果回寫;
- 通過標(biāo)準(zhǔn) JDBC 接口,實(shí)時(shí)消費(fèi) TDengine 中的數(shù)據(jù)流,交由 Spark 進(jìn)行進(jìn)一步處理與計(jì)算。
我們?cè)谖臋n中提供了詳盡的代碼樣例,涵蓋讀取、寫入、訂閱與計(jì)算,方便用戶快速上手:https://docs.taosdata.com/third-party/bi/spark/
想讓你的時(shí)序數(shù)據(jù)“會(huì)思考”?不妨試試這套組合
數(shù)據(jù)的價(jià)值不僅在于存得快、查得準(zhǔn),更在于“算得動(dòng)、用得上”。TDengine × Spark,讓你在應(yīng)對(duì)復(fù)雜業(yè)務(wù)計(jì)算時(shí)如虎添翼,真正把數(shù)據(jù)從存儲(chǔ)系統(tǒng)轉(zhuǎn)化為決策引擎。歡迎在評(píng)論區(qū)分享你是如何使用 Spark 與 TDengine 一起“玩轉(zhuǎn)數(shù)據(jù)”的!數(shù)據(jù)的價(jià)值不僅在于存得快、查得準(zhǔn),更在于“算得動(dòng)、用得上”。TDengine × Spark,讓你在應(yīng)對(duì)復(fù)雜業(yè)務(wù)計(jì)算時(shí)如虎添翼,真正把數(shù)據(jù)從存儲(chǔ)系統(tǒng)轉(zhuǎn)化為決策引擎。歡迎在評(píng)論區(qū)分享你是如何使用 Spark 與 TDengine 一起“玩轉(zhuǎn)數(shù)據(jù)”的!



互聯(lián)網(wǎng).png)



-1.png)




.png)


證.png)


伙伴.png)
伙伴.png)
伙伴.png)



