使用金融時(shí)序數(shù)據(jù)庫 TDengine 構(gòu)建行情中心,用于存儲(chǔ)金融行業(yè)領(lǐng)域海量的股、基、債、期資產(chǎn)的行情時(shí)序數(shù)據(jù),結(jié)合 TDengine 的高性能計(jì)算方案構(gòu)建行情中心數(shù)據(jù)應(yīng)用方案。
詳細(xì)方案
場景介紹
金融行情數(shù)據(jù)常常具備如下特征:
- 數(shù)據(jù)總量:總數(shù)據(jù)量常常是 TB 的數(shù)據(jù),存儲(chǔ)管理復(fù)雜
- 數(shù)據(jù)特征:行情數(shù)據(jù)相對(duì)格式固定,自帶時(shí)間戳
- 子表總數(shù):因資產(chǎn)的多樣性,行情中心經(jīng)常會(huì)有幾十萬的子表,像因子信號(hào)表甚至?xí)薪f表
- 保留時(shí)限:行情數(shù)據(jù)保留期限經(jīng)常是 5-10 年,甚至 30 年以上
子表多、數(shù)據(jù)量大、數(shù)據(jù)格式固定和保留時(shí)限長的金融行情數(shù)據(jù)的存儲(chǔ)計(jì)算需要十分適合使用 TDengine 時(shí)序數(shù)據(jù)庫(Time Series Database,TSDB)來進(jìn)行處理。因此,在 TDengine 中使用“一個(gè)金融品類一個(gè)超級(jí)表,一個(gè)具體金融標(biāo)的一個(gè)子表”建模方式,可以有效的管理海量的行情數(shù)據(jù),進(jìn)而基于 TDengine 高效的計(jì)算能力,提供基于行情中心的資產(chǎn)管理、實(shí)時(shí)監(jiān)控、績效分析、風(fēng)險(xiǎn)分析、輿情分控、股票回測、信號(hào)模擬(合約、策略等)、報(bào)表輸出等應(yīng)用投研服務(wù)。
場景需求與痛點(diǎn)
- 每時(shí)每刻產(chǎn)生的海量行情數(shù)據(jù)要求在高效寫入的同時(shí)做到準(zhǔn)確入庫。
- 海量行情數(shù)據(jù)的應(yīng)用場景非常多樣,各種數(shù)據(jù)計(jì)算依賴,要求任意時(shí)間的數(shù)據(jù)高速讀取
- 海量金融資產(chǎn)及金融衍生品的監(jiān)控性,對(duì)高性能的計(jì)算標(biāo)準(zhǔn)。
- 基于海量行情數(shù)據(jù)及其產(chǎn)生大量的加工、模擬數(shù)據(jù),進(jìn)行回測、因子、深度學(xué)習(xí)模型等量化應(yīng)用
架構(gòu)圖
隨著 TDengine 的引入,減少了組件數(shù)量,降低架構(gòu)的復(fù)雜度,同時(shí)降低了存儲(chǔ)成本,提升業(yè)務(wù)響應(yīng)實(shí)時(shí)性,降低了人員要求,釋放了業(yè)務(wù)創(chuàng)新通過 TDengine 多樣的數(shù)據(jù)寫入和導(dǎo)入方式,將來自行情數(shù)據(jù)文件和實(shí)時(shí)數(shù)據(jù)流的數(shù)據(jù),寫入到 TDengine 中,進(jìn)而通過 SDK 或者 http 的方式構(gòu)建多樣化的金融服務(wù)。

收益與價(jià)值
平臺(tái)的收益總結(jié)如下:
- 極高的數(shù)據(jù)壓縮率,二段式無損壓縮以及浮點(diǎn)數(shù)的有損壓縮,1/10 的存儲(chǔ)成本
- 高速行情數(shù)據(jù)寫入,集群提供 1 億點(diǎn)/s 的寫入速度(點(diǎn)數(shù) = 行數(shù) * 列數(shù))
- 集群系統(tǒng)高可用性:針對(duì)數(shù)據(jù)的高一致性和高可用性,進(jìn)行多副本的驗(yàn)證、多節(jié)點(diǎn)同步寫入、數(shù)據(jù)落盤確認(rèn)等參數(shù)的測試
- 讀取速度線性擴(kuò)展,單資產(chǎn)表查詢業(yè)務(wù)都在 1ms 以內(nèi)
- 大跨度時(shí)間段訓(xùn)練數(shù)據(jù)讀取,全時(shí)間軸數(shù)據(jù)無差異特性,滿足選擇不同時(shí)間段進(jìn)行模型訓(xùn)練和驗(yàn)證
- 適配了國產(chǎn)化 CPU 與操作系統(tǒng)
客戶案例
其他行業(yè)解決方案



互聯(lián)網(wǎng).png)



-1.png)




.png)


證.png)


伙伴.png)
伙伴.png)
伙伴.png)






