基于融合计算?蚂蚁金服的在线机器学习是如何做的
金融領域越來越多的活動場景,如雙十一、雙十二、財富日、新春大促,具有活動持續時間短強度高的特點,解決場景中的計算冷啟動問題,優化系統效率和用戶體驗的需求越來越多。在生產環境的應用中,還需要滿足高吞吐和端到端強數據一致性的需求,解決高維稀疏特征的大模型的訓練、更新和服務問題。
在線機器學習,能夠根據線上反饋數據,實時快速地進行模型調整,使得模型及時反映線上的變化,提高線上預測的準確率,能夠有效的解決上述的一些問題,在金融場景也得到越來越多的應用。
基于融合計算的在線學習,通過打通流計算和機器學習兩種計算模式,將不同系統間的數據傳輸轉化為同一系統內部數據和計算之間、計算和計算之間,從而將不同的數據和計算的組織方式銜接在一起。在性能方面,通過內存間的數據共享減少數據的序列化和反序列化,大幅減少網絡和計算開銷,減少了60%的機器資源使用,將端到端的延遲降低到原來的十分之一。同時,基于融合計算的在線學習通過流計算和Tensorflow的自然銜接,實現了端到端的數據一致性保障,并采用一體化編程、自助云化、智能運維大大簡化了系統的開發、部署、運維成本。
融合計算由螞蟻金服自主研發,它基于螞蟻金服聯合 UC Berkeley 大學推進的新一代計算引擎Ray,通過動態數據流來實現流、批、離線數據的共享,在同一計算框架內兼容分布式服務、流處理、機器學習、圖等計算模式,減少數據交換和落盤來優化計算和網絡開銷,是一個解決金融場景中需要銜接多個不同計算模式的開放計算框架。
通過流處理和機器學習兩種計算模式的有機組合,基于融合計算的在線機器學習兼顧了各自的功能,并實現資源的優化和共享。在金融領域的其他場景也有其他類似的組合,如流式圖計算。螞蟻金服通過在線機器學習和流式圖計算的探索,初步驗證了融合計算框架。9月27日,融合計算的理念與具體的案例將在云棲大會數字金融技術專場上進行分享,敬請期待。
原文鏈接
本文為云棲社區原創內容,未經允許不得轉載。
總結
以上是生活随笔為你收集整理的基于融合计算?蚂蚁金服的在线机器学习是如何做的的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Go语言出现后,Java还是最佳选择吗?
- 下一篇: 解读NoSQL最新现状和趋势:云NoSQ