主頁 > 資料庫 > 一文詳解如何在 ChengYing 中通過產品線部署一鍵提升效率

一文詳解如何在 ChengYing 中通過產品線部署一鍵提升效率

2023-05-07 09:18:56 資料庫

在之前的內容當中,我們為大家介紹過 ChengYing 的安裝原理、產品包制作等內容,本篇就延續之前的內容,和大家展開聊聊 ChengYing 產品線部署相關的設計,幫助對「一站式全自動化全生命周期大資料平臺運維管家 ChengYing」感興趣的開發者更好地了解和使用 ChengYing,

產品線部署簡介

首先對 ChengYing 的產品線部署進行一個“自我介紹”,共分為三個部分:

● 支持用戶自定義的產品線

在 ChengYing 中,是以組件包的維度部署服務,比如一個 zookeeper 的產品包,會預先定義好 ZK 的包上傳到 ChengYing 的系統當中,再去選擇要部署的服務以及給 ZK 編排部署機器,以此完成部署,

對于初學者來說,當需要部署多個服務,這些服務又有順序依賴關系時,會不清楚部署的先后順序,從而導致部署非常吃力,因此 ChengYing 支持使用 DAG(有向無環圖)進行定義靈活可配的組件包部署順序,目的是為了讓熟悉和不熟悉的人都能夠通過預定義產品線的形式同時部署多個組件包,從而大大提高部署效率,

● 支持服務的親和性配置

根據組件包中不同服務的型別,結合主機角色資訊自動進行服務主機編排,在接入主機到 ChengYing 系統中時,支持給主機打上對應的標簽即角色,相應角色的組件會部署到相應角色的機器上,

● 一鍵自動部署組件包

基于組件包手動部署,同樣的入口,選擇不同的產品線部署方式之后,可一鍵按需迅速完成所需要的多個組件包的同時部署,提高部署效率,

產品線部署設計

接下來,通過代碼設計的角度看看 ChengYing 對產品線部署是如何進行技術設計的,

什么是 DAG

DAG (有向無環圖,Directed Acyclic Graph)是一種常用資料結構,僅就 DAG 而言,它已經在我們日常的各種工具中存在,如依賴系統、資料流系統、資料可視化等,當我們從任務編排的角度來看,DAG 面向普通人術語叫作作業流(Workflow),

在圖論中, 如果一個有向圖無法從任意頂點出發經過若干條邊回到該點, 則這個圖就是一個有向無環圖 (DAG 圖),

file

ChengYing 產品線部署設計的核心就是給定一組任務,按照自定義的方式安排它們的執行順序,即 DAG,

產品線 DAG 定義

預先定義某一條產品線中每一個組件包的部署順序,將其關系使用 DAG 的方式定義為 json 檔案,平臺自動決議 json 得到部署順序從而實作自動部署的效果,

file
· product_line_name: 產品線名稱(可預定義)

· product_line_version: 產品線版本(可預定義)

· product_serial: 組件包部署順序(上圖說明 DTBase 的 dependee 為0,表示沒有依賴;DTFront 的 dependee 為1,表示依賴 id 為1的組件包)

產品線 DAG 原始碼分析

如果要對復雜物件排序的話,該排序必須包含 Len,Swap,Less 這三個方法,

file

下面這段原始碼是 DAG 執行的核心邏輯,對于原始碼的具體決議可以前往視頻進行觀看:

https://www.bilibili.com/video/BV1KV4y1Q7KP/?spm_id_from=333.999.0.0

原始碼本身已經全部開源,可以前往 ChengYing 的 Github 進行學習:

https://github.com/DTStack/chengying

file

服務親和性配置

服務親和性的定義指以預選、優選、選定的機制完成將每個新的服務系結至為其選出的目標節點上,

在 k8s 中,支持節點和 Pod 兩個層級的親和性、反親和性調度,通過配置親和與反親和的規則,允許指定硬性限制和軟性限制,即偏好,

比如將前端的 Pod 和后端的 Pod 部署在一起,這樣可以減少網路延遲,或是某一型別的服務部署在某一型別的節點上,不同的應用部署在不同的節點上等,

定義節點親和性規則時有兩種型別的節點親和性規則 :硬親和性 required 和軟親和性 preferred,硬親和性實作的是強制性規則,它是 Pod 調度時必須要滿足的規則,而在不存在滿足規則的節點時 , Pod 物件會被置為 Pending 狀態,

而軟親和性規則實作的是一種柔性調度限制,它傾向于將 Pod 物件運行于某類特定的節點之上,而調度器也將盡量滿足此需求,但在無法滿足調度需求時它將退而求其次地選擇一個不匹配規則的節點,

類似于 k8s,ChengYing 中的服務親和性和反親和性也進行了相應的欄位設定:

· orchestration.affinity:陣列,自動編排角色親和性【可選】, 但是沒有該欄位的話,該服務將無法參與自動編排

· orchestration.anti_affinity:陣列,自動編排角色反親和性 【可選】

使用場景

下面來為大家介紹如何在 ChengYing 中使用產品線的部署,

設定主機角色

在【部署中心】-【集群管理】-【集群詳情】中,可以給節點編輯對應角色,

file

上傳產品線

角色完成定義之后,就可以在【部署中心】進行部署,支持自動部署(基于產品線順序部署多個組件包,支持主機角色自動編排),手動部署(基于單個組件包部署,支持自定義主機編排),

只要把產品線和產品包的親和性與反親和性全部定義好之后,開發者進入這個頁面會非常一目了然,每一個節點上分配了哪些服務,先后進行怎樣的部署等,一鍵就可以完成這些繁瑣的作業,極大提升部署效率,

file
file

視頻課程&PPT獲取

視頻課程:

https://www.bilibili.com/video/BV1KV4y1Q7KP/?spm_id_from=333.999.0.0

課件獲取:

https://www.dtstack.com/resources/1037

《數堆疊產品白皮書》:https://www.dtstack.com/resources/1004?src=https://www.cnblogs.com/DTinsight/archive/2023/05/06/szsm

《資料治理行業實踐白皮書》下載地址:https://www.dtstack.com/resources/1001?src=https://www.cnblogs.com/DTinsight/archive/2023/05/06/szsm

想了解或咨詢更多有關袋鼠云大資料產品、行業解決方案、客戶案例的朋友,瀏覽袋鼠云官網:https://www.dtstack.com/?src=https://www.cnblogs.com/DTinsight/archive/2023/05/06/szbky

同時,歡迎對大資料開源專案有興趣的同學加入「袋鼠云開源框架釘釘技術qun」,交流最新開源技術資訊,qun號碼:30537511,專案地址:https://github.com/DTStack

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/551856.html

標籤:其他

上一篇:MySQL一次大量記憶體消耗的跟蹤

下一篇:返回列表

標籤雲
其他(158593) Python(38118) JavaScript(25404) Java(18023) C(15222) 區塊鏈(8262) C#(7972) AI(7469) 爪哇(7425) MySQL(7171) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5871) 数组(5741) R(5409) Linux(5335) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4565) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2432) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1965) Web開發(1951) HtmlCss(1932) python-3.x(1918) 弹簧靴(1913) C++(1912) xml(1889) PostgreSQL(1874) .NETCore(1857) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • 一文詳解如何在 ChengYing 中通過產品線部署一鍵提升效率

    在之前的內容當中,我們為大家介紹過 ChengYing 的安裝原理、產品包制作等內容,本篇就延續之前的內容,和大家展開聊聊 ChengYing 產品線部署相關的設計。幫助對「一站式全自動化全生命周期大資料平臺運維管家 ChengYing」感興趣的開發者更好地了解和使用 ChengYing。 產品線部 ......

    uj5u.com 2023-05-07 09:18:56 more
  • MySQL一次大量記憶體消耗的跟蹤

    GreatSQL社區原創內容未經授權不得隨意使用,轉載請聯系小編并注明來源。 GreatSQL是MySQL的國產分支版本,使用上與MySQL一致。 文章來源:GreatSQL社區原創 線上使用MySQL8.0.25的資料庫,通過監控發現資料庫在查詢一個視圖(80張表的union all)時記憶體和cp ......

    uj5u.com 2023-05-07 09:18:42 more
  • 由淺入深學MYSQL之--MySQL分組查詢詳解

    前言 從今天開始本系列文內容就帶各位小伙伴學習資料庫技術。資料庫技術是Java開發中必不可少的一部分知識內容。也是非常重要的技術。本系列教程由淺入深, 全面講解資料庫體系。 非常適合零基礎的小伙伴來學習。 全文大約 【1066】字,不說廢話,只講可以讓你學到技術、明白原理的純干貨!本文帶有豐富案例及 ......

    uj5u.com 2023-05-07 09:18:36 more
  • 如何計算真實的資料庫成本

    本文分享自天翼云開發者社區《如何計算真實的資料庫成本》 作者:王****乾 在云計算占主導地位之前,計算資料庫的成本是一個非常簡單的等式:軟體成本+硬體成本=資料庫成本。如果你選擇了一個開源產品,軟體成本可能會消失。雖然云計算已經從根本上改變了我們使用和部署軟體的方式,但仍有太多人在使用這種過時的計 ......

    uj5u.com 2023-05-07 09:18:16 more
  • 實驗小記之Linux上的Oracle11gR2單實體靜默安裝和建庫

    說明:本文的所有步驟不適用于生產環境,僅用于個人測驗環境的快速部署和學習,下述操作程序在Oracle Linux 7.9上安裝Oracle 11.2.0.4單實體為例。 1 安裝環境檢查 安裝環境的檢查可以參考官方檔案Oracle Database Quick Installation Guide ......

    uj5u.com 2023-05-07 09:17:55 more
  • 2、etcd單機部署和集群部署

    上一章我們認識了etcd,簡單的介紹了 etcd 的基礎概念,但是理解起來還是比較抽象的。這一章我們就一起來部署下 etcd 。這樣可以讓我們對 etcd 有更加確切的認識。 1、etcd單實體部署 對于平常的學習,其實搭建一個單機節點是夠了的。接下來就講講怎么搭建單機節點。 本次部署是在 cent ......

    uj5u.com 2023-05-07 09:17:43 more
  • MySQL備份命令幫助手冊

    借助于 mysqldump 命令可以進行資料庫的備份。 用法: mysqldump [OPTIONS] database [tables] 或:mysqldump [OPTIONS] --databases [OPTIONS] DB1 [DB2 DB3...] 或:mysqldump [OPTION ......

    uj5u.com 2023-05-07 09:17:38 more
  • ☆常用的Sql陳述句匯總(DDL/DML)

    常用的sql陳述句匯總 1、獲取所有表名、表資訊 里面有表注釋 | 資料庫種類 | sql | 備注 | | | | | | mysql | -- 獲取所有表名、視圖名show tables-- 獲取 dev_test_data資料庫 所有表、視圖資訊select * from information ......

    uj5u.com 2023-05-07 09:17:10 more
  • Semi-Join Subquery優化策略

    Semi-Join Subquery優化策略 Semi-Join Subquery(半連接子查詢):對應IN或EXISTS子查詢,僅需要檢查"外表記錄"在"子查詢結果集"中是否存在匹配記錄,不需要計算"子查詢結果集"中記錄匹配次數,也不需要回傳"子查詢結果集"中匹配記錄內容 在MariaDB(MyS ......

    uj5u.com 2023-05-07 09:11:39 more
  • MySQL如何獲取binlog的開始時間和結束時間

    MySQL資料庫恢復到指定時間點時,我們必須通過MySQL全備+MySQL增量備份(可選)+MySQL的二進制日志(binlog)進行重放來恢復到指定時間點,實際的生產環境中,可能一段時間內生成了多個二進制日志檔案(binlog), MySQL本身不會存盤二進制日志檔案(binlog)的開始時間和結 ......

    uj5u.com 2023-05-07 09:03:53 more