互聯(lián)網(wǎng)后端全套基礎設施是怎樣的,針對這個問題,這篇文章詳細介紹了相對應的分析和解答,希望可以幫助更多想解決這個問題的小伙伴找到更簡單易行的方法。
10年積累的網(wǎng)站制作、成都網(wǎng)站設計經(jīng)驗,可以快速應對客戶對網(wǎng)站的新想法和需求。提供各種問題對應的解決方案。讓選擇我們的客戶得到更好、更有力的網(wǎng)絡服務。我雖然不認識你,你也不認識我。但先網(wǎng)站策劃后付款的網(wǎng)站建設流程,更有酉陽土家族苗族免費網(wǎng)站建設讓你可以放心的選擇與我們合作。1.1 后端基礎設施
使用Java后端技術的目的就是構建業(yè)務應用,為用戶提供在線或者離線服務。因此,一個業(yè)務應用需要哪些技術、依賴哪些基礎設施就決定了需要掌握的后端技術有哪些??v觀整個互聯(lián)網(wǎng)技術體系再結合公司的目前狀況,筆者認為必不可少或者非常關鍵的后端基礎技術/設施如下圖所示:
這里的后端基礎設施主要指的是應用在線上穩(wěn)定運行需要依賴的關鍵組件或者服務。開發(fā)或者搭建好以上的后端基礎設施,一般情況下是能夠支撐很長一段時間內的業(yè)務的。此外,對于一個完整的架構來說,還有很多應用感知不到的系統(tǒng)基礎服務,如負載均衡、自動化部署、系統(tǒng)安全等,并沒有包含在本章的描述范圍內。
在移動APP的開發(fā)過程中,通常后端提供的接口需要以下功能的支持:
負載均衡
API訪問權限控制
用戶鑒權
一般的做法,使用Nginx做負載均衡,然后在每個業(yè)務應用里做API接口的訪問權限控制和用戶鑒權,更優(yōu)化一點的方式則是把后兩者做成公共類庫供所有業(yè)務調用。但從總體上來看,這三種特性都屬于業(yè)務的公共需求,更可取的方式則是集成到一起作為一個服務,既可以動態(tài)地修改權限控制和鑒權機制,也可以減少每個業(yè)務集成這些機制的成本。這種服務就是API網(wǎng)關,可以選擇自己實現(xiàn)。也可以使用開源軟件實現(xiàn),如Kong和Netflix Zuul。API網(wǎng)關一般架構如下圖所示:
但是以上方案的一個問題是由于所有API請求都要經(jīng)過網(wǎng)關,它很容易成為系統(tǒng)的性能瓶頸。因此,可以采取的方案是:去掉API網(wǎng)關,讓業(yè)務應用直接對接統(tǒng)一認證中心,在基礎框架層面保證每個API調用都需要先通過統(tǒng)一認證中心的認證,這里可以采取緩存認證結果的方式避免對統(tǒng)一認證中心產生過大的請求壓力。
業(yè)務應用分為:在線業(yè)務應用和內部業(yè)務應用。
在線業(yè)務應用:直接面向互聯(lián)網(wǎng)用戶的應用、接口等,典型的特點就是:請求量大、高并發(fā)、對故障的容忍度低。
內部業(yè)務應用:主要面向公司內部用戶的應用。比如,內部數(shù)據(jù)管理平臺、廣告投放平臺等。相比起在線業(yè)務應用,其特點: 數(shù)據(jù)保密性高、壓力小、并發(fā)量小、允許故障的發(fā)生。
業(yè)務應用基于后端的基礎框架開發(fā),針對Java后端來說,應該有以下幾個框架:
MVC框架:統(tǒng)一開發(fā)流程、提高開發(fā)效率、屏蔽一些關鍵細節(jié)的Web/后端框架。典型的如SpringMVC、Jersey以及國人開發(fā)的JFinal以及阿里的WebX。
IOC框架:實現(xiàn)依賴注入/控制反轉的框架。Java中最為流行的Spring框架的核心就是IOC功能。
ORM框架:能夠屏蔽底層數(shù)據(jù)庫細節(jié),提供統(tǒng)一的數(shù)據(jù)訪問接口的數(shù)據(jù)庫操作框架,額外地能夠支持客戶端主從、分庫、分表等分布式特性。MyBatis是目前最為流行的ORM框架。此外,Spring ORM中提供的JdbcTemplate也很不錯。當然,對于分庫分表、主從分離這些需求,一般就需要自己實現(xiàn),開源的則有阿里的TDDL、當當?shù)膕harding-jdbc(從datasource層面解決了分庫分表、讀寫分離的問題,對應用透明、零侵入)。此外,為了在服務層面統(tǒng)一解決分庫分表、讀寫分離、主備切換、緩存、故障恢復等問題,很多公司都是有自己的數(shù)據(jù)庫中間件的,比如阿里的Cobar、360的Atlas(基于MySQL-Proxy)、網(wǎng)易的DDB等;開源的則有MyCat(基于Cobar)和Kingshard,其中Kingshard已經(jīng)有一定的線上使用規(guī)模。MySQL官方也提供了MySQL Proxy, 可以使用lua腳本自定義主從、讀寫分離、分區(qū)這些邏輯,但其性能較差,目前使用較少。
緩存框架:對Redis、Memcached這些緩存軟件操作的統(tǒng)一封裝,能夠支持客戶端分布式方案、主從等。一般使用Spring的RedisTemplate即可,也可以使用Jedis做自己的封裝,支持客戶端分布式方案、主從等。
JavaEE應用性能檢測框架:對于線上的JavaEE應用,需要有一個統(tǒng)一的框架集成到每一個業(yè)務中檢測每一個請求、方法調用、JDBC連接、Redis連接等的耗時、狀態(tài)等。Jwebap是一個可以使用的性能檢測工具,但由于其已經(jīng)很多年沒有更新,有可能的話建議基于此項目做二次開發(fā)。
一般來說,以上幾個框架即可以完成一個后端應用的雛形。
緩存、數(shù)據(jù)庫、搜索引擎、消息隊列這四者都是應用依賴的后端基礎服務,他們的性能直接影響到了應用的整體性能,有時候你代碼寫的再好也許就是因為這些服務導致應用性能無法提升上去。
緩存: 緩存通常被用來解決熱點數(shù)據(jù)的訪問問題,是提高數(shù)據(jù)查詢性能的強大武器。在高并發(fā)的后端應用中,將數(shù)據(jù)持久層的數(shù)據(jù)加載到緩存中,能夠隔離高并發(fā)請求與后端數(shù)據(jù)庫,避免數(shù)據(jù)庫被大量請求擊垮。目前常用的除了在內存中的本地緩存,比較普遍的集中緩存軟件有Memcached和Redis。其中Redis已經(jīng)成為最主流的緩存軟件。
數(shù)據(jù)庫:數(shù)據(jù)庫可以說是后端應用最基本的基礎設施?;旧辖^大多數(shù)業(yè)務數(shù)據(jù)都是持久化存儲在數(shù)據(jù)庫中的。主流的數(shù)據(jù)庫包括傳統(tǒng)的關系型數(shù)據(jù)庫(MySQL、PostgreSQL)以及最近幾年開始流行的NoSQL(MongoDB、HBase)。其中HBase是用于大數(shù)據(jù)領域的列數(shù)據(jù)庫,受限于其查詢性能,一般并不用來做業(yè)務數(shù)據(jù)庫。
搜索引擎:搜索引擎是針對全文檢索以及數(shù)據(jù)各種維度查詢設計的軟件。目前用的比較多的開源軟件是Solr和Elasticsearch,都是基于Lucence來實現(xiàn)的,不同之處主要在于termIndex的存儲、分布式架構的支持等。Elasticsearch由于對集群的良好支持以及高性能的實現(xiàn),已經(jīng)逐漸成為搜索引擎的主流開源方案。
消息隊列:數(shù)據(jù)傳輸?shù)囊环N方式就是通過消息隊列。目前用的比較普遍的消息隊列包括為日志設計的Kafka以及重事務的RabbitMQ等。在對消息丟失不是特別敏感且并不要求消息事務的場景下,選擇Kafka能夠獲得更高的性能;否則,RabbitMQ則是更好的選擇。此外,ZeroMQ則是一種實現(xiàn)消息隊列的網(wǎng)絡編程Pattern庫,位于Socket之上,MQ之下。
不管是業(yè)務應用、依賴的后端服務還是其他的各種服務,最終還是要依賴于底層文件存儲的。通常來說,文件存儲需要滿足的特性有:可靠性、容災性、穩(wěn)定性,即要保證存儲的數(shù)據(jù)不會輕易丟失,即使發(fā)生故障也能夠有回滾方案,也要保證高可用。在底層可以采用傳統(tǒng)的RAID作為解決方案,再上一層,目前Hadoop的HDFS則是最為普遍的分布式文件存儲方案,當然還有NFS、Samba這種共享文件系統(tǒng)也提供了簡單的分布式存儲的特性。
此外,如果文件存儲確實成為了應用的瓶頸或者必須提高文件存儲的性能從而提升整個系統(tǒng)的性能時,那么最為直接和簡單的做法就是拋棄傳統(tǒng)機械硬盤,用SSD硬盤替代。像現(xiàn)在很多公司在解決業(yè)務性能問題的時候,最終的關鍵點往往就是SSD。這也是用錢換取時間和人力成本最直接和最有效的方式。在數(shù)據(jù)庫部分描述的SSDB就是對LevelDB封裝之后,利用SSD硬盤的特性的一種高性能KV數(shù)據(jù)庫。
至于HDFS,如果要使用上面的數(shù)據(jù),是需要通過Hadoop的。類似xx on Yarn的一些技術就是將非Hadoop技術跑在HDFS上的解決方案。
統(tǒng)一認證中心,主要是對APP用戶、內部用戶、APP等的認證服務,包括
用戶的注冊、登錄驗證、Token鑒權
內部信息系統(tǒng)用戶的管理和登錄鑒權
APP的管理,包括APP的secret生成,APP信息的驗證(如驗證接口簽名)等。
之所以需要統(tǒng)一認證中心,就是為了能夠集中對這些所有APP都會用到的信息進行管理,也給所有應用提供統(tǒng)一的認證服務。尤其是在有很多業(yè)務需要共享用戶數(shù)據(jù)的時候,構建一個統(tǒng)一認證中心是非常必要的。此外,通過統(tǒng)一認證中心構建移動APP的單點登錄也是水到渠成的事情:模仿Web的機制,將認證后的信息加密存儲到本地存儲中供多個APP使用。
目前很多大的在線Web網(wǎng)站都是有單點登錄系統(tǒng)的,通俗的來說就是只需要一次用戶登錄,就能夠進入多個業(yè)務應用(權限可以不相同),非常方便用戶的操作。而在移動互聯(lián)網(wǎng)公司中,內部的各種管理、信息系統(tǒng)甚至外部應用同樣也需要單點登錄系統(tǒng)。
目前,比較成熟的、用的最多的單點登錄系統(tǒng)應該是耶魯大學開源的CAS, 可以基于 https://github.com/apereo/cas/tree/master/cas-server-webapp 來定制開發(fā)的。
基本上,單點登錄的原理都類似下圖所示:
在Java后端應用中,一種讀寫配置比較通用的方式就是將配置文件寫在Propeties、YAML、HCON等文件中,修改的時候只需要更新文件重新部署即可,可以做到不牽扯代碼層面改動的目的。統(tǒng)一配置中心,則是基于這種方式之上的統(tǒng)一對所有業(yè)務或者基礎后端服務的相關配置文件進行管理的統(tǒng)一服務, 具有以下特性:
能夠在線動態(tài)修改配置文件并生效
配置文件可以區(qū)分環(huán)境(開發(fā)、測試、生產等)
在Java中可以通過注解、XML配置的方式引入相關配置
百度開源的Disconf和攜程的Apollo是可以在生產環(huán)境使用的方案,也可以根據(jù)自己的需求開發(fā)自己的配置中心,一般選擇Zookeeper作為配置存儲。
對于外部API調用或者客戶端對后端API的訪問,可以使用HTTP協(xié)議或者RESTful(當然也可以直接通過最原始的socket來調用)。但對于內部服務間的調用,一般都是通過RPC機制來調用的。目前主流的RPC協(xié)議有:
RMI
Hessian
Thrift
Dubbo
這些RPC協(xié)議各有優(yōu)劣點,需要針對業(yè)務需求做出最好的選擇。
這樣,當你的系統(tǒng)服務在逐漸增多,RPC調用鏈越來越復雜,很多情況下,需要不停的更新文檔來維護這些調用關系。一個對這些服務進行管理的框架可以大大減少因此帶來的繁瑣的人力工作。
傳統(tǒng)的ESB(企業(yè)服務總線)本質就是一個服務治理方案,但ESB作為一種proxy的角色存在于Client和Server之間,所有請求都需要經(jīng)過ESB,使得ESB很容易成為性能瓶頸。因此,基于傳統(tǒng)的ESB,更好的一種設計如下圖所示:
如圖,以配置中心為樞紐,調用關系只存在于Client和提供服務的Server之間,就避免了傳統(tǒng)ESB的性能瓶頸問題。對于這種設計,ESB應該支持的特性如下:
服務提供方的注冊、管理
服務消費者的注冊、管理
服務的版本管理、負載均衡、流量控制、服務降級、資源隔離
服務的容錯、熔斷
阿里開源的Dubbo則對以上做了很好的實現(xiàn),也是目前很多公司都在使用的方案;當當網(wǎng)的擴展項目Dubbox則在Dubbo之上加入了一些新特性。目前,Dubbo已經(jīng)被阿里貢獻給Apache,處于incubating狀態(tài)。在運維監(jiān)控方面,Dubbo本身提供了簡單的管理控制臺dubbo-admin和監(jiān)控中心dubbo-monitor-simple。Github上的dubboclub/dubbokeeper則是在其之上開發(fā)的更為強大的集管理與監(jiān)控于一身的服務管理以及監(jiān)控系統(tǒng)。
此外,Netflix的Eureka也提供了服務注冊發(fā)現(xiàn)的功能,其配合Ribbon可以實現(xiàn)服務的客戶端軟負載均衡,支持多種靈活的動態(tài)路由和負載均衡策略。
在很多業(yè)務中,定時調度是一個非常普遍的場景,比如定時去抓取數(shù)據(jù)、定時刷新訂單的狀態(tài)等。通常的做法就是針對各自的業(yè)務依賴Linux的Cron機制或者Java中的Quartz。統(tǒng)一調度中心則是對所有的調度任務進行管理,這樣能夠統(tǒng)一對調度集群進行調優(yōu)、擴展、任務管理等。Azkaban和Yahoo的Oozie是Hadoop的流式工作管理引擎,也可以作為統(tǒng)一調度中心來使用。當然,你也可以使用Cron或者Quartz來實現(xiàn)自己的統(tǒng)一調度中心。
根據(jù)Cron表達式調度任務
動態(tài)修改、停止、刪除任務
支持任務分片執(zhí)行
支持任務工作流:比如一個任務完成之后再執(zhí)行下一個任務
任務支持腳本、代碼、url等多種形式
任務執(zhí)行的日志記錄、故障報警
對于Java的Quartz這里需要說明一下:這個Quartz需要和Spring Quartz區(qū)分,后者是Spring對Quartz框架的簡單實現(xiàn)也是目前使用的最多的一種調度方式。但其并沒有做高可用集群的支持。而Quartz雖然有集群的支持,但是配置起來非常復雜?,F(xiàn)在很多方案都是使用Zookeeper來實現(xiàn)Spring Quartz的分布式集群。
此外,當當網(wǎng)開源的elastic-job則在基礎的分布式調度之上又加入了彈性資源利用等更為強大的功能。
日志是開發(fā)過程必不可少的東西。打印日志的時機、技巧是很能體現(xiàn)出工程師編碼水平的。畢竟,日志是線上服務能夠定位、排查異常最為直接的信息。
通常的,將日志分散在各個業(yè)務中非常不方便對問題的管理和排查。統(tǒng)一日志服務則使用單獨的日志服務器記錄日志,各個業(yè)務通過統(tǒng)一的日志框架將日志輸出到日志服務器上。
可以通過實現(xiàn)Log4j或者Logback的Appender來實現(xiàn)統(tǒng)一日志框架,然后通過RPC調用將日志打印到日志服務器上。
數(shù)據(jù)是最近幾年非?;鸬囊粋€領域。從《精益數(shù)據(jù)分析》到《增長黑客》,都是在強調數(shù)據(jù)的非凡作用。很多公司也都在通過數(shù)據(jù)推動產品設計、市場運營、研發(fā)等。這里需要說明的一點是,只有當你的數(shù)據(jù)規(guī)模真的到了單機無法處理的規(guī)模才應該上大數(shù)據(jù)相關技術,千萬不要為了大數(shù)據(jù)而大數(shù)據(jù)。很多情況下使用單機程序+MySQL就能解決的問題非得上Hadoop即浪費時間又浪費人力。
這里需要補充一點的是,對于很多公司,尤其是離線業(yè)務并沒有那么密集的公司,在很多情況下大數(shù)據(jù)集群的資源是被浪費的。因此誕了 xx on Yarn 一系列技術讓非Hadoop系的技術可以利用大數(shù)據(jù)集群的資源,能夠大大提高資源的利用率,如Dockeron Yarn。
接著上面講的統(tǒng)一日志服務,其輸出的日志最終是變成數(shù)據(jù)到數(shù)據(jù)高速公路上供后續(xù)的數(shù)據(jù)處理程序消費的。這中間的過程包括日志的收集和傳輸。
收集:統(tǒng)一日志服務將日志打印在日志服務上之后,需要日志收集機制將其集中起來。目前,常見的日志收集方案有:Scribe、Chukwa、Kakfa和Flume。對比如下圖所示:
此外,Logstash也是一個可以選擇的日志收集方案,不同于以上的是,它更傾向于數(shù)據(jù)的預處理,且配置簡單、清晰,經(jīng)常以ELK(Elasticsearch + Logstash + Kibana)的架構用于運維場景中。
傳輸:通過消息隊列將數(shù)據(jù)傳輸?shù)綌?shù)據(jù)處理服務中。對于日志來說,通常選擇Kafka這個消息隊列即可。
此外,這里還有一個關鍵的技術就是數(shù)據(jù)庫和數(shù)據(jù)倉庫間的數(shù)據(jù)同步問題,即將需要分析的數(shù)據(jù)從數(shù)據(jù)庫中同步到諸如Hive這種數(shù)據(jù)倉庫時使用的方案??梢允褂肁pache Sqoop進行基于時間戳的數(shù)據(jù)同步,此外,阿里開源的Canal實現(xiàn)了基于binlog增量同步,更加適合通用的同步場景,但是基于Canal還是需要做不少的業(yè)務開發(fā)工作。
離線數(shù)據(jù)分析是可以有延遲的,一般針對的是非實時需求的數(shù)據(jù)分析工作,產生的也是延遲一天的報表。目前最常用的離線數(shù)據(jù)分析技術除了Hadoop還有Spark。相比Hadoop,Spark性能上有很大優(yōu)勢,當然對硬件資源要求也高。其中,Hadoop中的Yarn作為資源管理調度組件除了服務于MR還可以用于Spark(Spark on Yarn),Mesos則是另一種資源管理調度系統(tǒng)。
對于Hadoop,傳統(tǒng)的MR編寫很復雜,也不利于維護,可以選擇使用Hive來用SQL替代編寫MR。而對于Spark,也有類似Hive的Spark SQL。
此外,對于離線數(shù)據(jù)分析,還有一個很關鍵的就是數(shù)據(jù)傾斜問題。所謂數(shù)據(jù)傾斜指的是region數(shù)據(jù)分布不均,造成有的結點負載很低,而有些卻負載很高,從而影響整體的性能。處理好數(shù)據(jù)傾斜問題對于數(shù)據(jù)處理是很關鍵的。
相對于離線數(shù)據(jù)分析,實時數(shù)據(jù)分析也叫在線數(shù)據(jù)分析,針對的是對數(shù)據(jù)有實時要求的業(yè)務場景,如廣告結算、訂單結算等。目前,比較成熟的實時技術有Storm和Spark Streaming。相比起Storm,Spark Streaming其實本質上還是基于批量計算的。如果是對延遲很敏感的場景,還是應該使用Storm。除了這兩者,F(xiàn)link則是最近很火的一個分布式實時計算框架,其支持Exactly Once的語義,在大數(shù)據(jù)量下具有高吞吐低延遲的優(yōu)勢,并且能夠很好的支持狀態(tài)管理和窗口統(tǒng)計,但其文檔、API管理平臺等都還需要完善。
實時數(shù)據(jù)處理一般情況下都是基于增量處理的,相對于離線來說并非可靠的,一旦出現(xiàn)故障(如集群崩潰)或者數(shù)據(jù)處理失敗,是很難對數(shù)據(jù)恢復或者修復異常數(shù)據(jù)的。因此結合離線+實時是目前最普遍采用的數(shù)據(jù)處理方案。Lambda架構就是一個結合離線和實時數(shù)據(jù)處理的架構方案。
此外,實時數(shù)據(jù)分析中還有一個很常見的場景:多維數(shù)據(jù)實時分析,即能夠組合任意維度進行數(shù)據(jù)展示和分析。目前有兩種解決此問題的方案:ROLAP和MOLAP。
ROLAP:使用關系型數(shù)據(jù)庫或者擴展的關系型數(shù)據(jù)庫來管理數(shù)據(jù)倉庫數(shù)據(jù),以Hive、Spark SQL、Presto為代表。
MOLAP:基于數(shù)據(jù)立方體的多位存儲引擎,用空間換時間,把所有的分析情況都物化為物理表或者視圖。以Druid、Pinot和Kylin為代表,不同于ROLAP(Hive、Spark SQL), 其原生的支持多維的數(shù)據(jù)查詢。
如上一小節(jié)所述,ROLAP的方案大多數(shù)情況下用戶離線數(shù)據(jù)分析,滿足不了實時的需求,因此MOLAP是多維數(shù)據(jù)實時分析的常用方案。對于其中常用的三個框架,對比如下:
. | 使用場景 | 語言 | 協(xié)議 | 特點 |
---|---|---|---|---|
Druid | 實時處理分析 | Java | JSON | 實時聚合 |
Pinot | 實時處理分析 | Java | JSON | 實時聚合 |
Kylin | OLAP分析引擎 | Java | JDBC/OLAP | 預處理、cache |
其中,Druid相對比較輕量級,用的人較多,比較成熟。
離線和實時數(shù)據(jù)分析產生的一些報表是給數(shù)據(jù)分析師、產品經(jīng)理參考使用的,但是很多情況下,線上的程序并不能滿足這些需求方的需求。這時候就需要需求方自己對數(shù)據(jù)倉庫進行查詢統(tǒng)計。針對這些需求方,SQL上手容易、易描述等特點決定了其可能是一個最為合適的方式。因此提供一個SQL的即席查詢工具能夠大大提高數(shù)據(jù)分析師、產品經(jīng)理的工作效率。Presto、Impala、Hive都是這種工具。如果想進一步提供給需求方更加直觀的ui操作界面,可以搭建內部的Hue。
對于面向用戶的線上服務,發(fā)生故障是一件很嚴重的事情。因此,做好線上服務的故障檢測告警是一件非常重要的事情??梢詫⒐收媳O(jiān)控分為以下兩個層面的監(jiān)控:
系統(tǒng)監(jiān)控:主要指對主機的帶寬、CPU、內存、硬盤、IO等硬件資源的監(jiān)控??梢允褂肗agios、Cacti等開源軟件進行監(jiān)控。目前,市面上也有很多第三方服務能夠提供對于主機資源的監(jiān)控,如監(jiān)控寶等。對于分布式服務集群(如Hadoop、Storm、Kafka、Flume等集群)的監(jiān)控則可以使用Ganglia。此外,小米開源的OpenFalcon也很不錯,涵蓋了系統(tǒng)監(jiān)控、JVM監(jiān)控、應用監(jiān)控等,也支持自定義的監(jiān)控機制。
業(yè)務監(jiān)控:是在主機資源層面以上的監(jiān)控,比如APP的PV、UV數(shù)據(jù)異常、交易失敗等。需要業(yè)務中加入相關的監(jiān)控代碼,比如在異常拋出的地方,加一段日志記錄。
監(jiān)控還有一個關鍵的步驟就是告警。告警的方式有很多種:郵件、IM、短信等??紤]到故障的重要性不同、告警的合理性、便于定位問題等因素,有以下建議:
告警日志要記錄發(fā)生故障的機器ID,尤其是在集群服務中,如果沒有記錄機器ID,那么對于后續(xù)的問題定位會很困難。
要對告警做聚合,不要每一個故障都單獨進行告警,這樣會對工程師造成極大的困擾。
要對告警做等級劃分,不能對所有告警都做同樣的優(yōu)先級處理。
使用微信做為告警軟件,能夠在節(jié)省短信成本的情況下,保證告警的到達率。
故障告警之后,那么最最關鍵的就是應對了。對于創(chuàng)業(yè)公司來說,24小時待命是必備的素質,當遇到告警的時候,需要盡快對故障做出反應,找到問題所在,并能在可控時間內解決問題。對于故障問題的排查,基本上都是依賴于日志的。只要日志打的合理,一般情況下是能夠很快定位到問題所在的,但是如果是分布式服務,并且日志數(shù)據(jù)量特別大的情況下,如何定位日志就成為了難題。這里有幾個方案:
建立ELK(Elasticsearch + Logstash + Kibana)日志集中分析平臺,便于快速搜索、定位日志。搭配Yelp開源的Elastalert可以實現(xiàn)告警功能。
建立分布式請求追蹤系統(tǒng)(也可以叫全鏈路監(jiān)測系統(tǒng)),對于分布式系統(tǒng)尤是微服務架構,能夠極大的方便在海量調用中快速定位并收集單個異常請求信息,也能快速定位一條請求鏈路的性能瓶頸。唯品會的Mercury、阿里的鷹眼、新浪的WatchMan、Twitter開源的Zipkin基本都是基于Google的Dapper論文而來,大眾點評的實時應用監(jiān)控平臺CAT則在支持分布式請求追蹤(代碼侵入式)的基礎上加入了細粒度的調用性能數(shù)據(jù)統(tǒng)計。此外,Apache正在孵化中的HTrace則是針對大的分布式系統(tǒng)諸如HDFS文件系統(tǒng)、HBase存儲引擎而設計的分布式追蹤方案。而如果你的微服務實現(xiàn)使用了Spring Cloud,那么Spring Cloud Sleuth則是最佳的分布式跟蹤方案。還需要提到的是,Apache孵化中的SkyWalking是基于分布式追蹤的一個完備的APM(應用性能監(jiān)測)系統(tǒng),其大的一個特點就是基于Java agent + instrument api,對業(yè)務代碼無任何侵入,Pinpoint則是類似的另一個已經(jīng)用于生產環(huán)境的APM系統(tǒng)。
關于互聯(lián)網(wǎng)后端全套基礎設施是怎樣的問題的解答就分享到這里了,希望以上內容可以對大家有一定的幫助,如果你還有很多疑惑沒有解開,可以關注創(chuàng)新互聯(lián)-成都網(wǎng)站建設公司行業(yè)資訊頻道了解更多相關知識。
網(wǎng)站標題:互聯(lián)網(wǎng)后端全套基礎設施是怎樣的-創(chuàng)新互聯(lián)
本文地址:http://www.rwnh.cn/article12/dgsedc.html
成都網(wǎng)站建設公司_創(chuàng)新互聯(lián),為您提供用戶體驗、服務器托管、微信小程序、面包屑導航、云服務器、商城網(wǎng)站
聲明:本網(wǎng)站發(fā)布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經(jīng)允許不得轉載,或轉載時需注明來源: 創(chuàng)新互聯(lián)