佳木斯湛栽影视文化发展公司

主頁(yè) > 知識(shí)庫(kù) > 使用Go基于WebSocket構(gòu)建千萬(wàn)級(jí)視頻直播彈幕系統(tǒng)的代碼詳解

使用Go基于WebSocket構(gòu)建千萬(wàn)級(jí)視頻直播彈幕系統(tǒng)的代碼詳解

熱門標(biāo)簽:百度競(jìng)價(jià)排名 AI電銷 Linux服務(wù)器 鐵路電話系統(tǒng) 網(wǎng)站排名優(yōu)化 服務(wù)外包 呼叫中心市場(chǎng)需求 地方門戶網(wǎng)站

(1)業(yè)務(wù)復(fù)雜度介紹

開門見山,假設(shè)一個(gè)直播間同時(shí)500W人在線,那么1秒鐘1000條彈幕,那么彈幕系統(tǒng)的推送頻率就是: 500W * 1000條/秒=50億條/秒 ,想想B站2019跨年晚會(huì)那次彈幕系統(tǒng)得是多么的NB,況且一個(gè)大型網(wǎng)站不可能只有一個(gè)直播間!

使用Go做WebSocket開發(fā)無非就是三種情況:

  • 使用Go原生自帶的庫(kù),也就是 golang.org/x/net ,但是這個(gè)官方庫(kù)真是出了奇Bug多
  • 使用GitHub大佬 gorilla/websocket 庫(kù),可以結(jié)合到某些Web開發(fā)框架,比如Gin、iris等,只要使用的框架式基于 golang.org/net 的,那么這個(gè)庫(kù)就可以與這個(gè)框架結(jié)合
  • 手?jǐn)]一個(gè)WebSocket框架

根據(jù)估算結(jié)果,彈幕推送量很大的時(shí)候,Linux內(nèi)核將會(huì)出現(xiàn)瓶頸,因?yàn)長(zhǎng)inux內(nèi)核發(fā)送TCP包的時(shí)候極限包發(fā)送頻率是100W。因此可以將同一秒內(nèi)的彈幕消息合并為1條推送,減少網(wǎng)絡(luò)小數(shù)據(jù)包的發(fā)送,從而降低推送頻率。

彈幕系統(tǒng)需要維護(hù)在線的用戶長(zhǎng)連接來實(shí)現(xiàn)定向推送到在線的用戶,通常是使用Hash字典結(jié)構(gòu),通常推送消息就是遍歷在線用的Hash字典。在彈幕推送期間用戶在不斷的上下線,為了維護(hù)上線用戶,那么就得不斷的修改Hash字典,不斷地進(jìn)行鎖操作,用戶量過大導(dǎo)致鎖瓶頸。因此可以將整個(gè)Hash結(jié)構(gòu)拆分為多個(gè)Hash結(jié)構(gòu),分別對(duì)多個(gè)Hash結(jié)構(gòu)加不同的鎖,并且使用讀寫鎖替代互斥鎖。

通常服務(wù)器與客戶端交互使用JSON結(jié)構(gòu),那么需要不斷的編碼解碼JSON數(shù)據(jù),這將會(huì)導(dǎo)致CPU瓶頸。將消息先進(jìn)行合并,然后進(jìn)行編碼,最后輪詢Hash結(jié)構(gòu)進(jìn)行推送。

以上是單體架構(gòu)存在的問題,為了支持更多的用戶負(fù)載,通常彈幕系統(tǒng)采用分布式架構(gòu),進(jìn)行彈性擴(kuò)容縮容。

(2)推送還是拉???

如果是客戶端拉取服務(wù)器端數(shù)據(jù),那么將會(huì)存在以下幾個(gè)問題:

  • 直播在線人數(shù)多就意味著消息數(shù)據(jù)更新頻率高,拉取消息意味著彈幕無法滿足時(shí)效性
  • 如果很多客戶端同時(shí)拉取,那么服務(wù)器端的壓力無異于DDOS
  • 一個(gè)彈幕系統(tǒng)應(yīng)該是通用的,因此對(duì)于直播間彈幕較少的場(chǎng)景,意味著消息數(shù)據(jù)拉取請(qǐng)求都是無效的

因此我們考慮推送模式:當(dāng)數(shù)據(jù)發(fā)生更新的時(shí)候服務(wù)器端主動(dòng)推送到客戶端,這樣可以有效減少客戶端的請(qǐng)求次數(shù)。如果需要實(shí)現(xiàn)消息推送,那么就意味著服務(wù)器端維護(hù)大量的長(zhǎng)連接。

(3)為什么使用WebSocket?

實(shí)現(xiàn)彈幕消息的實(shí)時(shí)更新一定是使用Socket的方式,那么為啥要使用WebSocket呢?現(xiàn)在大部分直播應(yīng)用的開發(fā)都是跨平臺(tái)的,然而跨平臺(tái)的開發(fā)框架本質(zhì)就是Web開發(fā),那么一定離不開WebSocket,而且一部分用戶會(huì)選擇在Web端看視頻,比如Bilibili,現(xiàn)如今也有一些桌面應(yīng)用是用Electron等跨平臺(tái)框架開發(fā)的,比如Lark飛書等,因此實(shí)現(xiàn)消息推送的最佳方案就是使用WebSocket。

使用WebSocket可以輕松的維持服務(wù)器端長(zhǎng)連接,其次WebSocket是架構(gòu)在HTTP協(xié)議之上的,并且也可以使用HTTPS方式,因此WebSocket是可靠傳輸,并且不需要開發(fā)者關(guān)注底層細(xì)節(jié)。

為啥要使用Go搞WebSocket呢?首先說到WebSocket你可能會(huì)想到Node.js,但是Node.js是單線程模型,如果實(shí)現(xiàn)高并發(fā),不得不創(chuàng)建多個(gè)Node.js進(jìn)程,但是這又不容易服務(wù)端遍歷整個(gè)連接集合;如果使用Java就會(huì)顯得比較笨重,Java項(xiàng)目的部署,編寫Dockerfile都不如Go的目標(biāo)二進(jìn)制更加簡(jiǎn)潔,并且Go協(xié)程很容易實(shí)現(xiàn)高并發(fā),上一章說到Go語(yǔ)言目前也有成熟的WebSocket輪子。

(4)服務(wù)端基本Demo

首先搭建好一個(gè)框架:

package main

import (
  "fmt"
  "net/http"
)

func main() {
 fmt.Println("Listen localhost:8080")
   // 注冊(cè)一個(gè)用于WebSocket的路由,實(shí)際業(yè)務(wù)中不可能只有一個(gè)路由
  http.HandleFunc("/messages", messageHandler)
  // 監(jiān)聽8080端口,沒有實(shí)現(xiàn)服務(wù)異常處理器,因此第二個(gè)參數(shù)是nil
  http.ListenAndServe("localhost:8080", nil)
}

func messageHandler(response http.ResponseWriter, request *http.Request) {
  // TODO: 實(shí)現(xiàn)消息處理
  response.Write([]byte("HelloWorld"))
}

然后完善messageHandler函數(shù):

func messageHandler(response http.ResponseWriter, request *http.Request) {
  var upgrader = websocket.Upgrader{
    // 允許跨域
    CheckOrigin: func(resquest *http.Request) bool {
      return true
    },
  }

  // 建立連接
  conn, err := upgrader.Upgrade(response, request, nil)
  if err != nil {
    return
  }

  // 收發(fā)消息
  for {
    // 讀取消息
    _, bytes, err := conn.ReadMessage()
    if err != nil {
      _ = conn.Close()
    }
    // 寫入消息
    err = conn.WriteMessage(websocket.TextMessage, bytes)
    if err != nil {
      _ = conn.Close()
    }
  }
}

現(xiàn)在基本上實(shí)現(xiàn)了WebSocket功能,但是websocket的原生API不是線程安全的(Close方法是線程安全的,并且是可重入的),并且其他模塊無法復(fù)用業(yè)務(wù)邏輯,因此進(jìn)行封裝:

  • 封裝Connection對(duì)象描述一個(gè)WebSocket連接
  • 為Connection對(duì)象提供線程安全的關(guān)閉、接收、發(fā)送API
// main.go
package main

import (
  "bluemiaomiao.github.io/websocket-go/service"
  "fmt"
  "net/http"

  "github.com/gorilla/websocket"
)

func main() {
  fmt.Println("Listen localhost:8080")
  http.HandleFunc("/messages", messageHandler)
  _ = http.ListenAndServe("localhost:8080", nil)
}

func messageHandler(response http.ResponseWriter, request *http.Request) {
  var upgrader = websocket.Upgrader{
    // 允許跨域
    CheckOrigin: func(resquest *http.Request) bool {
      return true
    },
  }

  // 建立連接
  conn, err := upgrader.Upgrade(response, request, nil)
  wsConn, err := service.Create(conn)
  if err != nil {
    return
  }

  // 收發(fā)消息
  for {
    // 讀取消息
    msg, err := wsConn.ReadOne()
    if err != nil {
      wsConn.Close()
    }
    // 寫入消息
    err = wsConn.WriteOne(msg)
    if err != nil {
      _ = conn.Close()
    }
  }
}
// service/messsage_service.go
package service

import (
  "errors"
  "github.com/gorilla/websocket"
  "sync"
)

// 封裝的連接對(duì)象
// 
// 由于websocket的Close()方法是可重入的,所以可以多次調(diào)用,但是關(guān)閉Channel的close()
// 方法不是可重入的,因此通過isClosed進(jìn)行判斷
// isClosed可能發(fā)生資源競(jìng)爭(zhēng),因此通過互斥鎖避免
// 關(guān)閉websocket連接后,也要自動(dòng)關(guān)閉輸入輸出消息流,因此通過signalCloseLoopChan實(shí)現(xiàn)
type Connection struct {
  conn                  *websocket.Conn  // 具體的連接對(duì)象
  inputStream             chan []byte       // 輸入流,使用Channel模擬
  outputStream           chan []byte       // 輸出流,使用chaneel模擬
  signalCloseLoopChan     chan byte       // 關(guān)閉信號(hào)
  isClosed               bool            // 是否調(diào)用過close()方法
  lock                   sync.Mutex      // 簡(jiǎn)單的鎖
}

// 用于初始化一個(gè)連接對(duì)象
func Create(conn *websocket.Conn) (connection *Connection, err error) {
  connection = Connection{
    conn:              conn,
    inputStream:        make(chan []byte, 1000),
    outputStream:       make(chan []byte, 1000),
    signalCloseLoopChan: make(chan byte, 1),
    isClosed:            false,
  }

  // 啟動(dòng)讀寫循環(huán)
  go connection.readLoop()
  go connection.writeLoop()
  return
}

// 讀取一條消息
func (c *Connection) ReadOne() (msg []byte, err error) {
  select {
  case msg = -(*c).inputStream:
  case -(*c).signalCloseLoopChan:
    err = errors.New("connection is closed")
  }
  return
}

// 寫入一條消息
func (c *Connection) WriteOne(msg []byte) (err error) {
  select {
  case (*c).outputStream - msg:
  case -(*c).signalCloseLoopChan:
    err = errors.New("connection is closed")
  }
  return
}

// 關(guān)閉連接對(duì)象
func (c *Connection) Close() {
  _ = (*c).conn.Close()
  (*c).lock.Lock()
  if !(*c).isClosed {
    close((*c).signalCloseLoopChan)
  }
  (*c).lock.Unlock()

}

// 讀取循環(huán)
func (c *Connection) readLoop() {
  // 不停的讀取長(zhǎng)連接中的消息,只要存在消息就將其放到隊(duì)列中
  for {
    _, bytes, err := (*c).conn.ReadMessage()
    if err != nil {
      (*c).Close()
    }
    select {
    case -(*c).signalCloseLoopChan:
      (*c).Close()
    case (*c).inputStream - bytes:
    }
  }
}

// 寫入循環(huán)
func (c *Connection) writeLoop() {
  // 只要隊(duì)列中存在消息,就將其寫入
  var data []byte
  for {
    select {
    case data = -(*c).outputStream:
    case -(*c).signalCloseLoopChan:
      (*c).Close()
    }
    err := (*c).conn.WriteMessage(websocket.TextMessage, data)
    if err != nil {
      _ = (*c).conn.Close()
    }
  }
}

至此,你已經(jīng)學(xué)會(huì)了如何使用Go構(gòu)建WebSocket服務(wù)。

到此這篇關(guān)于使用Go基于WebSocket構(gòu)建千萬(wàn)級(jí)視頻直播彈幕系統(tǒng)的代碼詳解的文章就介紹到這了,更多相關(guān)go WebSocket視頻直播彈幕內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

您可能感興趣的文章:
  • golang 實(shí)現(xiàn)tcp server端和client端,并計(jì)算RTT時(shí)間操作
  • golang websocket 服務(wù)端的實(shí)現(xiàn)
  • golang socket斷點(diǎn)續(xù)傳大文件的實(shí)現(xiàn)方法
  • golang基于websocket實(shí)現(xiàn)的簡(jiǎn)易聊天室程序
  • golang網(wǎng)絡(luò)socket粘包問題的解決方法
  • Golang 實(shí)現(xiàn)Socket服務(wù)端和客戶端使用TCP協(xié)議通訊

標(biāo)簽:湖南 蘭州 仙桃 湘潭 衡水 黃山 銅川 崇左

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《使用Go基于WebSocket構(gòu)建千萬(wàn)級(jí)視頻直播彈幕系統(tǒng)的代碼詳解》,本文關(guān)鍵詞  ;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 收縮
    • 微信客服
    • 微信二維碼
    • 電話咨詢

    • 400-1100-266
    石景山区| 千阳县| 荆州市| 万宁市| 黄平县| 遂昌县| 庆安县| 隆尧县| 开平市| 永善县| 许昌市| 抚远县| 长白| 正蓝旗| 昭觉县| 天水市| 田阳县| 万宁市| 双流县| 邯郸县| 武邑县| 赞皇县| 临潭县| 甘孜| 焦作市| 运城市| 淅川县| 阜康市| 晋江市| 乌鲁木齐县| 虞城县| 平江县| 平罗县| 巧家县| 新蔡县| 武邑县| 瓮安县| 秦皇岛市| 疏附县| 抚顺县| 黎城县|