构设计

使用WebSocket可以轻松的维持服务器端长连接其次WebSocket是架构在HTTP协议之上的并且也可以使用HTTPS方式因此WebSocket是可靠传输并且不需要开发者关注底层细节。

websocket具体细节

③Communicate浏览器和服务器就可以以WebSocket格式发送数据

①SSE(Server

Event)服务器单项推送消息text/event-stream它是一种流可以返回多次数据

详细文章推送数据—

直播在线人数多就意味着消息数据更新频率高拉取消息意味着弹幕无法满足时效性如果很多客户端同时拉取那么服务器端的压力无异于DDOS一个弹幕系统应该是通用的因此对于直播间弹幕较少的场景意味着消息数据拉取请求都是无效的

2.2

推送模式当数据发生更新的时候服务器端主动推送到客户端这样可以有效减少客户端的请求次数。

技术实现go

https://github.com/ziyifast/ziyifast-code_instruction/tree/main/go-demo/go-websocket/1-simplego实现简易弹幕系统https://github.com/ziyifast/ziyifast-code_instruction/tree/main/go-demo/go-websocket/2-boardcast

其他教程Java实现简易聊天室

document.getElementById(output);testWebSocket();}function

testWebSocket()

WebSocket(wsUri);websocket.onopen

function

{onOpen(evt)};websocket.onclose

function

{onClose(evt)};websocket.onmessage

function

{onMessage(evt)};websocket.onerror

function

{writeToScreen(DISCONNECTED);}function

onMessage(evt)

.length);writeToScreen(CONNECTED:

connectionId);}

message);websocket.send(message);}function

{var

document.createElement(p);pre.style.wordWrap

message;output.appendChild(pre);}window.addEventListener(load,

init,

document.getElementById(input).value;doSend(msg);document.getElementById(input).value

;}function

onclicksendBtnClick()send/button

button

onclickcloseBtnClick()close/button

div

model/connection.go封装websocket连接

整体思路

writeLoop从outChannel中拿到data写回同样的数据到对端

conn_mgr实现connection的管理一旦有消息发送过来便广播给其他连接实现弹幕效果

package

(errorsgithub.com/google/uuidgithub.com/gorilla/websocketsync

)/*整体思路1.

分别启两个协程for循环一个用于读一个用于写//中间多了一层Channel保证了线程安全readLoop

inChannel

读取消息从inChannel中读取数据channel保证线程安全阻塞读取

func

写消息将数据写入outChannelchannel保证线程安全,等待write

func

{//读取数据失败关闭连接c.Close()return}select

c.inChannel

c.Conn.WriteMessage(websocket.TextMessage,

data);

true}WebSocketMgr.RemoveConnection(c)c.lock.Unlock()

}2.

make(map[string]*Connection),lock:

sync.RWMutex{},

cm.lock.Unlock()cm.connections[conn.ConnID]

added\n,

cm.lock.Unlock()delete(cm.connections,

conn.ConnID)fmt.Printf(connection

removed\n,

conn.WriteMessage([]byte(fmt.Sprintf([%s]

%s,

(github.com/gorilla/websocketlogmyTest/demo_home/go-demo/go-websocket/2-boardcast/modelnet/http

)var

websocket.Upgrader{//允许跨域CheckOrigin:

func(r

{//模拟简易弹幕系统注意为了逻辑简洁并没有做过多的封装部分代码设计以及安全监测并不合理http.HandleFunc(/ws,

wsHandler)http.ListenAndServe(:7777,

nil)

{return}//注册连接model.WebSocketMgr.AddConnection(connection)//

发送连接ID给前端if

conn.WriteMessage(websocket.TextMessage,

[]byte(CONNECTED

{return}//广播消息model.WebSocketMgr.Boardcast(data)}}(connection)

}3.3

分别用chrome、Firefox、edge打开页面建立websocket连接

CONNECTIONID用于标识不同的websocket长连接

chrome

不同浏览器相当于不同用户chrome用户发起一个弹幕点击send发送弹幕

模拟其他用户发送弹幕

chrome用户退出直播间edge、firefox发送弹幕chrome用户应该接受不到

edge、firefox用户发送弹幕

1000w条/slinux内核发送TCP的极限包频约为100w条/s

锁瓶颈

推模式需要维护一个存储了100w条数据的集合比如map推送消息遍历整个集合顺序发送消息耗时极长推送期间客户端仍可以正常上/下线所以集合需要加锁

CPU瓶颈

浏览器与服务端采用json格式通讯json编码非常耗cpu向100w在线用户推送1次就需要100w次的json

encode

减少网络小包的发送将同一秒内的N条消息合并为1条合并后每秒推送次数只等于在线连接数

锁瓶颈

将连接分散到多个集合中每个集合都有自己的锁多线程并发推送多个集合避免锁竞争读写锁取代互斥锁多个推送任务可以遍历相同集合

cpu瓶颈

维护海量的连接必然会耗费很多内存消息推送的瞬间也会消耗大量CPU资源消息推送瞬间带宽可能高达400-600MB4-6Gbits主要瓶颈即需要万兆网卡

因此我们需要分布式架构

网关集群维护websocket长连接逻辑集群基于HTTP/2向gateway网关集群分发消息rpc与其他服务的交互等业务方

业务方-逻辑集群-网关集群

参考https://learnku.com/articles/48418