实现一个多人协作在线文档有哪些技术难点?

网络
用于多人协同编辑 Autodesk Maya 文档OT算法维持一致性的基本思路是根据先前执行的并发操作的影响将编辑操作转换为新形式,以便转换后的操作可以实现正确的效果,并确保复制的文档相同。

 这是一篇鸽了很久的回答,正巧 Cloud Studio 也实现了多人协作代码编辑,技术原理上来说是差不多的,这里把之前我的一篇博客发上来吧。协同编辑基本实现思路有两种,分别是 CRDT(Conflict-Free Replicated Data Types) 和 OT(Operational-Transformation)。

CRDT

CRDT即无冲突可复制数据类型,看上去很难理解(其实我也不怎么理解),这是一些分布式系统中适应于不同场景且可以保持最终一致性的数据结构的统称。也就是说CRDT本身只是一个概念,应用于协作编辑中需要自行实现数据结构,比如GitHub团队开源的。

ATOM的实时协作功能就是基于这个库来实现的,数据传输采用WebRTC,只有在最初的邀请/加入阶段依赖GitHub的服务器外,所有的传输都是点对点的(peer-to-peer),同时以确保隐私,所有数据都是加密的。

OTO

perational-Transformation 或者叫操作转换,是指对文档编辑以及同时编辑冲突解决的一类技术,不仅仅是一个算法。与CRDT不同的是,OT算法全程依赖于服务器来保持最终一致性。成本而言,CRDT优于OT,但因CRDT的实现复杂性(没学会),本文主要介绍基于OT算法的实时协同编辑。OT算法不仅可用于纯文本操作,同时还支持一些更为复杂的场景:

  • 协同图形编辑

支持实时协作的多媒体编辑器,可以让多个用户在同一 Adobe Flash 中同时编辑同一文档

  • 协同HTML/XML以及富文本编辑

基于网络的实时协作编辑器

  • 协同电子表格、Word文档等
  • 计算机辅助设计(Maya)

用于多人协同编辑 Autodesk Maya 文档OT算法维持一致性的基本思路是根据先前执行的并发操作的影响将编辑操作转换为新形式,以便转换后的操作可以实现正确的效果,并确保复制的文档相同。事实上,并不是在多人同时编辑相邻字符时才必须要使用OT,OT的适用性与并发操作的字符/对象数量无关,无论这些目标对象是否相互重叠,无论这些字符相邻远近,OT都会针对具有位置依赖关系的对象进行并发控制。

OT将文档变更表示为三类操作(Operational)

  1. Insert 插入
  2. Retain 保留
  3. Delete 删除

例如对于一个原始内容为“abc”的文档,假设用户O1在文档位置0处插入一个字符“x”,表示为`Insert[0,"x"]`,用户O2在文档位置2处删除一个字符,表示为`Delete[2,1]`(或者Delete[2,'c']),这将产生一个并发操作。在OT的控制下,本地操作会如期执行,远端服务器收到两个操作后会进行转换`Transformation`,具体过程如下

  1. 用户O1首先执行插入操作,文档内容变为“xabc”。然后O2的操作到达且被转换为`O2' = T(O2,O1) = Delete[3,1]`,产生了一个新的操作,此时位置增加了1,因为O1插入了一个字符。然后在文档“xabc”执行O2',此时文档内容变为“xab”,即“c”被正确的删除。(如果不进行转换,会错误的删除“b”)。
  2. 用户O2首先执行删除操作,文档内容变为“ab”,然后O1的操作到达且被转换为`O1' = T(O1, o2) = Insert[0,"x"]`,也产生了一个新的操作,由于先前执行的O2与O1互不影响,转换后的O1'与O1相同,文档内容变为“xab”。

这里忽略了光标操作,实际上多用户实时编辑时,应用在编辑器上,并不会真正的去移动光标,只会在相应的位置插入一个fake cursor。Monaco-Editor 与 ot.js我们使用ot.js来实现Monaco-Editor的协同编辑。ot.js包含客户端与服务端的实现,在客户端,它将编辑操作转换为一系列的operation。

  1. // 对于文档“Operational Transformation” 
  2. const operation = new ot.Operation() 
  3.   .retain(11) // 前11个字符保留 
  4.   .insert("color"); // 插入字符 
  5. // 这将使文档变更为 "Operationalcolor" 
  6.  
  7. // “abc” 
  8. const deleteOperation = new ot.Operation() 
  9.   .retain(2) // 
  10.   .delete(1) 
  11.   .insert("x"// axc 

同时operation也是可组合的,比如将两个操作组合为一个操作

  1. const operation0 = new ot.Operation() 
  2.   .retain(13) 
  3.   .insert(" hello"); 
  4. const operation1 = new ot.Operation() 
  5.   .delete("misaka "
  6.   .retain(13); 
  7.  
  8. const str0 = "misaka mikoto"
  9.  
  10. const str1 = operation0.apply(str0); // "misaka mikoto hello" 
  11. const str2a = operation1.apply(str1); // "mikoto hello" 
  12.  
  13. // 组合 
  14. const combinedOperation = operation0.compose(operation1); 
  15. const str2b = combinedOperation.apply(str0); // "mikoto dolor" 

应用到Monaco中,我们需要监听编辑器的onChange事件以及光标相关操作事件(selectionChange,cursorChange,blur等)。在文本内容修改的事件中,将每次修改产生的`changes`转换为一个或多个操作,也叫`operation`。光标的操作很好处理,转换成一个`Retain`操作即可。

  1.  const editor = monaco.editor.create(container, { 
  2.   language: 'php'
  3.   glyphMargin: true
  4.   lightbulb: { 
  5.     enabled: true
  6.   }, 
  7.   theme: 'vs-dark'
  8. }); 
  9.  
  10. editor.onDidChangeModelContent((e) => { 
  11.   const { changes } = e; 
  12.   let docLength = this.editor.getModel().getValueLength(); // 文档长度 
  13.   let operation = new TextOperation().retain(docLength); // 初始化一个operation,并保留文档原始内容 
  14.   for (let i = changes.length - 1; i >= 0; i--) { 
  15.       const change = changes[i]; 
  16.       const restLength = docLength - change.rangeOffset - change.text.length; // 文档 
  17.       operation = new TextOperation() 
  18.         .retain(change.rangeOffset) // 保留光标位置前的所有字符 
  19.         .delete(change.rangeLength) // 删除N个字符(如为0这个操作无效) 
  20.         .insert(change.text) // 插入字符 
  21.         .retain(restLength) // 保留剩余字符 
  22.         .compose(operation); // 与初始operation组合为一个操作 
  23. }); 

这段代码首先创建了一个编辑器实例,监听了`onDidChangeModelContent`事件,遍历changes数组,change.rangeOffset代表产生操作时的光标位置,change.rangeLength代表删除的字符长度(为0即没有删除操作),restLength是根据文档最终长度 - 光标位置 - 插入字符长度得出,用于在文档中间位置插入字符时保留剩余字符的操作。

但同时我们也要考虑到撤销/重做,ot.js中对撤销/重做的处理是每次编辑操作都需要产生对应的`逆操作`,并存入撤销/重做栈,在上面代码的循环体中,我们还需要添加一个名为`inverse`的操作。

  1. let inverse = new TextOperation().retain(docLength); 
  2.  
  3. // 获取删除的字符,实现略 
  4. const removed = getRemovedText(change, this.documentBeforeChanged); 
  5.   inverse = inverse.compose( 
  6.     new TextOperation() 
  7.       .retain(change.rangeOffset) // 与编辑相同 
  8.       .delete(change.text.length) // 插入变为删除 
  9.       .insert(removed) // 删除变为插入 
  10.       .retain(restLength); // 同样保留剩余字符 

这样就产生了一个编辑操作和一个用于撤销的逆操作,编辑操作会发送到服务端进行转换同时再发送到给其他客户端,逆操作保存在本地用于实现撤销。

撤销/重做的思路很简单,因为不论如何都会对编辑器产成一个change事件,并且实时编辑的状态下,两个用户的撤销/重做栈需要互相独立,也就是说A的操作不能进入B的撤销栈,因而在B执行撤销的时候只能对自己先前的操作产生影响,不能撤销A的编辑,所以我们需要实现一个自定义的撤销函数来覆盖编辑器自带的撤销功能。

我们需要覆盖默认的撤销

  1. this.editor.addAction({ 
  2.   id: 'cuctom_undo'
  3.   label: 'undo'
  4.   keybindings: [ 
  5.     monaco.KeyMod.CtrlCmd | monaco.KeyCode.KEY_Z 
  6.   ], 
  7.   run: () => { 
  8.     this._undoFn() 
  9.   } 
  10. }) 

这里_undoFn的实现不再赘述,实际就是将先前change事件中产生的逆操作保存在一个自定义的undoManager中,每次执行撤销就undoStack.pop()拿出最近一次的操作并应用在本地,同时发送给协作者,因为undoManager中并未保存协作者的逆操作,所以执行撤销不会影响协作者的操作。

ot.js还包含了服务端的实现,只需要将ot.js的服务端代码运行在nodejs中,同时搭建一个简单的websocket服务器即可。

  1. const EditorSocketIOServer = require('ot.js/socketio-server.js'); 
  2. const server = new EditorSocketIOServer("", [], 1); 
  3.  
  4. io.on('connection'function(socket) { 
  5.   server.addClient(socket); 
  6. }); 

服务端接收到每个协作者的operation并进行转换后下发到其他协作者客户端,转换操作实际是调用一个`transform`函数,可以戳这里transform查看,实际上这个函数也正是OT技术的核心,由于时间有限,所以不再详细解读这个函数的源码(逃随着 Cloud Studio 的架构升级和改进,我们正在准备抛弃 OT 转向 CRDT,所以等全部实现完成再来分享。

 

责任编辑:梁菲 来源: 互联网
相关推荐

2021-09-15 14:53:35

在线文档多人协作

2011-11-30 16:37:58

sync

2021-08-30 17:35:17

开发在线文档多人协作

2022-06-16 15:54:32

前端

2016-10-18 20:50:00

android锁屏App

2018-09-18 14:03:57

OpenStack知识难点

2021-03-28 17:21:15

Git分支策略

2019-03-21 09:12:06

CryptPad开源编辑器

2011-11-30 16:08:14

YC新锐Stypi

2011-11-30 15:57:18

2011-11-30 16:06:16

20个实用的在线协作

2024-05-06 08:34:17

GolangGo程序

2024-03-14 09:07:05

刷数任务维度后端

2022-03-04 09:02:01

StoryBoard工具git

2012-06-12 09:51:43

在线思维

2023-10-11 07:52:09

遍历方式Java

2023-06-28 15:49:35

2023-01-03 12:30:25

架构CPUGPU

2018-08-22 14:30:15

Gartner
点赞
收藏

51CTO技术栈公众号