Skip to content
Permalink
master
Switch branches/tags
Go to file
 
 
Cannot retrieve contributors at this time

DolphinDB教程:作业管理

作业(job)是DolphinDB中最基本的执行单位,可以简单理解为一段DolphinDB脚本代码在系统中的一次执行。作业根据阻塞与否可分成同步作业和异步作业。

1. 同步作业

同步作业也称为交互式作业(interactive job),主要通过以下方式提交:

  • DolphinDB GUI
  • DolphinDB Console(命令行)界面
  • DolphinDB Terminal
  • VSCode插件
  • DolphinDB提供的各个编程语言API接口
  • Web notebook

同步作业会阻塞客户端当前的连接,在当前作业返回之前客户端不能再发送新的作业,所以用户能同时发送的同步作业的数量取决于当前节点的最大连接数(通过配置项maxConnections设置)。一个节点能同时执行的同步作业数取决于worker数量(使用非web客户端时,通过配置项workerNum设置)和web worker数量(使用web客户端时,通过配置项webWorkerNum设置)。系统接收同步作业后先进入队列,然后分配给worker或web worker执行。

1.1 同步作业的查询

同步作业创建后,可以使用getConsoleJobs查看作业信息。示例如下:

>getConsoleJobs();
node	userID	rootJobId       jobType	desc	priority    parallelism receiveTime                 sessionId
------  -----   --------------  ------  ------- -------     ----------- ----------------------      -------------
NODE_1	admin	b4ff7490-9a...	unknown	unknown	0	    1           2020.03.07T20:42:04.903     323,818,682
NODE_1	guest	12c0be95-e1...	unknown	unknown	4	    2           2020.03.07T20:42:06.319     1,076,727,822

上述结果中node是作业所在节点名,userID是作业创建者,用户可以根据userID找到自己创建的作业,rootJobId是作业编号,priority是优先级,parallelism是并行度,receiveTime是系统接收到作业的时间,sessionId是会话ID。这里需要注意的是:同步作业会独占前台界面,需要另起一个会话(例如开启另一个GUI)来连接当前节点并运行getConsoleJobs

1.2 同步作业的取消

取消同步作业可用cancelConsoleJob函数。在DolphinDB系统中,每个作业都有一个唯一的编号,即rootJobId,当作业有很多子任务时,每个子任务的rootJobId跟父作业的rootJobId一致。在DolphinDB系统中取消作业的操作是根据rootJobId进行的。作业编号需用上节所述的getConsoleJobs函数获取。运行getConsoleJobscancelConsoleJob需要另起一个会话。为方便用户,DolphinDB GUI中提供了一个取消作业按钮可直接取消当前作业。当作业正在运行时,若强制关闭GUI,GUI会发送一个取消作业的命令,以取消已提交的作业。

这里需要注意的是:

  • 首先,DolphinDB的作业是基于线程的,线程不能被直接取消(kill),所以DolphinDB通过设置Cancel标志的方法来实现。系统在收到取消作业的命令后,设置一个Cancel标志,然后在执行作业的某些阶段,例如开始某个子任务、开始每一轮循环前,去检测是否设置了Cancel标志。若设置了Cancel标志,则取消作业。因此取消作业不是马上就可生效,可能会有一点延迟。
  • 其次,实践中可能会遇到几个问题:
  • 问题1:一个节点的连接数已经用完,无法发送取消作业的命令。若DolphinDB节点是前端交互模式启动,可以在DolphinDB console中执行。若部署模式是集群模式,任意两个节点之间如果已经建立了一些连接,这些连接一般是不会释放的,所以可以尝试从其他节点删除指定的作业。DolphinDB是一个分布式系统,无论从哪个节点删除一个作业,该节点都会将任务广播到其它节点。
  • 问题2:节点的作业队列中有大量的作业在排队,cancelConsoleJobgetConsoleJobs无法立即被执行。解决此问题的方法,一是用GUI中的取消作业按钮,这个按钮发送任务时会以urgent(紧急)方式发送,也即最高优先级处理;二是从其他节点删除指定的作业,取消子任务的任务发送时也以最高优先级处理。

2. 异步作业

异步作业是在DolphinDB后台执行的作业,这类任务一般对结果的实时反馈要求较低,且需要长期执行,包括:

对于定时作业和流数据作业,可分别参阅定时作业教程流数据教程了解详情。下面详细讲述批处理作业。

2.1 批处理作业的创建

批处理作业使用submitJobsubmitJobEx创建。两者的区别是submitJobEx可以指定作业的priority(优先级)和parallelism(并行度),这2个概念的详细描述见本文后面章节。

对某些比较耗时的工作,如历史数据写入分布式数据库、即席查询等,我们可以把它封装成一个函数,然后创建为批处理作业。批处理作业与常规交互作业分离,在独立工作线程池中执行。在系统中,批处理作业工作线程数的上限是由配置参数maxBatchJobWorker设置的。如果批处理作业的数量超过了限制,新的批处理作业将会进入队列等待。批处理作业工作线程在闲置超过60秒后会自动销毁。

2.2 批处理作业的查询

节点上所有批处理作业的信息,可以用getRecentJobs查看。示例如下:

>getRecentJobs(4);
node	userID	jobId   jobDesc	priority    parallelism	receivedTime	        startTime               endTime                 errorMsg
----    ------  -----   ------- --------    ----------- ------------            ---------               -------                 --------
NODE_0	admin	write   write	4	    2	        2020.03.08T16:09:16.795			
NODE_0	admin	write   check	4	    2	        2020.01.08T16:09:16.795	2020.01.08T16:09:16.797		
NODE_0	guest	query   query	0	    1	        2020.01.10T21:44:16.122	2020.01.10T21:44:16.123	2020.01.10T21:44:16.123	Not granted to read table dfs://FuturesContract/
NODE_0	admin	test    foo     8	    64	        2020.02.25T01:30:23.458	2020.02.25T01:30:23.460	2020.02.25T01:30:23.460	

在作业状态信息列表中,若startTime为空,如上述第一个作业,表示作业还在排队等待执行。若EndTime为空,如上述第二个作业,这意味着作业还在执行中。若errorMsg非空,如上述第三个作业,表示作业有错误。getRecentJobs函数可查看多个作业状态信息,若只需查一个特定的作业状态信息,可用getJobStatus函数。

DolphinDB系统把批处理作业的输出结果保存到磁盘文件。文件路径由配置参数 batchJobDir 指定,默认路径是 /batchJobs 。每个批处理作业产生两个文件夹:<job_id>.msg 和 <Job_id>.obj ,分别存储中间消息和返回对象。另外,当系统接收、开始和完成批处理作业时,每个批处理作业会向 /batchJob.log 添加三条信息。DolphinDB提供了以下2个函数查看相关信息:

2.3 批处理作业的取消

对已经提交但尚未完成的批处理作业,可使用cancelJob命令取消。与同步作业一样,系统通过设置Cancel标志的方法来取消作业,因此取消作业不是立即就能生效。

3. 子任务

在DolphinDB中,对于大型数据表,一般都需要进行分区处理。如果一个job里含有分区表的查询计算任务(如SQL查询),系统会将其分解成多个子任务并发送到不同的节点上并行执行,待子任务执行完毕之后,再合并结果,继续此job的执行。类似的,DolphinDB分布式计算也会被分解成子任务,以子任务为单位进行调度。因此,job也可以理解成一系列的子任务。

DolphinDB首先是一个数据库,内置的计算引擎主要解决高并发、交互式的计算任务。因此DolphinDB的资源配置方式与Apache Spark等低并发、批处理的计算引擎有所不同。Apache Spark以独占方式按应用事先分配计算资源包括CPU核,内存等。DolphinDB则将作业分解成子任务,以子任务为单位进行调度。每一个子任务并不独占CPU核和内存。而是将计算资源放入一个共享的资源池,根据每个计算任务的优先级和并行度来调度子任务。

3.1 子任务分解方法

根据数据源的不同,DolphinDB用不同方法分解作业的子任务:

  • 对大部分的作业如SQL查询,DolphinDB以数据库分区为单位分解,每一个分区分配一个子任务,计算下推到存储引擎执行,计算和存储耦合。这种计算任务的分解是由数据库的分区模式决定的,因此创建数据库时如何合理的分区非常重要。
  • 对另一种涉及到数据清洗的作业,譬如用repartitionDS产生数据源,然后使用mr(map reduce)imr(iterative map reduce,通常用于机器学习)函数来计算的作业。这类作业计算和数据分离,repartitionDS产生的每一个数据源就是一个子任务。

4. worker与executor

DolphinDB是一个P2P架构的系统,即每一个数据节点(data node)的角色都是相同的,它们都可以执行来自用户提交的作业,而因为一个作业可能产生子任务,每个数据节点需要有负责作业内部执行的调度者,我们称它为worker,它负责处理用户提交的作业,简单计算任务的执行,并执行作业的任务分解以及任务分发,并汇集最终的执行结果。作业中分解出来的子任务将会被分发到集群中的数据节点上(也有可能是本地数据节点),并由数据节点上的worker或executor线程负责执行。

worker与executor在执行作业的时候主要有以下几种情况:

  • 查询一个未分区表的作业会被worker线程执行。
  • 查询一个单机上的分区表的作业可能会分解成多个子任务,并由该节点上的多个executor线程并行执行。
  • 查询一个DFS分区表的作业可能会被分解成多个子任务,这些子任务会被分发给其它节点的worker执行,进行分布式计算。

为了最优性能,DolphinDB database 会将子任务发送到数据所在的数据节点上执行,以减少网络传输开销。比如:

  • 对于DFS分区表,worker将会根据分区模式以及分区当前所在数据节点来进行任务分解与分发。
  • 对于分布式计算,worker将会根据数据源信息,发送子任务到相应的数据源数据节点执行。

4.1 线程分类与区别

在DolphinDB中,worker与executer分以下几类:

  • worker:常规交互作业的工作线程,接收客户端请求,将任务分解为多个小任务,根据任务的粒度自己执行或者发送给local executor或remote executor执行。worker数量通过配置项workerNum设置,默认值是CPU内核数。
  • local executor:本地执行线程,执行worker分配的子任务。每个本地执行线程一次只能处理一个任务。所有工作线程共享本地执行线程。local executor的数量通过配置项localExecutors设置,默认值是CPU内核数减1。worker和local executor的数量直接决定了系统的并发计算的能力。
  • remote executor:远程执行线程,将子任务发动到远程节点的独立线程。每个节点有且只有一个远程执行线程。远程执行线程具有容错机制。在多个计算机都包含任务所需数据的副本的情况下,如果一台计算机出现故障,远程执行线程将该任务发送到另一台计算机。
  • batch job worker:批处理作业的工作线程。其上限通过配置项maxBatchJobWorker设置,默认值是workerNum。该线程在任务执行完后若闲置60秒则会被系统自动回收,不再占用系统资源。
  • dynamic worker:动态工作线程,作为worker的补充。如果所有的工作线程被占满,有新任务时,系统会创建动态工作线程来执行任务。其上限通过配置项maxDynamicWorker设置,默认值是workerNum。该线程在任务执行完后若闲置60秒则会被系统自动回收,不再占用系统资源。
  • web worker:处理HTTP请求的工作线程。DolphinDB提供了基于web的集群管理界面,用户可以通过web与DolphinDB节点进行交互。其上限通过配置项webWorkerNum设置,默认值是1。
  • secondary worker:次级工作线程,用于避免作业环,解决节点间的任务循环依赖而导致的死锁问题。其上限通过配置项secondaryWorkerNum配置,默认为workerNum。
  • urgent worker:紧急工作线程,只接收一些特殊的系统级任务,譬如登录,取消作业等。其上限通过配置项urgentWorkerNum设置,默认为1。

这些worker和executor之间的区别是什么呢?下面举例说明。若用户通过GUI、API、Console、或VS code插件等非web客户端发送了一个查询。DolphinDB数据节点接收到这个任务后,分给了某一个worker来处理。这个worker在处理的时候发现,这个查询涉及到的一个表是分区表,共有16个分区。假设现在系统设置的workerNum是8,localExecutors是7。这个worker(充当任务协调者)自己会处理两个分区,让local executor处理14个分区。当每个分区都处理后完后,结果汇总给这个worker,worker处理后把结果发送给客户端。如果这个查询是通过web客户端发送的,那么接收这个任务的是一个web worker。web worker的处理方式跟worker一样,自己会处理2个分区,让local executor处理14个分区。

一个数据节点的负载在不同时间段是不同的。在上面的例子中,大部分时间8个worker够用,但高峰时段,可能会并发几十个查询。这时候由dynamic worker来解决这种临时性的流量。dynamic worker闲置60秒后会自动销毁。

除了查询这一类比较简单的任务,可能还会有一些例如机器学习比较耗时的任务。这两种耗时差异很大的任务,若混合在同一个工作线程池中,很有可能出现worker被耗时很久的批处理任务占用,简单任务长期得不到响应。因此系统中用batch job worker接收这一类比较耗时的异步作业。它跟worker、web Worker一样,如果有子任务,自己处理一部分,其它的交给local executor处理。batch job worker也是临时性的worker,闲置60秒后会自动销毁。

前面提到的作业绝大部分可以通过一个有向无环图(DAG)来表示。但是某些作业会形成一个环。譬如一个用户通过GUI连接到某一个数据节点A并登录。登录需要连接到控制节点,控制节点完成验证后,又会通知所有数据节点(包括节点A)某用户已经登录,这就形成了一个环。当作业形成环的时候,有可能因饥饿导致死锁。假设现在处于节点A只有一个worker,而且已经被当前的登录任务占用的极端情形下,控制节点向A发出通知时,没有多余的worker可以处理,就形成了死锁。系统引入secondary worker的目的就是为了尽可能的避免作业环。引入secondary worker后,控制节点发出通知时,将其发送到所有节点的secondary worker。

有时用户无意创建了一些耗时很久的任务,占用了所有的worker。若希望取消这些作业。DolphinDB提供了函数cancelJobcancelConsoleJob来取消作业。但是因为当前所有的worker都被占用,取消作业这个任务本身无法被系统处理。此时可用到urgent worker。它只接收一些特殊的系统级任务,譬如登录,取消作业等。

5. 作业调度

5.1 作业优先级

在DolphinDB中,作业是按照优先级进行调度的,优先级的取值范围为0-9,取值越高则优先级越高。对于优先级高的作业,系统会更优先的给与计算资源。基于作业的优先级,DolphinDB设计了多级反馈队列来调度作业的执行。具体来说,系统维护了10个队列,分别对应10个优先级。系统总是分配线程资源给高优先级的作业,对于处于相同优先级的作业,系统会以round-robin的方式分配线程资源给作业;当一个优先级队列为空的时候,才会处理低优先级的队列中的作业。

DolphinDB作业的优先级可以通过以下方式来设置:

  • 对于同步作业,其优先级取值为min(4,通过setMaxJobPriority函数设定的该用户最高优先级)。
  • 对于通过submitJob提交的批处理作业,系统会给与默认优先级4。用户也可以使用submitJobEx函数来指定优先级。
  • 定时任务的优先级设为4,无法改变。

5.2 作业并行度

并行度表示在一个数据节点上,最多同时可以用多少个线程来执行该作业产生的子任务。并行度默认取值为2,只有使用submitJobEx函数提交的批处理作业才可通过其参数parallelism配置并行度。

并行度可以认为是一种时间片单位。举例来说,若一个作业的并行度为2,且该作业产生了100个并行子任务,那么系统只会分配2个线程用于子任务的计算,因此需要50轮调度才能完成整个作业的执行。为了充分利用资源,系统会进行优化。若当前的本地执行线程有16个,只有一个作业在运行,即使并行度是2,系统也会分给其16个线程。

5.3 调度策略

当有多个作业时,系统按照作业的优先级来调度子任务,优先级高并行度高的作业会分到更多的计算资源。为了防止处于低优先级的作业长时间等待,DolphinDB会适当降低作业的优先级。具体的做法是,当一个作业的时间片被执行完毕后,如果存在比其低优先级的作业,那么将会自动降低一级优先级。当优先级到达最低点后,又回到初始的优先级。因此低优先级的任务迟早会被调度到。

下面以A,B两个作业举例说明。A作业优先级6,并行度4,子任务个数16。B作业优先级4,并行度2,子任务个数2。资源池中的线程个数为4。第一轮调度,优先级最高的是6,计算资源全部分给A。执行完毕后,A的优先级降到5,A的子任务还剩12个。第二轮调度,优先级最高是5,计算资源全部分给A。执行完毕后,A的优先级降到4,A的子任务还剩8个。第三轮调度,优先级最高是4,A和B各有2个子任务被执行。执行完毕后,B已经完成,A优先级仍然为4,A的子任务还剩6个。虽然A的优先级和并行度更高,但是因为子任务太多,最终B先完成任务。

6. 计算容错

DolphinDB的分布式计算的容错性得益于分区副本冗余存储。当一个子任务被发送到一个分区副本节点上之后,若节点出现故障或者分区副本发生了数据校验错误(副本损坏),job scheduler(即某个数据节点的一个worker线程)将会发现这个故障,并且选择该分区的另一个副本节点,重新执行子任务。可以通过配置参数dfsReplicationFactor来调整这种冗余度。

7. 计算与存储耦合以及作业之间的数据共享

DolphinDB的计算尽量靠近存储。DolphinDB之所以不采用计算存储分离,主要有以下几个原因:

  • 计算与存储分离会出现数据冗余。考虑存储与计算分离的Spark+Hive架构,Spark应用程序之间是不共享存储的。若N个Spark应用程序从Hive读取某个表T的数据,那么首先T要加载到N个Spark应用程序的内存中,存在N份,这将造成机器内存的的浪费。在多用户场景下,同一份数据可能会被多个分析人员共享访问,如果采取Spark模式,会大大提高IT成本。

  • 拷贝带来的延迟问题。虽然现在有些数据中心逐渐配备了RDMA,NVMe等新硬件,显著改善了网络延迟和吞吐,但是DolphinDB系统的部署环境可能不具备类似的网络环境以及硬件设施,数据在网络之间的传输会成为严重的性能瓶颈。

综上这些原因,DolphinDB采取了计算与存储耦合的架构。具体来说:

  • 对于内存浪费的问题,DolphinDB的解决方案是作业(对应Spark应用程序)之间共享数据。在数据经过分区存储到DolphinDB的分布式文件系统中之后,每个分区的副本都会有自己所属的节点,在一个节点上的分区副本将会在内存中只存在一份。当多个作业的子任务都涉及到同一个分区副本时,该分区副本在内存中可以被共享地读取,减少了内存的浪费。

  • 对于拷贝带来的延迟问题,DolphinDB的解决方案是将计算发送到数据所在的节点上。一个作业根据DFS的分区信息会被分解成多个子任务,发送到分区所在的节点上执行。因为发送计算到数据所在的节点上相当于只是发送一段代码,网络开销大大减少。

8. 数据和计算资源的均衡

要提高计算效率,最关键的是数据和计算资源的均衡。具体包括:

  • 如果包含多个节点,每个节点的计算资源尽量均衡;
  • 数据库表的各个分区大小保持均衡;
  • 如果是多节点,每个节点上的分区数量尽量保持均衡。

当计算引擎出现性能问题,或者某些作业耗时太久,可以从下面这些途径排查问题:

  • 首先,查看所有节点的资源使用情况,譬如每个节点平均负载,CPU使用率,网络读写性能,磁盘读写性能,内存使用情况,作业和子任务队列深度等等。这些指标可以从Web界面读取。如果与Prometheus集成,也可以从Prometheus观察。或者通过内置函数getPerfgetClusterPerfgetJobStatgetDiskIOStat等来观察这些指标。高阶函数pnodeRun可以帮助在所有数据节点上运行这些函数。
  • 其次,可以分析作业涉及的数据的分布,包括分区的数量,分区在各个节点上的分布。函数getAllChunksgetClusterChunksStatusgetChunksMetagetTabletsMeta可以获取分区的分布信息。