? ? ?本文是笔者在之前写过的一篇《iostat IO统计原理linux内核源码分析----基于单通道SATA盘》基础上，对IO传输过程涉及的IO请求的合并、加入IO算法队列、从IO算法队列派发IO请求、deadline调度算法涉及的linux内核源码，做更深层次的探讨，内核版本3.10.96。更详细的源码注释见https://github.com/dongzhiyan-stack/kernel-code-comment。
? ?跟上篇一样，开头先来个IO传输的入口函数submit_bio->generic_make_request->blk_queue_bio流程图。
? ?本文正式开讲前，先说几点，rq和req都是同一个意思，都代表IO请求struct request结构。流程图中的虚线代表进入一个新的函数。
1? blk_queue_bio函数IO请求的合并
1.1? bio的合并
1? blk_queue_bio()函数中，首先尝试能否将bio合并到进程plug->list链表上的req，合并成功直接返回。
2? 接着执行elv_merge()函数尝试看能否将bio合并到IO算法队列里的req，如果可以合并则执行bio_attempt_front_merge()/bio_attempt_back_merge()将bio前项/后项到匹配的req。这个req合并bio后，req扇区起始/结束地址增大。接着需再尝试将req合并到其他req，就是req的二次合并，具体是执行attempt_front_merge()/attempt_back_merge()函数进行前项/后项二次req合并。如果二次合并失败，则执行elv_merged_request()：因为req发生了前项或者后项合并，req的扇区起始或者结束地址增大，需要把req从hash队列或者调度算法deadline红黑树队列中剔除，再按照req新的扇区起始或者结束地址插入队列
3? 如果bio没找到能合并的req，就需要get_request()分配新的req，然后调用__elv_add_request()函数把新分配的req添加到IO算法队列。
1.1.1? elv_merge函数讲解
?先看下流程图
?/*尝试3次合并:1 bio能否前项或者后项合并到q->last_merge;2 bio能否后项合并到hash队列的req;3:bio能否前项合并到deadline调度算法红黑树队列的req，返回值ELEVATOR_BACK_MERGE或ELEVATOR_FRONT_MERGE。如果三者都不能合并只有返回ELEVATOR_NO_MERGE。*/
int elv_merge(struct request_queue *q, struct request **req, struct bio *bio)
{
??? struct elevator_queue *e = q->elevator;
??? struct request *__rq;
??? int ret;
??? //是否可以把bio合并到q->last_merge，上次rq队列合并过的rq，elv_rq_merge_ok是做一些权限检查啥的
??? if (q->last_merge && elv_rq_merge_ok(q->last_merge, bio)) {
??????? //检查bio和q->last_merge代表的req磁盘范围是否挨着，挨着则可以合并bio到q->last_merge，分为前项合并和后项合并
??????? ret = blk_try_merge(q->last_merge, bio);
??????? if (ret != ELEVATOR_NO_MERGE) {
??????????? *req = q->last_merge;
??????? ????return ret;
??????? }
??? }
???? /*新加入IO调度队列的req会做hash索引，这是根据bio的扇区起始地址在hash表找匹配的req：遍历hash队列req，如果该req的扇区结束地址等于bio的扇区起始地址，bio可以后项合并到req*/
??? __rq = elv_rqhash_find(q, bio->bi_sector);
??? if (__rq && elv_rq_merge_ok(__rq, bio)) {
??????? *req = __rq;
??????? return ELEVATOR_BACK_MERGE;//找到可以合并的req，这里返回ELEVATOR_BACK_MERGE，表示后项合并
??? }
??? //具体IO调度算法函数cfq_merge或者deadline_merge，找到可以合并的bio的req，这里是把bio前项合并到req
??? if (e->type->ops.elevator_merge_fn)
??????? /*deadline是在红黑树队列里遍历req,如果该req起始扇区地址等于bio的扇区结束地址，返回前项合并(bio合并到req的前边)。req是个双重指针，保存这个红黑树队列里匹配到的req*/
??????? return e->type->ops.elevator_merge_fn(q, req, bio);//返回ELEVATOR_FRONT_MERGE，前项合并
??? return ELEVATOR_NO_MERGE;
}
1.1.2 ?bio_attempt_front_merge、bio_attempt_back_merge函数讲解
? ? bio_attempt_front_merge()/bio_attempt_back_merge()函数的源码比较简单，就是bio前项/后项合并到req，简单看下二者的源码。
//req和bio二者磁盘范围挨着，req向前合并本次的bio，合并成功返回真
static bool bio_attempt_front_merge(struct request_queue *q,
??????????????????? struct request *req, struct bio *bio)
{
??? const int ff = bio->bi_rw & REQ_FAILFAST_MASK;
??? bio->bi_next = req->bio;
??? req->bio = bio;
??? req->buffer = bio_data(bio);//该bio对应的bh的内存page地址
??? //req->__sector代表的磁盘空间起始地址=bio->bi_sector.显然req代表的磁盘空间范围向前扩张
??? req->__sector = bio->bi_sector;
??? req->__data_len += bio->bi_size; //req扇区范围向前增大
??? req->ioprio = ioprio_best(req->ioprio, bio_prio(bio));
??? drive_stat_acct(req, 0);
??? return true;
}
//req和bio二者磁盘范围挨着，req向后合并本次的bio，合并成功返回真
static bool bio_attempt_back_merge(struct request_queue *q, struct request *req,
?????????? ????????struct bio *bio)
{
??? const int ff = bio->bi_rw & REQ_FAILFAST_MASK;
??? req->biotail->bi_next = bio;
req->biotail = bio;
//req->__sector没变，但是req->__data_len累加本次的bio磁盘范围bio->bi_size
??? req->__data_len += bio->bi_size;
??? req->ioprio = ioprio_best(req->ioprio, bio_prio(bio));
??? //IO合并后，更改IO使用率等数据
??? drive_stat_acct(req, 0);
??? return true;
}
1.1.3 attempt_front_merge()、attempt_back_merge()、attempt_merge()源码讲解
?? attempt_front_merge()/attempt_back_merge()函数都是调用attempt_merge()函数，如下：
//之前req发生了前项合并,req的磁盘空间向前增大,从算法队列(比如deadline的红黑树队列)取出req的上一个req即prev,再次尝试把req合并到prev后边
int attempt_front_merge(struct request_queue *q, struct request *rq)
{
??? //红黑树中取出req原来的前一个req,即prev
??? struct request *prev = elv_former_request(q, rq);
??? if (prev)//把req合并到prev，然后把req从算法队列剔除掉，做一些剔除req的收尾处理,并更新IO使用率数据
??????? return attempt_merge(q, prev, rq);
??? return 0;
}
//之前req发生了后项合并,req的磁盘空间向后增大,从算法队列(比如deadline的红黑树队列)取出req的下一个req即next,再次尝试把next合并到req后边
int attempt_back_merge(struct request_queue *q, struct request *rq)
{
??? //只是从IO调度算法队列里取出req的下一个req给next，调用的函数elv_rb_latter_request(deadline算法)或noop_latter_request(noop算法)
??? struct request *next = elv_latter_request(q, rq);
??? if (next)//把next合并到req，然后把next从算法队列剔除掉，做一些剔除next的收尾处理,并更新IO使用率数据
??????? return attempt_merge(q, rq, next);
??? //如果req没有next req，只能返回0
??? return 0;
}
下边现在重点看下attempt_merge()的流程图和源码实现。
static int attempt_merge(struct request_queue *q, struct request *req,
????????????? struct request *next)//把next合并到req后边，req来自比如q->last_merge或hash队列的req
{
??? //检查req扇区范围后边紧挨着next，没有紧挨着返回0
??? if (blk_rq_pos(req) + blk_rq_sectors(req) != blk_rq_pos(next))
??????? return 0;
??? //在这里更新req->nr_phys_segments，扇区总数，因为要把next合并到req后边吧
??? if (!ll_merge_requests_fn(q, req, next))
??????? return 0;
??? if (time_after(req->start_time, next->start_time))//如果next->start_time更小则赋值于req->start_time
??????? req->start_time = next->start_time;
??? //一个req对应了多个bio，req->biotail应该是指向next上的第一个bio吧
??? req->biotail->bi_next = next->bio;
??? //biotail貌似指向了next的最后一个bio
??? req->biotail = next->biotail;
??? //req吞并了next的磁盘空间范围
??? req->__data_len += blk_rq_bytes(next);
??? /*调用IO调度算法的elevator_merge_req_fn回调函数。在这里，next已经合并到了rq,在fifo队列里，把req移动到next节点的位置，更新req的超时时间。从fifo队列和红黑树剔除next，还更新dd->next_rq[]赋值next的下一个req。因为rq合并了next，扇区结束地址变大了，则rq从hash队列中删除掉再重新再hash中排序*/
??? elv_merge_requests(q, req, next);
??? //next合并打了req，没用了，这个next从in flight队列剔除掉，顺便执行part_round_stats更新io_ticks IO使用率计数
??? blk_account_io_merge(next);
??? //req优先级，cfq调度算法的概念
??? req->ioprio = ioprio_best(req->ioprio, next->ioprio);
??? if (blk_rq_cpu_valid(next))
??????? req->cpu = next->cpu;
??? return 1;
}
1.1.4? elv_merged_request()函数讲解
该函数流程图和源码如下：
/*req发生了前项或者后项合并，req的扇区起始或者结束地址增大，需要把req从调度算法deadline红黑树队列或者hash队列中剔除，再按照req新的扇区起始或者结束地址插入队列*/
void elv_merged_request(struct request_queue *q, struct request *rq, int type)
{
??? struct elevator_queue *e = q->elevator;
?? ?//如果刚req发生了前项合并，req扇区起始地址增大，把req从deadline的红黑树队列删除再按照新的扇区起始地址插入红黑树队列，具体调用deadline算法的deadline_merged_request函数
??? if (e->type->ops.elevator_merged_fn)
??????? e->type->ops.elevator_merged_fn(q, rq, type);
??? if (type == ELEVATOR_BACK_MERGE)
??????? //如果刚req发生了后项合并，req扇区结束地址增大，把req从hash队列删除再按照新的扇区结束地址插入hash队列
??????? elv_rqhash_reposition(q, rq);
??? //q->last_merge保存刚发生合并的req
??? q->last_merge = rq;
}
1.1.5 __elv_add_request()函数讲解
该函数主要负责将req添加IO算法队列里，流程图与源码如下：
?? deadline算法elevator_add_req_fn接口函数是deadline_add_request()，目的是将req插入到红黑树队列和fifo队列__elv_add_request源码如下：
//新分配的req插入IO算法队列，或者是把当前进程plug链表上req全部插入到IO调度算法队列
void __elv_add_request(struct request_queue *q, struct request *rq, int where)
{
??? rq->q = q;
??? switch (where) {
??? case ELEVATOR_INSERT_REQUEUE:
??? case ELEVATOR_INSERT_FRONT://前向合并
???? ???rq->cmd_flags |= REQ_SOFTBARRIER;
??????? list_add(&rq->queuelist, &q->queue_head);//req直接插入q->queue_head链表头而已，并没有进行req合并
??????? break;
??? case ELEVATOR_INSERT_BACK://后向合并
??????? rq->cmd_flags |= REQ_SOFTBARRIER;
??????? //循环调用deadline算法的elevator_dispatch_fn接口一直选择派发的req到q->queue_head链表
??????? elv_drain_elevator(q);
??????? list_add_tail(&rq->queuelist, &q->queue_head);
??? ????//这里调用底层驱动数据传输函数，就会从rq->queue_head链表取出req发送给磁盘驱动去传输
??????? __blk_run_queue(q);
??????? break;
??? case ELEVATOR_INSERT_SORT_MERGE://把进程独有的plug链表上的req插入IO调度算法队列里走这里
??????? if (elv_attempt_insert_merge(q, rq))
??????????? break;
??? case ELEVATOR_INSERT_SORT://新分配的req插入的IO调度算法队列
??????? BUG_ON(rq->cmd_type != REQ_TYPE_FS);
??????? rq->cmd_flags |= REQ_SORTED;
??????? //队列插入新的一个req
??????? q->nr_sorted++;
??????? if (rq_mergeable(rq)) {
??????????? //新的req靠req->hash添加到IO调度算法的hash链表里
??????????? elv_rqhash_add(q, rq);
??????????? if (!q->last_merge)
??????????????? q->last_merge = rq;
??????? }
??????? //把req插入到IO调度算法队列里，deadline是插入到红黑树队列和fifo队列
??????? q->elevator->type->ops.elevator_add_req_fn(q, rq);//deadline算法函数是deadline_add_request()
??????? break;
??? case ELEVATOR_INSERT_FLUSH:
??????? rq->cmd_flags |= REQ_SOFTBARRIER;
??????? blk_insert_flush(rq);
??????? break;
??? }
}
? ?好的，前文主要讲解了：submit_bio->generic_make_request->blk_queue_bio发起的IO请求，bio怎么合并到IO算法队列，或者新分配的req怎么插入到IO算法队列。IO算法队列需要特别说明一下，一共有这几个：IO算法默认的hash队列、deadline调度算法特有的红黑树rb队列和fifo队列。
1 ?IO算法默认的hash队列：每一个新分配的req必然以“ req扇区结束地址”为key插入到hash队列。具体见elv_rqhash_add函数，里边执行hash_add(e->hash, &rq->hash, rq_hash_key(rq))把req添加到hash队列。rq_hash_key(rq)就是hash key，即req扇区结束地址。
? ? ?还有其他几处对hash队列的操作：1前文介绍过的elv_merged_request函数，里边执行elv_rqhash_reposition对req在hash队列重新排序。原因是req进行了后项合并，扇区结束地址变大了，那就要对这个req按照新的扇区结束地址在hash链表中重新排序；2 blk_queue_bio->__elv_add_request->elv_rqhash_add流程是把req添加到hash队列(hash key是req扇区结束地址)。3 blk_queue_bio ->elv_merge->elv_rqhash_find 遍历hash队列的req。
2? deadline调度算法的红黑树rb队列和fifo队列：deadline_add_request()函数负责将新的req添加到红黑树队列和fifo队列。把新的req插入红黑树队列的规则是req的“扇区起始地址”从小到大依次排列。新的req 插入fifo队列比较简单，直接插入fifo 队列dd->fifo_list[data_dir]链表尾部即可。fifo队列存在的意义是，每个req都有一个超时时间dd->fifo_expire[data_dir] ，新的req都是插入fifo队列的尾部。fifo队列尾部的req都是最晚插入fifo队列的，fifo队列头的req都是最早插入req的。fifo队列头的req最先被检查是否超时了，超时到了则选择该req派发。
deadline_add_request和deadline_add_rq_rb源码如下：
static void? ?deadline_add_request(struct request_queue *q, struct request *rq)
{
??? struct deadline_data *dd = q->elevator->elevator_data;
??? const int data_dir = rq_data_dir(rq);
??? //req添加到红黑树队列里
??? deadline_add_rq_rb(dd, rq);
??? //设置req调度超时时间，超时时间到，则会把fifo队列头的req派发给驱动
??? rq_set_fifo_time(rq, jiffies + dd->fifo_expire[data_dir]);
??? //req插入到fifo队列尾部
??? list_add_tail(&rq->queuelist, &dd->fifo_list[data_dir]);
}
//req添加到红黑树队列里
static void
deadline_add_rq_rb(struct deadline_data *dd, struct request *rq)
{
?? ?struct rb_root *root = deadline_rb_root(dd, rq);
??? //把rq添加到红黑树里，就是按照每个req的起始扇区排序的
??? elv_rb_add(root, rq);
}
2 ?进程plug链表req的插入IO算法队列
内核很多地方派发req实际是执行blk_flush_plug_list()函数把req插入IO算法队列，比如blk_queue_bio()->blk_flush_plug_list()，blk_flush_plug()->blk_flush_plug_list()。blk_flush_plug_list函数源码和流程图如下：
?//把进程plug链表上的req依次插入IO调度算法队列上
void blk_flush_plug_list(struct blk_plug *plug, bool from_schedule)
{
??? struct request_queue *q;
??? unsigned long flags;
??? struct request *rq;
??? LIST_HEAD(list);
??? unsigned int depth;
??? list_splice_init(&plug->list, &list);
??? //对plug链表上的req排序，应该是按照每个req的起始扇区地址排序，起始扇区小的排在前
??? list_sort(NULL, &list, plug_rq_cmp);
??? q = NULL;
??? depth = 0;
??? //依次取出进程plug链表上的req依次插入IO调度算法队列上
??? while (!list_empty(&list)) {
??????? //取出req
??????? rq = list_entry_rq(list.next);
??????? //从plug链表删除req
??????? list_del_init(&rq->queuelist);
??????? //在这里把req插入到IO调度算法队列里
???????? __elv_add_request(q, rq, ELEVATOR_INSERT_SORT_MERGE);
??????? //深度depth加1
????? ??depth++;
??? }
??? if (q)//里边执行__blk_run_queue派发req给磁盘驱动
??????? queue_unplugged(q, depth, from_schedule);
}
? ? 这个函数就是就是依次取出进程plug链表上的req依次执行__elv_add_request()插入IO算法队列。__elv_add_request()函数源码上一节已经详细解释过。还有一点需要注意，blk_flush_plug_list()函数最后执行queue_unplugged()才会把刚才插入IO算法队列的req派发给磁盘驱动，才能完成最终的磁盘数据传输。queue_unplugged()里实际是执行__blk_run_queue()->__blk_run_queue_uncond()->scsi_request_fn()把req派发给磁盘驱动。下文重点讲解。
3 ?__blk_run_queue()派发req到磁盘驱动
3.1? req整体派发流程
先看下整体流程图
?//从IO算法队列选择req派发给磁盘驱动
static void scsi_request_fn(struct request_queue *q)
{
??? struct scsi_device *sdev = q->queuedata;
??? struct Scsi_Host *shost;
??? struct scsi_cmnd *cmd;
??? struct request *req;
??? shost = sdev->host;
??? for (;;) {
??????? int rtn;
??????? //取出待派发的req，并分配SCSI命令结构体cmd并赋值
??????? req = blk_peek_request(q);
??????? if (!req || !scsi_dev_queue_ready(q, sdev))
??????????? break;
??????? //req 传输前的一些操作
??????? blk_start_request(req);
??????? cmd = req->special;
??????? //发送SCSI命令，真正开始传输数据
??????? rtn = scsi_dispatch_cmd(cmd);
??? }
}
重点是执行blk_peek_request()选择派发的req，分配SCSI命令cmd并赋值，源码如下：
struct request *blk_peek_request(struct request_queue *q)
{
??? /* 循环执行__elv_next_request()，从q->queue_head队列取出待进行IO数据传输的req。如果q->queue_head没有req，则执行deadline_dispatch_requests从fifo队列选择派发的req到q->queue_head链表*/
while ((rq = __elv_next_request(q)) != NULL) {
?? /*1 分配一个struct scsi_cmnd *cmd，使用req对cmd进行部分初始化cmd->request=req，req->special = cmd，还有cmd->transfersize传输字节数、cmd->sc_data_direction DMA传输方向
???? 2 先遍历req上的每一个bio，再得到每个bio的bio_vec，把bio对应的文件数据在内存中的首地址bvec->bv_pag+bvec->bv_offset写入scatterlistscatterlist是磁盘数据DMA传输有关的数据结构，scatterlist保存到bidi_sdb->table.sgl，bidi_sdb是req的struct scsi_data_buffer成员。
*/?
ret = q->prep_rq_fn(q, rq);//scsi_prep_fn
??????? if (ret == BLKPREP_OK) {
??????????? break;
??? }
}
? blk_peek_request()函数整体总结如下：
1 从q->queue_head队列头取出待进行IO数据传输的req.如果q->queue_head没有req，则执行deadline_dispatch_requests从fifo队列选择派发的req
2 分配一个struct scsi_cmnd *cmd，使用req对cmd进行部分初始化cmd->request=req，req->special = cmd，还有cmd->transfersize传输字节数、cmd->sc_data_direction DMA传输方向
3 先遍历req上的每一个bio，再得到每个bio的bio_vec，把bio对应的文件数据在内存中的首地址bvec->bv_pag+bvec->bv_offset写入scatterlist。scatterlist是磁盘数据DMA传输有关的数据结构，scatterlist保存到bidi_sdb->table.sgl，bidi_sdb是req的struct scsi_data_buffer成员。
? ? blk_peek_request()函数里执行__elv_next_request()，目的是：从q->queue_head链表取出待传输的req，如果q->queue_head链表没有req，则执行deadline_dispatch_requests()从fifo队列选择派发的req到q->queue_head。
static inline struct request *__elv_next_request(struct request_queue *q)
{
??? while (1) {
??????? //从q->queue_head取出待传输的req，如果q->queue_head没有req，则执行deadline_dispatch_requests从fifo队列选择派发的req
??????? if (!list_empty(&q->queue_head)) {
??????????? rq = list_entry_rq(q->queue_head.next);
??????????? return rq;
??? }
??? if (unlikely(blk_queue_bypass(q)) ||
??????????? !q->elevator->type->ops.elevator_dispatch_fn(q, 0))//deadline_dispatch_requests()选择派发的req
??????? return NULL;
}
deadline_dispatch_requests()函数是deadline ?IO调度算法的核心，重点讲解。
3.2 ?deadline_dispatch_requests()IO调度算法派发req
deadline_dispatch_requests()函数流程，源码和流程图如下：
?static int deadline_dispatch_requests(struct request_queue *q, int force)
{
??? struct deadline_data *dd = q->elevator->elevator_data;
??? //如果fifo队列有read req,list_empty返回0，reads为1
??? const int reads = !list_empty(&dd->fifo_list[READ]);
??? //如果fifo队列有write req,list_empty返回0，writes为1
??? const int writes = !list_empty(&dd->fifo_list[WRITE]);
??? struct request *rq;
??? int data_dir;
??? //每次从红黑树选取一个req发给驱动传输，这个req的下一个req保存在next_rq[]，现在又向驱动发送req传输，优先先从next_rq取出req
??? if (dd->next_rq[WRITE])
??????? rq = dd->next_rq[WRITE];
??? else
??????? rq = dd->next_rq[READ];
??? /*如果dd->batching大于等于dd->fifo_batch，不再使用next_rq，否则会一直只向后使用红黑树队列的req向驱动发送传输，队列前边的req得不到发送*/
??? if (rq && dd->batching < dd->fifo_batch)
??????? goto dispatch_request;
??? /*选择read或write req，因为一直选择read req给驱动传输，那write req就饿死了*/
??? if (reads) {
??????? BUG_ON(RB_EMPTY_ROOT(&dd->sort_list[READ]));
??????? /*有write req要传送给驱动，并且write req被饥饿次数达到上限，就强制选择跳转选择write req，防止一直选择read req给驱动传输，write req得不到选择而starve饥饿，每次write req得不到选择而饥饿则starved++。writes_starved是饥饿的次数上限，starved大于writes_starved，就强制选择write req*/
??????? if (writes && (dd->starved++ >= dd->writes_starved))
??????????? goto dispatch_writes;
??????? //否则下面选择read req
??????? data_dir = READ;
??????? goto dispatch_find_request;
??? }
??? if (writes) {
dispatch_writes:
??????? BUG_ON(RB_EMPTY_ROOT(&dd->sort_list[WRITE]));
??????? //dd->starved清0
???? ???dd->starved = 0;
??????? //下面选择write req，就一个赋值操作
??????? data_dir = WRITE;
??????? goto dispatch_find_request;
??? }
??? return 0;
dispatch_find_request:
??? //deadline_check_fifo:如果deadline fifo队列有超时的req要传输返回1，或者next_rq没有暂存req，if都成立。则从fifo队列头取出req
??? if (deadline_check_fifo(dd, data_dir) || !dd->next_rq[data_dir]) {
??????? //取出fifo队列头的req，最早入fifo队列的req，最早入队的req当然更容易超时
??????? rq = rq_entry_fifo(dd->fifo_list[data_dir].next);
??? } else {
??????? //否则直接取出next_rq暂存的req
??????? rq = dd->next_rq[data_dir];
??? }
??? //batching清0
??? dd->batching = 0;
dispatch_request://到这里，req直接来自next_rq或者fifo队列，这个req就要被发给驱动传输了
??? //batching加1
??? dd->batching++;
??? /*把req添加到rq的queue_head队列，设置新的next_rq，并把req从fifo队列和红黑树队列剔除，将来磁盘驱动程序就是从queue_head链表取出req传输的*/
??? deadline_move_request(dd, rq);
??? return 1;
}
? ? deadline_dispatch_requests()函数简单来说是：选择合适待派发给驱动传输的req，然后把req添加到q->queue_head链表，然后设置新的next_rq，并把req从fifo队列和红黑树队列剔除。将来向磁盘驱动程序派发的req就是从queue_head链表取出的。req来源有:上次派发设置的next_rq；read req派发过多而选择的write req；fifo 队列上超时要传输的req，统筹兼顾，有固定策略。
1 首先呢，从dd->next_rq[WRITE/ READ]获取上次派发req后设置的next? req，if (rq && dd->batching < dd->fifo_batch)这个判断是为了防止一直派发dd->next_rq[WRITE/ READ]，每派发一个next req，dd->batching就会加1，如果dd->batching < dd->fifo_batch成立，就goto dispatch_request直接使用dd->next_rq[WRITE/ READ]指定的next? req。
2 如果if (rq && dd->batching < dd->fifo_batch) 不成立，说明派发的dd->next_rq[WRITE/ READ]指定的next? req太多了，该派发fifo队列的req了，这个req更紧急。此时就会进入if (reads) 或者if (writes) 分支，最后执行goto dispatch_find_request从dd->fifo_list[data_dir] fifo队列选择派发的req，具体流程是：先执行if (deadline_check_fifo(dd, data_dir) || !dd->next_rq[data_dir])，deadline_check_fifo(dd, data_dir)函数是判断fifo队列有没有超时的req，有则执行rq = rq_entry_fifo(dd->fifo_list[data_dir].next) 取出fifo队列头的req(这是最早加入fifo队列的req，最早入队的req当然更容易超时)。
3? 回到第二步，还有一点没讲，就是if (reads)分支里的if (writes && (dd->starved++ >= dd->writes_starved)) ，每派发一个read? req(即data_dir = READ)则dd->starved++加1，等到dd->starved++ >= dd->writes_starved则goto dispatch_writes执行data_dir = WRITE，这样就会派发write req。dd->starved的作用是派发dd->writes_starved个read req后，就该派发write req了，防止write req饿着。
? ? deadline_dispatch_requests()最后执行的deadline_move_request()函数，作用是把req添加到req->queue_head链表，设置新的next_rq，并把req从fifo队列和红黑树队列剔除，将来磁盘驱动程序就是从req->queue_head链表取出req派发的。源码如下：
//把req添加到req->queue_head链表，设置新的next_rq，并把req从fifo队列和红黑树队列剔除，将来磁盘驱动程序就是从req->queue_head链表取出req传输的
static void
deadline_move_request(struct deadline_data *dd, struct request *rq)
{
??? //req是read还是write
??? const int data_dir = rq_data_dir(rq);
??? dd->next_rq[READ] = NULL;
??? dd->next_rq[WRITE] = NULL;
??? //从红黑树队列中取出req的下一个req作为next_rq，下次deadline_dispatch_requests()选择派发给的req时就可能是它了
??? dd->next_rq[data_dir] = deadline_latter_request(rq);
??? //req的磁盘空间end地址
??? dd->last_sector = rq_end_sector(rq);
??? //把req添加到req->queue_head链表，并把req从fifo队列和红黑树队列剔除，将来磁盘驱动程序就是从queue_head链表取出req派发的
??? deadline_move_to_dispatch(dd, rq);
}
deadline_move_to_dispatch()函数源码如下：
//把req添加到req->queue_head链表，并把req从fifo队列和红黑树队列剔除，将来磁盘驱动程序就是从queue_head链表取出req派发的
static inline void
deadline_move_to_dispatch(struct deadline_data *dd, struct request *rq)
{
??? struct request_queue *q = rq->q;
??? //从fifo队列和红黑树队列剔除req
??? deadline_remove_request(q, rq);
??? //把req添加到req->queue_head链表，将来磁盘驱动程序就是从queue_head链表取出req派发的
??? elv_dispatch_add_tail(q, rq);
}
deadline_remove_request()源码如下：
//deadline算法从fifo队列和红黑树剔除req。剔除前如果req原本是dd->next_rq[]保存req，还要找到req在红黑树的下一个req赋值给dd->next_rq[]
static void deadline_remove_request(struct request_queue *q, struct request *rq)
{
??? struct deadline_data *dd = q->elevator->elevator_data;
??? //从fifo队列剔除rq
??? rq_fifo_clear(rq);
??? //如果req原本是dd->next_rq[]保存req，则要找到req在红黑树的下一个req赋值给dd->next_rq[]，然后把req从红黑树中剔除
??? deadline_del_rq_rb(dd, rq);
}
deadline_del_rq_rb()函数源码如下：
//如果req原本是dd->next_rq[]保存req，则要找到req在红黑树的下一个req赋值给dd->next_rq[]，然后把req从红黑树中剔除
static inline void
deadline_del_rq_rb(struct deadline_data *dd, struct request *rq)
{
??? const int data_dir = rq_data_dir(rq);
??? /*这个if判断是说rq原本是dd->next_rq[]保存req，现在rq马上要从红黑树中剔除，则要找到rq在红黑树的下一个req赋值给dd->next_rq[]。deadline算法选择派发的req时会优先选择dd->next_rq[]保存的req*/
??? if (dd->next_rq[data_dir] == rq)
??????? dd->next_rq[data_dir] = deadline_latter_request(rq);
??? //deadline_rb_root(dd, rq)是取出调度算法的读或者写红黑树队列头rb_root，然后把req从这个红黑树队列剔除掉
??? elv_rb_del(deadline_rb_root(dd, rq), rq);
}
//把req添加到rq->queue_head链表，将来磁盘驱动程序就是从queue_head链表取出req派发的
void elv_dispatch_add_tail(struct request_queue *q, struct request *rq)
{
??? if (q->last_merge == rq)
??????? q->last_merge = NULL;
??? //req从hash队列剔除
??? elv_rqhash_del(q, rq);
??? q->nr_sorted--;
??? //结束扇区
??? q->end_sector = rq_end_sector(rq);
??? q->boundary_rq = rq;
??? //把req添加到rq->queue_head链表，将来磁盘驱动程序就是从queue_head链表取出req派发的
??? list_add_tail(&rq->queuelist, &q->queue_head);
}