日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

内核进程切换实现分析

發布時間:2024/1/17 编程问答 48 豆豆
生活随笔 收集整理的這篇文章主要介紹了 内核进程切换实现分析 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

當我們在linux編寫用戶態程序時并不需要考慮進程間是如何切換的, 即使當我們編寫驅動程序時也只需調用一些阻塞接口來讓渡cpu. 但是cpu究竟是如何切換進程的, 在進程切換過程中需要做什么, 今天我們通過分析內核schedule()的實現來看下內核是如何完成進程切換的.

先看下幾個相關的數據結構:

1 struct thread_info { 2 ??? unsigned long flags; 3 ??? /** 4 ???? * 搶占標記, 為0可搶占, 大于0不能搶占, 小于0出錯 5 ???? * preempt_disable()/preempt_enable()會修改該值 6 ???? * 同時也是被搶占計數, preempt_count的結構可見include/linux/hardirq.h中描述 7 ???? * 最低字節為搶占計數, 第二字節為軟中斷計數, 16-25位(10位)為硬中斷計數 8 ???? * 26位為不可屏蔽中斷(NMI)標記, 27位為不可搶占標記 9 ???? * 針對preempt_count的判斷宏都在include/linux/hardirq.h中 10 ???? * 11 ??? **/ 12 ??? int preempt_count; 13 ??? //break地址限制 14 ??? mm_segment_t addr_limit; 15 ??? //task結構體 16 ??? struct task_struct *task; 17 ??? struct exec_domain *exec_domain; 18 ??? //線程所在cpu號, 通過raw_smp_processor_id()獲取 19 ??? __u32 cpu; 20 ??? //保存協處理器狀態, __switch_to()中修改 21 ??? __u32 cpu_domain; 22 ??? //保存寄存器狀態, __switch_to()假定cpu_context緊跟在cpu_domain之后 23 ??? struct cpu_context_save cpu_context; 24 ??? __u32 syscall; 25 ??? __u8 used_cp[16]; 26 ??? unsigned long tp_value; 27 #ifdef CONFIG_CRUNCH 28 ??? struct crunch_state crunchstate; 29 #endif 30 ??? union fp_state fpstate __attribute__((aligned(8))); 31 ??? union vfp_state vfpstate; 32 #ifdef CONFIG_ARM_THUMBEE 33 ??? unsigned long thumbee_state; 34 #endif 35 ??? struct restart_block restart_block; 36 }; 37 struct task_struct { 38 ??? //任務狀態, 0為可運行, -1為不可運行, 大于0為停止 39 ??? volatile long state; 40 ??? void *stack; 41 ??? //引用計數 42 ??? atomic_t usage; 43 ??? //進程標記狀態位, 本文用到的是TIF_NEED_RESCHED 44 ??? unsigned int flags; 45 ??? unsigned int ptrace; 46 #ifdef CONFIG_SMP 47 ??? struct llist_node wake_entry; 48 ??? //該進程在被調度到時是否在另一cpu上運行, 僅SMP芯片判斷 49 ??? //prepare_lock_switch中置位, finish_lock_switch中清零 50 ??? int on_cpu; 51 #endif 52 ??? //是否在運行隊列(runqueue)中 53 ??? int on_rq; 54 ??? int prio, static_prio, normal_prio; 55 ??? unsigned int rt_priority; 56 ??? const struct sched_class *sched_class; 57 ??? struct sched_entity se; 58 ??? struct sched_rt_entity rt; 59 #ifdef CONFIG_CGROUP_SCHED 60 ??? struct task_group *sched_task_group; 61 #endif 62 #ifdef CONFIG_PREEMPT_NOTIFIERS 63 ??? struct hlist_head preempt_notifiers; 64 #endif 65 ??? unsigned int policy; 66 ??? int nr_cpus_allowed; 67 ??? //cpu位圖, 表明task能在哪些cpu上運行, 系統調用sched_setaffinity會修改該值 68 ??? cpumask_t cpus_allowed; 69 #if defined(CONFIG_SCHEDSTATS) || defined(CONFIG_TASK_DELAY_ACCT) 70 ??? //該進程調度狀態, 記錄進程被調度到的時間信息, 在sched_info_arrive中修改 71 ??? struct sched_info sched_info; 72 #endif 73 ??? /** 74 ???? * mm為進程內存管理結構體, active_mm為當前使用的內存管理結構體 75 ???? * 內核線程沒有自己的內存空間(內核空間共有), 所以它的mm為空 76 ???? * 但內核線程仍需要一個內存管理結構體來管理內存(即active_mm的作用) 77 ???? * 進程則同時存在mm與active_mm, 且兩者相等(否則訪問用戶空間會出錯) 78 ???? * 79 ??? **/ 80 ??? struct mm_struct *mm, *active_mm; 81 ??? //進程上下文切換次數 82 ??? unsigned long nvcsw, nivcsw; 83 ??? ...... 84 };

?

首先來分析調度管理的入口, 內核調度的通用接口是schedule()(defined in kernel/sched/core.c).

1 asmlinkage void __sched schedule(void) 2 { 3 ??? struct task_struct *tsk = current; 4 ??? sched_submit_work(tsk); 5 ??? __schedule(); 6 }

?

current即get_current()(defined in include/asm-generic/current.h), 后者為current_thread_info()->task. current_thread_info()是內聯函數(defined in arch/arm/include/asm/thread_info.h): THREAD_SIZE大小為8K, 即內核假定線程棧向下8K對齊處為thread_info, 通過它索引task_struct.

1 static inline struct thread_info *current_thread_info(void) 2 { 3 ??? register unsigned long sp asm ("sp"); 4 ??? return (struct thread_info *)(sp & ~(THREAD_SIZE - 1)); 5 }

?

獲取task后判斷當前task是否需要刷新IO隊列, 然后執行實際的調度函數__schedule().
__schedule()的注釋詳細指出了調度發生的時機:
1. 發生阻塞時, 比如互斥鎖, 信號量, 等待隊列等.
2. 當中斷或用戶態返回時檢查到TIF_NEED_RESCHED標記位. 為切換不同task, 調度器會在時間中斷scheduler_tick()中設置標記位.
3. 喚醒不會真正進入schedule(), 它們僅僅在運行隊列中增加一個task. 如果新增的task優先于當前的task那么喚醒函數將置位TIF_NEED_RESCHED, schedule()將最可能在以下情況執行:
如果內核是開啟搶占的(CONFIG_PREEMPT), 在系統調用或異常上下文執行preempt_enable()之后(最快可能在wake_up()中spin_unlock()之后); 在中斷上下文, 從中斷處理程序返回開啟搶占后.
如果內核未開啟搶占, 那么在cond_resched()調用, 直接調用schedule(), 從系統調用或異常返回到用戶空間時, 從異常處理程序返回到用戶空間時.

1 static void __sched __schedule(void) 2 { 3 ??? struct task_struct *prev, *next; 4 ??? unsigned long *switch_count; 5 ??? struct rq *rq; 6 ??? int cpu; 7 need_resched: 8 ??? //關閉搶占, current_thread_info->preempt_count-- 9 ??? preempt_disable(); 10 ??? //獲取線程所在cpu 11 ??? cpu = smp_processor_id(); 12 ??? rq = cpu_rq(cpu); 13 ??? rcu_note_context_switch(cpu); 14 ??? prev = rq->curr; 15 ??? schedule_debug(prev); 16 ??? if (sched_feat(HRTICK)) 17 ??????? hrtick_clear(rq); 18 ??? raw_spin_lock_irq(&rq->lock); 19 ??? switch_count = &prev->nivcsw; 20 ??? //如果進程停止且支持搶占 21 ??? if (prev->state && !(preempt_count() & PREEMPT_ACTIVE)) { 22 ??????? //判斷是否有信號掛起 23 ??????? if (unlikely(signal_pending_state(prev->state, prev))) { 24 ??????????? prev->state = TASK_RUNNING; 25 ??????? } else { 26 ??????????? //沒有信號掛起則將當前進程踢出運行隊列 27 ??????????? deactivate_task(rq, prev, DEQUEUE_SLEEP); 28 ??????????? prev->on_rq = 0; 29 ??????????? //如果該進程屬于一個工作隊列, 判斷是否需要喚醒另一個進程 30 ??????????? if (prev->flags & PF_WQ_WORKER) { 31 ??????????????? struct task_struct *to_wakeup; 32 ??????????????? to_wakeup = wq_worker_sleeping(prev, cpu); 33 ??????????????? if (to_wakeup) 34 ??????????????????? try_to_wake_up_local(to_wakeup); 35 ??????????? } 36 ??????? } 37 ??????? switch_count = &prev->nvcsw; 38 ??? } 39 ??? //sched_class.pre_schedule 40 ??? pre_schedule(rq, prev); 41 ??? if (unlikely(!rq->nr_running)) 42 ??????? idle_balance(cpu, rq); 43 ??? //sched_class.put_prev_task 44 ??? put_prev_task(rq, prev); 45 ??? //sched_class.pick_next_task 46 ??? next = pick_next_task(rq); 47 ??? //清除需要調度標記 48 ??? clear_tsk_need_resched(prev); 49 ??? rq->skip_clock_update = 0; 50 ??? //如果next不等于prev即調度到其它進程 51 ??? if (likely(prev != next)) { 52 ??????? rq->nr_switches++; 53 ??????? rq->curr = next; 54 ??????? ++*switch_count; 55 ??????? //進程上下文切換, 過程中會解鎖rq->lock 56 ??????? context_switch(rq, prev, next); 57 ??????? /* 58 ???????? * The context switch have flipped the stack from under us 59 ???????? * and restored the local variables which were saved when 60 ???????? * this task called schedule() in the past. prev == current 61 ???????? * is still correct, but it can be moved to another cpu/rq. 62 ???????? */ 63 ??????? cpu = smp_processor_id(); 64 ??????? rq = cpu_rq(cpu); 65 ??? } else 66 ??????? raw_spin_unlock_irq(&rq->lock); 67 ??? post_schedule(rq); 68 ??? //恢復搶占, current_thread_info->preempt_count++ 69 ??? sched_preempt_enable_no_resched(); 70 ??? //如線程標記位TIF_NEED_RESCHED仍存在繼續調度 71 ??? if (need_resched()) 72 ??????? goto need_resched; 73 }

?

__schedule()中首先關閉該線程的搶占(current_thread_info->preempt_count自減), 獲取線程所在cpu(current_thread_info->cpu), 再獲取對應cpu的rq. 此處先看下rq的結構(defined in kernel/sched/sched.h). cpu_rq()(defined in kernel/sched/sched.h)是一個復雜的宏, 用于獲取對應cpu的rq結構. 來看下它的定義(以SMP芯片為例):

1 #define cpu_rq(cpu) (&per_cpu(runqueues, (cpu))) 2 #define per_cpu(var, cpu) (*SHIFT_PERCPU_PTR(&(var), per_cpu_offset(cpu)))

?

SHIFT_PERCPU_PTR()是對特定平臺的宏, 一般平臺上即直接取地址加偏移. 偏移不一定是線性的, 所以用per_cpu_offset()宏獲取(其實質是個數組, 在setup_per_cpu_areas()中初始化). 再看下runqueues(defined in kernel/sched/core.c)又是如何定義的.

1 DEFINE_PER_CPU_SHARED_ALIGNED(struct rq, runqueues); 2 #define DEFINE_PER_CPU_SHARED_ALIGNED(type, name) \ 3 ??? DEFINE_PER_CPU_SECTION(type, name, PER_CPU_SHARED_ALIGNED_SECTION) \ 4 ??? ____cacheline_aligned_in_smp 5 #define DEFINE_PER_CPU_SECTION(type, name, sec) \ 6 ??? __PCPU_ATTRS(sec) PER_CPU_DEF_ATTRIBUTES \ 7 ??? __typeof__(type) name

?

這樣就都串起來了, runqueues是struct rq的數組, 各個cpu通過偏移獲取對應結構體地址.
開始調度前首先要獲取運行隊列rq的自旋鎖. 調度器算法是由pre_schedule(), put_prev_task(), pick_next_task()與post_schedule()實現的. 這幾個接口都是當前進程調度器類型結構體(sched_class)的回調. 關于調度器模型的分析以后有空分析, 此處先略過.
回到__schedule(), 再得到調度后的進程后先清除調度前的進程的調度標記, 判斷調度前后進程是否不同, 不同則執行上下文切換的工作, context_switch()(defined in kernel/sched/core.c)是為了恢復到調度后進程的環境, 包括TLB(內核線程僅訪問內核空間無需切換, 用戶進程需切換), 恢復寄存器與堆棧等.

1 static inline void context_switch(struct rq *rq, \ 2 ??? struct task_struct *prev, struct task_struct *next) 3 { 4 ??? struct mm_struct *mm, *oldmm; 5 ??? //準備進程切換 6 ??? //sched_info_switch記錄調度前后兩個進程在調度時刻的時間信息 7 ??? //prepare_lock_switch將調度后進程next->on_cpu置位(對于SMP芯片) 8 ??? prepare_task_switch(rq, prev, next); 9 ??? mm = next->mm; 10 ??? oldmm = prev->active_mm; 11 ??? arch_start_context_switch(prev); 12 ??? /** 13 ???? * 切換內存空間, mm為調度后進程的內存空間, oldmm為調度前進程正在使用的內存空間 14 ???? * 對于內核線程沒有私有內存空間, mm為空, 此時無需切換內存空間 15 ???? * 所以復用之前的mm, 同時tlb進入lazy mode, 如果為用戶進程(mm非空)則需刷新mm 16 ???? * 17 ??? **/ 18 ??? if (!mm) { 19 ??????? next->active_mm = oldmm; 20 ??????? atomic_inc(&oldmm->mm_count); 21 ??????? enter_lazy_tlb(oldmm, next); 22 ??? } else 23 ??????? switch_mm(oldmm, mm, next); 24 ??? /** 25 ???? * 內核線程沒有自己的內存空間, 需要引用其它進程的內存空間 26 ???? * 但當該線程還在運行時不可能自己減少對該mm的引用 27 ???? * 因此需要緩存該mm, 在調度到新進程后再減少引用 28 ???? * 這就是rq->prev_mm作用, 其減少見finish_task_switch() 29 ???? * 30 ??? **/ 31 ??? if (!prev->mm) { 32 ??????? prev->active_mm = NULL; 33 ??????? rq->prev_mm = oldmm; 34 ??? } 35 ??? /** 36 ???? * 釋放運行隊列鎖 37 ???? * 通常釋放鎖操作在switch_to()之后, 但在部分平臺上需要解鎖執行上下文切換 38 ???? * 此時就需要定義__ARCH_WANT_UNLOCKED_CTXSW, 具體參見scheduler/sched-arch.txt 39 ???? * 40 ??? **/ 41 #ifndef __ARCH_WANT_UNLOCKED_CTXSW 42 ??? spin_release(&rq->lock.dep_map, 1, _THIS_IP_); 43 #endif 44 ??? context_tracking_task_switch(prev, next); 45 ??? //切換寄存器狀態與棧, 實際調用__switch_to(defined in arch/arm/kernel/entry-armv.S) 46 ??? switch_to(prev, next, prev); 47 ??? barrier(); 48 ??? //當前運行的cpu可能不是之前的cpu, 所以需要重新獲取當前的runqueue 49 ??? finish_task_switch(this_rq(), prev); 50 }

?

context_switch()中最主要的兩個函數是switch_mm()與switch_to(), 前者切換mm與TLB后者切換寄存器與棧. switch_mm()以后有空詳述, 先看下switch_to(), 其調用的__switch_to()(defined in arch/arm/kernel/entry-armv.S)是匯編函數:

1 #define switch_to(prev,next,last) \ 2 do { \ 3 ??? last = __switch_to(prev,task_thread_info(prev), task_thread_info(next)); \ 4 } while (0) 5 ENTRY(__switch_to) 6 UNWIND(.fnstart) 7 UNWIND(.cantunwind) 8 ??? add ip, r1, #TI_CPU_SAVE 9 ??? ldr r3, [r2, #TI_TP_VALUE] 10 ??? ARM( stmia ip!, {r4 - sl, fp, sp, lr} ) 11 ??? THUMB( stmia ip!, {r4 - sl, fp} ) 12 ??? THUMB( str sp, [ip], #4 ) 13 ??? THUMB( str lr, [ip], #4 ) 14 #ifdef CONFIG_CPU_USE_DOMAINS 15 ??? ldr r6, [r2, #TI_CPU_DOMAIN] 16 #endif 17 ??? set_tls r3, r4, r5 18 #if defined(CONFIG_CC_STACKPROTECTOR) && !defined(CONFIG_SMP) 19 ??? ldr r7, [r2, #TI_TASK] 20 ??? ldr r8, =__stack_chk_guard 21 ??? ldr r7, [r7, #TSK_STACK_CANARY] 22 #endif 23 #ifdef CONFIG_CPU_USE_DOMAINS 24 ??? mcr p15, 0, r6, c3, c0, 0 25 #endif 26 ??? mov r5, r0 27 ??? add r4, r2, #TI_CPU_SAVE 28 ??? ldr r0, =thread_notify_head 29 ??? mov r1, #THREAD_NOTIFY_SWITCH 30 ??? bl atomic_notifier_call_chain 31 #if defined(CONFIG_CC_STACKPROTECTOR) && !defined(CONFIG_SMP) 32 ??? str r7, [r8] 33 #endif 34 ??? THUMB( mov ip, r4 ) 35 ??? mov r0, r5 36 ??? ARM( ldmia r4, {r4 - sl, fp, sp, pc} ) 37 ??? THUMB( ldmia ip!, {r4 - sl, fp} ) 38 ??? THUMB( ldr sp, [ip], #4 ) 39 ??? THUMB( ldr pc, [ip] ) 40 UNWIND(.fnend) 41 ENDPROC(__switch_to)

?

進入函數調用時R0與R1分別為調度前進程的task_struct與thread_info, R2為調度后進程的thread_info. 函數首先將當前寄存器中R4-R15(除IP與LR外)全部保存到調度前進程的thread_info.cpu_context(IP指向的地址)中, 然后恢復TLS(thread local store). set_tls(defined in rch/arm/include/asm/tls.h)用于內核向glibc傳遞TLS地址.

1 .macro set_tls_software, tp, tmp1, tmp2 2 ??? mov \tmp1, #0xffff0fff 3 ??? str \tp, [\tmp1, #-15] @ set TLS value at 0xffff0ff0 4 .endm

?

在ARM_V7平臺上使用set_tls_software宏, 即將調度后進程的thread_info.tp_value(R3的值)保存在0xFFFF0FF0, 這是內核為glibc獲取TLS專門預留的地址.
恢復TLS后還需恢復協處理器, 同樣是從thread_info.cpu_domain(R6的值)中獲取. 然后調用回調通知鏈, 入參分別是thread_notify_head, THREAD_NOTIFY_SWITCH, 調度后進程的thread_info. 看了下這里注冊回調的都是與架構強相關的代碼: mm, fp, vfp和cp這幾類寄存器的修改. 因為與架構強相關, 先不分析了, 以后有空再看.
最后從調度后進程的thread_info.cpu_context(R4指向的地址)恢復寄存器. 想想為什么不一起保存/恢復R0-R3, IP和LR?
注意此處! 當PC被出棧后, 就切換到調度后進程代碼執行了, 即switch_to()是不返回的函數. 既然是不返回的函數, 后面的代碼是干什么的呢? 自然是線程恢復運行時的恢復代碼了. 當調度前的進程恢復(即通過__switch_to出棧PC恢復之前執行代碼地址)后繼續執行context_switch(). 此時進程身份已經互換了, 之前調度出去的進程作為被調度到的進程(但是代碼中的prev與next還是沒有改變, 因為寄存器與棧仍為之前的狀態), 而當前被調度出去的進程可能是之前調度到的進程, 也可能是第三個進程. 且此時程序運行在哪個CPU上也是不確定的. 所以先做內存屏障, 然后調用finish_task_switch()完成上下文切換.

1 static void finish_task_switch(struct rq *rq, \ 2 ??? struct task_struct *prev) __releases(rq->lock) 3 { 4 ??? struct mm_struct *mm = rq->prev_mm; 5 ??? long prev_state; 6 ??? //清空prev_mm 7 ??? rq->prev_mm = NULL; 8 ??? /** 9 ???? * 源碼注釋已經指出進程在退出時會最后一次調度schedule(), 調度不會返回 10 ???? * 測試進程狀態是否為TASK_DEAD必須在獲取運行隊列鎖時 11 ???? * 否則退出的進程可能被調度到另一CPU上, 在那個CPU上退出導致兩次減少引用計數 12 ???? * 13 ??? **/ 14 ??? prev_state = prev->state; 15 ??? vtime_task_switch(prev); 16 ??? finish_arch_switch(prev); 17 ??? perf_event_task_sched_in(prev, current); 18 ??? //finish_lock_switch()中執行解鎖 19 ??? //注意此處解鎖不一定與__schedule()中為同一把鎖, 因為此時可能切換了CPU 20 ??? finish_lock_switch(rq, prev); 21 ??? //如果之前切換內存空間時處于禁止中斷狀態則推遲到此處切換內存空間 22 ??? finish_arch_post_lock_switch(); 23 ??? fire_sched_in_preempt_notifiers(current); 24 ??? //注意此處drop的是rq->prev_mm, rq->prev_mm是在__schedule()中被賦值為prev->active_mm 25 ??? //如此保證了盡管內核線程沒有內存空間, 但仍能正常使用mm 26 ??? if (mm) 27 ??????? mmdrop(mm); 28 ??? //釋放task_struct 29 ??? if (unlikely(prev_state == TASK_DEAD)) { 30 ??????? kprobe_flush_task(prev); 31 ??????? put_task_struct(prev); 32 ??? } 33 ??? tick_nohz_task_switch(current); 34 }

?

至此完成進程上下文切換, 重新回到__schedule(), 執行post_schedule()完成清理工作, 恢復該進程可搶占狀態, 判斷當前線程是否需要調度, 如果需要再走一遍流程.
關于調度器的代碼我們將在以后具體分析, 如果感興趣也可以看下內核文檔中對調度器的說明(在Documentation/scheduler目錄下), 這里稍稍翻譯下(主要是針對cgroup使用的補充比較有價值).
1. sched-arch.txt
討論與架構相關的調度策略. 進程上下文切換中運行隊列的自旋鎖處理: 一般要求在握有rq->lock情況下調用switch_to. 在有些情況下(比如在進程上下文切換時有喚醒操作, 見arch/ia64/include/asm/system.h為例)switch_to需要獲取鎖, 此時調度器需要保證無鎖時調用switch_to. 在這種情況下需要定義__ARCH_WANT_UNLOCKED_CTXSW(一般與switch_to定義在一起).
2. sched-bwc.txt
討論SCHED_NORMAL策略的進程的帶寬控制. CFS帶寬控制需要配置CONFIG_FAIR_GROUP_SCHED. 帶寬控制允許進程組指定使用一個周期與占比, 對于給定的周期(以毫秒計算), 進程組最多允許使用占比長度的CPU時間, 當進程組執行超過其限制的時間進程將不得再執行直到下一個周期到來.
周期與占比通過CPU子系統cgroupfs管理. cpu.cfs_quota_us為一個周期內總的可運行時間(以毫秒計算), cpu.cfs_period_us為一個周期的長度(以毫秒計算), cpu.stat為調節策略. 默認值cpu.cfs_period_us=1000ms, cpu.cfs_period_us=-1. -1表明進程組沒有帶寬限制, 向其寫任何合法值將開啟帶寬限制, 最小的限制為1ms, 最大的限制為1s, 向其寫任何負數將取消帶寬限制并將進程組恢復到無約束狀態.
可以通過/proc/sys/kernel/sched_cfs_bandwidth_slice_us(默認5ms)獲取調度時間片長度.
進程組的帶寬策略可通過cpu.stat的3個成員獲取: nr_periods nr_throttled throttled_time.
存在兩種情況導致進程被節制獲取CPU: a. 它完全耗盡一個周期中的占比 b. 它的父進程完全耗盡一個周期中的占比. 出現情況b時, 盡管子進程存在運行時間但它仍不能獲取CPU直到它的父親的運行時間刷新.
3. sched-design-CFS.txt
CFS即completely fair scheduler, 自2.6.23后引入, 用于替換之前的SCHED_OTHER代碼. CFS設計目的是基于真實的硬件建立理想的, 精確的多任務CPU模型. 理想的多任務CPU即可以精確的按相同速度執行每一個任務, 比如在兩個任務的CPU上每個任務可以獲取一半性能. 真實的硬件中我們同時僅能運行一個任務, 所以我們引入虛擬運行時間的概念. 任務的虛擬運行時間表明在理想的多任務CPU上任務下一次執行時間, 實際應用中任務的虛擬運行時間即其真實的運行時間.
CFS中的虛擬運行時間通過跟蹤每個task的p->se.vruntime值, 借此它可以精確衡量每個task的期望CPU時間. CFS選擇task的邏輯是基于p->se.vruntime值: 它總是嘗試運行擁有最小值的task.
CFS設計上不使用傳統的runqueue, 而是使用基于時間的紅黑樹建立一個未來任務執行的時間線. 同時它也維護rq->cfs.min_vruntime值, 該值是單調增長的值, 用來跟蹤runqueue中最小的vruntime. runqueue中所有運行進程的總數通過rq->cgs.load值統計, 它是該runqueue上所有排隊的task的權重的綜合. CFS維護這一個時間排序的紅黑樹, 樹上所有可運行進程都以p->se.vruntime為鍵值排序, CFS選擇最左的task執行. 隨著系統持續運行, 執行過的task被放到樹的右側, 這給所有task一個機會成為最左的task并獲取CPU時間. 總結CFS工作流程: 當一個運行的進程執行調度或因時間片到達而被調度, 該任務的CPU使用值(p->se.vruntime)將加上它剛剛在CPU上消耗的時間. 當p->se.vruntime足夠高到另一個任務成為最左子樹的任務時(再加上一小段緩沖以保證不會發生頻繁的來回調度), 那么新的最左子樹的任務被選中.
CFS使用ns來計算, 它不依賴jiffies或HZ. 因此CFS沒有其它調度中有的時間片的概念. CFS只有一個可調整參數: /proc/sys/kernel/sched_min_granularity_ns用于調整工作負載(從桌面模式到服務器模式).
調度策略:
1. SCHED_NORMAL(傳統叫法SCHED_OTHER)用于普通task.
2. SCHED_BATCH不像通常task一樣經常發生搶占, 因此允許task運行更久, 更好利用cache.
3. SCHED_IDLE比nice值19更弱, 但它不是一個真正的idle時間調度器, 可以避免優先級反轉的問題.
SCHED_FIFO/SCHED_RR在sched/rt.c中實現并遵循POSIX規范.
調度器類型的實現通過sched_class結構, 它包含以下回調:
enqueue_task(): 當task進入可運行狀態時調用, 將task放入紅黑樹中并增加nr_running值.
dequeue_task(): 當task不再可運行時調用, 將task從紅黑樹中移除并減少nr_running值.
yield_task(): 將task移除后再加入紅黑樹.
check_preempt_curr(): 檢測進入可運行狀態的task是否可搶占當前運行的task.
pick_next_task(): 選擇最合適的task運行.
set_curr_task(): 當task改變調度器類型或改變任務組.
task_tick(): 通常由時間函數調用, 可能會導致進程切換, 這會導致運行時搶占.
通常情況下調度器針對單獨task操作, 但也可以針對任務組進行操作.
CONFIG_CGROUP_SCHED允許task分組并將CPU時間公平的分給這些組.
CONFIG_RT_GROUP_SCHED允許分組實時task.
CONFIG_FAIR_GROUP_SCHED允許分組CFS task.
以上選項需要定義CONFIG_CGROUPS, 并使用cgroup創建組進程, 具體見Documentation/cgroups/cgroups.txt.
舉例創建task組:
# mount -t tmpfs cgroup_root /sys/fs/cgroup
# mkdir /sys/fs/cgroup/cpu
# mount -t cgroup -ocpu none /sys/fs/cgroup/cpu
# cd /sys/fs/cgroup/cpu
# mkdir multimedia
# mkdir browser
# echo 2048 > multimedia/cpu.shares
# echo 1024 > browser/cpu.shares
# echo <firefox_pid> > browser/tasks
# echo <movie_player_pid> > multimedia/tasks
5. sched-nice-design.txt
由于舊版調度器nice值與時間片相關, 而時間片單位由HZ決定, 最小時間片為1/HZ. 在100HZ系統上nice值為19的進程僅占用1個jiffy. 但在1000HZ系統上其僅運行1ms, 導致系統頻繁的調度. 因此在1000HZ系統上nice值19的進程使用5ms時間片.
7.sched-stats.txt
查看調度器狀態: cat /proc/schedstat 參數太多, 不寫了.
查看每個進程調度狀態: cat /proc/<pid>/schedstat 分別為CPU占用時間, 在runqueue中等待時間, 獲取時間片次數.

?

轉載于:https://www.cnblogs.com/Five100Miles/p/8644993.html

總結

以上是生活随笔為你收集整理的内核进程切换实现分析的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

最新精品视频在线 | 国产欧美精品一区二区三区 | 久久精品亚洲一区二区三区观看模式 | 亚洲精品日韩在线观看 | 波多野结衣一区三区 | 久久夜色精品国产欧美乱 | 国产色视频123区 | 精品国产伦一区二区三区观看方式 | 亚洲特级毛片 | 人人舔人人爽 | 精品影院 | 欧美日韩一区二区三区在线观看视频 | 91麻豆高清视频 | av青草 | 国产成人精品免费在线观看 | 我爱av激情网 | 在线一区二区三区 | 国产a免费 | 国产91亚洲| 日韩免费三区 | 精品一区二区三区久久久 | 国产一区二区在线精品 | 国产综合久久 | 日韩在线免费视频观看 | 国产精品精品国产婷婷这里av | 久久精品国产亚洲 | 国产艹b视频 | 久久久国产一区二区三区四区小说 | 高潮久久久久久 | 国产精品亚洲视频 | 久久亚洲人| 天堂成人在线 | 国产精品欧美久久久久久 | 婷婷新五月 | 日韩69av| 日韩av一区二区在线影视 | 国产高清免费 | 中文字幕av一区二区三区四区 | 亚洲精品国产精品99久久 | 人人爽人人爽人人爽人人爽 | 在线观看福利网站 | 欧美五月婷婷 | 精品亚洲午夜久久久久91 | 欧美日韩不卡在线 | 欧美一二三区在线观看 | 久久久精品久久 | av一区在线播放 | 天天射天天射天天 | 亚洲激情av| 亚洲男男gaygay无套 | 天天爱天天干天天爽 | 久久人人爽爽人人爽人人片av | 色婷婷激情 | 91视频国产免费 | 国产午夜精品免费一区二区三区视频 | 中文字幕人成人 | 免费麻豆 | 日韩中文字幕在线不卡 | 国内偷拍精品视频 | 国产精品激情在线观看 | 久久精品www人人爽人人 | 亚洲电影在线看 | 日韩在线视频免费观看 | av免费看电影 | 一本一本久久a久久精品综合 | 中文字幕视频三区 | 色视频网站免费观看 | 99精品视频免费全部在线 | 在线播放第一页 | 99999精品| 在线观看黄色大片 | 亚洲天堂网在线观看视频 | 91完整版观看 | 色综合久久88色综合天天6 | 丁香花在线观看视频在线 | 久久99热这里只有精品 | 992tv人人网tv亚洲精品 | 91热爆视频 | 伊人网综合在线观看 | 久久久亚洲麻豆日韩精品一区三区 | 成人黄色电影在线观看 | 精品国产三级 | 色天天综合网 | 99热精品在线 | 亚洲精品黄网站 | 久草视频在线新免费 | 国产亚洲视频在线 | 亚洲天堂va| 亚洲高清精品在线 | 国产精品久久久视频 | 日韩电影一区二区在线观看 | 成人av直播 | 伊人婷婷色 | 欧美在线99 | 日韩特级片 | 久久小视频 | 在线视频观看国产 | 又爽又黄又无遮挡网站动态图 | 国产中文字幕视频在线 | 免费h精品视频在线播放 | 日日夜夜精品免费视频 | 久久人人看| 亚洲精品在线视频观看 | 在线日韩中文字幕 | 免费a视频在线 | 国产精品毛片一区二区三区 | 成人免费观看视频网站 | 精品99在线 | 中文字幕av免费在线观看 | 96精品在线 | 亚洲日本三级 | 97超碰在线免费 | 综合激情网... | 久久国内免费视频 | 久久网站最新地址 | 99中文视频在线 | 午夜久久久久久久久久影院 | av在线播放观看 | 欧美大片mv免费 | 人人爽人人爽人人片av免 | 在线国产能看的 | 天天射狠狠干 | 521色香蕉网站在线观看 | 亚洲三级在线播放 | 日批视频在线播放 | 亚洲成a人片在线www | 毛片网免费 | 久久久久免费精品国产小说色大师 | 五月亚洲综合 | 久久视影 | av网站播放 | 精品免费| 亚洲理论视频 | 探花视频在线观看+在线播放 | 日韩在线无 | 99国产精品久久久久老师 | 久久国产成人午夜av影院宅 | 国产在线观看h | 黄色成年片 | 在线国产一区二区 | 91av播放| 欧美日韩不卡在线观看 | 色婷婷在线观看视频 | 日韩av视屏| 中文字幕久久精品一区 | 国产精品第一视频 | 精壮的侍卫呻吟h | 99精品欧美一区二区三区 | 97精品视频在线播放 | 亚洲精品高清一区二区三区四区 | 在线观看视频h | 韩国av免费观看 | 99久久超碰中文字幕伊人 | 国产精品久久久久永久免费看 | 毛片无卡免费无播放器 | 深夜免费福利在线 | 日韩字幕在线 | 91黄在线看 | 亚洲天堂自拍视频 | 国产精品成人一区二区三区吃奶 | 最近2019年日本中文免费字幕 | 亚洲国产播放 | 欧美a级片网站 | 三级在线视频观看 | 2019免费中文字幕 | 中文字幕传媒 | 中文av免费 | 成年人免费在线 | 天天爽夜夜爽精品视频婷婷 | 国产又粗又硬又爽视频 | 日韩精品一区二区免费视频 | 精品国产欧美一区二区三区不卡 | 国产韩国精品一区二区三区 | 亚洲黄色av一区 | www亚洲视频| a级成人毛片| 最新久久免费视频 | 97视频在线看 | 又紧又大又爽精品一区二区 | 黄a在线看| 在线观看国产v片 | 丁香婷婷电影 | 欧美一性一交一乱 | 国产999精品久久久影片官网 | 日韩在线视频不卡 | 91福利小视频 | 久久精品男人的天堂 | 亚洲精品乱码 | 91免费版在线观看 | 久久久国产精品一区二区三区 | 日日夜夜精品网站 | 国产高清在线a视频大全 | 久99久精品 | 丁香五月亚洲综合在线 | 91久久国产自产拍夜夜嗨 | 精品国产aⅴ一区二区三区 在线直播av | 五月婷婷色丁香 | 亚洲精品国产精品久久99热 | 国产一级二级在线观看 | 999免费视频 | 欧美小视频在线观看 | 精品国产自在精品国产精野外直播 | 久久超碰免费 | av网站免费在线 | 日日躁夜夜躁xxxxaaaa | 精品国产一二区 | 婷婷精品视频 | 欧美日韩在线观看一区二区 | 91在线小视频 | 亚洲三级视频 | 国产精品在线看 | 成人av高清在线观看 | 五月婷婷黄色 | 丁香九月激情 | 国产亚洲精品成人av久久ww | 天天躁日日躁狠狠躁av中文 | 国产91在线 | 美洲 | 在线观看视频免费大全 | 国产黄色电影 | 久久久国产精品一区二区中文 | 国产高清精 | 国产最新在线视频 | 国产一性一爱一乱一交 | 毛片视频电影 | 国产亚洲在 | 久久精品国产第一区二区三区 | 在线视频 你懂得 | 人人讲下载 | 最新婷婷色 | 伊人影院av| 精品一二三四五区 | 亚洲免费av在线播放 | 伊人五月婷 | 欧美a级片免费看 | 日韩高清精品免费观看 | 亚洲天堂毛片 | 精品免费观看视频 | 超碰97中文 | 国产又粗又猛又色 | 精品一区二区三区电影 | 亚洲免费色 | 射射射av | 欧美精品第一 | 国产精品电影一区 | 亚洲人成在线观看 | 日韩av午夜 | 国产日产精品一区二区三区四区 | 亚洲午夜精品久久久 | 少妇bbbb搡bbbb搡bbbb | 国产精品视频专区 | 欧美精品少妇xxxxx喷水 | 久久精品免视看 | 国产免费人成xvideos视频 | 久久精品网站视频 | 黄色一级动作片 | 亚洲婷婷综合色高清在线 | 亚洲国产精品久久久久 | 国产精品成人国产乱 | 免费观看午夜视频 | 人人干人人模 | 91最新视频| 欧美精品乱码99久久影院 | 久久精品高清视频 | 超碰97在线资源站 | 国产亚洲在线观看 | 国产探花视频在线播放 | 精品国产伦一区二区三区观看方式 | 国产一区二区久久久久 | 高清一区二区 | 国产69精品久久久久99尤 | 97视频免费观看 | 亚洲国产影院av久久久久 | 少妇高潮冒白浆 | 久久免费黄色 | 蜜臀久久99精品久久久酒店新书 | 色干综合 | av在线免费观看网站 | 精品久久久久久久久久久久 | 韩国av免费观看 | 美女视频黄免费的久久 | 91视频免费网站 | 国产亚洲婷婷免费 | 日韩精品一区二区三区免费观看视频 | 91av在线不卡| 国产成人精品一区二区三区福利 | 天天综合视频在线观看 | 午夜精品久久久久久久久久久久久久 | 天天夜夜亚洲 | 在线黄色免费 | 久久久精品国产一区二区电影四季 | 国内外成人在线 | 国产一级二级在线 | 日韩精品一区二区免费视频 | 日韩高清二区 | 91丨九色丨91啦蝌蚪老版 | 国产精品成人国产乱 | 亚洲一区二区三区91 | 天天摸天天干天天操天天射 | 免费看的毛片 | 久久久久亚洲精品中文字幕 | 亚洲五月综合 | 亚洲精品国精品久久99热 | 久久最新网址 | 日韩在线播放av | 亚洲视频精选 | 久青草视频在线观看 | 中文字幕资源网在线观看 | 天天在线操 | 国产九九在线 | 久久av观看| 国产黄a三级 | 成年人免费av网站 | 在线你懂 | 日韩黄视频 | 欧美日韩精品在线播放 | 国产日韩视频在线播放 | 激情综合啪 | 天天射天天色天天干 | 亚洲无人区小视频 | 热re99久久精品国产99热 | 欧美日韩在线播放一区 | 99久久精品免费看国产 | 西西444www大胆无视频 | 欧美另类xxx | 久久久天天操 | 美女在线免费视频 | 日韩激情av在线 | 丝袜网站在线观看 | 99热手机在线 | 中文字幕av全部资源www中文字幕在线观看 | 亚洲精品综合欧美二区变态 | 白丝av免费观看 | 亚洲伊人网在线观看 | 99视频在线免费观看 | 国产一二三在线视频 | 精品一区免费 | 日韩精品国产一区 | 国产成人99av超碰超爽 | 国产在线观看,日本 | 久草网免费 | 91成人精品一区在线播放 | 91精品国产99久久久久久久 | 深爱激情五月综合 | 丁香在线观看完整电影视频 | 久久影院精品 | 91麻豆传媒 | 午夜av片| 啪啪凸凸 | 日韩免费小视频 | 人人添人人澡 | 久色 网 | 欧美性成人 | 91精品999 | 色黄久久久久久 | 国产在线一区二区 | 国产亚洲一级高清 | 亚洲一级性 | 人人射人人澡 | 五月婷婷深开心 | 日本精品久久 | 欧美色噜噜噜 | 久久永久免费 | 国产成人一区在线 | 青草视频在线 | 日韩欧美高清一区二区三区 | 免费亚洲电影 | 欧美韩日精品 | 色欧美成人精品a∨在线观看 | 日韩欧美专区 | 国产精品嫩草影院99网站 | 色噜噜在线观看视频 | 成人av网站在线播放 | 欧美另类69 | 精品久久久久久电影 | 亚洲在线视频网站 | 成人wwwxxx视频 | 欧美日韩中 | 999毛片 | 在线亚洲成人 | 91豆花在线观看 | 国产 日韩 在线 亚洲 字幕 中文 | 免费福利视频网站 | 国产精品电影一区二区 | 91视频高清 | 亚洲aaa级 | 国产亚洲精品久 | 国产精品嫩草影视久久久 | 亚洲麻豆精品 | 91麻豆精品一区二区三区 | 亚洲激情国产精品 | 成人高清在线 | 丁香激情五月 | 久久精品视频99 | 日韩综合第一页 | 五月婷在线观看 | 中文字幕日本特黄aa毛片 | 97视频在线免费观看 | 亚洲国产wwwccc36天堂 | 狠狠躁夜夜av | 国内一级片在线观看 | 国产精品地址 | 99一级片 | av在线电影网站 | 人人插人人插 | 婷婷网站天天婷婷网站 | 中文字幕在线观看第三页 | 三级午夜片| 亚洲影院天堂 | 午夜狠狠操 | 不卡av电影在线观看 | 精品国产1区2区 | 免费观看的黄色 | 六月色丁 | 日本xxxx.com | 99久久精品免费看国产麻豆 | 天天爽夜夜爽人人爽曰av | 黄色成人免费电影 | 91免费国产在线观看 | 97精品国产一二三产区 | 亚洲1级片 | 色九九在线 | 免费看的黄色的网站 | 激情视频在线观看网址 | 在线视频一区二区 | 欧美久久久久久久久久 | 激情婷婷在线观看 | 国产精品乱码一区二区视频 | 99精品乱码国产在线观看 | 欧美精品在线观看免费 | 精品一区二区电影 | 欧美男同视频网站 | 激情久久婷婷 | 成年免费在线视频 | 波多野结衣在线播放一区 | 天天操操| 免费网站观看www在线观看 | 午夜久久久久久久久 | 成人在线视频免费看 | 久久久久久美女 | 日韩成人在线免费观看 | 国产乱对白刺激视频在线观看女王 | 97电影在线观看 | 国产精品va在线播放 | 国产精品 美女 | 精品国产成人av在线免 | 97在线观视频免费观看 | 天天摸夜夜操 | 午夜国产一区二区三区四区 | 色在线免费 | 狂野欧美激情性xxxx | 免费特级黄毛片 | 久久综合中文字幕 | 日韩欧美一区二区在线播放 | 国产美女免费观看 | 97在线观看免费高清完整版在线观看 | 国产一级a毛片视频爆浆 | 成人黄色在线 | 波多野结衣一区二区 | 亚洲精品a区 | 蜜桃av久久久亚洲精品 | 欧美美女一级片 | 午夜av不卡| 日韩av免费在线看 | 精品人人爽 | 天天天天爱天天躁 | 国产一区在线视频观看 | 91av视频免费观看 | 欧亚日韩精品一区二区在线 | 久久五月天色综合 | 久久精彩免费视频 | 69夜色精品国产69乱 | 国产精品免费看久久久8精臀av | 中文字幕欧美日韩va免费视频 | 欧美视屏一区二区 | 国产精品久久久久久久久久久久午夜片 | 99精品免费久久久久久日本 | av在线等 | 韩国av免费在线观看 | av黄色一级片 | 色国产精品一区在线观看 | 黄色在线视频网址 | 欧美福利精品 | 黄色免费观看视频 | 四虎永久视频 | 日韩精品视 | 丁香婷婷基地 | 亚洲精品88欧美一区二区 | 国产精品永久久久久久久久久 | 中文字幕在线观看第三页 | 亚洲国产中文在线 | 黄色av成人在线观看 | 欧洲不卡av | 亚洲一区二区精品3399 | 亚洲精欧美一区二区精品 | 国产乱码精品一区二区三区介绍 | 你操综合 | 免费在线观看国产精品 | 丝袜制服天堂 | 香蕉视频4aa | 免费在线观看不卡av | 婷婷久久综合九色综合 | 激情综合国产 | 亚洲精品视频在线免费 | 中文字幕av免费观看 | 国产精品久久久久久久av电影 | 麻豆精品传媒视频 | 亚洲人久久| 中文字幕电影网 | 欧美日韩高清一区二区三区 | 免费在线观看成人小视频 | 蜜臀av网站 | 男女免费视频观看 | 久久久久久麻豆 | 麻豆久久精品 | 国产精品久久综合 | 久久免费美女视频 | 日韩欧美国产成人 | 免费黄色在线网站 | 国产亚洲精品免费 | 91在线精品播放 | 国产另类xxxxhd高清 | 国产小视频在线免费观看视频 | 夜夜摸夜夜爽 | 国产手机在线 | 国产精品伦一区二区三区视频 | 国产精品一区专区欧美日韩 | 中文字幕免费观看 | 国产成人精品一区二区三区 | 欧美夫妻性生活电影 | 中文字幕91视频 | 亚洲第一伊人 | 亚洲国产午夜视频 | 色综合久久久久综合体 | 999视频在线观看 | 99性视频| 亚洲精品影视 | 99精品国产成人一区二区 | 久久精品小视频 | 久久久久久免费毛片精品 | 国产成人免费网站 | 97狠狠操| 日韩免费观看高清 | 日日操夜夜操狠狠操 | 狠狠干婷婷色 | 欧美性生活小视频 | 91在线视频精品 | 国产精品久久久久久久av电影 | 深夜激情影院 | 日韩大片在线免费观看 | 草久久影院| 国产一级片久久 | 特级毛片aaa| 右手影院亚洲欧美 | 91手机电影| 成人h在线观看 | 久久老司机精品视频 | 91亚洲成人 | 99精彩视频在线观看免费 | 亚洲精品乱码久久久一二三 | 超碰公开在线 | 亚洲成人精品久久久 | 国产精品大全 | 天天干婷婷| 成年人视频在线免费 | 毛片永久新网址首页 | 久久综合五月天 | 人人干干人人 | 欧美性极品xxxx娇小 | 亚洲一区精品人人爽人人躁 | 国产精品美女久久久久久久网站 | 欧美精品在线观看一区 | 精品国产一区二区久久 | 亚洲jizzjizz日本少妇 | www.国产在线观看 | 国产精品18久久久久久vr | 日韩av成人在线 | 黄色在线视频网址 | 国产区在线视频 | 国产99久久九九精品免费 | 日韩精品中文字幕有码 | 在线导航av | 国产精品久久久久久久久久久久午 | 在线观看av中文字幕 | 国产精品欧美久久久久天天影视 | 欧美一级免费在线 | 在线免费色视频 | 九九涩涩av台湾日本热热 | 一级做a爱片性色毛片www | 免费在线日韩 | 婷婷色狠狠| 欧美国产日韩一区二区三区 | 99热在线这里只有精品 | 日韩高清片 | 国产小视频在线观看 | 免费在线观看日韩欧美 | 天干啦夜天干天干在线线 | 久草在线看片 | 国产精品久久久久影院 | 久久久一本精品99久久精品 | 最新av免费在线观看 | 一级黄色片在线免费观看 | 国产男女免费完整视频 | 91久久精品一区二区三区 | 日韩在线一二三区 | 久久经典视频 | 日韩欧美在线综合网 | 久草热视频 | 91女人18片女毛片60分钟 | 日韩高清免费无专码区 | 亚洲精品视频免费看 | 久久久久9999亚洲精品 | 国产精品免费观看国产网曝瓜 | 欧美看片 | 人人玩人人添人人澡97 | 麻豆国产精品永久免费视频 | 免费av网站在线看 | 97理论电影 | 国产精品片 | 久久理伦片 | 四虎影视国产精品免费久久 | 91桃色国产在线播放 | 午夜精品成人一区二区三区 | www欧美xxxx | 日本久久久久久久久久 | 麻豆播放| 天天色天天骑天天射 | 99在线热播精品免费99热 | 五月婷婷综合色拍 | 亚洲国产精品成人综合 | 免费在线观看一区二区三区 | 天堂va欧美va亚洲va老司机 | 在线视频 日韩 | 久久国产精品二国产精品中国洋人 | 国产麻豆剧果冻传媒视频播放量 | 成人动漫精品一区二区 | 人人澡人人舔 | 久久美女精品 | 中文字幕在线视频一区 | 国产免费一区二区三区网站免费 | 免费h精品视频在线播放 | 欧美日韩国产精品一区 | 日韩国产精品一区 | 久久精品爱视频 | 中文字幕久久网 | 久久 地址 | 丰满少妇一级 | 天天色天天色 | 日日摸日日添夜夜爽97 | 精品国产91亚洲一区二区三区www | 亚州av一区| 伊人久久五月天 | 婷婷激情五月综合 | 国产伦精品一区二区三区无广告 | 91精品啪在线观看国产 | 免费看的黄色 | 精品视频不卡 | 欧美在线日韩在线 | 毛片一区二区 | 91视频在线观看免费 | 激情综合亚洲 | 黄毛片在线观看 | 精品毛片在线 | 亚洲精品2区 | 在线观看视频你懂 | a黄色| 国产精品成久久久久三级 | 国产福利av在线 | 亚洲精品视频在线看 | 日韩中文字幕一区 | 亚洲麻豆精品 | 久久视频中文字幕 | 97色资源| 九精品 | 丁香婷婷激情国产高清秒播 | 五月天精品视频 | 国产精品av在线 | 一本一本久久a久久精品综合妖精 | 国产成人精品福利 | 亚洲久草视频 | 视频一区亚洲 | 亚洲视频免费在线看 | 日韩在线播放欧美字幕 | 久久福利影视 | 国产美女视频网站 | 中文字幕综合在线 | 免费观看9x视频网站在线观看 | 人人爽人人爱 | 2018好看的中文在线观看 | 天天干夜夜夜操天 | 97超碰免费在线观看 | 色播99 | 婷婷激情站 | 91视频观看免费 | 久久,天天综合 | 欧美日韩一区三区 | 黄色网在线免费观看 | www.久久色 | 九九热精品国产 | 天天射天天爽 | 中文字幕成人在线 | 欧美日高清视频 | 国产又黄又猛又粗 | 免费网站v | 97人人澡人人添人人爽超碰 | 国产精品女同一区二区三区久久夜 | 免费毛片一区二区三区久久久 | 午夜免费福利片 | 99日精品| 精品国产免费观看 | 国产黄在线免费观看 | 亚洲精品视频在线看 | 国产在线视频一区 | 国产精选在线 | 色五月色开心色婷婷色丁香 | 成年人网站免费观看 | 免费色视频网址 | 国产美女精品 | 91c网站色版视频 | 九九九九热精品免费视频点播观看 | 欧美一区二区在线免费观看 | 久久精品国产免费看久久精品 | 久久久五月天 | 亚洲伊人成综合网 | 日韩av资源站 | 午夜久久网 | 亚洲天堂网视频在线观看 | 午夜久久视频 | 77国产精品 | 99亚洲精品视频 | 欧美与欧洲交xxxx免费观看 | 日韩欧美一区二区不卡 | 中文字幕人成人 | 九九热免费在线观看 | 玖玖视频网 | 午夜黄色大片 | 97av视频| 韩国精品一区二区三区六区色诱 | 香蕉视频网站在线观看 | 国产一二区在线观看 | 久久激情婷婷 | 天天射天天射天天射 | 国产在线精品一区 | 在线免费观看国产视频 | 亚洲国产日韩一区 | 男女靠逼app| 日韩精品中文字幕在线播放 | 综合天堂av久久久久久久 | 中文字幕免费观看全部电影 | 国产成人福利 | 五月婷激情 | 国产精品视频久久 | 一区二区三区四区在线 | 国产专区一 | 久草在线免费看视频 | 视频在线在亚洲 | www.亚洲精品视频 | 日韩av不卡在线 | 高清免费在线视频 | 亚洲第一av在线 | 久久av一区二区三区亚洲 | 欧美做受xxx | 国产中文字幕91 | 久久国产精品99国产精 | 青青久视频 | www国产一区 | 国产精品99久久久久久久久久久久 | 99色99| 亚洲mv大片欧洲mv大片免费 | 四虎影视久久久 | 欧美激情精品久久久久久免费 | 在线影院 国内精品 | 久久久久99精品成人片三人毛片 | 亚洲撸撸 | 欧美精品一区在线发布 | 国产午夜麻豆影院在线观看 | 日韩精品欧美专区 | 91av色| 波多野结衣视频在线 | 欧美成人在线免费观看 | 亚洲视频1区2区 | 日批网站免费观看 | av免费福利 | 人人干人人超 | 久草在线视频免赞 | 狠狠色伊人亚洲综合成人 | 2021国产在线视频 | 深爱婷婷激情 | av软件在线观看 | 亚洲女同ⅹxx女同tv | 99精品国产99久久久久久福利 | 日韩在线免费 | 九九免费在线观看视频 | 9797在线看片亚洲精品 | 99精品在线看 | 亚洲综合色视频 | 81精品国产乱码久久久久久 | 欧美精品一区二区在线观看 | 婷婷五情天综123 | 精品色999| 日韩三区在线观看 | 三级黄色理论片 | 国产精品门事件 | 狠狠躁夜夜躁人人爽视频 | 国产不卡视频在线 | 亚洲美女精品区人人人人 | 国产精品免费视频一区二区 | 亚洲视频观看 | 日韩欧美一区二区三区黑寡妇 | 免费黄色在线播放 | www.天天干.com | 五月婷婷丁香综合 | 日韩高清精品免费观看 | 久久超级碰视频 | 日韩有码专区 | 欧美精品一区二区三区一线天视频 | 欧美精品xx| 不卡视频一区二区三区 | 91久久精品日日躁夜夜躁国产 | 日韩高清一 | 黄色美女免费网站 | 中文字幕视频免费观看 | 免费在线观看成人小视频 | 亚洲午夜精| 很污的网站 | 久久免费一级片 | 欧美激情操 | 亚洲成人av片在线观看 | 成年人电影免费在线观看 | 国产精品久久久久久久久久久久久久 | 日日夜夜添| 97色综合 | 成人国产在线 | 国产手机精品视频 | 国产精品永久久久久久久久久 | 中文字幕色站 | 亚洲激情av | 免费高清在线视频一区· | 看av免费网站 | 亚洲综合在线视频 | 97超碰在线资源 | 精品国产伦一区二区三区观看体验 | 色婷婷av一区 | 91av短视频| 深爱五月网| 中文av字幕在线观看 | 97电影网手机版 | 国产三级久久久 | 一区二区三区四区在线 | 91久久精品一区二区二区 | 国产精品成人av电影 | 久久综合网色—综合色88 | 在线免费观看黄色小说 | 日韩在线观看中文 | 99在线热播精品免费 | 国产成人一区二区三区在线观看 | 亚洲精品国产日韩 | 爱色av.com| 婷婷色伊人 | 欧美精品一区二区免费 | 国产精品va在线观看入 | 香蕉网在线 | 成人久久18免费网站图片 | 色综合欧洲 | av色图天堂网| 日韩在线无 | 青青河边草免费直播 | 青青久视频 | 国产一区 在线播放 | 999亚洲国产996395 | 2021国产在线视频 | 色综合五月 | 国产系列精品av | 亚洲三级在线免费观看 | 亚洲三级在线播放 | 综合国产在线 | 日韩成人免费在线观看 | 天天se天天cao天天干 | av在线免费在线 | 国产成人av一区二区三区在线观看 | 日韩视频免费播放 | 日韩在线视频免费播放 | 99九九热只有国产精品 | 成人理论电影 | 又黄又刺激的视频 | 国产精品久久网 | 中文字幕成人在线观看 | 国产一区二区视频在线 | 又黄又爽又刺激的视频 | 一级一级一片免费 | 国产 欧美 日本 | 麻豆系列在线观看 | 狠狠干狠狠操 | 在线播放一区 | 欧美中文字幕久久 | 97在线观看免费 | 免费网站看av片 | 五月色丁香 | 久久免费黄色大片 | 欧美国产日韩一区二区三区 | 中文字幕精品www乱入免费视频 | 国产又粗又猛又爽 | 国产美女精品人人做人人爽 | 中文字幕91 | 91麻豆国产福利在线观看 | 成年人在线免费看视频 | 精品国产理论 | 精品亚洲免费视频 | 国产精品99久久免费黑人 | 中文有码在线视频 | 免费视频久久 | 最近更新好看的中文字幕 | 久久视频在线观看免费 | 91香蕉国产在线观看软件 | 欧美日韩性视频 | 波多野结衣小视频 | 韩日电影在线免费看 | 亚洲一区精品二人人爽久久 | 在线视频 国产 日韩 | 久草视频国产 | 96精品高清视频在线观看软件特色 | 国产精品久久影院 | 国产一区免费在线观看 | 色婷婷激情四射 | 国产午夜在线观看视频 | 免费久久99精品国产 | 美女视频又黄又免费 | aa一级片 | 中文在线a√在线 | 99久久精品免费一区 | 免费福利小视频 | 美女中文字幕 | 久久人操| 五月香视频在线观看 | 深爱五月激情网 | 日韩欧美电影在线 | 麻豆视频成人 | 成人在线免费视频观看 | 国产中文字幕视频在线观看 | 中文字幕123区 | 亚洲激情国产精品 | 国产成人在线播放 | 日韩视频在线观看视频 | 日日夜夜精品网站 | 在线99| 亚洲人成在线观看 | 亚洲无在线 | 色五月情| 天天爱天天舔 | 久久久久国产成人免费精品免费 | 午夜精品福利在线 | 在线观看免费高清视频大全追剧 | 久久毛片视频 | 国产精品毛片一区视频播不卡 | 久久久久精 | 奇米影视在线99精品 | 欧美一级裸体视频 | 久久免费99精品久久久久久 | 久草精品视频在线看网站免费 | 91高清在线 | 91麻豆精品国产91久久久久久久久 | 久久午夜免费观看 | 天天做天天爱天天综合网 | 欧美电影在线观看 | 成人免费观看av | 久久亚洲区 | 有码中文在线 | 天天色天天射天天综合网 | 亚洲精品18p | 久久婷婷精品视频 | 夜夜夜影院 | 天天色欧美 | 久久久精品在线观看 | 国产小视频免费在线观看 | 日韩免费一区二区在线观看 | 波多野结衣一区 | 五月婷婷在线综合 | 久久私人影院 | 精品视频99| 亚洲精品乱码久久久久久蜜桃91 | 色在线中文字幕 | 久久99精品国产麻豆宅宅 | 麻豆91在线 | 视频91| 国产亚洲精品综合一区91 | 久久久伊人网 | 久久成人精品 | 日韩字幕在线观看 | 欧洲视频一区 | av高清不卡 | 免费在线观看成人 | 国产亚洲精品女人久久久久久 | 国产成人精品一区二三区 | av综合 日韩 | 人人躁 | 亚洲精品动漫成人3d无尽在线 | 99精品视频免费看 | 天天插日日操 | 国产精品美女免费 |