日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 人工智能 > pytorch >内容正文

pytorch

『深度应用』人脸识别最新进展及发展方向

發(fā)布時間:2023/12/14 pytorch 56 豆豆
生活随笔 收集整理的這篇文章主要介紹了 『深度应用』人脸识别最新进展及发展方向 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

?

人臉識別最新進展及發(fā)展方向

?

▌一、人臉識別背景介紹

簡單來講,人臉識別這個問題,就是給定兩個人臉,然后判定他們是不是同一個人,這是它最原始的定義。它有很多應用場景,比如銀行柜臺、海關、手機解鎖、酒店入住、網(wǎng)吧認證,會查身份證跟你是不是同一個人。這個應用的主要特點是,在大多數(shù)場景下都需要你先提供一個證件,然后跟自己的人臉做比對。手機解鎖可能是個例外,但也要求你提前注冊一張人臉,然后再進行比對。這是最原始的形式,由用戶直接提供需要對比的兩個人臉。這也是最簡單的形式,相當于做一個二分類。

?

進一步來講,如果想要去做人的搜索呢?比如我們有一個大小為 N 的人臉庫,有一張待檢索的圖片,讓我們判斷這個人有沒有在這個人臉庫中出現(xiàn)過。這種情況下,要回答的就有 N 個問題了,分別是:這個人臉是不是庫中的人臉1、是不是人臉2,一直到是不是人臉N。如果這 N 個問題回答都是“否”的話,就意味著這個人不在人臉庫里面。不在人臉庫是一個很難的問題,等于 N 個問題都得回答對,然后才能真正確認它并不這個人臉庫里。

實際使用時一般是靜態(tài)的搜索,比如有一個公安的民警,他從視頻或者圖片里找到目標人物,把他的臉框出來,然后提交到系統(tǒng)里,在庫里面做搜索。然后系統(tǒng)會返回,比如 Top K,K 一般是幾十或者100這個量級的數(shù)字,會按照相似度把這些人臉排出來,然后人工驗證到底哪些是對的。如果 Top 1 就是對的那最好,一般如果能夠排到 Top 10 就算是不錯的結果,但在 100 名以后的話,這個結果很難對使用的人有幫助了。如果允許TopK的話,這個底庫是可以做到比較大的,因為并沒有要求一定放到 Top 1。

公安評測時,在各個省公安的環(huán)境上做評測,底庫一般都比較大,到千萬的量級甚至到億的量級,這也是因為最近幾年深度學習發(fā)展的非常快。最早期時只能做靜態(tài)檢索,而且結果還不太好,隨著深度學習算法的發(fā)展,現(xiàn)在很多公司的算法都越來越好了,評測的時候也會很難區(qū)分各個廠家的算法到底誰好誰壞,所以測試本身這個問題越來越難,用來檢索圖片的質量也越來越苛刻,實際應用中很多問題也很苛刻,比如嫌疑人在攝像頭里出現(xiàn)距離比較遠,有側面的,或者帽子遮擋,戴眼鏡等現(xiàn)象。

給大家舉個例子,下面是我在互聯(lián)網(wǎng)上找到的明星的照片,在真實場景里 query 的質量跟這個差不多,有的時候比這些更難一點。現(xiàn)在主流人臉算法解決這種問題時,當?shù)讕焓乔f量級時,top1是召回率還是很高的,百分之八九十的問題不是很大,甚至還會更高一些。

當然,在安防或者其他應用場景里有更難的任務,就是人臉的 N : N 搜索,這種情況下我們會有大量的攝像頭,每一個都在實時抓拍,有非常多待確認的抓拍人臉,同時庫也是相對比較大的。舉個例子,在安防領域,假設我們有 100 個攝像頭,然后每個攝像頭每天抓拍 1 萬個人,那么總的搜索次數(shù)就是 100 萬次。假設這一天有 10 個嫌疑人被攝像頭抓拍到,假設我們需要在一個 10 萬大小的底庫里面去搜索他們。我們有一個算法,這個算法這一天總報警 100 次,警察每一個都去確認,最后抓到了 9 個嫌疑人,這看起來還不錯,因為總共出現(xiàn)了 10 個人,抓到了 9 個,召回率是 90%。那我們來看看誤報率,100 次報警,對了 9 ?次,錯了 91 次,誤報率就是91 除以 100萬×10萬,大概算下來是 10億分之0.91,約為 10億分之1 的誤報率。

這個指標在現(xiàn)在的人臉識別算法里還算比較不錯的了,但是在公安民警看來沒有那么理想,因為他們出警了 100次,只抓到了 9 個人,他們非常想出警 10 次就抓到 9 個人,這樣成本就會低很多。那我們來看一下出警 10 次抓到 9 個人的誤報率是多少呢?看起來少了一個數(shù)量級,但實際上要求誤報率要提高兩個數(shù)量級,因為這個時候誤報的次數(shù)只有 1 次,1 除以 100萬×10萬,就是已經(jīng)到了千億分之一,這個就非常難達到。即使有一個千億分之一的算法也只能支持 100 個攝像頭的需求,在很多城市里輕輕松松就有上萬個攝像頭,甚至幾十萬個。所以算法還要在誤報率方面再降低 N 個數(shù)量級,或者要求我們有更聰明的使用方式,在還有很多研究的空間。

還有一類應用是人臉虛擬 ID 的聚類,虛擬 ID 就是我們不知道每個人的證件信息,只有大量的攝像頭抓拍結果,我們想根據(jù)這些人臉的圖像特征和出現(xiàn)的時間、空間等先驗信息進行聚類,這樣可以挖掘用戶的軌跡和行為習慣。這些信息在很多場景下非常有用,最簡單的是人臉相冊的聚類,這個應用很簡單,因為你只需要在一個人的相冊里做聚類就可以了,庫很小。但在安防、零售等場景都是城市級的數(shù)據(jù),這個做好的話可以帶來很有價值的信息,比如誰跟誰經(jīng)常在一起活動,從 A 點到 B 點到 C 點到 D 點有什么異常,像這些人員流動的異常,在很多地方,尤其是新疆、西藏等 ,大家都非常關注。

人臉識別的基本流程,首先要檢測到人臉,檢測到之后一般會做關鍵點的定位,把他的眼睛、鼻子、嘴角等信息都定位出來,利用這個信息對人臉做個矯正,把它變換到比較正情形,便于后面模型分析或者處理時各個部分更好的對齊。最終會提取得到一個人臉的描述特征,通常是一個 100 多維到幾百維的特征表達,然后我們用不同人臉特征之間的相似度或者距離,相似度是越高越好,距離是越小越好,去刻畫兩個人之間的關系,再卡一個域值,來判斷這兩個人是否為一個人。這次我們講人臉識別主要就是最后的人臉特征提取的部分。

▌二、人臉識別前沿算法簡介

人臉識別傳統(tǒng)思路挺多的,我只列了一小部分。下面我們來一一回顧這些基本的算法:

Baseline

首先是 Baseline,早在八十年代末就可以做基于 CNN 的分類了。如果想把這套東西用在人臉上的話只需要做簡單的替換。字符的輸入替換成矯正之后的人臉輸入。LeNet5 可以換成 ResNet 以及后面的各種改進。然后是分類,人臉有多少個 ID 就可以分多少類。然后我們訓練完網(wǎng)絡后就有了特征,比如可以把最后的 FC 的輸出當做人臉的特征。

當然,也會有潛在的問題,如果類別太多,會不會訓練不動?比如你在做認證的應用時,每一類的訓練圖片會不會樣本太少?如果你在訓練集上的分類結果非常好,但對于新的 ID 怎樣呢?分類的模型訓練得好,能夠代表學到的特征在人臉識別應用的時候非常好嗎?這些問題都有人在研究,有一些也會在后面的介紹中體現(xiàn)出來。

DeepID

DeepID 這個算法是剛剛那個思路的具體實現(xiàn),有一些更細節(jié)的調整,它在得到最終的人臉特征之后,又做了一個基于概率統(tǒng)計的降維。它這個特征也是多個特征的融合體,你可以理解為它對人臉上的很多關鍵區(qū)域都訓練了一個 CNN 網(wǎng)絡,去做分類,得到隱層特征,把這些特征拼接在一起,再做某種意義上的降維,得到最終特征,用這個特征來做描述。這是最早的 DeepID。

DeepID2

DeepID2 做得更細致,它希望同一個人的特征盡量近,不同人的特征可以比較遠。兩張圖作為輸入 ,每一個都用一個 CNN 去提取特征,這兩個 CNN 網(wǎng)絡是共享參數(shù)的,通過這個 Siamese Network 來判斷他們是不是一個人。如果他們是一個人的話,我們要求特征之間的歐式距離比較小,如果他們不是同一個人的話,我們希望他們之間的歐式距離至少大于等于 m。可以從這個 Loss 里看到,它一旦小于 m 就會受到懲罰,只有大于 m 時才是安全的。人們希望這種方法使得特征的表達更清楚。這個方法不需要依賴特別大的 FC 層,不管你真實的人的ID有多少,你都是在做一個類似于二分類的事情。同時,它也可以跟之前的 DeepID1 里面的 softmax 一起使用,這樣會有一些提升。

DeepID2+

DeepID2+ 做了一些小的修改,更多訓練樣本,更大的特征維度,更多的監(jiān)督信號,在網(wǎng)絡中間的很多層都連接到了最終的分類和驗證的卷積函數(shù),有點類似于 GoogLeNet,不過那時 GoogLeNet 還沒有出來。

DeepFace

DeepFace 在算法上并沒有什么特別的創(chuàng)新,它的改進在于對前面人臉預處理對齊的部分做了精細的調整,結果顯示會有一定的幫助,但是也有一些疑問,因為你要用 3D 的Alignment(對齊),在很多情況下,尤其是極端情況下,可能會失敗。人臉識別的算法發(fā)展得非常快,有很多不同思路和做法,但是在不同的應用類型中是不是真的都能 work的比較好,需要嘗試之后才能下結論,不一定能普適的應用。

DeepID3

DeepID3 是 2015 年的工作,那一年正好是在 GoogLeNet 和 VGG 出來的那一年,所以作者把比較深的卷積網(wǎng)絡模塊加進去了,有一些提高。

FaceNet

Google 的 FaceNet 不太一樣,它用的是 Triplet Loss,這跟它自己的數(shù)據(jù)量有直接關系,之前那幾個論文都是基于公開的數(shù)據(jù),人臉 ID 數(shù)在 1 萬的量級左右。但 Google 的互聯(lián)網(wǎng)數(shù)據(jù)非常多,它做得最大的實驗用到了兩億六千萬的人臉數(shù)據(jù),總 ID 數(shù)大概在 800 萬左右。所以在那個時候,Google 從一開始就用了 Triplet Loss,意思就是它有三個樣本的對,其中有一個叫 Anchor一個叫 Negative,一個叫Positive。Positive 的意思就是它跟 Anchor 是同一類的,如果跟 Anchor 不是同一類就是 Negative。

Center Loss

Center Loss 則更加直接一點,它做 Softmax 的時候不僅僅是分對,而是希望每一類更加緊湊一些,更加直接。它的 Loss 函數(shù)比較簡單,相當于 xi 是每張圖片的特征,yi 是它的標簽,Cyi 就是對某個類的一個中心,相當于每張圖片的特征在學,然后每個類的類中心同時也在學,希望屬于同一類的那些樣本的特征都離它們自己的類中心比較近。這個跟 softmax 合并在一起出現(xiàn)一個新的 Loss,這樣學出來的特征在歐氏距離下就更加能夠表達不同人臉之間的相似度關系。

前面幾個算法都是相對比較傳統(tǒng)的、比較老一點的,在現(xiàn)在人臉識別系統(tǒng)里用得人比較少。總的來說,它們大部分都是從 Loss 設計方面做了改進,然后跟softmax進行配合。但 Google 是一個例外。然后下面幾個感覺更加有效的方法則基本都是在 softmax 的基礎上再進行深入的探索。

L-softmax

第一個比較重要的、改動比較大的工作是 L-softmax(Large-Margin Softmax),它的意思是我在做分類時,希望不同的類之間能夠區(qū)分得更開,把同一個類壓縮得更緊,但它跟之前的思路有一定的相似性,但并沒有通過額外的限制來做,它深入分析了 softmax loss 的形式,直接對這個形式做了精細的改動,把其中的cosθ改成了cosmθ,起到了增加 margin 的效果。這里還有一些處理細節(jié),比如當 mθ 超過一定范圍時要重新定義等等,但是大的思路比較容易理解。

A-softmax

A-softmax 則是在 L-softmax 上做了一個很小的修改。它們雖然是兩篇論文,但其他所有東西都跟 L-softmax 一模一樣。A-softmax 就是在考慮 m 倍的 θ 這個 margin 的同時要添加兩個限制條件,第一個是 W 的 norm 要是一個固定的值,我們把它的值固定為 1,其次我們把 B 直接設置為 0,因為它跟W相比只有一維維度,所以感覺上不太會很影響這個網(wǎng)絡的表達能力,同時它還可以讓解釋變得非常自然,使得在這種情況下模型的預測僅僅取決于 W 和 X 之間的角度。但事實上,如果真的去嘗試這個算法,會發(fā)現(xiàn)這個 margin 加的是非常強的,比如 θ 是 30 的時候,就是當某個樣本離它的類中心 已經(jīng)只有30 度的情況下,在 m=2 的時候它會保守的認為,樣本離類中心還有 60 度,所以這個限制很強,是比較難優(yōu)化的。真正用的時候是 softmax+α 倍的A-softmax 優(yōu)化,α 一開始是約等于 0,等于是一開始在優(yōu)化 softmax,隨著優(yōu)化的進行,α 逐步有些提高,能起到一些 A-softmax+margin 的效果。

NormFace/CocoLoss

剛剛的 A-softmax 是從 margin 的角度來講的,后面出現(xiàn)了兩篇論文,NormFace 和 CocoLoss,是從 Norm 的角度來分析這個問題的。它在對 softmax 做改進的時候加了兩個限制,一個是特征,每個樣本特征的 Norm 要是 constant 的,就是希望所有樣本學出來的特征模長都是固定的數(shù)字。同時,分類時有一個 W 的參數(shù)矩陣,希望參數(shù)矩陣的每一列 Norm 也都是一個固定的數(shù)字。

有兩篇論文同時看到了這一點,就是在不考慮 margin 的情況下,僅僅去考慮這兩個 Norm 的限制,聽起來是很簡單的思路,正好兩個工作也做重了,它倆幾乎在同一時間發(fā)表,內(nèi)容也幾乎是一模一樣的。但這里面我選擇介紹下 NormFace,它的論文分析看起來更深入一些,而且講到了normface 跟 triple loss(當用 agent 代替一個類中心的時候)之間的一些聯(lián)系。還有一點,從這里開始,人臉識別的特征對比就不再用 L2 的距離了,基本上全面轉向了cos 距離。因為在這種情況下,L2 和 cos 距離其實是一樣的。

這點其實也是很重要的,我們可以看到在早期的 Google 的 FaceNet 里面,它對feature也做了一個 Normalization,就說明它早就發(fā)現(xiàn)了這一點,這個對特征做 Normalization 會有幫助。但是如果你想深入的看一看為什么要對特征做normalization,為什么要加 margin 在 softmax 里面?其實也有一些理論上的東西來分析這個,我可以跟大家介紹兩個簡單的想法。

FeatureIncay

FeatureIncay 論文里提到了兩點:

第一,為什么要 normalize 特征?

有一個性質,如果大家仔細想一想的話會覺得非常有意思,就是當一個樣本如果已經(jīng)處于分對的狀態(tài),也就是說它已經(jīng)距離自己類中心的 Wi 最近的的話,這時 softmax loss 本身會隨著這個 feature 的模長而遞減,也就是說如果你已經(jīng)分對了,softmax 繼續(xù)優(yōu)化的時候會朝著讓你模長更大的方向去走,但這對最終效果沒有任何幫助,因為只是模長在變,跟類中心的夾角并沒有改變,但是從 softmax 的角度來看,它的 loss 竟然下降了,就意味著我們不能自由的去學每一個樣本的特征,我們希望它的特征受到一些限制。Normalize 特征,就是特征模長受到限制,也就是 norm 等于 1 或者等于一個常數(shù)。

第二,為什么要加 margin?

同樣有一個類似的性質說,如果說你的特征對于某個人臉的圖片分類已經(jīng)概率很高了,比如它應該是屬于第 10 類的,你現(xiàn)在的模型預測出來它屬于第 10 類的概率非常高,比如已經(jīng)0.999,這種情況下你去看樣本的梯度,發(fā)現(xiàn)它的梯度幾乎約等于 0。說明在某個樣本在幾乎分對的情況下,訓練過程不會再把這個樣本朝著這個樣本的類中心繼續(xù)壓縮了 ,默認的 softmax 是沒有產(chǎn)生margin 的能力的,所以 margin 這一項需要單獨加。

總之,直觀理解就是在 softmax 這個 loss 上,如果你想讓特征學得更有意義和特征更加緊湊,一定要單獨去考慮 feature 的 normalization 和 margin 應該怎么加。

AMSoftmax/CosFace

關于 margin 剛剛只講了一個,就是 Asoftmax ,其實還有其他的幾種形式,第一個是AMSoftmax,還有一個叫 CosFace,這兩個是同樣的想法,內(nèi)容也基本是一模一樣的。Margin 是指的類似于 SVM 里面的那種分類面之間要有一個間隔,通過最大化這個間隔把兩個類分得更開。在 AMSoftmax 里面本來 xi 和類中心的距離是 cosθ,不管是 ASoftmax 還是 AMSoftmax,都是想把這個數(shù)字變小一點,它本來相似度已經(jīng) 0.99 了,我希望讓它更小一點,使得它不要那么快達到我想要的值,對它做更強的限制,對它有更高的要求,所以它減 m 就相當于這個東西變得更小了,xi 屬于應該在那個類的概率就更難達到 99% 或者 1,這個 θ 角必須要更小,這個概率才能更接近 1,才能達到我們想要的標準。右邊也是一樣的,這兩個公式幾乎完全一模一樣,同時大家都在要求 W 的 norm 要是固定的,x 的 Norm 要是固定的,我們只關心 cos 距離

InsightFace/ArcFace

第三個跟前面的兩個非常像,叫 InsightFace,也叫 ArcFace,雖然是兩個不同的名字,但實際上是一篇論文。這三種方式都是讓 cosθ 變得更小,第一個是通過 θ 乘以 m 的方式變小,第二個是通過 cosθ 減 m 的方式讓 cosθ 變小,第三個是通過 θ 加 m 的方式讓 cosθ 變小。因為 cos 這個函數(shù)對 θ 是單調遞減的,所以讓這個函數(shù)變小,第一種是讓 cos 減去一個值,第二種是讓里面的 θ 變大,變大有幾種方式,一種是乘以 m,一種是加 m,其實這三種方式是可以統(tǒng)一起的。

文里面作者提到, ArcFace 跟 CosineFace 相比,在訓練一開始,所有類之間每個類的樣本跟它類中心的距離是比較遠的,隨著訓練進行,它們越來越緊湊 ,ArcFace 可以做到更加緊湊的

同時,這三種方法可以和合并成一個公式,可以在 θ 上乘一個 m,然后再加上一個 m2,cos 算完之后可以減 m3,這三個參數(shù),不管哪個調整,都可以讓函數(shù)比原來設定得更小,這在 softmax 里面就意味著加了更強的 margin。有些實驗結果表明,單獨調每一個都不一定是最優(yōu)的,它們聯(lián)合起來調整可能有更好的結果。但在幾何上具體是怎樣的現(xiàn)象,就比較難以描述,可能需要更多的研究。

新的算法簡單就回顧到這里,這些算法大家平時用起來不會覺得有些問題,在學術界公開的訓練集上也能得到比較好的效果。但是學術界跟工業(yè)級是有很大區(qū)別的,主要的幾個區(qū)別在于以下幾個方面:圖片量、每個ID的平均人臉數(shù)量、人臉I(yè)D數(shù)、顯存占用、訓練時間。

▌三、分布式人臉識別訓練

我們設計了簡單的分布式人臉識別的訓練框架,想法很簡單,就是數(shù)據(jù)并行+模型并行。

首先是數(shù)據(jù)并行,假設我們有 N 個計算節(jié)點,N 臺機器,每臺機器有 M 張卡。首先,我們通過數(shù)據(jù)并行,把一個大的 batch 平均分到每張卡上,然后每張卡跑一個同樣參數(shù)的 CNN 網(wǎng)絡,得到那部分數(shù)據(jù)的特征,然后對這些特征做多級多卡的匯聚,得到所有 batch 里面數(shù)據(jù)總的特征是X。為什么要做特征匯聚?主要是因為后面的模型并行。

模型并行把原來一張卡上的 W 參數(shù)矩陣平均拆分到多張卡上,舉個例子,現(xiàn)在讓第一張卡來負責預測每個樣本屬于 0-10萬 類的概率,第二張卡預測屬于 10萬-20萬 類的概率,比如一個卡負責 10萬類,總共我們有 100 張卡的話,那就可以做 1000 萬類的分類。參數(shù)拆分之后,每張卡上就可以計算每個樣本屬于每個類的概率了,但這個地方需要通信,因為你要計算類別的話,需要做一個指數(shù)操作,然后得到所有卡的指數(shù)的總和,然后除一下才能知道。但好處是通信量很小,每張卡只需要負責計算它自己那部分的和,然后把這個和同步給其它GPU就可以了,而和的話就只有一個數(shù)字(當然這里有一些細節(jié),如果考慮到計算穩(wěn)定性還需要同步比如像最大值之類的信息,但通信代價都很小)。

一旦計算出了每張卡上每個樣本屬于自己卡負責這部分類別的概率之后,剩下的事就容易做了,因為我們看到下圖中的偏微分公式,它只依賴于這個 Pk 的概率,我們得到了這個 Pk 概率之后,就可以直接寫出來目標函數(shù)相對于算出來的 fk 的導數(shù)是什么,相當于你可以同時拿到損失函數(shù)對 W 的導數(shù)和對 X 的導數(shù)。但損失函數(shù)是被拆分在多張不同的卡上,所以對 X 這部分導數(shù)還需要做多機多卡的匯聚,得到對總的特征的導數(shù)。對 W 參數(shù)的導數(shù),每張卡是獨立的,互相之間并不影響,所以每張卡自己更新就行了,也沒有通信傳遞。對所有 X 的梯度求和的通信量也不大,得到對 X 的導數(shù)之后可以沿著前面正向傳播的路徑,多機多卡的反向傳播過去就可以了。

數(shù)據(jù)并行是很成熟的技術,比如之前有很多報道,說很多人都可以在多級多卡的環(huán)境里面訓練 ImageNet 的數(shù)據(jù)集,好像大概一個多小時就能訓完了。我們把模型并行這部分也加進去了。模型并行也沒有那么復雜,主要是考慮機器之間的通信量能受控就可以。所以這樣的思路實現(xiàn)起來比較簡單,而且可以把模型顯存占用和計算量都均勻分散到每個 GPU 上,實現(xiàn)線性加速,也沒有增加額外的通信帶寬,甚至它降低了 FC 層的梯度更新所需要的帶寬。原來 W 矩陣不做拆分的時候,多張卡之間要同步對 W 的梯度,W 拆分到每張卡之后梯度反而不需要同步了。

這樣的情況下,我們測試實際的網(wǎng)絡環(huán)境可以支持 100 卡以上的訓練,在 512 維特征的情況下做到幾千萬類的人臉識別,如果維度降低一點,比如壓縮到 128 維,可以支持到上億類的人臉識別,而且隨著卡的增長,也不會帶來的性能損失,基本上是線性加速。它的好處是支持大部分主流損失函數(shù)的擴展。

下面是一個簡單算法的效果展示,基于這種思路,不做其他的修改,在數(shù)據(jù)量還可以的情況下,很容易做到億分之一的誤識別率,召回率在 90% 左右,如果是互聯(lián)網(wǎng)產(chǎn)品可能更高一點。但是我剛剛在前面也說了,隨著人臉庫數(shù)量的增加和攝像頭抓拍量的增加,億分之一的識別率還是會有很多誤報的,需要持續(xù)改進。

還有很多影響人臉識別的重要因素,我這里簡單列一下,感興趣的同學可以去關注:

這里我標紅了“模型測評”,評測是件非常難的事,我們針對不同的應用場景做了十幾個不同類型的評測 ,因為評測做的不好的話,會影響模型設計,讓你判斷不清楚哪個模型好、哪個模型差。

▌四、大規(guī)模人臉評測平臺介紹

之所以要做這個事情有幾個原因:

第一,學術界曾經(jīng)有很多非常有名的測試集,比如 LFW 有 6000 對人臉 1:1 認證。但現(xiàn)在有很多算法都可以達到 99% 以上甚至 99.8% 的好成績,所以這個效果已經(jīng)不能很好的衡量算法的好壞了,可能兩個同樣在 LFW 上達到 99.8% 的算法,換一個數(shù)據(jù)集時結果會差很多。

第二,MegaFace 在學術界也是非常有名的。它的測試條件是在 100 萬干擾項中找到目標人臉,一開始的時候大家覺得這是個很難的問題,但隨著學術界幾年的研究,排行榜的第一名已經(jīng)超過 ?98.9% 了,看起來也有一定的飽和趨勢。這里面一開始是有些噪音的,后來被一些研究人員發(fā)現(xiàn)之后做了些清理,就發(fā)現(xiàn)這個測試集沒有想象得那么難。另外,它提供的正樣本人臉對的比較有限,正樣本每個人的變化并不是特別的大,導致這個問題可能并沒有一開始大家預想的那么難。

于是,我們想辦法去擴充做一個更大規(guī)模的訓練集,希望做更客觀的評測,幫助在人臉方面做研究的同行們有一個未來幾年還可以繼續(xù)用的測試平臺。我們做了兩件事情,第一個是做一個比較大的人臉訓練集,第二個是做比較大的人臉測試集。訓練集大概是有 18 萬人,共有 680 萬張圖片左右,測試集大概有 187 萬的人臉。

下面簡單介紹這些訓練集的制作及清理過程,訓練集一部分是基于公開的 MS-Celeb 上做了清理,去掉了重復的名人,然后又收集了一個亞洲人的名人庫,大概也有 10 萬個ID,再把兩個合并一起做除重,最后合并數(shù)據(jù)。MS 這個數(shù)據(jù)集有兩種噪聲,一個是類內(nèi)的噪聲 ,也就是說每個類并不只包含一個人。還有一個是類間的噪聲,同一個演員出現(xiàn)在不同的電影里面,或者有多個不同的名字,就被分在兩個不同的類里面。

清理流程是首先檢測和align之后,用一個比較好的模型去提特征,在這個過程中順帶可以把原來數(shù)據(jù)集中的誤檢測去掉。具體清理的時候,我們對原來每個類都做一個層次聚類。我們?yōu)榱藬?shù)據(jù)集的純凈,只把每個原始類里面聚類之后最大的簇保留起來,保證每個類別里是足夠c lean的。但每個類只保留最大的簇是不是最好也值得商榷,現(xiàn)在初步的版本是保留最大的。

第二個是減少類間的錯誤 ,比如這兩類是同一個人,但一個是電影角色的名字,一個是他自己的名字。當初M s-celeb數(shù) 據(jù)集在整理的時候,是用圖片和它周圍的文本信息做的聚類,所以它不可避免會有一定比例的這方面的錯誤。我們做清理的時候,首先對每個類得到它的主簇,然后兩個不同的類,如果我們?nèi)ケ容^兩個類中任何兩個圖之間的最小距離,如果發(fā)現(xiàn)它們小于某個閾值的話,說明兩個類有可能可以被合并 ,然后讓標注員標注一下,確定真的是同一個人的話就會標在一起,通過這種方式來盡可能減少類間錯誤 。

還有亞洲的名人數(shù)據(jù)集,因為之前的 MS 中歐美人比較多,我們又爬了大概十幾萬的亞洲名人的數(shù)據(jù),經(jīng)過類似的清理過程,最終得到了 10 萬的 ID,200 多萬的人臉。總的來說,亞洲名人數(shù)據(jù)集跟原始的 MS 相比,會更不均衡一些,怎么去解決不均衡以及跨 domian 的問題,就先留給研究人員去探索了。

關于測試集也有類似的制作邏輯,只不過測試集我們花了更大的功夫,因為測試集對準確性要求更高。之前的訓練集里面是把所有的 LFW 里面那些 5000 個名人全都排除了,這樣我們測試集可以基于 LFW 來做,測試集的 query 全部來自于 LFW 里面的這些名人,然后我們基于這個名人列表爬了更多的名人日常照片,然后爬取的160 萬的干擾項,然后互相之間除重之后最終變成一個大的 TestSet。

可以看到,我們新做的評測集檢測圖片的類別差異非常豐富,比如戴眼鏡、側臉、很大的表情、化妝、年齡變化、光線影響、黑白、戴帽子等等,常見的變化都在會在里面。

評測標準如下圖所示:

這個比賽還是比較有挑戰(zhàn)的,我們把 InsightFace 算法在 ResNet50 上的結果拿到我們的評測框架里去測的時候,發(fā)現(xiàn)在誤識率為十億分之一時,它的召回率大概只有 50% 不到,所以有很高的提升空間。

?

總結

以上是生活随笔為你收集整理的『深度应用』人脸识别最新进展及发展方向的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。

欧美一区在线观看视频 | 天天干 天天摸 天天操 | www.天天成人国产电影 | 黄色毛片在线 | 天天舔天天射天天操 | 成人黄色视 | 在线观看成人网 | 久久99国产精品免费网站 | 成年人在线免费视频观看 | 又长又大又黑又粗欧美 | 亚洲精品国产精品久久99 | 精品久久久亚洲 | 日本女人在线观看 | 在线免费观看视频 | 人人插人人澡 | 探花视频在线观看 | 国产福利一区二区三区在线观看 | 中文字幕精 | 91精品国产综合久久福利 | 亚洲一级黄色片 | 国产精品免费观看视频 | 色香com.| 亚洲精品男人的天堂 | 在线国产一区二区三区 | 亚洲精品国 | 天天射,天天干 | 香蕉影视在线观看 | 国产在线精品播放 | 国产亚洲日 | 国产精品美女999 | 久久精品网址 | 91污污| 超碰在线cao | a v在线观看 | 国产最新视频在线观看 | 一级电影免费在线观看 | 中文字幕 在线 一 二 | 欧美另类色图 | 日日爱影视 | 在线观看国产www | 四虎影视www | 狠狠干.com| 狠狠成人 | 日韩精品大片 | 欧美午夜精品久久久久 | 97av视频在线观看 | 天天在线视频色 | 99资源网 | 国产精品免费不 | 一区二区成人国产精品 | 亚洲精品视频在线免费播放 | 午夜色性片 | 免费观看黄| 日韩欧美电影网 | 丁香视频五月 | 免费久久久久久久 | 欧美一级性视频 | 嫩草av影院 | 免费观看v片在线观看 | 激情综合网在线观看 | 国产成人精品一区二区三区福利 | 人人爱人人舔 | 麻豆91在线看| 国产精品国内免费一区二区三区 | 麻豆视频免费入口 | 久草视频网 | 国产精品久久久一区二区三区网站 | 啪啪肉肉污av国网站 | 成人片在线播放 | 精品在线99 | 黄色av大片 | 国产精品中文字幕av | 国产激情免费 | 色婷婷av一区二 | av丝袜天堂| 色综合久久久久久久久五月 | 中文字幕第一 | 久久蜜臀一区二区三区av | 日韩av成人免费看 | 成人av在线观 | 热热热热热色 | 99免费精品视频 | 日日摸日日添日日躁av | 日日综合网| 中文字幕在线观看视频免费 | 中文字幕成人一区 | 黄网站色欧美视频 | 中文字幕中文字幕中文字幕 | 欧美一二三区在线播放 | 91高清完整版在线观看 | 精品视频久久久 | 美女精品 | 91精品视频免费看 | 久久人人爽人人爽人人片 | 免费观看成人av | 黄av免费在线观看 | 91爱爱网址 | 国产一区二区三区免费观看视频 | 美女视频网站久久 | 久久久午夜视频 | 亚洲在线高清 | 91九色在线视频观看 | 日批视频在线观看免费 | 中文资源在线播放 | 成人高清在线观看 | 美女网站在线免费观看 | 久久草草影视免费网 | 日韩欧美成人网 | 中文字幕 欧美性 | 最新国产精品拍自在线播放 | 美女网色 | 日韩电影在线一区二区 | 天天干天天拍天天操天天拍 | 午夜国产在线观看 | 久久任你操 | 91麻豆精品国产91 | 国产视频91在线 | 狠狠操狠狠 | 精品久久久久久久久久久久 | 91精品导航 | 69视频国产 | 久久久国产精品一区二区中文 | 亚洲丁香久久久 | 色姑娘综合天天 | 久久久午夜剧场 | 午夜久久影院 | 国产男女免费完整视频 | 久久女同性恋中文字幕 | 日韩一区二区三区观看 | 免费日韩视频 | 亚洲开心色 | 欧美精品二 | 中文字幕亚洲欧美 | 国产 精品 资源 | 亚洲午夜精品久久久久久久久久久久 | 一区二区三区韩国免费中文网站 | 男女激情麻豆 | av丁香| 黄色精品在线看 | 麻豆影视网站 | 玖玖爱国产在线 | 天天爱天天操天天干 | av在线免费观看网站 | 精品久久久久久久久久久久久久久久 | 国产福利一区二区三区在线观看 | 黄色av网站在线观看免费 | 在线亚洲观看 | 香蕉视频在线免费 | 成人久久国产 | 麻豆国产精品va在线观看不卡 | 久久久九色精品国产一区二区三区 | 在线看一区二区 | 人人天天夜夜 | 国内成人av| 亚洲国产视频网站 | 超碰免费公开 | 亚洲精品小视频在线观看 | 成人手机在线视频 | 久久精品成人 | 丁香激情五月 | 日韩高清精品一区二区 | 精品国产一区二区在线 | www.狠狠干 | 天天亚洲综合 | 久草五月 | 国产精品乱码久久 | 欧美激情视频在线免费观看 | 美腿丝袜一区二区三区 | 日韩久久精品一区 | 国产精品久久网站 | 粉嫩aⅴ一区二区三区 | 久久在草 | 黄色免费网站下载 | 日韩精品一区二区三区视频播放 | 在线观看91视频 | 又黄又爽又色无遮挡免费 | 日韩欧美专区 | 国产精品美女久久久久久久 | 狠狠干电影 | 久久精品视频3 | 日韩视频一区二区三区在线播放免费观看 | 国产高清第一页 | 中文字幕乱视频 | 西西大胆啪啪 | 久久久久久综合网天天 | 日韩免费在线视频观看 | 亚洲激情综合网 | 97天堂网 | 97色婷婷成人综合在线观看 | 青草视频在线免费 | 最近免费观看的电影完整版 | 国产xxxxx在线观看 | 激情婷婷色 | 天天天天天天操 | 精品久久免费看 | 在线看成人 | 一区二区欧美激情 | 丁香六月激情 | 黄色免费观看网址 | 亚洲国产精品资源 | 看毛片的网址 | 免费97视频 | 亚洲精品免费在线观看视频 | 亚洲精品视频免费观看 | 99电影 | av 在线观看 | 国产色资源 | 国产 欧美 在线 | 久久公开免费视频 | 日日夜夜骑| 日韩免费成人av | 国产青青青 | 精品久久久影院 | 日韩专区中文字幕 | 午夜视频免费在线观看 | 久久国产区| 日韩资源在线观看 | 在线欧美小视频 | 国产91精品看黄网站在线观看动漫 | 99视频一区 | 涩涩网站在线看 | 麻豆网站免费观看 | 亚洲v欧美v国产v在线观看 | 亚洲成a人片在线www | 久久一区二区三区日韩 | av在线播放国产 | 亚洲精品乱码久久久久久久久久 | 五月网婷婷 | 国产成人一区二区三区电影 | 在线成人免费 | 在线免费av网 | 久久日本视频 | 亚洲涩涩一区 | 99精品视频免费看 | 国产高清在线a视频大全 | 999免费视频 | 99精品免费观看 | 日本久久久亚洲精品 | 久久午夜精品影院一区 | 国产日韩精品一区二区在线观看播放 | 久久久网站 | 亚洲精品小视频 | 天天操夜夜爱 | 九九色视频| 欧美日韩中文国产一区发布 | 亚洲永久精品国产 | 精品国产aⅴ一区二区三区 在线直播av | 亚洲免费a | 96国产在线 | 久久久久久久久久久久久9999 | 91久草视频| 在线观看国产福利片 | 香蕉视频在线播放 | 狠狠躁日日躁狂躁夜夜躁 | 国产精品区二区三区日本 | 丁香5月婷婷 | 国产精品破处视频 | 亚洲国产综合在线 | 国产精品福利午夜在线观看 | 国产成人61精品免费看片 | 亚洲爱av | 成人av动漫在线 | 西西444www大胆高清视频 | 最近高清中文字幕在线国语5 | 狠狠色狠狠色终合网 | 免费精品 | 国产一级精品视频 | 日韩a在线观看 | 13日本xxxxxⅹxxx20| 欧美成人高清 | 亚洲激情小视频 | 亚洲精品在线视频 | 国产精品毛片一区二区在线 | 久久久久国产精品一区二区 | 久久久精品免费看 | 国语对白少妇爽91 | 日本久久综合网 | 亚洲午夜精品电影 | 天天插天天干 | 婷婷色在线播放 | 啪啪肉肉污av国网站 | 国产成人久久精品一区二区三区 | 国产精品2019| www.久久爱.cn| 91精品久久久久久久久久久久久 | 色吊丝av中文字幕 | 国产亚洲在线视频 | 精品一区二区精品 | 久久这里只有精品1 | 日韩理论电影在线 | 一区二区三区手机在线观看 | 国产亚洲精品电影 | 青青河边草免费直播 | 97超碰超碰| 久久国产精品一区二区三区 | 亚洲国产精品电影 | 欧美超碰在线 | 日本久久久久久久久久 | 久久99久久精品 | 久久久久久精 | 18久久久久 | 最新中文字幕 | 日日干激情五月 | 久久久久久国产精品免费 | 91香蕉视频黄色 | 国产专区精品 | 国产精品九九九九九 | 欧美一级日韩免费不卡 | 日韩欧美高清免费 | 亚洲精品日韩一区二区电影 | 国产在线视频不卡 | 国产精品9999久久久久仙踪林 | 久久免费国产电影 | 亚洲精品久久久久中文字幕m男 | 国产精品久久久久久久久久白浆 | 欧美精品久久久久久久久老牛影院 | 国产九九在线 | 亚洲精品小视频在线观看 | 久久有精品 | 亚州国产精品 | 九九热免费观看 | 日韩中文在线视频 | 四虎影视成人精品国库在线观看 | 日韩成人xxxx | 最新中文字幕在线资源 | 国色综合 | 黄色大片免费网站 | 欧美日本日韩aⅴ在线视频 插插插色综合 | 国外调教视频网站 | 亚洲精品视频一二三 | 亚洲91在线| 欧美精品久久久久a | 中文字幕有码在线观看 | 欧美激情视频一区二区三区 | 91在线中文| 成人av高清 | 鲁一鲁影院 | 国产精品久久久久久久久久久久久 | 国产成人资源 | 免费视频区 | 久久香蕉国产精品麻豆粉嫩av | 日韩在线免费高清视频 | 狠狠色狠狠色综合日日92 | 香蕉视频国产在线 | 在线观看黄色小视频 | 91精品欧美一区二区三区 | 国产大陆亚洲精品国产 | 久久综合色播五月 | 91精品啪在线观看国产线免费 | 国产美女久久 | 国产成人av在线 | 能在线观看的日韩av | 亚洲欧美日韩一级 | 91精彩视频在线观看 | 人人爽人人看 | 99久久久国产精品免费99 | av三级在线播放 | 天天婷婷| 在线亚洲观看 | 91视频啪 | 免费在线观看av电影 | 狠狠色狠狠色合久久伊人 | 久久久久久久久久福利 | 亚洲精品视频网站在线观看 | 欧美精品v国产精品v日韩精品 | 色av资源网| 最近中文字幕完整高清 | 91在线入口 | 婷婷丁香九月 | 五月婷婷爱| 欧美激情va永久在线播放 | 久久1区| 不卡的一区二区三区 | 波多野结衣在线视频免费观看 | 丁香花五月 | 国产高清免费 | 国产精品精品国产色婷婷 | 一区二区三区免费网站 | 91在线视频免费播放 | 一区二区 不卡 | 狠狠色丁香久久婷婷综合_中 | 91在线精品播放 | av大片网址 | 婷婷久久综合九色综合 | 97在线免费| 免费看黄电影 | 亚洲精品视频在线观看网站 | 亚洲日韩中文字幕在线播放 | 国产综合激情 | 在线观看精品一区 | 婷婷黄色片| 亚洲丝袜中文 | 一区三区视频 | 免费在线成人av电影 | 中文字幕在线观看完整 | 综合激情 | 81国产精品久久久久久久久久 | 久精品在线观看 | 国产精品网站一区二区三区 | 国产精品观看视频 | 九九热在线精品视频 | 中文字幕资源网 国产 | 99久久综合国产精品二区 | 97超碰人人爱 | 日韩欧美一区二区三区免费观看 | 免费成人在线观看 | 欧美成亚洲 | 在线免费国产视频 | 精品99免费视频 | 日本h在线播放 | 国产精品久久久久永久免费 | 中文字幕一区二区三区四区 | 99精品黄色片免费大全 | 国产成人一区二区在线观看 | 国产精品一区免费在线观看 | 国产精品久久久久久久久久白浆 | 五月婷婷激情六月 | 久久网站最新地址 | 欧美成人免费在线 | 江苏妇搡bbbb搡bbbb | 国产91影院| 亚洲一区免费在线 | av成人动漫在线观看 | 521色香蕉网站在线观看 | 天堂av在线7 | 欧美另类xxxx | 日韩在线 | 天天干人人| 免费看污污视频的网站 | 国产成人精品a | 在线免费视频一区 | 国产免费视频在线 | 99久久爱 | 精品国产免费人成在线观看 | 久草在线在线视频 | 91香蕉亚洲精品 | 日韩成人邪恶影片 | 日韩精品免费在线观看视频 | 国产亚洲精品久久网站 | 欧美激情综合色 | 看av免费 | 日韩成人免费在线电影 | 久久视频免费在线观看 | 免费国产一区二区 | 日本丰满少妇免费一区 | 免费观看的黄色片 | 日韩二区在线播放 | 久久理伦片 | 国产精品扒开做爽爽的视频 | 欧美国产亚洲精品久久久8v | 亚洲无在线| 天天操天天爽天天干 | 特级西西444www大精品视频免费看 | 久久人人97超碰com | 精品久久免费看 | 亚洲欧美日韩一区二区三区在线观看 | 日夜夜精品视频 | 伊人久久电影网 | 亚洲精品久久久久久国 | 99免费在线视频观看 | 在线性视频日韩欧美 | 精品久久国产精品 | 日韩欧美久久 | 久草综合视频 | 久久免费成人网 | 国产午夜精品福利视频 | 日韩色高清| 国产在线美女 | 最近免费在线观看 | 欧美日韩国产精品久久 | 免费网站观看www在线观看 | 欧美另类sm图片 | av视屏在线| 久久欧美精品 | 国产一区二区三区高清播放 | 国产亚洲精品久久久久秋 | 国产精品免费看久久久8精臀av | 九九九九九国产 | 黄色高清视频在线观看 | 亚洲成人在线免费 | 伊人干综合 | 九九免费视频 | 国产成人av网址 | 激情偷乱人伦小说视频在线观看 | 亚洲资源| 久草www | 国产精品麻 | 激情婷婷丁香 | 亚洲免费av在线 | 中文字幕日韩无 | 久久久久久免费网 | 日本大片免费观看在线 | 色婷婷av一区二 | 色婷婷六月 | 成人午夜片av在线看 | 欧美aa在线| 国产综合片 | 久久婷婷一区二区三区 | 8x成人免费视频 | 国产精品免费在线播放 | 免费性网站 | 欧美日韩不卡一区二区 | 久久久久久久久免费 | 99精品在线免费在线观看 | 国产精品去看片 | 国产一区精品在线 | 国产精品一区二区美女视频免费看 | 超级碰碰碰免费视频 | 国产小视频在线播放 | 国产精品一区二区吃奶在线观看 | 99r精品视频在线观看 | 久久深爱网| 四虎影视成人精品 | 免费观看的av | 欧美激情综合色综合啪啪五月 | 亚洲aaa毛片| 91在线最新 | 日本精品在线视频 | 久草在线99 | 免费韩国av | 日韩精品一区二区三区外面 | 国产99久久九九精品免费 | 久久久免费在线观看 | 国产色视频网站2 | 超碰成人免费电影 | 亚洲精品高清在线 | 久久激情片 | 成年人免费在线播放 | 激情网第四色 | 97精品在线视频 | 亚洲精选视频在线 | 日本中文字幕免费观看 | 天天操天天操 | 国产原创91| 亚洲精品小视频 | av日韩精品| 天天干天天想 | 超碰97公开 | 黄色成人影视 | 麻豆精品视频在线 | 国产91亚洲 | 久久免费观看视频 | 亚洲精品456在线播放乱码 | 91在线观看黄 | 激情av一区二区 | 2020天天干夜夜爽 | 天天操夜夜操天天射 | av免费电影网站 | 丝袜一区在线 | 黄网站色欧美视频 | 人人射人人射 | 国产品久精国精产拍 | 在线观看久久久久久 | 国产一区二区高清 | 亚洲精品国产精品国自产观看浪潮 | 久青草视频在线观看 | 黄色在线观看污 | 蜜臀久久99静品久久久久久 | 亚洲电影一区二区 | 在线观看涩涩 | 91网址在线 | 六月丁香婷婷久久 | 黄色av免费 | 在线成人免费电影 | 色在线高清 | 99久热在线精品视频观看 | 美女免费视频网站 | 国产高清在线免费视频 | 狠狠躁夜夜躁人人爽视频 | 精品国产片| 黄色看片 | 久久综合九色综合久99 | 国产高清视频免费最新在线 | 国产不卡一二三区 | 狠狠操狠狠干天天操 | 天无日天天操天天干 | 国产成人精品综合 | 亚洲成人动漫在线观看 | 亚洲视频在线免费看 | 一区二区三区动漫 | 国产精品va最新国产精品视频 | 久久久国产日韩 | 国产麻豆精品免费视频 | 国产高清区 | 黄色网址在线播放 | www.久久视频 | 2021国产视频| 国产精品二区在线 | 香蕉视频最新网址 | 在线观看mv的中文字幕网站 | 亚洲精品乱码久久久久久9色 | 最近中文字幕免费观看 | 久久久在线观看 | avove黑丝 | 精品国产片 | 激情偷乱人伦小说视频在线观看 | 精品久久久久久久久久久久 | 国产又粗又长又硬免费视频 | 婷婷精品 | 四虎在线永久免费观看 | 一区二区三区免费播放 | 午夜免费福利片 | 一区二区三区四区影院 | 久久国产精品久久国产精品 | 国产午夜一区二区 | 日韩av综合网站 | 91在线视频免费播放 | 天天干天天射天天插 | 婷婷av网站 | 奇米先锋 | 成人免费观看视频大全 | 一区三区视频 | 亚洲色图22p| 99电影456麻豆 | 亚洲乱亚洲乱亚洲 | 91成人天堂久久成人 | 久久久免费视频播放 | 五月婷婷六月综合 | 中文av免费 | 久久久91精品国产一区二区精品 | 免费在线播放视频 | 中文字幕在线观看国产 | av3级在线| 天天操天天射天天插 | 日韩区在线观看 | 91九色精品国产 | 亚洲一级国产 | 国产一级免费av | 911香蕉| 国产一区在线不卡 | 麻豆你懂的 | 日本中文乱码卡一卡二新区 | 久草视频免费在线观看 | 91av手机在线 | 91av福利视频 | 欧美精品在线观看免费 | 亚洲美女免费精品视频在线观看 | 久久香蕉电影 | 中文字幕在线乱 | 六月丁香综合 | 久久国产乱 | 国产精品久久久久久69 | 日本最新高清不卡中文字幕 | 中文字幕在线专区 | 最近中文字幕免费观看 | 99国产一区二区三精品乱码 | 91精彩视频在线观看 | 婷婷六月综合网 | 国产中文字幕在线观看 | 日韩视频中文字幕在线观看 | 天天天在线综合网 | 麻豆91精品视频 | 国产视频综合在线 | se婷婷| 国产亚洲免费的视频看 | 热re99久久精品国产99热 | 国产精品剧情在线亚洲 | 九九精品在线观看 | 国产香蕉久久精品综合网 | 中文字幕国产精品一区二区 | 在线导航福利 | 91色欧美| 韩日三级在线 | 国内精品久久久久影院日本资源 | 中文在线8新资源库 | 国产又粗又猛又黄又爽视频 | 69性欧美| 欧美亚洲成人免费 | 99热最新在线 | 精品国产一区二区三区蜜臀 | 婷婷国产在线 | www视频在线免费观看 | 日韩最新在线 | 久久伊人91| 97天天干 | 欧美91精品| 香蕉视频网站在线观看 | 久久久久久网站 | 中文字幕精品一区 | 激情五月色播五月 | 婷婷亚洲五月色综合 | 亚洲精品系列 | 伊人久久五月天 | 日韩精品一区二区三区在线视频 | 日韩资源视频 | 精品国产精品国产偷麻豆 | 国产在线黄 | 亚洲亚洲精品在线观看 | 超碰国产在线播放 | 日日操天天爽 | 精品一区二区在线免费观看 | 色综合a| 国产一区视频导航 | 91禁看片 | 久久美女精品 | 久久精品99精品国产香蕉 | 少妇18xxxx性xxxx片 | 久久久网址 | 国产亚洲人成网站在线观看 | 免费观看福利视频 | a v在线观看 | 国产精品日韩久久久久 | 天天干天天射天天操 | 国产一区二区三区在线免费观看 | 国产一级一片免费播放放 | 精品女同一区二区三区在线观看 | 天天爱综合 | 日韩免费在线观看网站 | 国产精品一区二区三区在线播放 | 操操操日日 | 日韩欧美综合视频 | 日韩中文字幕a | 国产精品久久片 | 成人在线视频观看 | 91在线中文 | 国产精品毛片一区二区在线 | 亚洲精品伦理在线 | 人人讲下载 | 亚洲成人黄色在线 | 久久免费福利视频 | 99视频99| 天天夜夜狠狠操 | 国产成a人亚洲精v品在线观看 | 日本精品视频网站 | 男女全黄一级一级高潮免费看 | 午夜男人影院 | 午夜a区| 97福利在线 | 亚洲视频免费在线观看 | 视频在线一区 | 久草在线观看资源 | 欧美三人交 | 国产福利久久 | 成人免费观看完整版电影 | 天天综合导航 | 色婷婷激情综合 | 久久久精品久久 | 超碰在线最新网址 | 在线观看视频你懂的 | 精品免费久久 | 国产精品免费一区二区三区在线观看 | 综合网在线视频 | 日本久久久久久科技有限公司 | 在线国产福利 | 久久99欧美 | 色在线网站 | 二区三区在线观看 | 日日操狠狠干 | 麻豆视频在线免费 | 91福利社在线观看 | 成人网在线免费视频 | 亚洲欧美综合精品久久成人 | 精品久久久久免费极品大片 | 成人a在线观看高清电影 | 丁香五月缴情综合网 | 2023国产精品自产拍在线观看 | 国产在线观看免费 | 在线观看av大片 | 欧美 国产 视频 | 亚洲综合在线一区二区三区 | 伊人黄 | 久久人人97超碰国产公开结果 | 婷婷深爱五月 | 网站免费黄色 | 久草免费电影 | 亚洲日韩精品欧美一区二区 | 亚洲在线观看av | 五月天综合激情网 | 婷婷丁香自拍 | 深夜免费福利网站 | 制服丝袜天堂 | 91视频久久久 | 亚州精品天堂中文字幕 | 美女黄久久 | 亚洲综合在 | 91少妇精拍在线播放 | 一级大片在线观看 | 99激情网| 欧美日韩二三区 | 国产色在线视频 | 亚洲成色 | 五月婷婷精品 | 国产亚洲精品成人av久久ww | 91久久久久久久一区二区 | 久久五月婷婷综合 | 国内揄拍国内精品 | 久久免费的视频 | 天天天天爽 | 狠狠干电影 | 91chinesexxx| 99视频在线看 | 天天射天天射天天 | 久久96国产精品久久99软件 | 97超碰中文字幕 | 91网站在线视频 | av福利在线导航 | 久久综合操 | 91福利免费 | 视频在线亚洲 | 96亚洲精品久久 | 日韩免费av在线 | 欧美韩国在线 | 亚洲日本va午夜在线影院 | 国产视频亚洲视频 | 黄色www | 精品国产人成亚洲区 | 免费三级在线 | 国产精品免费久久久久久久久久中文 | 福利电影一区二区 | 日韩久久久久久久久久 | 日韩黄视频 | 91视频麻豆 | 久久国产影院 | 久久色视频 | 色吊丝在线永久观看最新版本 | 成人精品电影 | 黄色在线观看污 | 美女在线观看av | 久久人人97超碰国产公开结果 | 美女在线观看网站 | 久久精品99国产国产 | 全黄色一级片 | 五月婷婷狠狠 | 狠狠干.com | 国产欧美久久久精品影院 | 中文十次啦 | 日精品 | 天天操·夜夜操 | 中文字幕在线一区观看 | 中文字幕乱码在线播放 | 欧美资源| 美女精品久久久 | 日韩精品一区二区三区免费视频观看 | 久草网在线视频 | 久久五月婷婷丁香社区 | 玖玖视频| 日韩一区在线播放 | 日韩视频一二三区 | 久久精品波多野结衣 | 在线国产不卡 | 国产福利在线 | 欧美久久久久久久久中文字幕 | 91精品电影 | 亚洲国产成人精品在线观看 | 日韩免费在线观看网站 | 美国三级黄色大片 | 国产明星视频三级a三级点| 久久久私人影院 | 久久99久久久久久 | 黄色软件视频大全免费下载 | 国产福利久久 | av中文字幕亚洲 | 亚洲 欧洲 国产 精品 | 国产成人精品综合久久久 | 97电影网站 | 久久www免费人成看片高清 | 久久99在线观看 | 国产一级不卡毛片 | 国产午夜一区二区 | 亚洲国产精品免费 | 免费观看v片在线观看 | 久操视频在线观看 | 99久久99精品| 干狠狠| 欧美日韩二区三区 | 免费看的国产视频网站 | 久久字幕网 | 黄色app网站在线观看 | 成人91免费视频 | 国产精品久久久久999 | 免费合欢视频成人app | 中文字幕 国产精品 | 国内精品久久久精品电影院 | 免费看片色 | 精品免费国产一区二区三区四区 | 午夜精品久久久久久久久久久久 | 国产一级做a爱片久久毛片a | 婷婷在线免费 | 香蕉影视app| 日本精品中文字幕在线观看 | 色午夜 | 亚洲电影一区二区 | 2024av| 91麻豆精品91久久久久同性 | 伊人欧美| 国产亚洲免费的视频看 | 在线观看av网站 | 欧美整片sss| 欧美特一级| 一区二区三区视频在线 | 久久久亚洲精华液 | 黄色网在线免费观看 | 欧美色久 | 成人在线免费看视频 | 天天色天天射天天综合网 | 亚洲成人高清在线 | 九九热中文字幕 | 国产精品18videosex性欧美 | 国产日产精品一区二区三区四区 | 久久人91精品久久久久久不卡 | 婷婷丁香六月 | 91九色最新地址 | 亚洲日日射 | 欧美 高跟鞋交 xxxxhd | 免费一级片在线 | 欧美 日韩 视频 | 久久9999久久免费精品国产 | 日本中文字幕在线免费观看 | 国内精品久久久久久久久久 | 91av看片| 久久福利 | 亚洲欧洲精品一区 | 97超碰人人 | 欧美精品一区二区在线播放 | 久久人人97超碰com | 国产美女搞久久 | 在线亚洲激情 | 国产一区二区三区免费在线观看 | 精品国产乱码久久久久久三级人 | 久久99精品久久久久久清纯直播 | 天天色综合天天 | 日韩精品免费一区二区 | 在线中文字幕播放 | 91在线操 | 美女福利视频在线 | ,午夜性刺激免费看视频 | 久久草草热国产精品直播 | 在线影视 一区 二区 三区 | 九九色在线 | 91精品视频在线看 | 精品国产资源 | 国产 在线观看 | 婷婷色在线播放 | 91av原创 | 91麻豆国产福利在线观看 | 九九九九精品 | 99热日本| www.超碰 | 天天干天天怕 | 精品久久久久_ | 在线黄色av电影 | 国产成人一二三 | 一区二区三区高清在线 | 一级黄色片在线播放 | 在线观看亚洲电影 | 亚洲三级国产 | 久久综合精品一区 | 亚洲影视资源 | 香蕉视频免费在线播放 | 国产精品网红直播 | 91视频免费看片 | 欧美日韩在线播放一区 | 国产精品久久久久永久免费看 | 精品在线不卡 | 国产成人一区二区在线观看 | www.神马久久 | 天天激情站 | 操操操com | 国产一级在线观看 | 欧美激情精品 | 婷婷日| 成人av资源网 | 日韩免费中文 | 麻豆久久久久久久 | 中文字幕 欧美性 | 三级动态视频在线观看 | 亚洲传媒在线 | 久久美女免费视频 | 免费看国产黄色 | 日韩一区二区三区不卡 | 男女拍拍免费视频 | 国产一级免费片 | 日本公妇在线观看高清 | 国产精品一区二区免费视频 | 欧美视频不卡 | 亚洲精品中文在线 | 在线亚洲高清视频 | 91在线小视频 | 欧美日韩xxxxx | 亚洲 欧美 91 | 亚洲精品福利在线 | 国产精品毛片一区视频播不卡 | 九九九九精品九九九九 | 国产伦精品一区二区三区… | 国产日产在线观看 | 欧美亚洲三级 | 国产精品久久久久影院 | 日本性高潮视频 | 在线中文字幕一区二区 | 亚洲.www| av黄色国产 | 国产精品字幕 | 免费成人看片 | 国产性天天综合网 | 超碰在线97免费 | 日韩成人免费在线 | 永久免费精品视频 | 91精品在线免费视频 |