3atv精品不卡视频,97人人超碰国产精品最新,中文字幕av一区二区三区人妻少妇,久久久精品波多野结衣,日韩一区二区三区精品

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 人工智能 > 目标检测 >内容正文

目标检测

Keras搭建YoloV4目标检测平台

發布時間:2025/3/21 目标检测 185 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Keras搭建YoloV4目标检测平台 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.


學習前言
什么是YOLOV4
代碼下載
YOLOV4改進的部分(不完全)
YOLOV4結構解析
1、主干特征提取網絡Backbone
2、特征金字塔
3、YoloHead利用獲得到的特征進行預測
4、預測結果的解碼
5、在原圖上進行繪制
YOLOV4的訓練
1、YOLOV4的改進訓練技巧
a)、Mosaic數據增強
b)、Label Smoothing平滑
c)、CIOU
d)、學習率余弦退火衰減
2、loss組成
a)、計算loss所需參數
b)、y_pre是什么
c)、y_true是什么。
d)、loss的計算過程
訓練自己的YOLOV4模型
學習前言
哈哈哈我最喜歡的YOLO更新了!


什么是YOLOV4

YOLOV4是YOLOV3的改進版,在YOLOV3的基礎上結合了非常多的小Tricks。
盡管沒有目標檢測上革命性的改變,但是YOLOV4依然很好的結合了速度與精度。
根據上圖也可以看出來,YOLOV4在YOLOV3的基礎上,在FPS不下降的情況下,mAP達到了44,提高非常明顯。

YOLOV4整體上的檢測思路和YOLOV3相比相差并不大,都是使用三個特征層進行分類與回歸預測。

請注意!

強烈建議在學習YOLOV4之前學習YOLOV3,因為YOLOV4確實可以看作是YOLOV3結合一系列改進的版本!

強烈建議在學習YOLOV4之前學習YOLOV3,因為YOLOV4確實可以看作是YOLOV3結合一系列改進的版本!

強烈建議在學習YOLOV4之前學習YOLOV3,因為YOLOV4確實可以看作是YOLOV3結合一系列改進的版本!

(重要的事情說三遍!)

YOLOV3可參考該博客:
https://blog.csdn.net/weixin_44791964/article/details/103276106

代碼下載
https://github.com/bubbliiiing/yolov4-keras
喜歡的可以給個star噢!

YOLOV4改進的部分(不完全)
1、主干特征提取網絡:DarkNet53 => CSPDarkNet53

2、特征金字塔:SPP,PAN

3、分類回歸層:YOLOv3(未改變)

4、訓練用到的小技巧:Mosaic數據增強、Label Smoothing平滑、CIOU、學習率余弦退火衰減

5、激活函數:使用Mish激活函數

以上并非全部的改進部分,還存在一些其它的改進,由于YOLOV4使用的改進實在太多了,很難完全實現與列出來,這里只列出來了一些我比較感興趣,而且非常有效的改進。

整篇BLOG會結合YOLOV3與YOLOV4的差別進行解析

YOLOV4結構解析
1、主干特征提取網絡Backbone
當輸入是416x416時,特征結構如下:

當輸入是608x608時,特征結構如下:

主干特征提取網絡Backbone的改進點有兩個:
a).主干特征提取網絡:DarkNet53 => CSPDarkNet53
b).激活函數:使用Mish激活函數

如果大家對YOLOV3比較熟悉的話,應該知道Darknet53的結構,其由一系列殘差網絡結構構成。在Darknet53中,其存在如下resblock_body模塊,其由一次下采樣和多次殘差結構的堆疊構成,Darknet53便是由resblock_body模塊組合而成。

def resblock_body(x, num_filters, num_blocks):
? ? x = ZeroPadding2D(((1,0),(1,0)))(x)
? ? x = DarknetConv2D_BN_Leaky(num_filters, (3,3), strides=(2,2))(x)
? ? for i in range(num_blocks):
? ? ? ? y = DarknetConv2D_BN_Leaky(num_filters//2, (1,1))(x)
? ? ? ? y = DarknetConv2D_BN_Leaky(num_filters, (3,3))(y)
? ? ? ? x = Add()([x,y])
? ? return x
1
2
3
4
5
6
7
8
而在YOLOV4中,其對該部分進行了一定的修改。
1、其一是將DarknetConv2D的激活函數由LeakyReLU修改成了Mish,卷積塊由DarknetConv2D_BN_Leaky變成了DarknetConv2D_BN_Mish。
Mish函數的公式與圖像如下:
Mish=x×tanh(ln(1+ex))Mish=x \times tanh(ln(1+e^x))
Mish=x×tanh(ln(1+e?
x
?))


2、其二是將resblock_body的結構進行修改,使用了CSPnet結構。此時YOLOV4當中的Darknet53被修改成了CSPDarknet53。

CSPnet結構并不算復雜,就是將原來的殘差塊的堆疊進行了一個拆分,拆成左右兩部分:
主干部分繼續進行原來的殘差塊的堆疊;
另一部分則像一個殘差邊一樣,經過少量處理直接連接到最后。
因此可以認為CSP中存在一個大的殘差邊。

#---------------------------------------------------#
# ? CSPdarknet的結構塊
# ? 存在一個大殘差邊
# ? 這個大殘差邊繞過了很多的殘差結構
#---------------------------------------------------#
def resblock_body(x, num_filters, num_blocks, all_narrow=True):
? ? # 進行長和寬的壓縮
? ? preconv1 = ZeroPadding2D(((1,0),(1,0)))(x)
? ? preconv1 = DarknetConv2D_BN_Mish(num_filters, (3,3), strides=(2,2))(preconv1)

? ? # 生成一個大的殘差邊?
? ? shortconv = DarknetConv2D_BN_Mish(num_filters//2 if all_narrow else num_filters, (1,1))(preconv1)

? ? # 主干部分的卷積
? ? mainconv = DarknetConv2D_BN_Mish(num_filters//2 if all_narrow else num_filters, (1,1))(preconv1)
? ? # 1x1卷積對通道數進行整合->3x3卷積提取特征,使用殘差結構
? ? for i in range(num_blocks):
? ? ? ? y = compose(
? ? ? ? ? ? ? ? DarknetConv2D_BN_Mish(num_filters//2, (1,1)),
? ? ? ? ? ? ? ? DarknetConv2D_BN_Mish(num_filters//2 if all_narrow else num_filters, (3,3)))(mainconv)
? ? ? ? mainconv = Add()([mainconv,y])
? ? # 1x1卷積后和殘差邊堆疊
? ? postconv = DarknetConv2D_BN_Mish(num_filters//2 if all_narrow else num_filters, (1,1))(mainconv)
? ? route = Concatenate()([postconv, shortconv])

? ? # 最后對通道數進行整合
? ? return DarknetConv2D_BN_Mish(num_filters, (1,1))(route)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
全部實現代碼為:

from functools import wraps
from keras import backend as K
from keras.layers import Conv2D, Add, ZeroPadding2D, UpSampling2D, Concatenate, MaxPooling2D, Layer
from keras.layers.advanced_activations import LeakyReLU
from keras.layers.normalization import BatchNormalization
from keras.regularizers import l2
from utils.utils import compose


class Mish(Layer):
? ? def __init__(self, **kwargs):
? ? ? ? super(Mish, self).__init__(**kwargs)
? ? ? ? self.supports_masking = True

? ? def call(self, inputs):
? ? ? ? return inputs * K.tanh(K.softplus(inputs))

? ? def get_config(self):
? ? ? ? config = super(Mish, self).get_config()
? ? ? ? return config

? ? def compute_output_shape(self, input_shape):
? ? ? ? return input_shape
#--------------------------------------------------#
# ? 單次卷積
#--------------------------------------------------#
@wraps(Conv2D)
def DarknetConv2D(*args, **kwargs):
? ? darknet_conv_kwargs = {'kernel_regularizer': l2(5e-4)}
? ? darknet_conv_kwargs['padding'] = 'valid' if kwargs.get('strides')==(2,2) else 'same'
? ? darknet_conv_kwargs.update(kwargs)
? ? return Conv2D(*args, **darknet_conv_kwargs)

#---------------------------------------------------#
# ? 卷積塊
# ? DarknetConv2D + BatchNormalization + Mish
#---------------------------------------------------#
def DarknetConv2D_BN_Mish(*args, **kwargs):
? ? no_bias_kwargs = {'use_bias': False}
? ? no_bias_kwargs.update(kwargs)
? ? return compose(
? ? ? ? DarknetConv2D(*args, **no_bias_kwargs),
? ? ? ? BatchNormalization(),
? ? ? ? Mish())

#---------------------------------------------------#
# ? CSPdarknet的結構塊
# ? 存在一個大殘差邊
# ? 這個大殘差邊繞過了很多的殘差結構
#---------------------------------------------------#
def resblock_body(x, num_filters, num_blocks, all_narrow=True):
? ? # 進行長和寬的壓縮
? ? preconv1 = ZeroPadding2D(((1,0),(1,0)))(x)
? ? preconv1 = DarknetConv2D_BN_Mish(num_filters, (3,3), strides=(2,2))(preconv1)

? ? # 生成一個大的殘差邊?
? ? shortconv = DarknetConv2D_BN_Mish(num_filters//2 if all_narrow else num_filters, (1,1))(preconv1)

? ? # 主干部分的卷積
? ? mainconv = DarknetConv2D_BN_Mish(num_filters//2 if all_narrow else num_filters, (1,1))(preconv1)
? ? # 1x1卷積對通道數進行整合->3x3卷積提取特征,使用殘差結構
? ? for i in range(num_blocks):
? ? ? ? y = compose(
? ? ? ? ? ? ? ? DarknetConv2D_BN_Mish(num_filters//2, (1,1)),
? ? ? ? ? ? ? ? DarknetConv2D_BN_Mish(num_filters//2 if all_narrow else num_filters, (3,3)))(mainconv)
? ? ? ? mainconv = Add()([mainconv,y])
? ? # 1x1卷積后和殘差邊堆疊
? ? postconv = DarknetConv2D_BN_Mish(num_filters//2 if all_narrow else num_filters, (1,1))(mainconv)
? ? route = Concatenate()([postconv, shortconv])

? ? # 最后對通道數進行整合
? ? return DarknetConv2D_BN_Mish(num_filters, (1,1))(route)

#---------------------------------------------------#
# ? CSPdarknet53 的主體部分
#---------------------------------------------------#
def darknet_body(x):
? ? x = DarknetConv2D_BN_Mish(32, (3,3))(x)
? ? x = resblock_body(x, 64, 1, False)
? ? x = resblock_body(x, 128, 2)
? ? x = resblock_body(x, 256, 8)
? ? feat1 = x
? ? x = resblock_body(x, 512, 8)
? ? feat2 = x
? ? x = resblock_body(x, 1024, 4)
? ? feat3 = x
? ? return feat1,feat2,feat3
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
2、特征金字塔
當輸入是416x416時,特征結構如下:

當輸入是608x608時,特征結構如下:

在特征金字塔部分,YOLOV4結合了兩種改進:
a).使用了SPP結構。
b).使用了PANet結構。
如上圖所示,除去CSPDarknet53和Yolo Head的結構外,都是特征金字塔的結構。
1、SPP結構參雜在對CSPdarknet53的最后一個特征層的卷積里,在對CSPdarknet53的最后一個特征層進行三次DarknetConv2D_BN_Leaky卷積后,分別利用四個不同尺度的最大池化進行處理,最大池化的池化核大小分別為13x13、9x9、5x5、1x1(1x1即無處理)

# 使用了SPP結構,即不同尺度的最大池化后堆疊。
maxpool1 = MaxPooling2D(pool_size=(13,13), strides=(1,1), padding='same')(P5)
maxpool2 = MaxPooling2D(pool_size=(9,9), strides=(1,1), padding='same')(P5)
maxpool3 = MaxPooling2D(pool_size=(5,5), strides=(1,1), padding='same')(P5)
P5 = Concatenate()([maxpool1, maxpool2, maxpool3, P5])
1
2
3
4
5
其可以它能夠極大地增加感受野,分離出最顯著的上下文特征。

2、PANet是2018的一種實例分割算法,其具體結構由反復提升特征的意思。

上圖為原始的PANet的結構,可以看出來其具有一個非常重要的特點就是特征的反復提取。
在(a)里面是傳統的特征金字塔結構,在完成特征金字塔從下到上的特征提取后,還需要實現(b)中從上到下的特征提取。

而在YOLOV4當中,其主要是在三個有效特征層上使用了PANet結構。

實現代碼如下:

#---------------------------------------------------#
# ? 特征層->最后的輸出
#---------------------------------------------------#
def yolo_body(inputs, num_anchors, num_classes):
? ? # 生成darknet53的主干模型
? ? feat1,feat2,feat3 = darknet_body(inputs)

? ? P5 = DarknetConv2D_BN_Leaky(512, (1,1))(feat3)
? ? P5 = DarknetConv2D_BN_Leaky(1024, (3,3))(P5)
? ? P5 = DarknetConv2D_BN_Leaky(512, (1,1))(P5)
? ? # 使用了SPP結構,即不同尺度的最大池化后堆疊。
? ? maxpool1 = MaxPooling2D(pool_size=(13,13), strides=(1,1), padding='same')(P5)
? ? maxpool2 = MaxPooling2D(pool_size=(9,9), strides=(1,1), padding='same')(P5)
? ? maxpool3 = MaxPooling2D(pool_size=(5,5), strides=(1,1), padding='same')(P5)
? ? P5 = Concatenate()([maxpool1, maxpool2, maxpool3, P5])
? ? P5 = DarknetConv2D_BN_Leaky(512, (1,1))(P5)
? ? P5 = DarknetConv2D_BN_Leaky(1024, (3,3))(P5)
? ? P5 = DarknetConv2D_BN_Leaky(512, (1,1))(P5)

? ? P5_upsample = compose(DarknetConv2D_BN_Leaky(256, (1,1)), UpSampling2D(2))(P5)
? ??
? ? P4 = DarknetConv2D_BN_Leaky(256, (1,1))(feat2)
? ? P4 = Concatenate()([P4, P5_upsample])
? ? P4 = make_five_convs(P4,256)

? ? P4_upsample = compose(DarknetConv2D_BN_Leaky(128, (1,1)), UpSampling2D(2))(P4)
? ??
? ? P3 = DarknetConv2D_BN_Leaky(128, (1,1))(feat1)
? ? P3 = Concatenate()([P3, P4_upsample])
? ? P3 = make_five_convs(P3,128)

? ? # 76x76的out
? ? P3_output = DarknetConv2D_BN_Leaky(256, (3,3))(P3)
? ? P3_output = DarknetConv2D(num_anchors*(num_classes+5), (1,1))(P3_output)

? ? P3_downsample = ZeroPadding2D(((1,0),(1,0)))(P3)
? ? P3_downsample = DarknetConv2D_BN_Leaky(256, (3,3), strides=(2,2))(P3_downsample)
? ? P4 = Concatenate()([P3_downsample, P4])
? ? P4 = make_five_convs(P4,256)
? ??
? ? # 38x38的out
? ? P4_output = DarknetConv2D_BN_Leaky(512, (3,3))(P4)
? ? P4_output = DarknetConv2D(num_anchors*(num_classes+5), (1,1))(P4_output)
? ??

? ? P4_downsample = ZeroPadding2D(((1,0),(1,0)))(P4)
? ? P4_downsample = DarknetConv2D_BN_Leaky(512, (3,3), strides=(2,2))(P4_downsample)
? ? P5 = Concatenate()([P4_downsample, P5])
? ? P5 = make_five_convs(P5,512)
? ??
? ? # 19x19的out
? ? P5_output = DarknetConv2D_BN_Leaky(1024, (3,3))(P5)
? ? P5_output = DarknetConv2D(num_anchors*(num_classes+5), (1,1))(P5_output)

? ? return Model(inputs, [P5_output, P4_output, P3_output])
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
3、YoloHead利用獲得到的特征進行預測
當輸入是416x416時,特征結構如下:

當輸入是608x608時,特征結構如下:

1、在特征利用部分,YoloV4提取多特征層進行目標檢測,一共提取三個特征層,分別位于中間層,中下層,底層,三個特征層的shape分別為(76,76,256)、(38,38,512)、(19,19,1024)。

2、輸出層的shape分別為(19,19,75),(38,38,75),(76,76,75),最后一個維度為75是因為該圖是基于voc數據集的,它的類為20種,YoloV4只有針對每一個特征層存在3個先驗框,所以最后維度為3x25;
如果使用的是coco訓練集,類則為80種,最后的維度應該為255 = 3x85,三個特征層的shape為(19,19,255),(38,38,255),(76,76,255)

實現代碼如下:

#---------------------------------------------------#
# ? 特征層->最后的輸出
#---------------------------------------------------#
def yolo_body(inputs, num_anchors, num_classes):
# 省略了一部分,只看最后的head部分
? ? P3_output = DarknetConv2D_BN_Leaky(256, (3,3))(P3)
? ? P3_output = DarknetConv2D(num_anchors*(num_classes+5), (1,1))(P3_output)

? ? P4_output = DarknetConv2D_BN_Leaky(512, (3,3))(P4)
? ? P4_output = DarknetConv2D(num_anchors*(num_classes+5), (1,1))(P4_output)

? ? P5_output = DarknetConv2D_BN_Leaky(1024, (3,3))(P5)
? ? P5_output = DarknetConv2D(num_anchors*(num_classes+5), (1,1))(P5_output)
1
2
3
4
5
6
7
8
9
10
11
12
13
4、預測結果的解碼
由第二步我們可以獲得三個特征層的預測結果,shape分別為(N,19,19,255),(N,38,38,255),(N,76,76,255)的數據,對應每個圖分為19x19、38x38、76x76的網格上3個預測框的位置。

但是這個預測結果并不對應著最終的預測框在圖片上的位置,還需要解碼才可以完成。

此處要講一下yolo3的預測原理,yolo3的3個特征層分別將整幅圖分為19x19、38x38、76x76的網格,每個網絡點負責一個區域的檢測。

我們知道特征層的預測結果對應著三個預測框的位置,我們先將其reshape一下,其結果為(N,19,19,3,85),(N,38,38,3,85),(N,76,76,3,85)。

最后一個維度中的85包含了4+1+80,分別代表x_offset、y_offset、h和w、置信度、分類結果。

yolo3的解碼過程就是將每個網格點加上它對應的x_offset和y_offset,加完后的結果就是預測框的中心,然后再利用 先驗框和h、w結合 計算出預測框的長和寬。這樣就能得到整個預測框的位置了。


當然得到最終的預測結構后還要進行得分排序與非極大抑制篩選
這一部分基本上是所有目標檢測通用的部分。不過該項目的處理方式與其它項目不同。其對于每一個類進行判別。
1、取出每一類得分大于self.obj_threshold的框和得分。
2、利用框的位置和得分進行非極大抑制。

實現代碼如下,當調用yolo_eval時,就會對每個特征層進行解碼:

#---------------------------------------------------#
# ? 將預測值的每個特征層調成真實值
#---------------------------------------------------#
def yolo_head(feats, anchors, num_classes, input_shape, calc_loss=False):
? ? num_anchors = len(anchors)
? ? # [1, 1, 1, num_anchors, 2]
? ? anchors_tensor = K.reshape(K.constant(anchors), [1, 1, 1, num_anchors, 2])

? ? # 獲得x,y的網格
? ? # (19, 19, 1, 2)
? ? grid_shape = K.shape(feats)[1:3] # height, width
? ? grid_y = K.tile(K.reshape(K.arange(0, stop=grid_shape[0]), [-1, 1, 1, 1]),
? ? ? ? [1, grid_shape[1], 1, 1])
? ? grid_x = K.tile(K.reshape(K.arange(0, stop=grid_shape[1]), [1, -1, 1, 1]),
? ? ? ? [grid_shape[0], 1, 1, 1])
? ? grid = K.concatenate([grid_x, grid_y])
? ? grid = K.cast(grid, K.dtype(feats))

? ? # (batch_size,19,19,3,85)
? ? feats = K.reshape(feats, [-1, grid_shape[0], grid_shape[1], num_anchors, num_classes + 5])

? ? # 將預測值調成真實值
? ? # box_xy對應框的中心點
? ? # box_wh對應框的寬和高
? ? box_xy = (K.sigmoid(feats[..., :2]) + grid) / K.cast(grid_shape[::-1], K.dtype(feats))
? ? box_wh = K.exp(feats[..., 2:4]) * anchors_tensor / K.cast(input_shape[::-1], K.dtype(feats))
? ? box_confidence = K.sigmoid(feats[..., 4:5])
? ? box_class_probs = K.sigmoid(feats[..., 5:])

? ? # 在計算loss的時候返回如下參數
? ? if calc_loss == True:
? ? ? ? return grid, feats, box_xy, box_wh
? ? return box_xy, box_wh, box_confidence, box_class_probs

#---------------------------------------------------#
# ? 對box進行調整,使其符合真實圖片的樣子
#---------------------------------------------------#
def yolo_correct_boxes(box_xy, box_wh, input_shape, image_shape):
? ? box_yx = box_xy[..., ::-1]
? ? box_hw = box_wh[..., ::-1]
? ??
? ? input_shape = K.cast(input_shape, K.dtype(box_yx))
? ? image_shape = K.cast(image_shape, K.dtype(box_yx))

? ? new_shape = K.round(image_shape * K.min(input_shape/image_shape))
? ? offset = (input_shape-new_shape)/2./input_shape
? ? scale = input_shape/new_shape

? ? box_yx = (box_yx - offset) * scale
? ? box_hw *= scale

? ? box_mins = box_yx - (box_hw / 2.)
? ? box_maxes = box_yx + (box_hw / 2.)
? ? boxes = ?K.concatenate([
? ? ? ? box_mins[..., 0:1], ?# y_min
? ? ? ? box_mins[..., 1:2], ?# x_min
? ? ? ? box_maxes[..., 0:1], ?# y_max
? ? ? ? box_maxes[..., 1:2] ?# x_max
? ? ])

? ? boxes *= K.concatenate([image_shape, image_shape])
? ? return boxes

#---------------------------------------------------#
# ? 獲取每個box和它的得分
#---------------------------------------------------#
def yolo_boxes_and_scores(feats, anchors, num_classes, input_shape, image_shape):
? ? # 將預測值調成真實值
? ? # box_xy對應框的中心點
? ? # box_wh對應框的寬和高
? ? # -1,19,19,3,2; -1,19,19,3,2; -1,19,19,3,1; -1,19,19,3,80
? ? box_xy, box_wh, box_confidence, box_class_probs = yolo_head(feats, anchors, num_classes, input_shape)
? ? # 將box_xy、和box_wh調節成y_min,y_max,xmin,xmax
? ? boxes = yolo_correct_boxes(box_xy, box_wh, input_shape, image_shape)
? ? # 獲得得分和box
? ? boxes = K.reshape(boxes, [-1, 4])
? ? box_scores = box_confidence * box_class_probs
? ? box_scores = K.reshape(box_scores, [-1, num_classes])
? ? return boxes, box_scores

#---------------------------------------------------#
# ? 圖片預測
#---------------------------------------------------#
def yolo_eval(yolo_outputs,
? ? ? ? ? ? ? anchors,
? ? ? ? ? ? ? num_classes,
? ? ? ? ? ? ? image_shape,
? ? ? ? ? ? ? max_boxes=20,
? ? ? ? ? ? ? score_threshold=.6,
? ? ? ? ? ? ? iou_threshold=.5):
? ? # 獲得特征層的數量
? ? num_layers = len(yolo_outputs)
? ? # 特征層1對應的anchor是678
? ? # 特征層2對應的anchor是345
? ? # 特征層3對應的anchor是012
? ? anchor_mask = [[6,7,8], [3,4,5], [0,1,2]]
? ??
? ? input_shape = K.shape(yolo_outputs[0])[1:3] * 32
? ? boxes = []
? ? box_scores = []
? ? # 對每個特征層進行處理
? ? for l in range(num_layers):
? ? ? ? _boxes, _box_scores = yolo_boxes_and_scores(yolo_outputs[l], anchors[anchor_mask[l]], num_classes, input_shape, image_shape)
? ? ? ? boxes.append(_boxes)
? ? ? ? box_scores.append(_box_scores)
? ? # 將每個特征層的結果進行堆疊
? ? boxes = K.concatenate(boxes, axis=0)
? ? box_scores = K.concatenate(box_scores, axis=0)

? ? mask = box_scores >= score_threshold
? ? max_boxes_tensor = K.constant(max_boxes, dtype='int32')
? ? boxes_ = []
? ? scores_ = []
? ? classes_ = []
? ? for c in range(num_classes):
? ? ? ? # 取出所有box_scores >= score_threshold的框,和成績
? ? ? ? class_boxes = tf.boolean_mask(boxes, mask[:, c])
? ? ? ? class_box_scores = tf.boolean_mask(box_scores[:, c], mask[:, c])

? ? ? ? # 非極大抑制,去掉box重合程度高的那一些
? ? ? ? nms_index = tf.image.non_max_suppression(
? ? ? ? ? ? class_boxes, class_box_scores, max_boxes_tensor, iou_threshold=iou_threshold)

? ? ? ? # 獲取非極大抑制后的結果
? ? ? ? # 下列三個分別是
? ? ? ? # 框的位置,得分與種類
? ? ? ? class_boxes = K.gather(class_boxes, nms_index)
? ? ? ? class_box_scores = K.gather(class_box_scores, nms_index)
? ? ? ? classes = K.ones_like(class_box_scores, 'int32') * c
? ? ? ? boxes_.append(class_boxes)
? ? ? ? scores_.append(class_box_scores)
? ? ? ? classes_.append(classes)
? ? boxes_ = K.concatenate(boxes_, axis=0)
? ? scores_ = K.concatenate(scores_, axis=0)
? ? classes_ = K.concatenate(classes_, axis=0)

? ? return boxes_, scores_, classes_
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
5、在原圖上進行繪制
通過第四步,我們可以獲得預測框在原圖上的位置,而且這些預測框都是經過篩選的。這些篩選后的框可以直接繪制在圖片上,就可以獲得結果了。

YOLOV4的訓練
1、YOLOV4的改進訓練技巧
a)、Mosaic數據增強
Yolov4的mosaic數據增強參考了CutMix數據增強方式,理論上具有一定的相似性!
CutMix數據增強方式利用兩張圖片進行拼接。

但是mosaic利用了四張圖片,根據論文所說其擁有一個巨大的優點是豐富檢測物體的背景!且在BN計算的時候一下子會計算四張圖片的數據!
就像下圖這樣:

實現思路如下:
1、每次讀取四張圖片。

2、分別對四張圖片進行翻轉、縮放、色域變化等,并且按照四個方向位置擺好。


3、進行圖片的組合和框的組合


def rand(a=0, b=1):
? ? return np.random.rand()*(b-a) + a

def merge_bboxes(bboxes, cutx, cuty):

? ? merge_bbox = []
? ? for i in range(len(bboxes)):
? ? ? ? for box in bboxes[i]:
? ? ? ? ? ? tmp_box = []
? ? ? ? ? ? x1,y1,x2,y2 = box[0], box[1], box[2], box[3]

? ? ? ? ? ? if i == 0:
? ? ? ? ? ? ? ? if y1 > cuty or x1 > cutx:
? ? ? ? ? ? ? ? ? ? continue
? ? ? ? ? ? ? ? if y2 >= cuty and y1 <= cuty:
? ? ? ? ? ? ? ? ? ? y2 = cuty
? ? ? ? ? ? ? ? ? ? if y2-y1 < 5:
? ? ? ? ? ? ? ? ? ? ? ? continue
? ? ? ? ? ? ? ? if x2 >= cutx and x1 <= cutx:
? ? ? ? ? ? ? ? ? ? x2 = cutx
? ? ? ? ? ? ? ? ? ? if x2-x1 < 5:
? ? ? ? ? ? ? ? ? ? ? ? continue
? ? ? ? ? ? ? ??
? ? ? ? ? ? if i == 1:
? ? ? ? ? ? ? ? if y2 < cuty or x1 > cutx:
? ? ? ? ? ? ? ? ? ? continue

? ? ? ? ? ? ? ? if y2 >= cuty and y1 <= cuty:
? ? ? ? ? ? ? ? ? ? y1 = cuty
? ? ? ? ? ? ? ? ? ? if y2-y1 < 5:
? ? ? ? ? ? ? ? ? ? ? ? continue
? ? ? ? ? ? ? ??
? ? ? ? ? ? ? ? if x2 >= cutx and x1 <= cutx:
? ? ? ? ? ? ? ? ? ? x2 = cutx
? ? ? ? ? ? ? ? ? ? if x2-x1 < 5:
? ? ? ? ? ? ? ? ? ? ? ? continue

? ? ? ? ? ? if i == 2:
? ? ? ? ? ? ? ? if y2 < cuty or x2 < cutx:
? ? ? ? ? ? ? ? ? ? continue

? ? ? ? ? ? ? ? if y2 >= cuty and y1 <= cuty:
? ? ? ? ? ? ? ? ? ? y1 = cuty
? ? ? ? ? ? ? ? ? ? if y2-y1 < 5:
? ? ? ? ? ? ? ? ? ? ? ? continue

? ? ? ? ? ? ? ? if x2 >= cutx and x1 <= cutx:
? ? ? ? ? ? ? ? ? ? x1 = cutx
? ? ? ? ? ? ? ? ? ? if x2-x1 < 5:
? ? ? ? ? ? ? ? ? ? ? ? continue

? ? ? ? ? ? if i == 3:
? ? ? ? ? ? ? ? if y1 > cuty or x2 < cutx:
? ? ? ? ? ? ? ? ? ? continue

? ? ? ? ? ? ? ? if y2 >= cuty and y1 <= cuty:
? ? ? ? ? ? ? ? ? ? y2 = cuty
? ? ? ? ? ? ? ? ? ? if y2-y1 < 5:
? ? ? ? ? ? ? ? ? ? ? ? continue

? ? ? ? ? ? ? ? if x2 >= cutx and x1 <= cutx:
? ? ? ? ? ? ? ? ? ? x1 = cutx
? ? ? ? ? ? ? ? ? ? if x2-x1 < 5:
? ? ? ? ? ? ? ? ? ? ? ? continue

? ? ? ? ? ? tmp_box.append(x1)
? ? ? ? ? ? tmp_box.append(y1)
? ? ? ? ? ? tmp_box.append(x2)
? ? ? ? ? ? tmp_box.append(y2)
? ? ? ? ? ? tmp_box.append(box[-1])
? ? ? ? ? ? merge_bbox.append(tmp_box)
? ? return merge_bbox

def get_random_data(annotation_line, input_shape, random=True, hue=.1, sat=1.5, val=1.5, proc_img=True):
? ? '''random preprocessing for real-time data augmentation'''
? ? h, w = input_shape
? ? min_offset_x = 0.4
? ? min_offset_y = 0.4
? ? scale_low = 1-min(min_offset_x,min_offset_y)
? ? scale_high = scale_low+0.2

? ? image_datas = []?
? ? box_datas = []
? ? index = 0

? ? place_x = [0,0,int(w*min_offset_x),int(w*min_offset_x)]
? ? place_y = [0,int(h*min_offset_y),int(w*min_offset_y),0]
? ? for line in annotation_line:
? ? ? ? # 每一行進行分割
? ? ? ? line_content = line.split()
? ? ? ? # 打開圖片
? ? ? ? image = Image.open(line_content[0])
? ? ? ? image = image.convert("RGB")?
? ? ? ? # 圖片的大小
? ? ? ? iw, ih = image.size
? ? ? ? # 保存框的位置
? ? ? ? box = np.array([np.array(list(map(int,box.split(',')))) for box in line_content[1:]])
? ? ? ??
? ? ? ? # image.save(str(index)+".jpg")
? ? ? ? # 是否翻轉圖片
? ? ? ? flip = rand()<.5
? ? ? ? if flip and len(box)>0:
? ? ? ? ? ? image = image.transpose(Image.FLIP_LEFT_RIGHT)
? ? ? ? ? ? box[:, [0,2]] = iw - box[:, [2,0]]

? ? ? ? # 對輸入進來的圖片進行縮放
? ? ? ? new_ar = w/h
? ? ? ? scale = rand(scale_low, scale_high)
? ? ? ? if new_ar < 1:
? ? ? ? ? ? nh = int(scale*h)
? ? ? ? ? ? nw = int(nh*new_ar)
? ? ? ? else:
? ? ? ? ? ? nw = int(scale*w)
? ? ? ? ? ? nh = int(nw/new_ar)
? ? ? ? image = image.resize((nw,nh), Image.BICUBIC)

? ? ? ? # 進行色域變換
? ? ? ? hue = rand(-hue, hue)
? ? ? ? sat = rand(1, sat) if rand()<.5 else 1/rand(1, sat)
? ? ? ? val = rand(1, val) if rand()<.5 else 1/rand(1, val)
? ? ? ? x = rgb_to_hsv(np.array(image)/255.)
? ? ? ? x[..., 0] += hue
? ? ? ? x[..., 0][x[..., 0]>1] -= 1
? ? ? ? x[..., 0][x[..., 0]<0] += 1
? ? ? ? x[..., 1] *= sat
? ? ? ? x[..., 2] *= val
? ? ? ? x[x>1] = 1
? ? ? ? x[x<0] = 0
? ? ? ? image = hsv_to_rgb(x)

? ? ? ? image = Image.fromarray((image*255).astype(np.uint8))
? ? ? ? # 將圖片進行放置,分別對應四張分割圖片的位置
? ? ? ? dx = place_x[index]
? ? ? ? dy = place_y[index]
? ? ? ? new_image = Image.new('RGB', (w,h), (128,128,128))
? ? ? ? new_image.paste(image, (dx, dy))
? ? ? ? image_data = np.array(new_image)/255

? ? ? ? # Image.fromarray((image_data*255).astype(np.uint8)).save(str(index)+"distort.jpg")
? ? ? ??
? ? ? ? index = index + 1
? ? ? ? box_data = []
? ? ? ? # 對box進行重新處理
? ? ? ? if len(box)>0:
? ? ? ? ? ? np.random.shuffle(box)
? ? ? ? ? ? box[:, [0,2]] = box[:, [0,2]]*nw/iw + dx
? ? ? ? ? ? box[:, [1,3]] = box[:, [1,3]]*nh/ih + dy
? ? ? ? ? ? box[:, 0:2][box[:, 0:2]<0] = 0
? ? ? ? ? ? box[:, 2][box[:, 2]>w] = w
? ? ? ? ? ? box[:, 3][box[:, 3]>h] = h
? ? ? ? ? ? box_w = box[:, 2] - box[:, 0]
? ? ? ? ? ? box_h = box[:, 3] - box[:, 1]
? ? ? ? ? ? box = box[np.logical_and(box_w>1, box_h>1)]
? ? ? ? ? ? box_data = np.zeros((len(box),5))
? ? ? ? ? ? box_data[:len(box)] = box
? ? ? ??
? ? ? ? image_datas.append(image_data)
? ? ? ? box_datas.append(box_data)

? ? ? ? img = Image.fromarray((image_data*255).astype(np.uint8))
? ? ? ? for j in range(len(box_data)):
? ? ? ? ? ? thickness = 3
? ? ? ? ? ? left, top, right, bottom ?= box_data[j][0:4]
? ? ? ? ? ? draw = ImageDraw.Draw(img)
? ? ? ? ? ? for i in range(thickness):
? ? ? ? ? ? ? ? draw.rectangle([left + i, top + i, right - i, bottom - i],outline=(255,255,255))
? ? ? ? img.show()

? ??
? ? # 將圖片分割,放在一起
? ? cutx = np.random.randint(int(w*min_offset_x), int(w*(1 - min_offset_x)))
? ? cuty = np.random.randint(int(h*min_offset_y), int(h*(1 - min_offset_y)))

? ? new_image = np.zeros([h,w,3])
? ? new_image[:cuty, :cutx, :] = image_datas[0][:cuty, :cutx, :]
? ? new_image[cuty:, :cutx, :] = image_datas[1][cuty:, :cutx, :]
? ? new_image[cuty:, cutx:, :] = image_datas[2][cuty:, cutx:, :]
? ? new_image[:cuty, cutx:, :] = image_datas[3][:cuty, cutx:, :]

? ? # 對框進行進一步的處理
? ? new_boxes = merge_bboxes(box_datas, cutx, cuty)

? ? return new_image, new_boxes
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
b)、Label Smoothing平滑
標簽平滑的思想很簡單,具體公式如下:

new_onehot_labels = onehot_labels * (1 - label_smoothing) + label_smoothing / num_classes
1
當label_smoothing的值為0.01得時候,公式變成如下所示:

new_onehot_labels = y * (1 - 0.01) + 0.01 / num_classes
1
其實Label Smoothing平滑就是將標簽進行一個平滑,原始的標簽是0、1,在平滑后變成0.005(如果是二分類)、0.995,也就是說對分類準確做了一點懲罰,讓模型不可以分類的太準確,太準確容易過擬合。

實現代碼如下:

#---------------------------------------------------#
# ? 平滑標簽
#---------------------------------------------------#
def _smooth_labels(y_true, label_smoothing):
? ? num_classes = K.shape(y_true)[-1],
? ? label_smoothing = K.constant(label_smoothing, dtype=K.floatx())
? ? return y_true * (1.0 - label_smoothing) + label_smoothing / num_classes
1
2
3
4
5
6
7
c)、CIOU
IoU是比值的概念,對目標物體的scale是不敏感的。然而常用的BBox的回歸損失優化和IoU優化不是完全等價的,尋常的IoU無法直接優化沒有重疊的部分。

于是有人提出直接使用IOU作為回歸優化loss,CIOU是其中非常優秀的一種想法。

CIOU將目標與anchor之間的距離,重疊率、尺度以及懲罰項都考慮進去,使得目標框回歸變得更加穩定,不會像IoU和GIoU一樣出現訓練過程中發散等問題。而懲罰因子把預測框長寬比擬合目標框的長寬比考慮進去。


CIOU公式如下
CIOU=IOU?ρ2(b,bgt)c2?αvCIOU = IOU - \frac{\rho^2(b,b^{gt})}{c^2} - \alpha v
CIOU=IOU??
c?
2
?
ρ?
2
?(b,b?
gt
?)
??? ?
??αv

其中,ρ2(b,bgt)\rho^2(b,b^{gt})ρ?
2
?(b,b?
gt
?)分別代表了預測框和真實框的中心點的歐式距離。 c代表的是能夠同時包含預測框和真實框的最小閉包區域的對角線距離。

而α\alphaα和vvv的公式如下
α=v1?IOU+v\alpha = \frac{v}{1-IOU+v}
α=?
1?IOU+v
v
??? ?
?

v=4π2(arctanwgthgt?arctanwh)2v = \frac{4}{\pi ^2}(arctan\frac{w^{gt}}{h^{gt}}-arctan\frac{w}{h})^2
v=?
π?
2
?
4
??? ?
?(arctan?
h?
gt
?
w?
gt
?
??? ?
??arctan?
h
w
??? ?
?)?
2
?

把1-CIOU就可以得到相應的LOSS了。
LOSSCIOU=1?IOU+ρ2(b,bgt)c2+αvLOSS_{CIOU} = 1 - IOU + \frac{\rho^2(b,b^{gt})}{c^2} + \alpha v
LOSS?
CIOU
??? ?
?=1?IOU+?
c?
2
?
ρ?
2
?(b,b?
gt
?)
??? ?
?+αv

def box_ciou(b1, b2):
? ? """
? ? 輸入為:
? ? ----------
? ? b1: tensor, shape=(batch, feat_w, feat_h, anchor_num, 4), xywh
? ? b2: tensor, shape=(batch, feat_w, feat_h, anchor_num, 4), xywh

? ? 返回為:
? ? -------
? ? ciou: tensor, shape=(batch, feat_w, feat_h, anchor_num, 1)
? ? """
? ? # 求出預測框左上角右下角
? ? b1_xy = b1[..., :2]
? ? b1_wh = b1[..., 2:4]
? ? b1_wh_half = b1_wh/2.
? ? b1_mins = b1_xy - b1_wh_half
? ? b1_maxes = b1_xy + b1_wh_half
? ? # 求出真實框左上角右下角
? ? b2_xy = b2[..., :2]
? ? b2_wh = b2[..., 2:4]
? ? b2_wh_half = b2_wh/2.
? ? b2_mins = b2_xy - b2_wh_half
? ? b2_maxes = b2_xy + b2_wh_half

? ? # 求真實框和預測框所有的iou
? ? intersect_mins = K.maximum(b1_mins, b2_mins)
? ? intersect_maxes = K.minimum(b1_maxes, b2_maxes)
? ? intersect_wh = K.maximum(intersect_maxes - intersect_mins, 0.)
? ? intersect_area = intersect_wh[..., 0] * intersect_wh[..., 1]
? ? b1_area = b1_wh[..., 0] * b1_wh[..., 1]
? ? b2_area = b2_wh[..., 0] * b2_wh[..., 1]
? ? union_area = b1_area + b2_area - intersect_area
? ? iou = intersect_area / (union_area + K.epsilon())

? ? # 計算中心的差距
? ? center_distance = K.sum(K.square(b1_xy - b2_xy), axis=-1)
? ? # 找到包裹兩個框的最小框的左上角和右下角
? ? enclose_mins = K.minimum(b1_mins, b2_mins)
? ? enclose_maxes = K.maximum(b1_maxes, b2_maxes)
? ? enclose_wh = K.maximum(enclose_maxes - enclose_mins, 0.0)
? ? # 計算對角線距離
? ? enclose_diagonal = K.sum(K.square(enclose_wh), axis=-1)
? ? # calculate ciou, add epsilon in denominator to avoid dividing by 0
? ? ciou = iou - 1.0 * (center_distance) / (enclose_diagonal + K.epsilon())

? ? # calculate param v and alpha to extend to CIoU
? ? v = 4*K.square(tf.math.atan2(b1_wh[..., 0], b1_wh[..., 1]) - tf.math.atan2(b2_wh[..., 0], b2_wh[..., 1])) / (math.pi * math.pi)
? ? alpha = v / (1.0 - iou + v)
? ? ciou = ciou - alpha * v

? ? ciou = K.expand_dims(ciou, -1)
? ? return ciou
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
d)、學習率余弦退火衰減
余弦退火衰減法,學習率會先上升再下降,這是退火優化法的思想。(關于什么是退火算法可以百度。)

上升的時候使用線性上升,下降的時候模擬cos函數下降。

效果如圖所示:

余弦退火衰減有幾個比較必要的參數:
1、learning_rate_base:學習率最高值。
2、warmup_learning_rate:最開始的學習率。
3、warmup_steps:多少步長后到達頂峰值。

實現方式如下,利用Callback實現,與普通的ReduceLROnPlateau調用方式類似:

import numpy as np
import matplotlib.pyplot as plt
import keras
from keras import backend as K
from keras.layers import Flatten,Conv2D,Dropout,Input,Dense,MaxPooling2D
from keras.models import Model

def cosine_decay_with_warmup(global_step,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ?learning_rate_base,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ?total_steps,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ?warmup_learning_rate=0.0,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ?warmup_steps=0,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ?hold_base_rate_steps=0,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ?min_learn_rate=0,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ?):
? ? """
? ? 參數:
? ? ? ? ? ? global_step: 上面定義的Tcur,記錄當前執行的步數。
? ? ? ? ? ? learning_rate_base:預先設置的學習率,當warm_up階段學習率增加到learning_rate_base,就開始學習率下降。
? ? ? ? ? ? total_steps: 是總的訓練的步數,等于epoch*sample_count/batch_size,(sample_count是樣本總數,epoch是總的循環次數)
? ? ? ? ? ? warmup_learning_rate: 這是warm up階段線性增長的初始值
? ? ? ? ? ? warmup_steps: warm_up總的需要持續的步數
? ? ? ? ? ? hold_base_rate_steps: 這是可選的參數,即當warm up階段結束后保持學習率不變,知道hold_base_rate_steps結束后才開始學習率下降
? ? """
? ? if total_steps < warmup_steps:
? ? ? ? raise ValueError('total_steps must be larger or equal to '
? ? ? ? ? ? ? ? ? ? ? ? ? ? 'warmup_steps.')
? ? #這里實現了余弦退火的原理,設置學習率的最小值為0,所以簡化了表達式
? ? learning_rate = 0.5 * learning_rate_base * (1 + np.cos(np.pi *
? ? ? ? (global_step - warmup_steps - hold_base_rate_steps) / float(total_steps - warmup_steps - hold_base_rate_steps)))
? ? #如果hold_base_rate_steps大于0,表明在warm up結束后學習率在一定步數內保持不變
? ? if hold_base_rate_steps > 0:
? ? ? ? learning_rate = np.where(global_step > warmup_steps + hold_base_rate_steps,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? learning_rate, learning_rate_base)
? ? if warmup_steps > 0:
? ? ? ? if learning_rate_base < warmup_learning_rate:
? ? ? ? ? ? raise ValueError('learning_rate_base must be larger or equal to '
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 'warmup_learning_rate.')
? ? ? ? #線性增長的實現
? ? ? ? slope = (learning_rate_base - warmup_learning_rate) / warmup_steps
? ? ? ? warmup_rate = slope * global_step + warmup_learning_rate
? ? ? ? #只有當global_step 仍然處于warm up階段才會使用線性增長的學習率warmup_rate,否則使用余弦退火的學習率learning_rate
? ? ? ? learning_rate = np.where(global_step < warmup_steps, warmup_rate,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? learning_rate)

? ? learning_rate = max(learning_rate,min_learn_rate)
? ? return learning_rate


class WarmUpCosineDecayScheduler(keras.callbacks.Callback):
? ? """
? ? 繼承Callback,實現對學習率的調度
? ? """
? ? def __init__(self,
? ? ? ? ? ? ? ? ?learning_rate_base,
? ? ? ? ? ? ? ? ?total_steps,
? ? ? ? ? ? ? ? ?global_step_init=0,
? ? ? ? ? ? ? ? ?warmup_learning_rate=0.0,
? ? ? ? ? ? ? ? ?warmup_steps=0,
? ? ? ? ? ? ? ? ?hold_base_rate_steps=0,
? ? ? ? ? ? ? ? ?min_learn_rate=0,
? ? ? ? ? ? ? ? ?verbose=0):
? ? ? ? super(WarmUpCosineDecayScheduler, self).__init__()
? ? ? ? # 基礎的學習率
? ? ? ? self.learning_rate_base = learning_rate_base
? ? ? ? # 總共的步數,訓練完所有世代的步數epochs * sample_count / batch_size
? ? ? ? self.total_steps = total_steps
? ? ? ? # 全局初始化step
? ? ? ? self.global_step = global_step_init
? ? ? ? # 熱調整參數
? ? ? ? self.warmup_learning_rate = warmup_learning_rate
? ? ? ? # 熱調整步長,warmup_epoch * sample_count / batch_size
? ? ? ? self.warmup_steps = warmup_steps
? ? ? ? self.hold_base_rate_steps = hold_base_rate_steps
? ? ? ? # 參數顯示 ?
? ? ? ? self.verbose = verbose
? ? ? ? # learning_rates用于記錄每次更新后的學習率,方便圖形化觀察
? ? ? ? self.min_learn_rate = min_learn_rate
? ? ? ? self.learning_rates = []
?? ?#更新global_step,并記錄當前學習率
? ? def on_batch_end(self, batch, logs=None):
? ? ? ? self.global_step = self.global_step + 1
? ? ? ? lr = K.get_value(self.model.optimizer.lr)
? ? ? ? self.learning_rates.append(lr)
?? ?#更新學習率
? ? def on_batch_begin(self, batch, logs=None):
? ? ? ? lr = cosine_decay_with_warmup(global_step=self.global_step,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? learning_rate_base=self.learning_rate_base,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? total_steps=self.total_steps,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? warmup_learning_rate=self.warmup_learning_rate,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? warmup_steps=self.warmup_steps,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? hold_base_rate_steps=self.hold_base_rate_steps,
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? min_learn_rate = self.min_learn_rate)
? ? ? ? K.set_value(self.model.optimizer.lr, lr)
? ? ? ? if self.verbose > 0:
? ? ? ? ? ? print('\nBatch %05d: setting learning '
? ? ? ? ? ? ? ? ? 'rate to %s.' % (self.global_step + 1, lr))
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
2、loss組成
a)、計算loss所需參數
在計算loss的時候,實際上是y_pre和y_true之間的對比:
y_pre就是一幅圖像經過網絡之后的輸出,內部含有三個特征層的內容;其需要解碼才能夠在圖上作畫
y_true就是一個真實圖像中,它的每個真實框對應的(19,19)、(38,38)、(76,76)網格上的偏移位置、長寬與種類。其仍需要編碼才能與y_pred的結構一致
實際上y_pre和y_true內容的shape都是
(batch_size,19,19,3,85)
(batch_size,38,38,3,85)
(batch_size,76,76,3,85)

b)、y_pre是什么
網絡最后輸出的內容就是三個特征層每個網格點對應的預測框及其種類,即三個特征層分別對應著圖片被分為不同size的網格后,每個網格點上三個先驗框對應的位置、置信度及其種類。
對于輸出的y1、y2、y3而言,[…, : 2]指的是相對于每個網格點的偏移量,[…, 2: 4]指的是寬和高,[…, 4: 5]指的是該框的置信度,[…, 5: ]指的是每個種類的預測概率。
現在的y_pre還是沒有解碼的,解碼了之后才是真實圖像上的情況。

c)、y_true是什么。
y_true就是一個真實圖像中,它的每個真實框對應的(19,19)、(38,38)、(76,76)網格上的偏移位置、長寬與種類。其仍需要編碼才能與y_pred的結構一致
在yolo4中,其使用了一個專門的函數用于處理讀取進來的圖片的框的真實情況。

def preprocess_true_boxes(true_boxes, input_shape, anchors, num_classes):
1
其輸入為:
true_boxes:shape為(m, T, 5)代表m張圖T個框的x_min、y_min、x_max、y_max、class_id。
input_shape:輸入的形狀,此處為608、608
anchors:代表9個先驗框的大小
num_classes:種類的數量。
其實對真實框的處理是將真實框轉化成圖片中相對網格的xyhw,步驟如下:
1、取框的真實值,獲取其框的中心及其寬高,除去input_shape變成比例的模式。
2、建立全為0的y_true,y_true是一個列表,包含三個特征層,shape分別為(batch_size,19,19,3,85)、(batch_size,38,38,3,85)、(batch_size,76,76,3,85)。
3、對每一張圖片處理,將每一張圖片中的真實框的wh和先驗框的wh對比,計算IOU值,選取其中IOU最高的一個,得到其所屬特征層及其網格點的位置,在對應的y_true中將內容進行保存。

for t, n in enumerate(best_anchor):
? ? for l in range(num_layers):
? ? ? ? if n in anchor_mask[l]:

? ? ? ? ? ? # 計算該目標在第l個特征層所處網格的位置
? ? ? ? ? ? i = np.floor(true_boxes[b,t,0]*grid_shapes[l][1]).astype('int32')
? ? ? ? ? ? j = np.floor(true_boxes[b,t,1]*grid_shapes[l][0]).astype('int32')

? ? ? ? ? ? # 找到best_anchor索引的索引
? ? ? ? ? ? k = anchor_mask[l].index(n)
? ? ? ? ? ? c = true_boxes[b,t, 4].astype('int32')
? ? ? ? ? ??
? ? ? ? ? ? # 保存到y_true中
? ? ? ? ? ? y_true[l][b, j, i, k, 0:4] = true_boxes[b,t, 0:4]
? ? ? ? ? ? y_true[l][b, j, i, k, 4] = 1
? ? ? ? ? ? y_true[l][b, j, i, k, 5+c] = 1
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
對于最后輸出的y_true而言,只有每個圖里每個框最對應的位置有數據,其它的地方都為0。
preprocess_true_boxes全部的代碼如下:

#---------------------------------------------------#
# ? 讀入xml文件,并輸出y_true
#---------------------------------------------------#
def preprocess_true_boxes(true_boxes, input_shape, anchors, num_classes):
? ? assert (true_boxes[..., 4]<num_classes).all(), 'class id must be less than num_classes'
? ? # 一共有三個特征層數
? ? num_layers = len(anchors)//3
? ? # 先驗框
? ? # 678為116,90, ?156,198, ?373,326
? ? # 345為30,61, ?62,45, ?59,119
? ? # 012為10,13, ?16,30, ?33,23, ?
? ? anchor_mask = [[6,7,8], [3,4,5], [0,1,2]] if num_layers==3 else [[3,4,5], [1,2,3]]

? ? true_boxes = np.array(true_boxes, dtype='float32')
? ? input_shape = np.array(input_shape, dtype='int32') # 416,416
? ? # 讀出xy軸,讀出長寬
? ? # 中心點(m,n,2)
? ? boxes_xy = (true_boxes[..., 0:2] + true_boxes[..., 2:4]) // 2
? ? boxes_wh = true_boxes[..., 2:4] - true_boxes[..., 0:2]
? ? # 計算比例
? ? true_boxes[..., 0:2] = boxes_xy/input_shape[:]
? ? true_boxes[..., 2:4] = boxes_wh/input_shape[:]

? ? # m張圖
? ? m = true_boxes.shape[0]
? ? # 得到網格的shape為19,19;38,38;76,76
? ? grid_shapes = [input_shape//{0:32, 1:16, 2:8}[l] for l in range(num_layers)]
? ? # y_true的格式為(m,19,19,3,85)(m,38,38,3,85)(m,76,76,3,85)
? ? y_true = [np.zeros((m,grid_shapes[l][0],grid_shapes[l][1],len(anchor_mask[l]),5+num_classes),
? ? ? ? dtype='float32') for l in range(num_layers)]
? ? # [1,9,2]
? ? anchors = np.expand_dims(anchors, 0)
? ? anchor_maxes = anchors / 2.
? ? anchor_mins = -anchor_maxes
? ? # 長寬要大于0才有效
? ? valid_mask = boxes_wh[..., 0]>0

? ? for b in range(m):
? ? ? ? # 對每一張圖進行處理
? ? ? ? wh = boxes_wh[b, valid_mask[b]]
? ? ? ? if len(wh)==0: continue
? ? ? ? # [n,1,2]
? ? ? ? wh = np.expand_dims(wh, -2)
? ? ? ? box_maxes = wh / 2.
? ? ? ? box_mins = -box_maxes

? ? ? ? # 計算真實框和哪個先驗框最契合
? ? ? ? intersect_mins = np.maximum(box_mins, anchor_mins)
? ? ? ? intersect_maxes = np.minimum(box_maxes, anchor_maxes)
? ? ? ? intersect_wh = np.maximum(intersect_maxes - intersect_mins, 0.)
? ? ? ? intersect_area = intersect_wh[..., 0] * intersect_wh[..., 1]
? ? ? ? box_area = wh[..., 0] * wh[..., 1]
? ? ? ? anchor_area = anchors[..., 0] * anchors[..., 1]
? ? ? ? iou = intersect_area / (box_area + anchor_area - intersect_area)
? ? ? ? # 維度是(n) 感謝 消盡不死鳥 的提醒
? ? ? ? best_anchor = np.argmax(iou, axis=-1)

? ? ? ? for t, n in enumerate(best_anchor):
? ? ? ? ? ? for l in range(num_layers):
? ? ? ? ? ? ? ? if n in anchor_mask[l]:
? ? ? ? ? ? ? ? ? ? # floor用于向下取整
? ? ? ? ? ? ? ? ? ? i = np.floor(true_boxes[b,t,0]*grid_shapes[l][1]).astype('int32')
? ? ? ? ? ? ? ? ? ? j = np.floor(true_boxes[b,t,1]*grid_shapes[l][0]).astype('int32')
? ? ? ? ? ? ? ? ? ? # 找到真實框在特征層l中第b副圖像對應的位置
? ? ? ? ? ? ? ? ? ? k = anchor_mask[l].index(n)
? ? ? ? ? ? ? ? ? ? c = true_boxes[b,t, 4].astype('int32')
? ? ? ? ? ? ? ? ? ? y_true[l][b, j, i, k, 0:4] = true_boxes[b,t, 0:4]
? ? ? ? ? ? ? ? ? ? y_true[l][b, j, i, k, 4] = 1
? ? ? ? ? ? ? ? ? ? y_true[l][b, j, i, k, 5+c] = 1

? ? return y_true
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
d)、loss的計算過程
在得到了y_pre和y_true后怎么對比呢?不是簡單的減一下!

loss值需要對三個特征層進行處理,這里以最小的特征層為例。
1、利用y_true取出該特征層中真實存在目標的點的位置(m,19,19,3,1)及其對應的種類(m,19,19,3,80)。
2、將yolo_outputs的預測值輸出進行處理,得到reshape后的預測值y_pre,shape為(m,19,19,3,85)。還有解碼后的xy,wh。
3、對于每一幅圖,計算其中所有真實框與預測框的IOU,如果某些預測框和真實框的重合程度大于0.5,則忽略。
4、計算ciou作為回歸的loss,這里只計算正樣本的回歸loss。
5、計算置信度的loss,其有兩部分構成,第一部分是實際上存在目標的,預測結果中置信度的值與1對比;第二部分是實際上不存在目標的,在第四步中得到其最大IOU的值與0對比。
6、計算預測種類的loss,其計算的是實際上存在目標的,預測類與真實類的差距。

其實際上計算的總的loss是三個loss的和,這三個loss分別是:

實際存在的框,CIOU LOSS。
實際存在的框,預測結果中置信度的值與1對比;實際不存在的框,在上述步驟中,在第四步中得到其最大IOU的值與0對比。
實際存在的框,種類預測結果與實際結果的對比。
其實際代碼如下,使用yolo_loss就可以獲得loss值:

#---------------------------------------------------#
# ? 平滑標簽
#---------------------------------------------------#
def _smooth_labels(y_true, label_smoothing):
? ? num_classes = K.shape(y_true)[-1],
? ? label_smoothing = K.constant(label_smoothing, dtype=K.floatx())
? ? return y_true * (1.0 - label_smoothing) + label_smoothing / num_classes
#---------------------------------------------------#
# ? 將預測值的每個特征層調成真實值
#---------------------------------------------------#
def yolo_head(feats, anchors, num_classes, input_shape, calc_loss=False):
? ? num_anchors = len(anchors)
? ? # [1, 1, 1, num_anchors, 2]
? ? anchors_tensor = K.reshape(K.constant(anchors), [1, 1, 1, num_anchors, 2])

? ? # 獲得x,y的網格
? ? # (19,19, 1, 2)
? ? grid_shape = K.shape(feats)[1:3] # height, width
? ? grid_y = K.tile(K.reshape(K.arange(0, stop=grid_shape[0]), [-1, 1, 1, 1]),
? ? ? ? [1, grid_shape[1], 1, 1])
? ? grid_x = K.tile(K.reshape(K.arange(0, stop=grid_shape[1]), [1, -1, 1, 1]),
? ? ? ? [grid_shape[0], 1, 1, 1])
? ? grid = K.concatenate([grid_x, grid_y])
? ? grid = K.cast(grid, K.dtype(feats))

? ? # (batch_size,19,19,3,85)
? ? feats = K.reshape(feats, [-1, grid_shape[0], grid_shape[1], num_anchors, num_classes + 5])

? ? # 將預測值調成真實值
? ? # box_xy對應框的中心點
? ? # box_wh對應框的寬和高
? ? box_xy = (K.sigmoid(feats[..., :2]) + grid) / K.cast(grid_shape[::-1], K.dtype(feats))
? ? box_wh = K.exp(feats[..., 2:4]) * anchors_tensor / K.cast(input_shape[::-1], K.dtype(feats))
? ? box_confidence = K.sigmoid(feats[..., 4:5])
? ? box_class_probs = K.sigmoid(feats[..., 5:])

? ? # 在計算loss的時候返回如下參數
? ? if calc_loss == True:
? ? ? ? return grid, feats, box_xy, box_wh
? ? return box_xy, box_wh, box_confidence, box_class_probs

#---------------------------------------------------#
# ? 用于計算每個預測框與真實框的iou
#---------------------------------------------------#
def box_iou(b1, b2):
? ? # 19,19,3,1,4
? ? # 計算左上角的坐標和右下角的坐標
? ? b1 = K.expand_dims(b1, -2)
? ? b1_xy = b1[..., :2]
? ? b1_wh = b1[..., 2:4]
? ? b1_wh_half = b1_wh/2.
? ? b1_mins = b1_xy - b1_wh_half
? ? b1_maxes = b1_xy + b1_wh_half

? ? # 1,n,4
? ? # 計算左上角和右下角的坐標
? ? b2 = K.expand_dims(b2, 0)
? ? b2_xy = b2[..., :2]
? ? b2_wh = b2[..., 2:4]
? ? b2_wh_half = b2_wh/2.
? ? b2_mins = b2_xy - b2_wh_half
? ? b2_maxes = b2_xy + b2_wh_half

? ? # 計算重合面積
? ? intersect_mins = K.maximum(b1_mins, b2_mins)
? ? intersect_maxes = K.minimum(b1_maxes, b2_maxes)
? ? intersect_wh = K.maximum(intersect_maxes - intersect_mins, 0.)
? ? intersect_area = intersect_wh[..., 0] * intersect_wh[..., 1]
? ? b1_area = b1_wh[..., 0] * b1_wh[..., 1]
? ? b2_area = b2_wh[..., 0] * b2_wh[..., 1]
? ? iou = intersect_area / (b1_area + b2_area - intersect_area)

? ? return iou

#---------------------------------------------------#
# ? loss值計算
#---------------------------------------------------#
def yolo_loss(args, anchors, num_classes, ignore_thresh=.5, label_smoothing=0.1, print_loss=False):

? ? # 一共有三層
? ? num_layers = len(anchors)//3?

? ? # 將預測結果和實際ground truth分開,args是[*model_body.output, *y_true]
? ? # y_true是一個列表,包含三個特征層,shape分別為(m,19,19,3,85),(m,38,38,3,85),(m,76,76,3,85)。
? ? # yolo_outputs是一個列表,包含三個特征層,shape分別為(m,19,19,3,85),(m,38,38,3,85),(m,76,76,3,85)。
? ? y_true = args[num_layers:]
? ? yolo_outputs = args[:num_layers]

? ? # 先驗框
? ? # 678為116,90, ?156,198, ?373,326
? ? # 345為30,61, ?62,45, ?59,119
? ? # 012為10,13, ?16,30, ?33,23, ?
? ? anchor_mask = [[6,7,8], [3,4,5], [0,1,2]] if num_layers==3 else [[3,4,5], [1,2,3]]

? ? # 得到input_shpae為608,608?
? ? input_shape = K.cast(K.shape(yolo_outputs[0])[1:3] * 32, K.dtype(y_true[0]))

? ? loss = 0

? ? # 取出每一張圖片
? ? # m的值就是batch_size
? ? m = K.shape(yolo_outputs[0])[0]
? ? mf = K.cast(m, K.dtype(yolo_outputs[0]))

? ? # y_true是一個列表,包含三個特征層,shape分別為(m,19,19,3,85),(m,38,38,3,85),(m,76,76,3,85)。
? ? # yolo_outputs是一個列表,包含三個特征層,shape分別為(m,19,19,3,85),(m,38,38,3,85),(m,76,76,3,85)。
? ? for l in range(num_layers):
? ? ? ? # 以第一個特征層(m,19,19,3,85)為例子
? ? ? ? # 取出該特征層中存在目標的點的位置。(m,19,19,3,1)
? ? ? ? object_mask = y_true[l][..., 4:5]
? ? ? ? # 取出其對應的種類(m,19,19,3,80)
? ? ? ? true_class_probs = y_true[l][..., 5:]
? ? ? ? if label_smoothing:
? ? ? ? ? ? true_class_probs = _smooth_labels(true_class_probs, label_smoothing)

? ? ? ? # 將yolo_outputs的特征層輸出進行處理
? ? ? ? # grid為網格結構(19,19,1,2),raw_pred為尚未處理的預測結果(m,19,19,3,85)
? ? ? ? # 還有解碼后的xy,wh,(m,19,19,3,2)
? ? ? ? grid, raw_pred, pred_xy, pred_wh = yolo_head(yolo_outputs[l],
? ? ? ? ? ? ?anchors[anchor_mask[l]], num_classes, input_shape, calc_loss=True)
? ? ? ??
? ? ? ? # 這個是解碼后的預測的box的位置
? ? ? ? # (m,19,19,3,4)
? ? ? ? pred_box = K.concatenate([pred_xy, pred_wh])

? ? ? ? # 找到負樣本群組,第一步是創建一個數組,[]
? ? ? ? ignore_mask = tf.TensorArray(K.dtype(y_true[0]), size=1, dynamic_size=True)
? ? ? ? object_mask_bool = K.cast(object_mask, 'bool')
? ? ? ??
? ? ? ? # 對每一張圖片計算ignore_mask
? ? ? ? def loop_body(b, ignore_mask):
? ? ? ? ? ? # 取出第b副圖內,真實存在的所有的box的參數
? ? ? ? ? ? # n,4
? ? ? ? ? ? true_box = tf.boolean_mask(y_true[l][b,...,0:4], object_mask_bool[b,...,0])
? ? ? ? ? ? # 計算預測結果與真實情況的iou
? ? ? ? ? ? # pred_box為19,19,3,4
? ? ? ? ? ? # 計算的結果是每個pred_box和其它所有真實框的iou
? ? ? ? ? ? # 19,19,3,n
? ? ? ? ? ? iou = box_iou(pred_box[b], true_box)

? ? ? ? ? ? # 19,19,3,1
? ? ? ? ? ? best_iou = K.max(iou, axis=-1)

? ? ? ? ? ? # 如果某些預測框和真實框的重合程度大于0.5,則忽略。
? ? ? ? ? ? ignore_mask = ignore_mask.write(b, K.cast(best_iou<ignore_thresh, K.dtype(true_box)))
? ? ? ? ? ? return b+1, ignore_mask

? ? ? ? # 遍歷所有的圖片
? ? ? ? _, ignore_mask = K.control_flow_ops.while_loop(lambda b,*args: b<m, loop_body, [0, ignore_mask])

? ? ? ? # 將每幅圖的內容壓縮,進行處理
? ? ? ? ignore_mask = ignore_mask.stack()
? ? ? ? #(m,19,19,3,1,1)
? ? ? ? ignore_mask = K.expand_dims(ignore_mask, -1)

? ? ? ? box_loss_scale = 2 - y_true[l][...,2:3]*y_true[l][...,3:4]

? ? ? ? # Calculate ciou loss as location loss
? ? ? ? raw_true_box = y_true[l][...,0:4]
? ? ? ? ciou = box_ciou(pred_box, raw_true_box)
? ? ? ? ciou_loss = object_mask * box_loss_scale * (1 - ciou)
? ? ? ? ciou_loss = K.sum(ciou_loss) / mf
? ? ? ? location_loss = ciou_loss
? ? ? ??
? ? ? ? # 如果該位置本來有框,那么計算1與置信度的交叉熵
? ? ? ? # 如果該位置本來沒有框,而且滿足best_iou<ignore_thresh,則被認定為負樣本
? ? ? ? # best_iou<ignore_thresh用于限制負樣本數量
? ? ? ? confidence_loss = object_mask * K.binary_crossentropy(object_mask, raw_pred[...,4:5], from_logits=True)+ \
? ? ? ? ? ? (1-object_mask) * K.binary_crossentropy(object_mask, raw_pred[...,4:5], from_logits=True) * ignore_mask
? ? ? ??
? ? ? ? class_loss = object_mask * K.binary_crossentropy(true_class_probs, raw_pred[...,5:], from_logits=True)

? ? ? ? confidence_loss = K.sum(confidence_loss) / mf
? ? ? ? class_loss = K.sum(class_loss) / mf
? ? ? ? loss += location_loss + confidence_loss + class_loss
? ? ? ? if print_loss:
? ? ? ? ? ? loss = tf.Print(loss, [loss, location_loss, confidence_loss, class_loss, K.sum(ignore_mask)], message='loss: ')
? ? return loss
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
訓練自己的YOLOV4模型
yolo4整體的文件夾構架如下:

本文使用VOC格式進行訓練。
訓練前將標簽文件放在VOCdevkit文件夾下的VOC2007文件夾下的Annotation中。

訓練前將圖片文件放在VOCdevkit文件夾下的VOC2007文件夾下的JPEGImages中。

在訓練前利用voc2yolo3.py文件生成對應的txt。

再運行根目錄下的voc_annotation.py,運行前需要將classes改成你自己的classes。

classes = ["aeroplane", "bicycle", "bird", "boat", "bottle", "bus", "car", "cat", "chair", "cow", "diningtable", "dog", "horse", "motorbike", "person", "pottedplant", "sheep", "sofa", "train", "tvmonitor"]
1

就會生成對應的2007_train.txt,每一行對應其圖片位置及其真實框的位置。

在訓練前需要修改model_data里面的voc_classes.txt文件,需要將classes改成你自己的classes。

運行train.py即可開始訓練。

?

《新程序員》:云原生和全面數字化實踐50位技術專家共同創作,文字、視頻、音頻交互閱讀

總結

以上是生活随笔為你收集整理的Keras搭建YoloV4目标检测平台的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

久久久精品国产sm最大网站 | 无套内射视频囯产 | 免费人成在线视频无码 | 午夜肉伦伦影院 | 动漫av网站免费观看 | 永久免费精品精品永久-夜色 | 国产乱码精品一品二品 | 国产乡下妇女做爰 | 国产精华av午夜在线观看 | 伦伦影院午夜理论片 | 久久久久久久女国产乱让韩 | 国产精品视频免费播放 | 久久久精品成人免费观看 | 中文字幕精品av一区二区五区 | 少妇高潮一区二区三区99 | 狠狠色丁香久久婷婷综合五月 | 亚洲s色大片在线观看 | 久久国产自偷自偷免费一区调 | 中文字幕乱码人妻二区三区 | 捆绑白丝粉色jk震动捧喷白浆 | 久久精品国产99久久6动漫 | 精品午夜福利在线观看 | 久久久精品国产sm最大网站 | 国产两女互慰高潮视频在线观看 | 撕开奶罩揉吮奶头视频 | av无码电影一区二区三区 | 亚洲s色大片在线观看 | 亚洲熟妇色xxxxx欧美老妇y | 激情综合激情五月俺也去 | 玩弄少妇高潮ⅹxxxyw | 久久99久久99精品中文字幕 | 亚洲一区二区三区四区 | 亚洲狠狠婷婷综合久久 | 老子影院午夜伦不卡 | 亚洲精品久久久久久久久久久 | 亚洲精品一区二区三区在线观看 | 奇米综合四色77777久久 东京无码熟妇人妻av在线网址 | 国产乱人伦av在线无码 | 综合网日日天干夜夜久久 | 亚洲欧美综合区丁香五月小说 | 人妻无码αv中文字幕久久琪琪布 | 人妻少妇精品无码专区二区 | 国产激情艳情在线看视频 | 天堂久久天堂av色综合 | 久久国产劲爆∧v内射 | 日本在线高清不卡免费播放 | 午夜性刺激在线视频免费 | 婷婷六月久久综合丁香 | 激情五月综合色婷婷一区二区 | 亚洲午夜久久久影院 | 人妻少妇精品视频专区 | 国产一区二区不卡老阿姨 | 欧美日本免费一区二区三区 | 婷婷五月综合缴情在线视频 | www国产精品内射老师 | 给我免费的视频在线观看 | 99久久久无码国产aaa精品 | 高潮毛片无遮挡高清免费 | 亚洲日韩中文字幕在线播放 | 成人欧美一区二区三区黑人免费 | 亚洲综合无码一区二区三区 | 老熟妇仑乱视频一区二区 | 亚洲自偷自拍另类第1页 | 无码人妻黑人中文字幕 | 国产成人久久精品流白浆 | 国产精华av午夜在线观看 | 国产免费无码一区二区视频 | 免费乱码人妻系列无码专区 | 永久免费观看国产裸体美女 | 强辱丰满人妻hd中文字幕 | 亚洲精品国产第一综合99久久 | 亚洲国产高清在线观看视频 | 亚洲国产成人av在线观看 | 激情综合激情五月俺也去 | 国产人成高清在线视频99最全资源 | 久久人人爽人人爽人人片av高清 | 老子影院午夜精品无码 | 久久久久久亚洲精品a片成人 | 国产suv精品一区二区五 | 98国产精品综合一区二区三区 | 色一情一乱一伦 | 国产亚洲人成a在线v网站 | 色诱久久久久综合网ywww | 久久午夜夜伦鲁鲁片无码免费 | 蜜桃av抽搐高潮一区二区 | 爱做久久久久久 | 久久这里只有精品视频9 | 午夜精品久久久久久久久 | 亚洲一区av无码专区在线观看 | 久久国内精品自在自线 | 4hu四虎永久在线观看 | 桃花色综合影院 | 亚洲一区二区三区偷拍女厕 | 亚洲精品无码人妻无码 | 狠狠躁日日躁夜夜躁2020 | 亚洲日本在线电影 | 国产亚洲精品久久久久久大师 | 久久久久99精品国产片 | 奇米影视7777久久精品 | 亚洲一区二区三区偷拍女厕 | 亚洲国产精品久久久天堂 | 清纯唯美经典一区二区 | 国产美女精品一区二区三区 | 99国产精品白浆在线观看免费 | 老太婆性杂交欧美肥老太 | 欧美 亚洲 国产 另类 | 人人澡人摸人人添 | 性欧美熟妇videofreesex | 亚洲一区av无码专区在线观看 | 欧美大屁股xxxxhd黑色 | 国产做国产爱免费视频 | 波多野结衣av在线观看 | 久久亚洲精品中文字幕无男同 | 无人区乱码一区二区三区 | 久久久久久久久888 | 偷窥村妇洗澡毛毛多 | 熟女俱乐部五十路六十路av | 国产色在线 | 国产 | 十八禁视频网站在线观看 | 亚洲日本一区二区三区在线 | 强奷人妻日本中文字幕 | 成人一在线视频日韩国产 | 国产9 9在线 | 中文 | 久久视频在线观看精品 | 无遮挡啪啪摇乳动态图 | 亚洲国产日韩a在线播放 | 国产免费久久久久久无码 | 成人影院yy111111在线观看 | 国产亚洲精品精品国产亚洲综合 | 国产人妻久久精品二区三区老狼 | 扒开双腿吃奶呻吟做受视频 | 一区二区三区乱码在线 | 欧洲 | 国产av久久久久精东av | 成人无码精品一区二区三区 | 成 人 免费观看网站 | 呦交小u女精品视频 | 麻豆精品国产精华精华液好用吗 | 亚洲一区二区三区无码久久 | 国产香蕉尹人视频在线 | 狠狠cao日日穞夜夜穞av | 欧美阿v高清资源不卡在线播放 | 婷婷综合久久中文字幕蜜桃三电影 | 国产人成高清在线视频99最全资源 | 欧美freesex黑人又粗又大 | 成人欧美一区二区三区 | 色偷偷人人澡人人爽人人模 | 水蜜桃av无码 | 天堂一区人妻无码 | 中文字幕乱码人妻无码久久 | 18禁黄网站男男禁片免费观看 | 色一情一乱一伦一视频免费看 | 亚洲 日韩 欧美 成人 在线观看 | 夜夜躁日日躁狠狠久久av | 99久久精品日本一区二区免费 | 性色欲网站人妻丰满中文久久不卡 | 亚洲国产精品无码久久久久高潮 | 亚洲精品www久久久 | 麻豆精品国产精华精华液好用吗 | 青春草在线视频免费观看 | 老头边吃奶边弄进去呻吟 | 欧美日韩精品 | 男女性色大片免费网站 | 美女毛片一区二区三区四区 | 少妇一晚三次一区二区三区 | 亚洲日本在线电影 | 亚洲精品一区二区三区四区五区 | 中文无码精品a∨在线观看不卡 | 任你躁国产自任一区二区三区 | 国产亚洲视频中文字幕97精品 | 免费无码午夜福利片69 | 成年美女黄网站色大免费全看 | 欧美黑人巨大xxxxx | 国产精品高潮呻吟av久久 | 中文字幕+乱码+中文字幕一区 | 欧美高清在线精品一区 | 久久午夜夜伦鲁鲁片无码免费 | 少妇性l交大片欧洲热妇乱xxx | 黑人巨大精品欧美一区二区 | 国产另类ts人妖一区二区 | 给我免费的视频在线观看 | 性色av无码免费一区二区三区 | 国精产品一区二区三区 | 亚洲人成网站在线播放942 | 丰满护士巨好爽好大乳 | 欧美人与物videos另类 | 国产av人人夜夜澡人人爽麻豆 | 中文字幕亚洲情99在线 | 国产在线aaa片一区二区99 | 乱人伦人妻中文字幕无码 | 激情亚洲一区国产精品 | 女人被男人躁得好爽免费视频 | 色诱久久久久综合网ywww | 国产深夜福利视频在线 | 精品日本一区二区三区在线观看 | 欧美第一黄网免费网站 | 日本精品久久久久中文字幕 | 男女下面进入的视频免费午夜 | 爱做久久久久久 | 日韩无套无码精品 | 国产人妻精品午夜福利免费 | 精品国产一区二区三区四区 | 欧美放荡的少妇 | 夜夜影院未满十八勿进 | 国产亚洲精品久久久闺蜜 | 久久久久亚洲精品男人的天堂 | 又大又硬又爽免费视频 | 亚洲精品午夜无码电影网 | 最新版天堂资源中文官网 | 国产偷国产偷精品高清尤物 | 亚洲gv猛男gv无码男同 | 中文字幕无码人妻少妇免费 | 正在播放老肥熟妇露脸 | 婷婷综合久久中文字幕蜜桃三电影 | 色狠狠av一区二区三区 | 55夜色66夜色国产精品视频 | 少妇无码吹潮 | 成年美女黄网站色大免费视频 | 77777熟女视频在线观看 а天堂中文在线官网 | 婷婷综合久久中文字幕蜜桃三电影 | 中文字幕 亚洲精品 第1页 | 久久久无码中文字幕久... | 亚洲成色在线综合网站 | 久久久av男人的天堂 | 国产美女极度色诱视频www | 5858s亚洲色大成网站www | 无码纯肉视频在线观看 | 又黄又爽又色的视频 | 精品 日韩 国产 欧美 视频 | 无码av免费一区二区三区试看 | 强伦人妻一区二区三区视频18 | 亚洲国产一区二区三区在线观看 | 色综合久久中文娱乐网 | 欧美精品无码一区二区三区 | 成人免费视频一区二区 | 中文字幕亚洲情99在线 | 领导边摸边吃奶边做爽在线观看 | av香港经典三级级 在线 | 亚洲精品久久久久avwww潮水 | 99精品无人区乱码1区2区3区 | 三级4级全黄60分钟 | 国产精品国产自线拍免费软件 | 国产精品无套呻吟在线 | 狠狠cao日日穞夜夜穞av | 中文字幕av无码一区二区三区电影 | 狠狠cao日日穞夜夜穞av | 免费乱码人妻系列无码专区 | 装睡被陌生人摸出水好爽 | 99久久99久久免费精品蜜桃 | 成在人线av无码免观看麻豆 | 波多野结衣av在线观看 | 国产热a欧美热a在线视频 | 亚洲中文字幕av在天堂 | 日本va欧美va欧美va精品 | 动漫av一区二区在线观看 | 天天躁日日躁狠狠躁免费麻豆 | 激情内射日本一区二区三区 | 国产特级毛片aaaaaa高潮流水 | 亚洲一区二区观看播放 | 亚洲中文字幕久久无码 | 一个人免费观看的www视频 | 久久www免费人成人片 | 日本一区二区三区免费高清 | 国产精品久久久久无码av色戒 | 国产在热线精品视频 | 久久精品中文闷骚内射 | 牲欲强的熟妇农村老妇女视频 | 蜜桃av抽搐高潮一区二区 | 高清国产亚洲精品自在久久 | 伊人久久大香线焦av综合影院 | 国内精品久久久久久中文字幕 | 国产农村妇女高潮大叫 | 国产av一区二区精品久久凹凸 | 亚洲成av人影院在线观看 | 国产人妻精品一区二区三区不卡 | 99riav国产精品视频 | 国内精品人妻无码久久久影院蜜桃 | 熟女体下毛毛黑森林 | 亚洲精品国偷拍自产在线观看蜜桃 | 亚洲人成网站在线播放942 | 国内精品九九久久久精品 | 中文毛片无遮挡高清免费 | 老太婆性杂交欧美肥老太 | 久久久久免费精品国产 | 久久精品中文闷骚内射 | 亚洲爆乳无码专区 | 强辱丰满人妻hd中文字幕 | 久久熟妇人妻午夜寂寞影院 | 无码毛片视频一区二区本码 | 免费视频欧美无人区码 | 亚洲男女内射在线播放 | 成人一在线视频日韩国产 | 四虎国产精品免费久久 | 日韩欧美成人免费观看 | a国产一区二区免费入口 | 久久 国产 尿 小便 嘘嘘 | 无码人中文字幕 | 精品国产福利一区二区 | 永久免费观看国产裸体美女 | 欧美35页视频在线观看 | 色综合久久久久综合一本到桃花网 | 日本护士毛茸茸高潮 | 国产精品久久久午夜夜伦鲁鲁 | 午夜免费福利小电影 | 日韩欧美群交p片內射中文 | 中文字幕av无码一区二区三区电影 | 少妇的肉体aa片免费 | 亚洲aⅴ无码成人网站国产app | 国产内射爽爽大片视频社区在线 | 成年女人永久免费看片 | 4hu四虎永久在线观看 | 大肉大捧一进一出好爽视频 | 国产亚洲精品久久久久久久久动漫 | 97资源共享在线视频 | 欧美野外疯狂做受xxxx高潮 | 无码国产乱人伦偷精品视频 | 国产人妻人伦精品1国产丝袜 | 亚洲色偷偷偷综合网 | 毛片内射-百度 | 扒开双腿吃奶呻吟做受视频 | 一本久久a久久精品亚洲 | 男人扒开女人内裤强吻桶进去 | 色婷婷av一区二区三区之红樱桃 | 国产精品怡红院永久免费 | 国产精品国产自线拍免费软件 | 人妻插b视频一区二区三区 | 熟女少妇人妻中文字幕 | 老头边吃奶边弄进去呻吟 | 欧美精品无码一区二区三区 | 国产高清不卡无码视频 | 性做久久久久久久久 | 免费观看又污又黄的网站 | 午夜无码区在线观看 | 精品久久8x国产免费观看 | 精品久久久无码中文字幕 | 国产婷婷色一区二区三区在线 | aa片在线观看视频在线播放 | 国产精品亚洲一区二区三区喷水 | 国产成人无码av片在线观看不卡 | 国产高潮视频在线观看 | 成人av无码一区二区三区 | 久久综合激激的五月天 | 激情国产av做激情国产爱 | 97色伦图片97综合影院 | 国产精品怡红院永久免费 | 亚洲国产成人a精品不卡在线 | 久久国产自偷自偷免费一区调 | 2020久久香蕉国产线看观看 | 小泽玛莉亚一区二区视频在线 | 国内少妇偷人精品视频 | 免费观看又污又黄的网站 | 在线观看国产午夜福利片 | 国内少妇偷人精品视频 | 无码毛片视频一区二区本码 | 国产人妻久久精品二区三区老狼 | 2019nv天堂香蕉在线观看 | 日本大乳高潮视频在线观看 | 玩弄人妻少妇500系列视频 | 蜜臀aⅴ国产精品久久久国产老师 | 亚洲精品一区三区三区在线观看 | 少妇性荡欲午夜性开放视频剧场 | 免费人成在线观看网站 | а天堂中文在线官网 | 人妻与老人中文字幕 | 给我免费的视频在线观看 | 国产 精品 自在自线 | 岛国片人妻三上悠亚 | 国产人成高清在线视频99最全资源 | 青春草在线视频免费观看 | 亚洲成熟女人毛毛耸耸多 | 亚洲成av人片天堂网无码】 | 国产农村妇女aaaaa视频 撕开奶罩揉吮奶头视频 | 精品无码一区二区三区的天堂 | 午夜福利试看120秒体验区 | 在线а√天堂中文官网 | 欧美刺激性大交 | 97无码免费人妻超级碰碰夜夜 | 欧洲精品码一区二区三区免费看 | 亚洲综合久久一区二区 | 国产真实乱对白精彩久久 | 国产精品久免费的黄网站 | 99re在线播放 | 久久综合久久自在自线精品自 | 国产综合久久久久鬼色 | 亚洲一区二区三区国产精华液 | 极品尤物被啪到呻吟喷水 | 99精品久久毛片a片 | 国产激情艳情在线看视频 | 国产又爽又猛又粗的视频a片 | 精品国产一区av天美传媒 | 国产人妻久久精品二区三区老狼 | 日韩少妇白浆无码系列 | 黄网在线观看免费网站 | 日本一区二区更新不卡 | 亚洲男女内射在线播放 | 啦啦啦www在线观看免费视频 | 两性色午夜免费视频 | 97精品人妻一区二区三区香蕉 | 亚洲熟妇色xxxxx欧美老妇 | 奇米影视7777久久精品人人爽 | 精品日本一区二区三区在线观看 | 老熟女乱子伦 | 四虎影视成人永久免费观看视频 | 99精品国产综合久久久久五月天 | 亚洲国产精品毛片av不卡在线 | 久久国产36精品色熟妇 | 99er热精品视频 | 乌克兰少妇xxxx做受 | 免费看少妇作爱视频 | 亚洲人成无码网www | 亚洲精品综合五月久久小说 | 久久久www成人免费毛片 | 天干天干啦夜天干天2017 | 国产精品美女久久久久av爽李琼 | 荫蒂添的好舒服视频囗交 | 国产精品自产拍在线观看 | 成熟人妻av无码专区 | 97色伦图片97综合影院 | 国产婷婷色一区二区三区在线 | 精品无码国产自产拍在线观看蜜 | 人人爽人人澡人人人妻 | 精品日本一区二区三区在线观看 | 久久精品人人做人人综合试看 | 午夜成人1000部免费视频 | 国产精品18久久久久久麻辣 | 国产精品久久国产三级国 | √天堂资源地址中文在线 | 精品少妇爆乳无码av无码专区 | 又色又爽又黄的美女裸体网站 | 麻豆精品国产精华精华液好用吗 | 亚洲欧美国产精品久久 | 色综合久久久无码网中文 | 在线观看免费人成视频 | 国产精品.xx视频.xxtv | 成熟妇人a片免费看网站 | 沈阳熟女露脸对白视频 | 婷婷五月综合缴情在线视频 | 国产麻豆精品一区二区三区v视界 | 日日橹狠狠爱欧美视频 | 精品国产一区二区三区四区在线看 | 国产明星裸体无码xxxx视频 | 中文字幕乱码人妻二区三区 | 国产麻豆精品精东影业av网站 | 亚洲最大成人网站 | 无码国产激情在线观看 | 久久精品人人做人人综合 | 日韩精品久久久肉伦网站 | 精品国产一区二区三区四区 | 亚洲狠狠色丁香婷婷综合 | 十八禁视频网站在线观看 | 少妇无码吹潮 | 亚洲精品国偷拍自产在线麻豆 | 蜜臀av在线播放 久久综合激激的五月天 | 熟女少妇人妻中文字幕 | 无码人妻丰满熟妇区毛片18 | 高清国产亚洲精品自在久久 | 中文字幕无码人妻少妇免费 | 国产又爽又黄又刺激的视频 | 一本久道高清无码视频 | 亚洲va欧美va天堂v国产综合 | 久久久久成人片免费观看蜜芽 | 国产成人精品久久亚洲高清不卡 | 成人无码视频免费播放 | 亚洲人交乣女bbw | 乱人伦中文视频在线观看 | 亚洲精品午夜无码电影网 | 国产av无码专区亚洲awww | 无码中文字幕色专区 | 色情久久久av熟女人妻网站 | 中文字幕人妻丝袜二区 | 99久久精品午夜一区二区 | 蜜桃视频插满18在线观看 | 亚洲 激情 小说 另类 欧美 | 色综合视频一区二区三区 | 青青久在线视频免费观看 | 青青草原综合久久大伊人精品 | 久久久久久久女国产乱让韩 | 精品国偷自产在线视频 | 四虎影视成人永久免费观看视频 | 国产区女主播在线观看 | 日本一卡2卡3卡4卡无卡免费网站 国产一区二区三区影院 | 免费无码肉片在线观看 | 日本高清一区免费中文视频 | 亚洲一区二区三区国产精华液 | 无码乱肉视频免费大全合集 | 久久无码专区国产精品s | 国产精品国产自线拍免费软件 | 国产精品毛片一区二区 | 小鲜肉自慰网站xnxx | 色偷偷人人澡人人爽人人模 | 国产激情无码一区二区app | 久精品国产欧美亚洲色aⅴ大片 | 亚洲小说图区综合在线 | 狠狠躁日日躁夜夜躁2020 | 国产香蕉尹人视频在线 | 帮老师解开蕾丝奶罩吸乳网站 | 亚洲色www成人永久网址 | 日本高清一区免费中文视频 | 无码av中文字幕免费放 | www国产精品内射老师 | 国产 浪潮av性色四虎 | 蜜桃av蜜臀av色欲av麻 999久久久国产精品消防器材 | 性色av无码免费一区二区三区 | 中文字幕无线码免费人妻 | 少妇无码一区二区二三区 | 大肉大捧一进一出好爽视频 | 国产猛烈高潮尖叫视频免费 | 亚洲va欧美va天堂v国产综合 | 无码av最新清无码专区吞精 | 日日麻批免费40分钟无码 | 青青青手机频在线观看 | 精品国产乱码久久久久乱码 | 丰满人妻一区二区三区免费视频 | 日本精品人妻无码免费大全 | 日韩精品久久久肉伦网站 | 国产亚洲人成a在线v网站 | 狠狠cao日日穞夜夜穞av | 国产手机在线αⅴ片无码观看 | 97色伦图片97综合影院 | 国产精品毛多多水多 | 精品久久久中文字幕人妻 | 国产精品美女久久久久av爽李琼 | 一本久久a久久精品vr综合 | 红桃av一区二区三区在线无码av | 久久精品成人欧美大片 | 欧美自拍另类欧美综合图片区 | 精品午夜福利在线观看 | 丝袜美腿亚洲一区二区 | 久久国内精品自在自线 | 麻豆果冻传媒2021精品传媒一区下载 | 天天av天天av天天透 | 欧美丰满熟妇xxxx性ppx人交 | 九九久久精品国产免费看小说 | 日本熟妇人妻xxxxx人hd | 精品亚洲韩国一区二区三区 | 国产区女主播在线观看 | 日韩欧美中文字幕公布 | 久久久久免费精品国产 | 亚洲中文无码av永久不收费 | 亚洲国产日韩a在线播放 | 欧洲vodafone精品性 | 日韩亚洲欧美精品综合 | 日本一区二区更新不卡 | 国产成人精品久久亚洲高清不卡 | 激情亚洲一区国产精品 | 青青久在线视频免费观看 | 色综合久久久久综合一本到桃花网 | 麻花豆传媒剧国产免费mv在线 | 波多野结衣av在线观看 | 亚欧洲精品在线视频免费观看 | 中文字幕无码av激情不卡 | 99riav国产精品视频 | 亚洲性无码av中文字幕 | 国产精品无码成人午夜电影 | 精品国产av色一区二区深夜久久 | 亚洲色无码一区二区三区 | 国产精品永久免费视频 | 国产成人综合色在线观看网站 | 亚洲人亚洲人成电影网站色 | 免费观看黄网站 | 色噜噜亚洲男人的天堂 | 天堂久久天堂av色综合 | 97久久国产亚洲精品超碰热 | 国产午夜亚洲精品不卡下载 | 日韩无套无码精品 | 日韩精品乱码av一区二区 | 丁香花在线影院观看在线播放 | 日日麻批免费40分钟无码 | 日日碰狠狠躁久久躁蜜桃 | 亚洲日本在线电影 | 国产人妻精品一区二区三区 | 亚洲乱码国产乱码精品精 | 亚洲精品综合一区二区三区在线 | 日韩精品久久久肉伦网站 | 俺去俺来也在线www色官网 | 亚洲最大成人网站 | 国产麻豆精品一区二区三区v视界 | 一本精品99久久精品77 | 人人爽人人爽人人片av亚洲 | √8天堂资源地址中文在线 | 久久亚洲中文字幕精品一区 | 亚洲成色www久久网站 | 老司机亚洲精品影院无码 | 欧洲熟妇色 欧美 | 久久精品99久久香蕉国产色戒 | 亚洲大尺度无码无码专区 | 精品无码一区二区三区的天堂 | 婷婷丁香五月天综合东京热 | 亚洲性无码av中文字幕 | 成人精品视频一区二区 | 日韩无码专区 | 一个人看的www免费视频在线观看 | 曰韩无码二三区中文字幕 | 中文毛片无遮挡高清免费 | 精品国产国产综合精品 | 漂亮人妻洗澡被公强 日日躁 | 宝宝好涨水快流出来免费视频 | 九一九色国产 | 麻豆md0077饥渴少妇 | 国产精品.xx视频.xxtv | 国产av人人夜夜澡人人爽麻豆 | 亚洲男人av天堂午夜在 | 欧美猛少妇色xxxxx | 300部国产真实乱 | 婷婷色婷婷开心五月四房播播 | 中文字幕人妻丝袜二区 | 亚洲精品美女久久久久久久 | 免费无码肉片在线观看 | 免费男性肉肉影院 | 久久亚洲国产成人精品性色 | 亚洲精品美女久久久久久久 | 国产性生大片免费观看性 | 亚洲中文字幕乱码av波多ji | 色诱久久久久综合网ywww | 性欧美大战久久久久久久 | 日本乱偷人妻中文字幕 | 成人精品视频一区二区三区尤物 | 亚洲无人区午夜福利码高清完整版 | 亚洲精品无码国产 | 人妻体内射精一区二区三四 | 午夜免费福利小电影 | 丝袜 中出 制服 人妻 美腿 | 无码人妻少妇伦在线电影 | 精品无码一区二区三区爱欲 | 人人妻人人藻人人爽欧美一区 | 天天摸天天透天天添 | av香港经典三级级 在线 | 亚洲呦女专区 | 2019nv天堂香蕉在线观看 | 帮老师解开蕾丝奶罩吸乳网站 | 内射爽无广熟女亚洲 | 国产香蕉尹人视频在线 | 四十如虎的丰满熟妇啪啪 | 精品无码国产自产拍在线观看蜜 | 国产女主播喷水视频在线观看 | 欧美人与物videos另类 | 精品 日韩 国产 欧美 视频 | 国产精品a成v人在线播放 | 日本在线高清不卡免费播放 | 成人免费视频视频在线观看 免费 | 99久久亚洲精品无码毛片 | 少妇久久久久久人妻无码 | 国语自产偷拍精品视频偷 | 国产精品无码一区二区三区不卡 | 国产人妻人伦精品1国产丝袜 | 蜜桃av抽搐高潮一区二区 | 色五月五月丁香亚洲综合网 | 国产色在线 | 国产 | 亚洲一区二区三区在线观看网站 | 人人爽人人爽人人片av亚洲 | 亚洲国产一区二区三区在线观看 | 给我免费的视频在线观看 | 十八禁真人啪啪免费网站 | 久久久久成人片免费观看蜜芽 | 日韩视频 中文字幕 视频一区 | 无码毛片视频一区二区本码 | 综合人妻久久一区二区精品 | 欧美日韩一区二区三区自拍 | 久久久成人毛片无码 | 亚洲va欧美va天堂v国产综合 | 真人与拘做受免费视频一 | 国产成人精品三级麻豆 | 成人一区二区免费视频 | 欧美精品无码一区二区三区 | 精品欧美一区二区三区久久久 | 女人被男人爽到呻吟的视频 | 熟妇人妻激情偷爽文 | 亚洲欧美日韩国产精品一区二区 | 亚洲成a人片在线观看日本 | 国产三级精品三级男人的天堂 | 欧美亚洲国产一区二区三区 | 精品国产福利一区二区 | 国产无遮挡又黄又爽免费视频 | 大肉大捧一进一出好爽视频 | 色综合久久久无码中文字幕 | 在线天堂新版最新版在线8 | 骚片av蜜桃精品一区 | 午夜福利不卡在线视频 | 玩弄中年熟妇正在播放 | 欧美熟妇另类久久久久久多毛 | 麻豆成人精品国产免费 | 午夜福利试看120秒体验区 | 亚洲日韩av一区二区三区中文 | 一本久道久久综合狠狠爱 | 日韩在线不卡免费视频一区 | 又大又黄又粗又爽的免费视频 | 久9re热视频这里只有精品 | 99国产精品白浆在线观看免费 | 国产精品无码永久免费888 | 午夜精品久久久内射近拍高清 | 任你躁在线精品免费 | 国产欧美亚洲精品a | 色五月五月丁香亚洲综合网 | 精品亚洲韩国一区二区三区 | 国产一区二区三区影院 | 99riav国产精品视频 | 丝袜足控一区二区三区 | 国产精品久久久久久无码 | 国产激情精品一区二区三区 | 色婷婷av一区二区三区之红樱桃 | 夜先锋av资源网站 | 久久综合色之久久综合 | 四虎4hu永久免费 | 亚洲日韩精品欧美一区二区 | 中文精品久久久久人妻不卡 | 我要看www免费看插插视频 | 国产亚洲精品精品国产亚洲综合 | 又粗又大又硬毛片免费看 | 爽爽影院免费观看 | 国产av无码专区亚洲a∨毛片 | 一本大道久久东京热无码av | 国产免费久久精品国产传媒 | 2020最新国产自产精品 | 国产超级va在线观看视频 | 亚洲一区二区三区 | 国产精品第一国产精品 | 性欧美videos高清精品 | 丰满诱人的人妻3 | 夜先锋av资源网站 | 中文无码成人免费视频在线观看 | 亚洲国产精品一区二区第一页 | 无人区乱码一区二区三区 | 国产97人人超碰caoprom | 风流少妇按摩来高潮 | 人妻无码αv中文字幕久久琪琪布 | 国产人妻精品一区二区三区 | 领导边摸边吃奶边做爽在线观看 | 好爽又高潮了毛片免费下载 | 女人被爽到呻吟gif动态图视看 | 国产精品毛多多水多 | 又大又黄又粗又爽的免费视频 | www成人国产高清内射 | 国产精品18久久久久久麻辣 | 久久久久成人精品免费播放动漫 | 日韩精品成人一区二区三区 | 无码精品国产va在线观看dvd | 国产精品美女久久久久av爽李琼 | 55夜色66夜色国产精品视频 | 国产精品久久久久7777 | 日韩少妇白浆无码系列 | 无码国内精品人妻少妇 | 无码av中文字幕免费放 | 国产偷自视频区视频 | 久久亚洲中文字幕无码 | 亚洲国产成人av在线观看 | 欧美变态另类xxxx | 欧美日本免费一区二区三区 | 一本精品99久久精品77 | 亚洲一区二区三区国产精华液 | 亚洲成av人综合在线观看 | 亚洲理论电影在线观看 | 国产凸凹视频一区二区 | 久久人人爽人人爽人人片av高清 | 亚洲欧洲日本无在线码 | 欧美性黑人极品hd | 国产va免费精品观看 | 久久精品人人做人人综合 | 日韩无码专区 | 亚洲中文字幕av在天堂 | 日日碰狠狠丁香久燥 | 精品一区二区三区无码免费视频 | 国精产品一区二区三区 | 日产精品高潮呻吟av久久 | 男女下面进入的视频免费午夜 | 亚洲精品成人福利网站 | 亚洲一区二区三区香蕉 | 久久99热只有频精品8 | 四十如虎的丰满熟妇啪啪 | 成年美女黄网站色大免费全看 | 日韩在线不卡免费视频一区 | 成人三级无码视频在线观看 | 中文字幕无线码 | 欧美高清在线精品一区 | 牛和人交xxxx欧美 | 成人无码影片精品久久久 | 黑人巨大精品欧美黑寡妇 | 国产精品久免费的黄网站 | 色婷婷久久一区二区三区麻豆 | 亚洲国产精品美女久久久久 | 大肉大捧一进一出视频出来呀 | 久久精品中文字幕一区 | 丰腴饱满的极品熟妇 | 久久综合给合久久狠狠狠97色 | 性色欲情网站iwww九文堂 | 婷婷五月综合激情中文字幕 | 成人一区二区免费视频 | 少女韩国电视剧在线观看完整 | 丰满肥臀大屁股熟妇激情视频 | 免费乱码人妻系列无码专区 | 国产午夜手机精彩视频 | 亚洲啪av永久无码精品放毛片 | 国产真实乱对白精彩久久 | 欧美人与牲动交xxxx | 一本久久a久久精品亚洲 | 最新国产麻豆aⅴ精品无码 | 成人片黄网站色大片免费观看 | 日产精品高潮呻吟av久久 | 无码人妻久久一区二区三区不卡 | 国产精品无码一区二区三区不卡 | 成人影院yy111111在线观看 | 久久久久se色偷偷亚洲精品av | 精品久久久无码人妻字幂 | 国产精品无码mv在线观看 | 亚洲精品久久久久久久久久久 | 国产亚洲人成a在线v网站 | 99久久久无码国产aaa精品 | 欧美日韩亚洲国产精品 | 久久精品女人天堂av免费观看 | a国产一区二区免费入口 | 午夜理论片yy44880影院 | 成年美女黄网站色大免费视频 | 中文字幕日韩精品一区二区三区 | 动漫av网站免费观看 | 国产另类ts人妖一区二区 | 日韩欧美成人免费观看 | 亚洲第一网站男人都懂 | 国产激情无码一区二区app | 国产精品办公室沙发 | 国产色精品久久人妻 | 亚洲熟悉妇女xxx妇女av | 熟妇女人妻丰满少妇中文字幕 | 精品久久久无码中文字幕 | 4hu四虎永久在线观看 | 国产女主播喷水视频在线观看 | 成人一在线视频日韩国产 | 天天摸天天透天天添 | 一区二区三区乱码在线 | 欧洲 | 内射巨臀欧美在线视频 | 国产精品怡红院永久免费 | 图片小说视频一区二区 | 人妻尝试又大又粗久久 | 国产热a欧美热a在线视频 | 日本熟妇人妻xxxxx人hd | 欧美国产亚洲日韩在线二区 | 麻豆精品国产精华精华液好用吗 | 国产免费观看黄av片 | 久久久精品人妻久久影视 | 亚洲男人av香蕉爽爽爽爽 | 欧美黑人巨大xxxxx | 强开小婷嫩苞又嫩又紧视频 | 日本护士毛茸茸高潮 | 鲁鲁鲁爽爽爽在线视频观看 | 欧美日韩久久久精品a片 | 亚洲综合色区中文字幕 | 蜜臀av在线播放 久久综合激激的五月天 | 精品人人妻人人澡人人爽人人 | 国产综合在线观看 | 学生妹亚洲一区二区 | 好爽又高潮了毛片免费下载 | 免费视频欧美无人区码 | 国内少妇偷人精品视频免费 | 牲欲强的熟妇农村老妇女视频 | 无码人妻丰满熟妇区毛片18 | 国产成人精品一区二区在线小狼 | 欧美 日韩 人妻 高清 中文 | 国产情侣作爱视频免费观看 | 成熟女人特级毛片www免费 | 国产精品手机免费 | 亚洲一区二区三区四区 | 国产成人人人97超碰超爽8 | 丰腴饱满的极品熟妇 | 婷婷丁香五月天综合东京热 | 夜夜夜高潮夜夜爽夜夜爰爰 | 婷婷丁香六月激情综合啪 | 日本丰满熟妇videos | 国产va免费精品观看 | 老司机亚洲精品影院 | 亚洲区小说区激情区图片区 | 亚洲成a人片在线观看无码 | 麻豆av传媒蜜桃天美传媒 | 欧美老人巨大xxxx做受 | 国产免费无码一区二区视频 | 国产在线精品一区二区高清不卡 | 国产精品久免费的黄网站 | 少妇太爽了在线观看 | 成人精品视频一区二区 | 俺去俺来也在线www色官网 | 一个人看的www免费视频在线观看 | 亚无码乱人伦一区二区 | 国产精品第一国产精品 | 少妇一晚三次一区二区三区 | 亚洲国产精品一区二区美利坚 | 久久99精品国产.久久久久 | 国产精品高潮呻吟av久久4虎 | 日日摸日日碰夜夜爽av | 欧美日韩在线亚洲综合国产人 | 久激情内射婷内射蜜桃人妖 | 67194成是人免费无码 | 亚洲欧美国产精品久久 | 亚洲欧美日韩国产精品一区二区 | 国产午夜精品一区二区三区嫩草 | 免费中文字幕日韩欧美 | 精品亚洲成av人在线观看 | 亚洲精品国产精品乱码视色 | 鲁大师影院在线观看 | 国产成人综合色在线观看网站 | 综合激情五月综合激情五月激情1 | 亚洲色在线无码国产精品不卡 | 色婷婷香蕉在线一区二区 | 欧美 日韩 人妻 高清 中文 | 欧美国产日韩久久mv | 99久久久无码国产精品免费 | 日本一卡2卡3卡4卡无卡免费网站 国产一区二区三区影院 | 国产精品久久久一区二区三区 | 久久久久99精品国产片 | 亚洲天堂2017无码 | 性欧美疯狂xxxxbbbb | 国产手机在线αⅴ片无码观看 | 亚洲无人区一区二区三区 | 中文字幕久久久久人妻 | 日日碰狠狠躁久久躁蜜桃 | 国产成人无码区免费内射一片色欲 | 高潮毛片无遮挡高清免费 | 99视频精品全部免费免费观看 | 日本又色又爽又黄的a片18禁 | 亚洲精品一区二区三区四区五区 | 欧洲极品少妇 | 人人澡人摸人人添 | 欧美老妇交乱视频在线观看 | 中文字幕 人妻熟女 | 亚洲精品国产精品乱码不卡 | 日本免费一区二区三区最新 | 国产精品无码一区二区三区不卡 | 97久久国产亚洲精品超碰热 | 一个人看的www免费视频在线观看 | 国产精品视频免费播放 | 玩弄人妻少妇500系列视频 | 美女毛片一区二区三区四区 | 狠狠色欧美亚洲狠狠色www | 亚洲国产日韩a在线播放 | 人妻插b视频一区二区三区 | 无码国内精品人妻少妇 | 国产精品a成v人在线播放 | 亚洲自偷自偷在线制服 | 亚洲一区二区三区 | 国产欧美亚洲精品a | 亚洲色无码一区二区三区 | 精品午夜福利在线观看 | 老熟女重囗味hdxx69 | 中文字幕日产无线码一区 | 欧美人与牲动交xxxx | 啦啦啦www在线观看免费视频 | 极品尤物被啪到呻吟喷水 | 中文字幕乱码中文乱码51精品 | 久久国产劲爆∧v内射 | 色婷婷欧美在线播放内射 | 成人无码视频在线观看网站 | 熟妇人妻激情偷爽文 | 国产内射爽爽大片视频社区在线 | 四十如虎的丰满熟妇啪啪 | 国产猛烈高潮尖叫视频免费 | 欧美成人午夜精品久久久 | 成人免费视频在线观看 | 亚洲天堂2017无码中文 | 乱人伦人妻中文字幕无码 | 国产精品国产三级国产专播 | 欧美成人免费全部网站 | 成人欧美一区二区三区 | 无码国产色欲xxxxx视频 | 牲交欧美兽交欧美 | 天干天干啦夜天干天2017 | 红桃av一区二区三区在线无码av | 粉嫩少妇内射浓精videos | 亚洲日本在线电影 | 国产精品久久久久久久9999 | 国产精品高潮呻吟av久久4虎 | 午夜精品久久久内射近拍高清 | 欧美精品免费观看二区 | 在线观看国产午夜福利片 | 亚洲国产精品成人久久蜜臀 | 九九久久精品国产免费看小说 | 久久无码中文字幕免费影院蜜桃 | 日产精品高潮呻吟av久久 | 国产精品无套呻吟在线 | 又粗又大又硬毛片免费看 | 国产网红无码精品视频 | 成人试看120秒体验区 | 亚洲国产精品毛片av不卡在线 | 日日躁夜夜躁狠狠躁 | 国产精品久久久久无码av色戒 | 国产精品对白交换视频 | 国产乱人伦app精品久久 国产在线无码精品电影网 国产国产精品人在线视 | 中文字幕无码av激情不卡 | 亚洲国产精品毛片av不卡在线 | 性生交大片免费看女人按摩摩 | 荡女精品导航 | 在线播放亚洲第一字幕 | 欧美丰满老熟妇xxxxx性 | 国产精品亚洲а∨无码播放麻豆 | 扒开双腿吃奶呻吟做受视频 | 国产特级毛片aaaaaaa高清 | 在线精品亚洲一区二区 | 熟妇激情内射com | 色综合久久88色综合天天 | 国产精品18久久久久久麻辣 | 国产美女精品一区二区三区 | 午夜免费福利小电影 | 久久久久av无码免费网 | 亚洲色大成网站www国产 | 成人欧美一区二区三区黑人免费 | aⅴ亚洲 日韩 色 图网站 播放 | 四虎国产精品免费久久 | 婷婷六月久久综合丁香 | 亚洲伊人久久精品影院 | 久久久久免费看成人影片 | 特黄特色大片免费播放器图片 | 国产精品国产三级国产专播 | 亚洲国产日韩a在线播放 | 欧美日韩一区二区免费视频 | 久久亚洲日韩精品一区二区三区 | 中文字幕日韩精品一区二区三区 | 亚洲一区二区三区国产精华液 | 精品水蜜桃久久久久久久 | 最近的中文字幕在线看视频 | 亚洲日韩乱码中文无码蜜桃臀网站 | 亚洲成av人在线观看网址 | 狂野欧美性猛xxxx乱大交 | 在线观看免费人成视频 | 在线a亚洲视频播放在线观看 | 强奷人妻日本中文字幕 | 国产农村妇女aaaaa视频 撕开奶罩揉吮奶头视频 | 性色欲网站人妻丰满中文久久不卡 | 国产精品无码成人午夜电影 | www国产精品内射老师 | 四虎国产精品免费久久 | 亚洲七七久久桃花影院 | 又湿又紧又大又爽a视频国产 | 99re在线播放 | 婷婷色婷婷开心五月四房播播 | 激情内射亚州一区二区三区爱妻 | 国产欧美亚洲精品a | 亚洲人成网站在线播放942 | 伊人色综合久久天天小片 | √8天堂资源地址中文在线 | 日本大香伊一区二区三区 | 国产在线aaa片一区二区99 | 无码人妻久久一区二区三区不卡 | 国产av久久久久精东av | 国产午夜手机精彩视频 | 狠狠噜狠狠狠狠丁香五月 | 国产精品久久久久久久9999 | 久久精品国产亚洲精品 | 理论片87福利理论电影 | 国产人妖乱国产精品人妖 | 色情久久久av熟女人妻网站 | 国产莉萝无码av在线播放 | 久热国产vs视频在线观看 | 欧美人与禽猛交狂配 | 草草网站影院白丝内射 | 久久久久久国产精品无码下载 | 欧美黑人乱大交 | 中文字幕av日韩精品一区二区 | 国产精品国产自线拍免费软件 | 性生交大片免费看女人按摩摩 | 亚洲熟妇色xxxxx亚洲 | 秋霞特色aa大片 | 人妻天天爽夜夜爽一区二区 | 亚洲色欲久久久综合网东京热 | 国产精品久久久久7777 | 免费人成在线视频无码 | 欧美国产日产一区二区 | 国产两女互慰高潮视频在线观看 | 99久久婷婷国产综合精品青草免费 | 欧美一区二区三区视频在线观看 | 日韩亚洲欧美中文高清在线 | 欧美国产日韩亚洲中文 | 婷婷综合久久中文字幕蜜桃三电影 | 亚洲精品国产第一综合99久久 | 爽爽影院免费观看 | 久久 国产 尿 小便 嘘嘘 | 一本色道久久综合亚洲精品不卡 | 又湿又紧又大又爽a视频国产 | 九月婷婷人人澡人人添人人爽 | 国产亚洲tv在线观看 | 成人亚洲精品久久久久 | 狂野欧美性猛xxxx乱大交 | 久久aⅴ免费观看 | 初尝人妻少妇中文字幕 | 久久人人爽人人爽人人片ⅴ | 欧美猛少妇色xxxxx | 九九在线中文字幕无码 | 日本一卡2卡3卡4卡无卡免费网站 国产一区二区三区影院 | 亚洲大尺度无码无码专区 | 国内丰满熟女出轨videos | 清纯唯美经典一区二区 | 精品成在人线av无码免费看 | 成年美女黄网站色大免费全看 | 亚洲а∨天堂久久精品2021 | 国产超碰人人爽人人做人人添 | 免费国产成人高清在线观看网站 | 又色又爽又黄的美女裸体网站 | 亚洲s码欧洲m码国产av | √8天堂资源地址中文在线 | 国产精品久久久久久久9999 | 国产精品第一区揄拍无码 | 国产艳妇av在线观看果冻传媒 | 中文久久乱码一区二区 | 亚洲 高清 成人 动漫 | 人妻少妇精品视频专区 | 狠狠cao日日穞夜夜穞av | 未满成年国产在线观看 | 人人爽人人爽人人片av亚洲 | 99久久精品国产一区二区蜜芽 | 亚洲热妇无码av在线播放 | 国产日产欧产精品精品app | 日韩欧美群交p片內射中文 | 国产黄在线观看免费观看不卡 | 黄网在线观看免费网站 | 免费无码的av片在线观看 | 亚洲va中文字幕无码久久不卡 | 亚洲日韩一区二区 | 亚洲精品一区三区三区在线观看 | 露脸叫床粗话东北少妇 | 亚洲乱码日产精品bd | 人人爽人人爽人人片av亚洲 | 国产色精品久久人妻 | 成人女人看片免费视频放人 | 无码福利日韩神码福利片 | 国产乱人伦av在线无码 | 亚洲欧美精品aaaaaa片 | 亚洲gv猛男gv无码男同 | 亚洲综合色区中文字幕 | 欧美人与禽猛交狂配 | 成人精品视频一区二区 | 国产成人一区二区三区别 | 国模大胆一区二区三区 | 久久视频在线观看精品 | 国产精品亚洲а∨无码播放麻豆 | 国产午夜福利亚洲第一 | 国产又粗又硬又大爽黄老大爷视 | 亚洲天堂2017无码中文 | 日韩av无码一区二区三区 | 99国产精品白浆在线观看免费 | 国产人妻人伦精品1国产丝袜 | 久久婷婷五月综合色国产香蕉 | 国产午夜无码视频在线观看 | 成熟女人特级毛片www免费 | 亚洲熟妇色xxxxx欧美老妇y | 亚洲欧美国产精品专区久久 | 麻豆成人精品国产免费 | 综合激情五月综合激情五月激情1 | 丁香花在线影院观看在线播放 | 亚洲无人区一区二区三区 | 国产特级毛片aaaaaa高潮流水 | av香港经典三级级 在线 | 中文字幕乱码中文乱码51精品 | 女高中生第一次破苞av | 99久久人妻精品免费一区 | 国产亲子乱弄免费视频 | 国产精品99久久精品爆乳 | 欧美精品无码一区二区三区 | 日本一卡2卡3卡四卡精品网站 | 帮老师解开蕾丝奶罩吸乳网站 | 婷婷丁香六月激情综合啪 | 日日噜噜噜噜夜夜爽亚洲精品 | 国产真实乱对白精彩久久 | 欧洲精品码一区二区三区免费看 | 精品无人国产偷自产在线 | 天天拍夜夜添久久精品大 | 亚洲欧洲无卡二区视頻 | 欧美精品在线观看 | 欧美三级不卡在线观看 | 熟女俱乐部五十路六十路av | www国产亚洲精品久久久日本 | 国产日产欧产精品精品app | 久久zyz资源站无码中文动漫 | 日本精品久久久久中文字幕 | 国产三级久久久精品麻豆三级 | 在线亚洲高清揄拍自拍一品区 | 亚洲另类伦春色综合小说 | 久久99精品久久久久久 | 亚洲成av人在线观看网址 | 窝窝午夜理论片影院 | 国产香蕉尹人综合在线观看 | 国产精品亚洲lv粉色 | 性色av无码免费一区二区三区 | 青青草原综合久久大伊人精品 | 精品欧美一区二区三区久久久 | 午夜精品一区二区三区的区别 | 偷窥村妇洗澡毛毛多 | 精品成在人线av无码免费看 | 1000部夫妻午夜免费 | 日欧一片内射va在线影院 | 国产69精品久久久久app下载 | 乌克兰少妇xxxx做受 | 久久国产36精品色熟妇 | 俄罗斯老熟妇色xxxx | 日韩av无码一区二区三区不卡 | 国内精品久久久久久中文字幕 | 亚洲中文字幕成人无码 | 国产片av国语在线观看 | 久久久av男人的天堂 | 中文字幕人妻丝袜二区 | 未满成年国产在线观看 | 久久精品中文字幕一区 | 亚洲色欲色欲欲www在线 | 中文字幕人成乱码熟女app | 久久精品国产亚洲精品 | 综合激情五月综合激情五月激情1 | 97无码免费人妻超级碰碰夜夜 | 性欧美疯狂xxxxbbbb | 国产乱码精品一品二品 | 国产莉萝无码av在线播放 | 国产区女主播在线观看 | 永久免费观看美女裸体的网站 | 玩弄少妇高潮ⅹxxxyw | 久9re热视频这里只有精品 | 国内精品人妻无码久久久影院蜜桃 | 成人综合网亚洲伊人 | 日本爽爽爽爽爽爽在线观看免 | 奇米影视888欧美在线观看 | 色综合久久网 | 捆绑白丝粉色jk震动捧喷白浆 | 欧美freesex黑人又粗又大 | 精品国产一区二区三区四区 | 中文字幕av日韩精品一区二区 | 亚洲中文字幕无码中文字在线 | 领导边摸边吃奶边做爽在线观看 | 无码精品国产va在线观看dvd | 国产办公室秘书无码精品99 | 亚洲精品久久久久中文第一幕 | 伊人久久大香线蕉亚洲 | 中文精品久久久久人妻不卡 | 国产精品无码mv在线观看 | 麻豆精品国产精华精华液好用吗 | 丁香花在线影院观看在线播放 | 欧美野外疯狂做受xxxx高潮 | 日韩人妻系列无码专区 | 亚洲熟妇自偷自拍另类 | 岛国片人妻三上悠亚 | 亚洲人成无码网www | 久久久久免费看成人影片 | 久激情内射婷内射蜜桃人妖 | 一区二区传媒有限公司 | 性欧美熟妇videofreesex | 妺妺窝人体色www婷婷 | 亚洲色无码一区二区三区 | 精品久久久久久人妻无码中文字幕 | √8天堂资源地址中文在线 | 国产色视频一区二区三区 | 中文字幕人妻无码一区二区三区 | 久久久久人妻一区精品色欧美 | 久激情内射婷内射蜜桃人妖 | 国产黑色丝袜在线播放 | 国产精品久久久久久无码 | 男人和女人高潮免费网站 | 一本久道高清无码视频 | 国产精品久久久久久久9999 | 内射巨臀欧美在线视频 | 日韩人妻少妇一区二区三区 | 国产精品无码永久免费888 | 99在线 | 亚洲 | 欧美亚洲日韩国产人成在线播放 | 国内精品人妻无码久久久影院蜜桃 | 天天摸天天碰天天添 | a片免费视频在线观看 | 久久综合九色综合欧美狠狠 | 国产欧美熟妇另类久久久 | 亚洲国产欧美在线成人 | 国产精品自产拍在线观看 | 中文字幕av日韩精品一区二区 | 亚洲综合色区中文字幕 | 国产尤物精品视频 | 国产国语老龄妇女a片 | 国产一区二区三区精品视频 | 亚洲精品一区国产 | 亚洲中文字幕无码中文字在线 | 精品国产麻豆免费人成网站 | 亚欧洲精品在线视频免费观看 | 国产精品亚洲五月天高清 | 久久久久亚洲精品男人的天堂 | 高清不卡一区二区三区 | 日日碰狠狠躁久久躁蜜桃 | 国产亚洲精品久久久久久 | 人妻少妇精品无码专区动漫 | 国产美女精品一区二区三区 | 亚洲国产欧美日韩精品一区二区三区 | 国产香蕉97碰碰久久人人 | 亚洲国产成人av在线观看 | 国产精品高潮呻吟av久久 | 欧美色就是色 | 无遮无挡爽爽免费视频 | 国产精华av午夜在线观看 | 日韩欧美中文字幕公布 | 女人被男人躁得好爽免费视频 | 丰腴饱满的极品熟妇 | 77777熟女视频在线观看 а天堂中文在线官网 | 国产无遮挡又黄又爽免费视频 | 在线欧美精品一区二区三区 | 精品久久久久久人妻无码中文字幕 | 国产午夜亚洲精品不卡 | 国产激情综合五月久久 | 日日碰狠狠丁香久燥 | a在线亚洲男人的天堂 | 久久久国产精品无码免费专区 | 色婷婷综合激情综在线播放 | 亚洲最大成人网站 | 日韩视频 中文字幕 视频一区 | 亚洲精品一区二区三区四区五区 | 国产精品办公室沙发 | 精品欧洲av无码一区二区三区 | 天干天干啦夜天干天2017 | 夜夜影院未满十八勿进 | 东京无码熟妇人妻av在线网址 | 亚洲人亚洲人成电影网站色 | 欧美怡红院免费全部视频 | 激情爆乳一区二区三区 | 午夜精品久久久内射近拍高清 | 久热国产vs视频在线观看 | 精品午夜福利在线观看 | 久久无码专区国产精品s | 中文字幕人妻无码一夲道 | 性欧美videos高清精品 | 伊人久久大香线焦av综合影院 | 天天躁夜夜躁狠狠是什么心态 | 欧美成人午夜精品久久久 | 欧美激情一区二区三区成人 | 欧美激情内射喷水高潮 | 人人妻在人人 | 日韩精品无码一区二区中文字幕 | 日韩精品无码一本二本三本色 | 亚洲自偷自拍另类第1页 | 无码午夜成人1000部免费视频 | 成年美女黄网站色大免费视频 | 99国产精品白浆在线观看免费 | 狠狠色噜噜狠狠狠7777奇米 | 狠狠亚洲超碰狼人久久 | 精品厕所偷拍各类美女tp嘘嘘 | 久久精品成人欧美大片 | 一本色道婷婷久久欧美 | 少妇性l交大片欧洲热妇乱xxx | 粗大的内捧猛烈进出视频 | www国产亚洲精品久久网站 | 特大黑人娇小亚洲女 | www国产亚洲精品久久网站 | 国产精品高潮呻吟av久久 | 色综合视频一区二区三区 | 欧洲精品码一区二区三区免费看 | 色狠狠av一区二区三区 | 国产熟女一区二区三区四区五区 | 在线亚洲高清揄拍自拍一品区 | 人妻中文无码久热丝袜 | 极品嫩模高潮叫床 | 高潮毛片无遮挡高清免费视频 | 日本乱偷人妻中文字幕 | 午夜精品久久久久久久 | 国产明星裸体无码xxxx视频 | 中文无码精品a∨在线观看不卡 | www国产精品内射老师 | 最近中文2019字幕第二页 | 久青草影院在线观看国产 | 天天做天天爱天天爽综合网 | 国产99久久精品一区二区 | 亚洲精品午夜无码电影网 | 一本久道高清无码视频 | 亚洲综合无码久久精品综合 | 99久久人妻精品免费二区 | 亚洲人成无码网www | 国产精品视频免费播放 | yw尤物av无码国产在线观看 | 超碰97人人射妻 | 奇米影视7777久久精品人人爽 | 精品国产一区二区三区av 性色 | 久久久中文久久久无码 | 国产无遮挡吃胸膜奶免费看 | 日日躁夜夜躁狠狠躁 | 国产成人无码专区 | 小sao货水好多真紧h无码视频 | 国产精品无码永久免费888 | 久久精品中文字幕一区 | 天堂久久天堂av色综合 | 久久综合九色综合欧美狠狠 | 夜夜影院未满十八勿进 | 亚洲精品国产第一综合99久久 | 成人亚洲精品久久久久 | 高潮毛片无遮挡高清免费视频 | 精品久久久久久亚洲精品 | 波多野结衣乳巨码无在线观看 | 成 人 网 站国产免费观看 | 内射白嫩少妇超碰 | 久久综合给久久狠狠97色 | 国产suv精品一区二区五 | 精品熟女少妇av免费观看 | 亚洲色偷偷偷综合网 | 国产特级毛片aaaaaaa高清 | 无码播放一区二区三区 | 成年女人永久免费看片 | 成人欧美一区二区三区 | 精品夜夜澡人妻无码av蜜桃 | 宝宝好涨水快流出来免费视频 | 久久婷婷五月综合色国产香蕉 | 色综合久久88色综合天天 | 国产99久久精品一区二区 | 国产午夜福利100集发布 | 福利一区二区三区视频在线观看 | 午夜无码人妻av大片色欲 | 亚洲一区二区三区含羞草 | 国产精品亚洲综合色区韩国 | 国产特级毛片aaaaaaa高清 | 亚洲色欲色欲欲www在线 | 成人免费视频视频在线观看 免费 | 伊人久久大香线蕉av一区二区 | 中文字幕人妻无码一区二区三区 | 国产精品久久久久久久影院 | 夫妻免费无码v看片 | 亚洲国产精品一区二区第一页 | 日韩欧美中文字幕公布 | 俺去俺来也www色官网 | 男人和女人高潮免费网站 | 国产69精品久久久久app下载 | 东京无码熟妇人妻av在线网址 | 无码av免费一区二区三区试看 | 无码吃奶揉捏奶头高潮视频 | 亚洲理论电影在线观看 | 亚洲码国产精品高潮在线 | 亚洲精品久久久久avwww潮水 | 午夜精品一区二区三区在线观看 | 亚洲成av人片天堂网无码】 | 国产黑色丝袜在线播放 | 国语精品一区二区三区 | 成人一区二区免费视频 | 欧美熟妇另类久久久久久不卡 | 成人毛片一区二区 | 成在人线av无码免费 | 亚洲精品国产精品乱码视色 | 久久精品国产一区二区三区 | 国产又爽又黄又刺激的视频 | 欧美 日韩 亚洲 在线 | 丁香啪啪综合成人亚洲 | 久久精品人妻少妇一区二区三区 | 中文字幕av无码一区二区三区电影 | 99久久精品无码一区二区毛片 | 欧美亚洲国产一区二区三区 | 精品久久久中文字幕人妻 | 国产成人无码av一区二区 | 久久久中文字幕日本无吗 | 成熟妇人a片免费看网站 | 牲欲强的熟妇农村老妇女 | 在线观看免费人成视频 | 妺妺窝人体色www婷婷 | 亚洲人成影院在线观看 | 亚洲 a v无 码免 费 成 人 a v | 动漫av网站免费观看 | 亚洲 高清 成人 动漫 | 人妻与老人中文字幕 | 亚洲男人av香蕉爽爽爽爽 | 未满成年国产在线观看 | 最新国产麻豆aⅴ精品无码 | 国产综合在线观看 | 成人免费无码大片a毛片 | 妺妺窝人体色www在线小说 | 国产亲子乱弄免费视频 | 丰满岳乱妇在线观看中字无码 | 在线а√天堂中文官网 | 中文字幕亚洲情99在线 | 日日鲁鲁鲁夜夜爽爽狠狠 | 国产区女主播在线观看 | a在线观看免费网站大全 | 两性色午夜免费视频 | 国产av一区二区三区最新精品 | 久久综合九色综合97网 | 亚洲呦女专区 | 亚洲人成无码网www | 国产亚洲精品久久久ai换 | 国产精品国产三级国产专播 | 久久久久成人精品免费播放动漫 | 丰满少妇女裸体bbw | 久久久久国色av免费观看性色 | 国产熟女一区二区三区四区五区 | 人妻无码αv中文字幕久久琪琪布 | 国产片av国语在线观看 | 成人试看120秒体验区 | 国产欧美亚洲精品a | 男女作爱免费网站 | 国产乱人伦app精品久久 国产在线无码精品电影网 国产国产精品人在线视 | 成人免费视频视频在线观看 免费 | 亚洲国产精品毛片av不卡在线 | 学生妹亚洲一区二区 | 国产真人无遮挡作爱免费视频 | 亚洲一区二区三区偷拍女厕 | 2019nv天堂香蕉在线观看 | 亚洲国产欧美国产综合一区 | 国产精品国产三级国产专播 | 欧美丰满熟妇xxxx性ppx人交 | 亚洲成a人片在线观看无码 | 国产真实乱对白精彩久久 | 少妇无码一区二区二三区 | 一二三四社区在线中文视频 | 日本肉体xxxx裸交 | 久久五月精品中文字幕 | 欧美熟妇另类久久久久久多毛 | 高清无码午夜福利视频 | 久久久精品国产sm最大网站 | 乱人伦人妻中文字幕无码久久网 | 久久综合九色综合97网 | 国产手机在线αⅴ片无码观看 | 中文字幕人妻无码一区二区三区 | 亚洲精品无码人妻无码 | 久久天天躁夜夜躁狠狠 | 九九在线中文字幕无码 | 亚洲成a人片在线观看无码3d | 国产成人精品一区二区在线小狼 | 十八禁视频网站在线观看 | av无码不卡在线观看免费 | 水蜜桃av无码 | 亚洲一区二区三区在线观看网站 | 久久久精品人妻久久影视 | 欧美日韩视频无码一区二区三 | 四虎永久在线精品免费网址 | 日本一卡二卡不卡视频查询 | 国产一精品一av一免费 | 无码成人精品区在线观看 | 西西人体www44rt大胆高清 | 荫蒂被男人添的好舒服爽免费视频 | 荫蒂被男人添的好舒服爽免费视频 | av无码久久久久不卡免费网站 | 精品久久8x国产免费观看 | 玩弄少妇高潮ⅹxxxyw | 激情内射日本一区二区三区 | 亚洲爆乳无码专区 | 国产精品-区区久久久狼 | 日本一区二区三区免费播放 | 老子影院午夜精品无码 | 一区二区三区高清视频一 | 国产色视频一区二区三区 | 亚洲中文字幕无码一久久区 | 亚洲成av人综合在线观看 | 强奷人妻日本中文字幕 | 亚洲热妇无码av在线播放 | 日韩少妇白浆无码系列 | 中文字幕人妻丝袜二区 | 麻花豆传媒剧国产免费mv在线 | 波多野结衣高清一区二区三区 | 搡女人真爽免费视频大全 | 国产精品亚洲а∨无码播放麻豆 | 人人妻人人澡人人爽欧美一区九九 | 狂野欧美性猛交免费视频 | 日本熟妇浓毛 | 撕开奶罩揉吮奶头视频 | 国产舌乚八伦偷品w中 | 国产精品自产拍在线观看 | 国产精品igao视频网 | 性欧美videos高清精品 | 色婷婷综合中文久久一本 | 亚洲色成人中文字幕网站 | 少妇人妻大乳在线视频 | 国产精品va在线播放 | 欧洲熟妇色 欧美 | a片在线免费观看 | 六月丁香婷婷色狠狠久久 | 精品欧洲av无码一区二区三区 | 一二三四在线观看免费视频 | 中文字幕 亚洲精品 第1页 | 精品国产一区二区三区四区 | 国内精品久久毛片一区二区 | 大地资源网第二页免费观看 | 欧美变态另类xxxx | 国产人妻精品午夜福利免费 | 国产亚av手机在线观看 | 国产真实伦对白全集 | 亚洲 欧美 激情 小说 另类 | 中文字幕中文有码在线 | 欧美人与禽zoz0性伦交 | 蜜桃臀无码内射一区二区三区 | 亚洲国精产品一二二线 | av无码久久久久不卡免费网站 | 久久久久成人精品免费播放动漫 | 日韩av无码中文无码电影 | 性做久久久久久久免费看 | 色五月五月丁香亚洲综合网 | 偷窥村妇洗澡毛毛多 | 日韩精品无码免费一区二区三区 | 色妞www精品免费视频 | 国产乡下妇女做爰 | 亚洲国产成人av在线观看 | 青青草原综合久久大伊人精品 | 99久久99久久免费精品蜜桃 | 天海翼激烈高潮到腰振不止 | 无码毛片视频一区二区本码 | 亚洲熟妇自偷自拍另类 | 亚洲一区二区三区偷拍女厕 | 乌克兰少妇性做爰 | 亚洲日韩乱码中文无码蜜桃臀网站 | 中文字幕乱妇无码av在线 | 性欧美熟妇videofreesex | а√资源新版在线天堂 | 乱人伦人妻中文字幕无码久久网 | 丰腴饱满的极品熟妇 | 狠狠综合久久久久综合网 | 欧美国产日产一区二区 | 色综合久久久无码网中文 | √天堂中文官网8在线 | 国产特级毛片aaaaaaa高清 | 俄罗斯老熟妇色xxxx | 成人亚洲精品久久久久软件 | 国产精品二区一区二区aⅴ污介绍 | 亚洲aⅴ无码成人网站国产app | 免费观看的无遮挡av | 精品久久8x国产免费观看 | 国产成人久久精品流白浆 | 成人免费视频在线观看 | 日日碰狠狠躁久久躁蜜桃 | 久精品国产欧美亚洲色aⅴ大片 | 99久久人妻精品免费一区 | 国产一区二区三区日韩精品 | 久久99国产综合精品 | 小泽玛莉亚一区二区视频在线 | 麻豆国产丝袜白领秘书在线观看 | 亚洲中文字幕无码中字 | 国产凸凹视频一区二区 | 午夜性刺激在线视频免费 | 18精品久久久无码午夜福利 | 日本欧美一区二区三区乱码 | 俺去俺来也在线www色官网 | 欧美老熟妇乱xxxxx | 国产午夜亚洲精品不卡下载 | 国产在线aaa片一区二区99 | 乱人伦人妻中文字幕无码久久网 | 久久久久亚洲精品男人的天堂 | 精品国产一区二区三区四区在线看 | www一区二区www免费 | 亚洲区小说区激情区图片区 | 无码人妻丰满熟妇区五十路百度 | 国产精品99爱免费视频 | 99国产欧美久久久精品 | 一本久久伊人热热精品中文字幕 | 3d动漫精品啪啪一区二区中 | 在线观看国产一区二区三区 | 人人澡人摸人人添 | 无码国产乱人伦偷精品视频 | 中文无码精品a∨在线观看不卡 | 精品久久久无码中文字幕 | 午夜性刺激在线视频免费 | 亚无码乱人伦一区二区 | 亚洲综合久久一区二区 | 撕开奶罩揉吮奶头视频 | a国产一区二区免费入口 | 中文字幕无码av激情不卡 | 99久久无码一区人妻 | 又黄又爽又色的视频 | 四虎4hu永久免费 | 色诱久久久久综合网ywww | 黑人巨大精品欧美一区二区 | 精品无码国产一区二区三区av | 99久久人妻精品免费二区 | 少妇性l交大片欧洲热妇乱xxx | 久久天天躁夜夜躁狠狠 | 国产成人av免费观看 | 欧美日韩一区二区免费视频 | 婷婷色婷婷开心五月四房播播 | 日日摸天天摸爽爽狠狠97 | 亚洲精品成人av在线 | 无码国产色欲xxxxx视频 | 偷窥村妇洗澡毛毛多 | 婷婷色婷婷开心五月四房播播 | 国内精品一区二区三区不卡 | 在线精品国产一区二区三区 | 纯爱无遮挡h肉动漫在线播放 | 色偷偷av老熟女 久久精品人妻少妇一区二区三区 | 超碰97人人做人人爱少妇 | 兔费看少妇性l交大片免费 | 精品午夜福利在线观看 | 天天拍夜夜添久久精品大 | 2020久久超碰国产精品最新 | 欧美人与牲动交xxxx | 国产亚洲美女精品久久久2020 | yw尤物av无码国产在线观看 | 久久国产精品偷任你爽任你 | 天天躁夜夜躁狠狠是什么心态 | 成人精品一区二区三区中文字幕 | 亚洲精品鲁一鲁一区二区三区 | 亚洲一区二区观看播放 | 人人澡人人妻人人爽人人蜜桃 | 婷婷综合久久中文字幕蜜桃三电影 | 亚洲精品一区二区三区四区五区 | 国产精品亚洲一区二区三区喷水 | 最新国产乱人伦偷精品免费网站 |