3atv精品不卡视频,97人人超碰国产精品最新,中文字幕av一区二区三区人妻少妇,久久久精品波多野结衣,日韩一区二区三区精品

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

【谷粒商城】集群篇-k8s(4/4)

發布時間:2023/12/10 编程问答 32 豆豆
生活随笔 收集整理的這篇文章主要介紹了 【谷粒商城】集群篇-k8s(4/4) 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

【谷粒商城】集群篇-k8s(4/4)

目錄

一、K8s快速入門

1)簡介

2)架構

3)概念

4)快速體驗

二、K8s集群安裝

1)kubeadm

2)前置要求

3)部署步驟

4)環境準備

5)所有節點安裝docker、kubeadm、kubelet、kubectl

6)部署k8s-master

7)安裝POD網絡插件(CNI)

8)加入kubenetes的Node節點

9)入門操作kubernetes集群

三、docker深入

四、K8s細節

1、kubectl文檔

2、資源類型

3、格式化輸出

命令參考

service的意義

Ingress

安裝kubernetes可視化界面——DashBoard

kubesphere

1、簡潔

2、安裝前提提交

?


版權

  • 筆記-基礎篇-1(P1-P28):https://blog.csdn.net/hancoder/article/details/106922139

  • 筆記-基礎篇-2(P28-P100):https://blog.csdn.net/hancoder/article/details/107612619

  • 筆記-高級篇(P340):https://blog.csdn.net/hancoder/article/details/107612746

  • 筆記-vue:https://blog.csdn.net/hancoder/article/details/107007605

  • 筆記-elastic search、上架、檢索:https://blog.csdn.net/hancoder/article/details/113922398

  • 筆記-認證服務:https://blog.csdn.net/hancoder/article/details/114242184

  • 筆記-分布式鎖與緩存:https://blog.csdn.net/hancoder/article/details/114004280

  • 筆記-集群篇:https://blog.csdn.net/hancoder/article/details/107612802

  • springcloud筆記:https://blog.csdn.net/hancoder/article/details/109063671

  • 筆記版本說明:2020年提供過筆記文檔,但只有P1-P50的內容,2021年整理了P340的內容。請點擊標題下面分欄查看系列筆記

  • 聲明:

    • 可以白嫖,但請勿轉載發布,筆記手打不易
    • 本系列筆記不斷迭代優化,csdn:hancoder上是最新版內容,10W字都是在csdn免費開放觀看的。
    • 離線md筆記文件獲取方式見文末。2021-3版本的md筆記打完壓縮包共500k(云圖床),包括本項目筆記,還有cloud、docker、mybatis-plus、rabbitMQ等個人相關筆記
  • sql:https://github.com/FermHan/gulimall/sql文件

  • 本項目其他筆記見專欄:https://blog.csdn.net/hancoder/category_10822407.html

一、K8s快速入門

1)簡介

kubernetes簡稱k8s。是用于自動部署,擴展和管理容器化應用程序的開源系統。
中文官網:https://kubernetes.io/Zh/
中文社區:https://www.kubernetes.org.cn/
官方文檔:https://kubernetes.io/zh/docs/home/
社區文檔:https://docs.kubernetes.org.cn/

部署方式的進化:

[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-A2suTKTF-1620146330108)(https://d33wubrfki0l68.cloudfront.net/26a177ede4d7b032362289c6fccd448fc4a91174/eb693/images/docs/container_evolution.svg)]

時光回溯

讓我們回顧一下為什么 Kubernetes 如此有用。

[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-jhiwhOpn-1620146330110)(https://d33wubrfki0l68.cloudfront.net/26a177ede4d7b032362289c6fccd448fc4a91174/eb693/images/docs/container_evolution.svg)]

傳統部署時代:

早期,各個組織機構在物理服務器上運行應用程序。無法為物理服務器中的應用程序定義資源邊界,這會導致資源分配問題。 例如,如果在物理服務器上運行多個應用程序,則可能會出現一個應用程序占用大部分資源的情況, 結果可能導致其他應用程序的性能下降。 一種解決方案是在不同的物理服務器上運行每個應用程序,但是由于資源利用不足而無法擴展, 并且維護許多物理服務器的成本很高。

虛擬化部署時代:

作為解決方案,引入了虛擬化。虛擬化技術允許你在單個物理服務器的 CPU 上運行多個虛擬機(VM)。 虛擬化允許應用程序在 VM 之間隔離,并提供一定程度的安全,因為一個應用程序的信息 不能被另一應用程序隨意訪問。

虛擬化技術能夠更好地利用物理服務器上的資源,并且因為可輕松地添加或更新應用程序 而可以實現更好的可伸縮性,降低硬件成本等等。

每個 VM 是一臺完整的計算機,在虛擬化硬件之上運行所有組件,包括其自己的操作系統。

容器部署時代:

容器類似于 VM,但是它們具有被放寬的隔離屬性,可以在應用程序之間共享操作系統(OS)。 因此,容器被認為是輕量級的。容器與 VM 類似,具有自己的文件系統、CPU、內存、進程空間等。 由于它們與基礎架構分離,因此可以跨云和 OS 發行版本進行移植。

容器因具有許多優勢而變得流行起來。下面列出的是容器的一些好處:

  • 敏捷應用程序的創建和部署:與使用 VM 鏡像相比,提高了容器鏡像創建的簡便性和效率。
  • 持續開發、集成和部署:通過快速簡單的回滾(由于鏡像不可變性),支持可靠且頻繁的 容器鏡像構建和部署。
  • 關注開發與運維的分離:在構建/發布時而不是在部署時創建應用程序容器鏡像, 從而將應用程序與基礎架構分離。
  • 可觀察性不僅可以顯示操作系統級別的信息和指標,還可以顯示應用程序的運行狀況和其他指標信號。
  • 跨開發、測試和生產的環境一致性:在便攜式計算機上與在云中相同地運行。
  • 跨云和操作系統發行版本的可移植性:可在 Ubuntu、RHEL、CoreOS、本地、 Google Kubernetes Engine 和其他任何地方運行。
  • 以應用程序為中心的管理:提高抽象級別,從在虛擬硬件上運行 OS 到使用邏輯資源在 OS 上運行應用程序。
  • 松散耦合、分布式、彈性、解放的微服務:應用程序被分解成較小的獨立部分, 并且可以動態部署和管理 - 而不是在一臺大型單機上整體運行。
  • 資源隔離:可預測的應用程序性能。
  • 資源利用:高效率和高密度。

2)架構

(1)整體主從方式

(2)master節點架構

(3)Node節點架構

3)概念

4)快速體驗

(1)安裝minikube

https://github.com/kubernetes/minikube/releases
下載minikuber-windows-amd64.exe 改名為minikube.exe
打開virtualBox,打開cmd
運行
minikube start --vm-driver=virtualbox --registry-mirror=https://registry.docker-cn.com
等待20分鐘即可。

(2)體驗nginx部署升級

  • 提交一個nginx deployment
    kubectl apply -f https://k8s.io/examples/application/deployment.yaml

  • 升級 nginx deployment
    kubectl apply -f https://k8s.io/examples/application/deployment-update.yaml

  • 擴容 nginx deployment

  • 二、K8s集群安裝

    1)kubeadm

    kubeadm是官方社區推出的一個用于快速部署kuberneters集群的工具。
    這個工具能通過兩條指令完成一個kuberneters集群的部署

    創建一個master節點

    $ kuberneters init
    • 1

    將一個node節點加入到當前集群中

    $ kubeadm join <Master節點的IP和端口>
    • 1

    2)前置要求

    一臺或多臺機器,操作系統Centos7.x-86_x64
    硬件配置:2GB或更多RAM,2個CPU或更多CPU,硬盤30GB或更多
    集群中所有的機器之間網絡互通
    可以訪問外網,需要拉取鏡像
    禁止Swap分區

    3)部署步驟

  • 在所有的節點上安裝Docker和kubeadm
  • 不是Kubernetes Master
  • 部署容器網絡插件
  • 部署Kubernetes Node,將節點加入Kubernetes集群中
  • 部署DashBoard web頁面,可視化查看Kubernetes資源
  • 4)環境準備

    (1)準備工作

    • 我們可以使用vagrant快速創建三個虛擬機。虛擬機啟動前先設置virtualbox的主機網絡。現在全部統一為192.168.56.1,以后所有虛擬機都是56.x的ip地址。

    • 在全局設定中,找到一個空間比較大的磁盤用用來存放鏡像。

    網卡1是NAT,用于虛擬機與本機訪問互聯網。網卡2是僅主機網絡,虛擬機內部共享的虛擬網絡

    (2)啟動三個虛擬機

    • 使用我們提供的vagrant文件,復制到非中文無空格目錄下,運行vagrant up啟動三個虛擬機。其實vagrant完全可以一鍵部署全部K8s集群
      https://github.com/rootsongjc/kubernetes-vagrant-centos-cluster
      http://github.com/davidkbainbridge/k8s-playground

    下面是vagrantfile,使用它來創建三個虛擬機,分別為k8s-node1,k8s-node2和k8s-node3.

    Vagrant.configure("2") do |config|(1..3).each do |i|config.vm.define "k8s-node#{i}" do |node|# 設置虛擬機的Boxnode.vm.box = "centos/7"# 設置虛擬機的主機名node.vm.hostname="k8s-node#{i}"# 設置虛擬機的IPnode.vm.network "private_network", ip: "192.168.56.#{99+i}", netmask: "255.255.255.0"# 設置主機與虛擬機的共享目錄# node.vm.synced_folder "~/Documents/vagrant/share", "/home/vagrant/share"# VirtaulBox相關配置node.vm.provider "virtualbox" do |v|# 設置虛擬機的名稱v.name = "k8s-node#{i}"# 設置虛擬機的內存大小v.memory = 4096# 設置虛擬機的CPU個數v.cpus = 4endendend end
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 進入到三個虛擬機,開啟root的密碼訪問權限
    vagrant ssh xxx進入到系統后 # vagrant ssh k8s-node1 su root 密碼為vagrantvi /etc/ssh/sshd_config修改 PermitRootLogin yes PasswordAuthentication yes所有的虛擬機設為4核4G
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    service sshd restart
    • 1
    192.168.56.100:22
    • 1

    關于在"網絡地址轉換"的連接方式下,三個節點的eth0,IP地址相同的問題。

    **問題描述:**查看k8s-node1的路由表:

    # 查看默認的網卡 [root@k8s-node1 ~]# ip route show default via 10.0.2.2 dev eth0 proto dhcp metric 100 10.0.2.0/24 dev eth0 proto kernel scope link src 10.0.2.15 metric 100 192.168.56.0/24 dev eth1 proto kernel scope link src 192.168.56.100 metric 101
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7

    能夠看到路由表中記錄的是,通過端口eth0進行數據包的收發。

    分別查看k8s-node1,k8s-node2和k8s-node3的eth0所綁定的IP地址,發現它們都是相同的,全都是10.0.2.15,這些地址是供kubernetes集群通信用的,區別于eth1上的IP地址,是通遠程管理使用的。

    [root@k8s-node1 ~]# ip addr ... 2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000link/ether 52:54:00:8a:fe:e6 brd ff:ff:ff:ff:ff:ffinet 10.0.2.15/24 brd 10.0.2.255 scope global noprefixroute dynamic eth0valid_lft 84418sec preferred_lft 84418secinet6 fe80::5054:ff:fe8a:fee6/64 scope link valid_lft forever preferred_lft forever 3: eth1: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000link/ether 08:00:27:a3:ca:c0 brd ff:ff:ff:ff:ff:ffinet 192.168.56.100/24 brd 192.168.56.255 scope global noprefixroute eth1valid_lft forever preferred_lft foreverinet6 fe80::a00:27ff:fea3:cac0/64 scope link valid_lft forever preferred_lft forever [root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15

    **原因分析:**這是因為它們使用是端口轉發規則,使用同一個地址,通過不同的端口來區分。但是這種端口轉發規則在以后的使用中會產生很多不必要的問題,所以需要修改為NAT網絡類型。

    解決方法:

    • 選擇三個節點,然后執行“管理”->“全局設定”->“網絡”,添加一個NAT網絡。

    • 分別修改每臺設備的網絡類型,并刷新重新生成MAC地址。

    刷新一下MAC地址

    1網絡是集群交互,2網絡是宿主交互

    • 再次查看三個節點的IP

    (3)設置Linux環境(三個節點都執行)

    • 關閉防火墻
    systemctl stop firewalld systemctl disable firewalld
    • 1
    • 2
    • 關閉seLinux
    # linux默認的安全策略 sed -i 's/enforcing/disabled/' /etc/selinux/config setenforce 0
    • 1
    • 2
    • 3
    • 關閉swap
    swapoff -a #臨時關閉 sed -ri 's/.*swap.*/#&/' /etc/fstab #永久關閉 free -g #驗證,swap必須為0
    • 1
    • 2
    • 3
    • 添加主機名與IP對應關系:

    查看主機名:

    hostname
    • 1

    如果主機名不正確,可以通過“hostnamectl set-hostname <newhostname> :指定新的hostname”命令來進行修改。

    vi /etc/hosts 10.0.2.4 k8s-node1 10.0.2.5 k8s-node2 10.0.2.6 k8s-node3
    • 1
    • 2
    • 3
    • 4

    將橋接的IPV4流量傳遞到iptables的鏈:

    cat > /etc/sysctl.d/k8s.conf <<EOFnet.bridge.bridge-nf-call-ip6tables = 1net.bridge.bridge-nf-call-iptables = 1EOF
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7

    應用規則:

    sysctl --system
    • 1

    疑難問題:遇見提示是只讀的文件系統,運行如下命令

    mount -o remount rw /
    • 1
    • date 查看時間(可選)
    yum -y install ntpupdatentpupdate time.window.com #同步最新時間
    • 1
    • 2
    • 3

    5)所有節點安裝docker、kubeadm、kubelet、kubectl

    Kubenetes默認CRI(容器運行時)為Docker,因此先安裝Docker。

    (1)安裝Docker

    1、卸載之前的docker

    sudo yum remove docker \docker-client \docker-client-latest \docker-common \docker-latest \docker-latest-logrotate \docker-logrotate \docker-engine
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8

    2、安裝Docker -CE

    sudo yum install -y yum-utils \ device-mapper-persistent-data \ lvm2 # 設置docker repo的yum位置 sudo yum-config-manager \--add-repo \https://download.docker.com/linux/centos/docker-ce.repo# 安裝docker,docker-cli sudo yum -y install docker-ce docker-ce-cli containerd.io
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10

    3、配置docker加速

    sudo mkdir -p /etc/docker sudo tee /etc/docker/daemon.json <<-'EOF' {"registry-mirrors": ["https://ke9h1pt4.mirror.aliyuncs.com"] } EOF sudo systemctl daemon-reload sudo systemctl restart docker
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8

    4、啟動Docker && 設置docker開機啟動

    systemctl enable docker
    • 1

    基礎環境準備好,可以給三個虛擬機備份一下;

    (2)添加阿里與Yum源

    cat <<EOF > /etc/yum.repos.d/kubernetes.repo [kubernetes] name=Kubernetes baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64/ enabled=1 gpgcheck=1 repo_gpgcheck=1 gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg EOF
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9

    更多詳情見: https://developer.aliyun.com/mirror/kubernetes

    (3)安裝kubeadm,kubelet和kubectl

    yum list|grep kube
    • 1

    安裝

    yum install -y kubelet-1.17.3 kubeadm-1.17.3 kubectl-1.17.3
    • 1

    開機啟動

    systemctl enable kubelet && systemctl start kubelet
    • 1

    查看kubelet的狀態:

    systemctl status kubelet
    • 1

    查看kubelet版本:

    [root@k8s-node2 ~]# kubelet --version Kubernetes v1.17.3
    • 1
    • 2

    6)部署k8s-master

    (1)master節點初始化

    在Master節點上,創建并執行master_images.sh

    #!/bin/bashimages=(kube-apiserver:v1.17.3kube-proxy:v1.17.3kube-controller-manager:v1.17.3kube-scheduler:v1.17.3coredns:1.6.5etcd:3.4.3-0pause:3.1 )for imageName in ${images[@]} ; dodocker pull registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName # docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/$imageName k8s.gcr.io/$imageName done
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16

    查看100的內部通信端口

    2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000link/ether 08:00:27:7e:dd:f5 brd ff:ff:ff:ff:ff:ffinet 10.0.2.4/24 brd 10.0.2.255 scope global noprefixroute dynamic eth0valid_lft 512sec preferred_lft 512secinet6 fe80::a00:27ff:fe7e:ddf5/64 scope linkvalid_lft forever preferred_lft forever
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    初始化kubeadm

    kubeadm init \ --apiserver-advertise-address=10.0.2.4 \ --image-repository registry.cn-hangzhou.aliyuncs.com/google_containers \ --kubernetes-version v1.17.3 \ --service-cidr=10.96.0.0/16 \ --pod-network-cidr=10.244.0.0/16
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    注:

    • –apiserver-advertise-address=10.0.2.21 :這里的IP地址是master主機的地址,為上面的eth0網卡的地址;
    • ?

    執行結果:

    [root@k8s-node1 opt]# kubeadm init \ > --apiserver-advertise-address=10.0.2.15 \ > --image-repository registry.cn-hangzhou.aliyuncs.com/google_containers \ > --kubernetes-version v1.17.3 \ > --service-cidr=10.96.0.0/16 \ > --pod-network-cidr=10.244.0.0/16 W0503 14:07:12.594252 10124 configset.go:202] WARNING: kubeadm cannot validate component configs for API groups [kubelet.config.k8s.io kubeproxy.config.k8s.io] [init] Using Kubernetes version: v1.17.3 [preflight] Running pre-flight checks[WARNING IsDockerSystemdCheck]: detected "cgroupfs" as the Docker cgroup driver. The recommended driver is "systemd". Please follow the guide at https://kubernetes.io/docs/setup/cri/ [preflight] Pulling images required for setting up a Kubernetes cluster [preflight] This might take a minute or two, depending on the speed of your internet connection [preflight] You can also perform this action in beforehand using 'kubeadm config images pull' [kubelet-start] Writing kubelet environment file with flags to file "/var/lib/kubelet/kubeadm-flags.env" [kubelet-start] Writing kubelet configuration to file "/var/lib/kubelet/config.yaml" [kubelet-start] Starting the kubelet [certs] Using certificateDir folder "/etc/kubernetes/pki" [certs] Generating "ca" certificate and key [certs] Generating "apiserver" certificate and key [certs] apiserver serving cert is signed for DNS names [k8s-node1 kubernetes kubernetes.default kubernetes.default.svc kubernetes.default.svc.cluster.local] and IPs [10.96.0.1 10.0.2.15] [certs] Generating "apiserver-kubelet-client" certificate and key [certs] Generating "front-proxy-ca" certificate and key [certs] Generating "front-proxy-client" certificate and key [certs] Generating "etcd/ca" certificate and key [certs] Generating "etcd/server" certificate and key [certs] etcd/server serving cert is signed for DNS names [k8s-node1 localhost] and IPs [10.0.2.15 127.0.0.1 ::1] [certs] Generating "etcd/peer" certificate and key [certs] etcd/peer serving cert is signed for DNS names [k8s-node1 localhost] and IPs [10.0.2.15 127.0.0.1 ::1] [certs] Generating "etcd/healthcheck-client" certificate and key [certs] Generating "apiserver-etcd-client" certificate and key [certs] Generating "sa" key and public key [kubeconfig] Using kubeconfig folder "/etc/kubernetes" [kubeconfig] Writing "admin.conf" kubeconfig file [kubeconfig] Writing "kubelet.conf" kubeconfig file [kubeconfig] Writing "controller-manager.conf" kubeconfig file [kubeconfig] Writing "scheduler.conf" kubeconfig file [control-plane] Using manifest folder "/etc/kubernetes/manifests" [control-plane] Creating static Pod manifest for "kube-apiserver" [control-plane] Creating static Pod manifest for "kube-controller-manager" W0503 14:07:30.908642 10124 manifests.go:225] the default kube-apiserver authorization-mode is "Node,RBAC"; using "Node,RBAC" [control-plane] Creating static Pod manifest for "kube-scheduler" W0503 14:07:30.911330 10124 manifests.go:225] the default kube-apiserver authorization-mode is "Node,RBAC"; using "Node,RBAC" [etcd] Creating static Pod manifest for local etcd in "/etc/kubernetes/manifests" [wait-control-plane] Waiting for the kubelet to boot up the control plane as static Pods from directory "/etc/kubernetes/manifests". This can take up to 4m0s [apiclient] All control plane components are healthy after 22.506521 seconds [upload-config] Storing the configuration used in ConfigMap "kubeadm-config" in the "kube-system" Namespace [kubelet] Creating a ConfigMap "kubelet-config-1.18" in namespace kube-system with the configuration for the kubelets in the cluster [upload-certs] Skipping phase. Please see --upload-certs [mark-control-plane] Marking the node k8s-node1 as control-plane by adding the label "node-role.kubernetes.io/master=''" [mark-control-plane] Marking the node k8s-node1 as control-plane by adding the taints [node-role.kubernetes.io/master:NoSchedule] [bootstrap-token] Using token: sg47f3.4asffoi6ijb8ljhq [bootstrap-token] Configuring bootstrap tokens, cluster-info ConfigMap, RBAC Roles [bootstrap-token] configured RBAC rules to allow Node Bootstrap tokens to get nodes [bootstrap-token] configured RBAC rules to allow Node Bootstrap tokens to post CSRs in order for nodes to get long term certificate credentials [bootstrap-token] configured RBAC rules to allow the csrapprover controller automatically approve CSRs from a Node Bootstrap Token [bootstrap-token] configured RBAC rules to allow certificate rotation for all node client certificates in the cluster [bootstrap-token] Creating the "cluster-info" ConfigMap in the "kube-public" namespace [kubelet-finalize] Updating "/etc/kubernetes/kubelet.conf" to point to a rotatable kubelet client certificate and key [addons] Applied essential addon: CoreDNS [addons] Applied essential addon: kube-proxy #表示kubernetes已經初始化成功了 Your Kubernetes control-plane has initialized successfully!To start using your cluster, you need to run the following as a regular user:mkdir -p $HOME/.kubesudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/configsudo chown $(id -u):$(id -g) $HOME/.kube/configYou should now deploy a pod network to the cluster. Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at:https://kubernetes.io/docs/concepts/cluster-administration/addons/Then you can join any number of worker nodes by running the following on each as root:kubeadm join 10.0.2.15:6443 --token sg47f3.4asffoi6ijb8ljhq \--discovery-token-ca-cert-hash sha256:81fccdd29970cbc1b7dc7f171ac0234d53825bdf9b05428fc9e6767436991bfb [root@k8s-node1 opt]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64
    • 65
    • 66
    • 67
    • 68
    • 69
    • 70
    • 71
    • 72
    • 73
    • 74
    • 75
    • 76
    • 77
    • 78

    由于默認拉取鏡像地址k8s.cr.io國內無法訪問,這里指定阿里云倉庫地址。可以手動按照我們的images.sh先拉取鏡像。

    地址變為:registry.aliyuncs.com/googole_containers也可以。
    科普:無類別域間路由(Classless Inter-Domain Routing 、CIDR)是一個用于給用戶分配IP地址以及在互聯網上有效第路由IP數據包的對IP地址進行歸類的方法。
    拉取可能失敗,需要下載鏡像。

    運行完成提前復制:加入集群的令牌。

    (2)測試Kubectl(主節點執行)

    mkdir -p $HOME/.kube sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config sudo chown $(id -u):$(id -g) $HOME/.kube/config
    • 1
    • 2
    • 3

    詳細部署文檔:https://kubernetes.io/docs/concepts/cluster-administration/addons/

    kubectl get nodes #獲取所有節點
    • 1

    目前Master狀態為notready。等待網絡加入完成即可。

    journalctl -u kubelet #查看kubelet日志
    • 1
    kubeadm join 10.0.2.4:6443 --token bt3hkp.yxnpzsgji4a6edy7 \--discovery-token-ca-cert-hash sha256:64949994a89c53e627d68b115125ff753bfe6ff72a26eb561bdc30f32837415a
    • 1
    • 2

    7)安裝POD網絡插件(CNI)

    在master節點上執行按照POD網絡插件

    kubectl apply -f \ https://raw.githubusercontent.com/coreos/flanne/master/Documentation/kube-flannel.yml
    • 1
    • 2

    以上地址可能被墻,可以直接獲取本地已經下載的flannel.yml運行即可(https://blog.csdn.net/lxm1720161656/article/details/106436252 可以去下載),如:

    [root@k8s-node1 k8s]# kubectl apply -f kube-flannel.yml podsecuritypolicy.policy/psp.flannel.unprivileged created clusterrole.rbac.authorization.k8s.io/flannel created clusterrolebinding.rbac.authorization.k8s.io/flannel created serviceaccount/flannel created configmap/kube-flannel-cfg created daemonset.apps/kube-flannel-ds-amd64 created daemonset.apps/kube-flannel-ds-arm64 created daemonset.apps/kube-flannel-ds-arm created daemonset.apps/kube-flannel-ds-ppc64le created daemonset.apps/kube-flannel-ds-s390x created [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12

    同時flannel.yml中指定的images訪問不到可以去docker hub找一個wget yml地址
    vi 修改yml 所有amd64的地址修改了即可
    等待大約3分鐘
    kubectl get pods -n kube-system 查看指定名稱空間的pods
    kubectl get pods -all-namespace 查看所有名稱空間的pods

    $ ip link set cni0 down 如果網絡出現問題,關閉cni0,重啟虛擬機繼續測試
    執行watch kubectl get pod -n kube-system -o wide 監控pod進度
    等待3-10分鐘,完全都是running以后繼續

    查看命名空間:

    [root@k8s-node1 k8s]# kubectl get ns NAME STATUS AGE default Active 30m kube-node-lease Active 30m kube-public Active 30m kube-system Active 30m [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    [root@k8s-node1 k8s]# kubectl get pods --all-namespaces NAMESPACE NAME READY STATUS RESTARTS AGE kube-system coredns-546565776c-9sbmk 0/1 Pending 0 31m kube-system coredns-546565776c-t68mr 0/1 Pending 0 31m kube-system etcd-k8s-node1 1/1 Running 0 31m kube-system kube-apiserver-k8s-node1 1/1 Running 0 31m kube-system kube-controller-manager-k8s-node1 1/1 Running 0 31m kube-system kube-flannel-ds-amd64-6xwth 1/1 Running 0 2m50s kube-system kube-proxy-sz2vz 1/1 Running 0 31m kube-system kube-scheduler-k8s-node1 1/1 Running 0 31m [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11

    查看master上的節點信息:

    [root@k8s-node1 k8s]# kubectl get nodes NAME STATUS ROLES AGE VERSION k8s-node1 Ready master 34m v1.17.3 #status為ready才能夠執行下面的命令 [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4

    最后再次執行,并且分別在“k8s-node2”和“k8s-node3”上也執行這里命令:

    kubeadm join 10.0.2.4:6443 --token bt3hkp.yxnpzsgji4a6edy7 \--discovery-token-ca-cert-hash sha256:64949994a89c53e627d68b115125ff753bfe6ff72a26eb561bdc30f32837415a
    • 1
    • 2
    [root@k8s-node1 opt]# kubectl get nodes; NAME STATUS ROLES AGE VERSION k8s-node1 Ready master 47m v1.17.3 k8s-node2 NotReady <none> 75s v1.17.3 k8s-node3 NotReady <none> 76s v1.17.3 [root@k8s-node1 opt]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    監控pod進度

    # 在master執行 watch kubectl get pod -n kube-system -o wide
    • 1
    • 2

    等到所有的status都變為running狀態后,再次查看節點信息:

    [root@k8s-node1 ~]# kubectl get nodes; NAME STATUS ROLES AGE VERSION k8s-node1 Ready master 3h50m v1.17.3 k8s-node2 Ready <none> 3h3m v1.17.3 k8s-node3 Ready <none> 3h3m v1.17.3 [root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    8)加入kubenetes的Node節點

    在node節點中執行,向集群中添加新的節點,執行在kubeadm init 輸出的kubeadm join命令;
    確保node節點成功:
    token過期怎么辦
    kubeadm token create --print-join-command

    9)入門操作kubernetes集群

    1、在主節點上部署一個tomcat

    kubectl create deployment tomcat6 --image=tomcat:6.0.53-jre8
    • 1

    獲取所有的資源:

    [root@k8s-node1 k8s]# kubectl get all NAME READY STATUS RESTARTS AGE pod/tomcat6-7b84fb5fdc-cfd8g 0/1 ContainerCreating 0 41sNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service/kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 70mNAME READY UP-TO-DATE AVAILABLE AGE deployment.apps/tomcat6 0/1 1 0 41sNAME DESIRED CURRENT READY AGE replicaset.apps/tomcat6-7b84fb5fdc 1 1 0 41s [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13

    kubectl get pods -o wide 可以獲取到tomcat部署信息,能夠看到它被部署到了k8s-node3上了

    [root@k8s-node1 k8s]# kubectl get all -o wide NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES pod/tomcat6-5f7ccf4cb9-xhrr9 0/1 ContainerCreating 0 77s <none> k8s-node3 <none> <none>NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR service/kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 68m <none>NAME READY UP-TO-DATE AVAILABLE AGE CONTAINERS IMAGES SELECTOR deployment.apps/tomcat6 0/1 1 0 77s tomcat tomcat:6.0.53-jre8 app=tomcat6NAME DESIRED CURRENT READY AGE CONTAINERS IMAGES SELECTOR replicaset.apps/tomcat6-5f7ccf4cb9 1 1 0 77s tomcat tomcat:6.0.53-jre8 app=tomcat6,pod-template-hash=5f7ccf4cb9
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12

    查看node3節點上,下載了哪些鏡像:

    [root@k8s-node3 k8s]# docker images REPOSITORY TAG IMAGE ID CREATED SIZE registry.cn-hangzhou.aliyuncs.com/google_containers/kube-proxy v1.17.3 ae853e93800d 14 months ago 116MB quay.io/coreos/flannel v0.11.0-amd64 ff281650a721 2 years ago 52.6MB registry.cn-hangzhou.aliyuncs.com/google_containers/pause 3.1 da86e6ba6ca1 3 years ago 742kB tomcat 6.0.53-jre8 49ab0583115a 3 years ago 290MB
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7

    查看Node3節點上,正在運行的容器:

    [root@k8s-node3 k8s]# docker ps CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES 8a197fa41dd9 tomcat "catalina.sh run" About a minute ago Up About a minute k8s_tomcat_tomcat6-5f7ccf4cb9-xhrr9_default_81f186a8-4805-4bbb-8d77-3142269942ed_0 4074d0d63a88 registry.cn-hangzhou.aliyuncs.com/google_containers/pause:3.1 "/pause" 2 minutes ago Up 2 minutes k8s_POD_tomcat6-5f7ccf4cb9-xhrr9_default_81f186a8-4805-4bbb-8d77-3142269942ed_0 db3faf3a280d ff281650a721 "/opt/bin/flanneld -…" 29 minutes ago Up 29 minutes k8s_kube-flannel_kube-flannel-ds-amd64-vcktd_kube-system_31ca3556-d6c3-48b2-b393-35ff7d89a078_0 be461b54cb4b registry.cn-hangzhou.aliyuncs.com/google_containers/kube-proxy "/usr/local/bin/kube…" 30 minutes ago Up 30 minutes k8s_kube-proxy_kube-proxy-ptq2t_kube-system_0e1f7df3-7204-481d-bf15-4b0e09cf0c81_0 88d1ab87f400 registry.cn-hangzhou.aliyuncs.com/google_containers/pause:3.1 "/pause" 31 minutes ago Up 31 minutes k8s_POD_kube-flannel-ds-amd64-vcktd_kube-system_31ca3556-d6c3-48b2-b393-35ff7d89a078_0 52be28610a02 registry.cn-hangzhou.aliyuncs.com/google_containers/pause:3.1 "/pause" 31 minutes ago Up 31 minutes k8s_POD_kube-proxy-ptq2t_kube-system_0e1f7df3-7204-481d-bf15-4b0e09cf0c81_0
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8

    在node1上執行:

    [root@k8s-node1 k8s]# kubectl get pods NAME READY STATUS RESTARTS AGE tomcat6-7b84fb5fdc-cfd8g 1/1 Running 0 5m35s[root@k8s-node1 k8s]# kubectl get pods --all-namespaces NAMESPACE NAME READY STATUS RESTARTS AGE default tomcat6-7b84fb5fdc-cfd8g 1/1 Running 0 163m kube-system coredns-546565776c-9sbmk 1/1 Running 0 3h52m kube-system coredns-546565776c-t68mr 1/1 Running 0 3h52m kube-system etcd-k8s-node1 1/1 Running 0 3h52m kube-system kube-apiserver-k8s-node1 1/1 Running 0 3h52m kube-system kube-controller-manager-k8s-node1 1/1 Running 0 3h52m kube-system kube-flannel-ds-amd64-5xs5j 1/1 Running 0 3h6m kube-system kube-flannel-ds-amd64-6xwth 1/1 Running 0 3h24m kube-system kube-flannel-ds-amd64-fvnvx 1/1 Running 0 3h6m kube-system kube-proxy-7tkvl 1/1 Running 0 3h6m kube-system kube-proxy-mvlnk 1/1 Running 0 3h6m kube-system kube-proxy-sz2vz 1/1 Running 0 3h52m kube-system kube-scheduler-k8s-node1 1/1 Running 0 3h52m [root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20

    從前面看到tomcat部署在Node3上,現在模擬因為各種原因宕機的情況,將node3關閉電源,觀察情況。

    docker stop執行的時候,docker ps發現又有新的容器了,這是k8s又新建了,所以選擇關機node3

    [root@k8s-node1 k8s]# kubectl get nodes NAME STATUS ROLES AGE VERSION k8s-node1 Ready master 79m v1.17.3 k8s-node2 Ready <none> 41m v1.17.3 k8s-node3 NotReady <none> 41m v1.17.3
    • 1
    • 2
    • 3
    • 4
    • 5

    得等個幾分鐘才能容災恢復

    [root@k8s-node1 k8s]# kubectl get pods -o wide NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES tomcat6-5f7ccf4cb9-clcpr 1/1 Running 0 4m16s 10.244.1.2 k8s-node2 <none> <none> tomcat6-5f7ccf4cb9-xhrr9 1/1 Terminating 1 22m 10.244.2.2 k8s-node3 <none> <none>
    • 1
    • 2
    • 3
    • 4

    2、暴露nginx訪問

    在master上執行

    kubectl expose deployment tomcat6 --port=80 --target-port=8080 --type=NodePort
    • 1

    pod的80映射容器的8080;server會帶來pod的80

    查看服務:

    [root@k8s-node1 k8s]# kubectl get svc NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 93m tomcat6 NodePort 10.96.7.78 <none> 80:30055/TCP 8s
    • 1
    • 2
    • 3
    • 4
    [root@k8s-node1 k8s]# kubectl get svc -o wide NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 103m <none> tomcat6 NodePort 10.96.7.78 <none> 80:30055/TCP 9m38s app=tomcat6
    • 1
    • 2
    • 3
    • 4

    瀏覽器輸入:http://192.168.56.100:30055/ ,可以看到tomcat首頁

    輸入下面命令可以看到pod和封裝pod 的service,pod是部署產生的,部署還有一個副本

    [root@k8s-node1 ~]# kubectl get all NAME READY STATUS RESTARTS AGE pod/tomcat6-5f7ccf4cb9-clcpr 1/1 Running 0 4h12mNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service/kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 5h37m service/tomcat6 NodePort 10.96.7.78 <none> 80:30055/TCP 4h3mNAME READY UP-TO-DATE AVAILABLE AGE deployment.apps/tomcat6 1/1 1 1 4h30mNAME DESIRED CURRENT READY AGE replicaset.apps/tomcat6-5f7ccf4cb9 1 1 1 4h30m
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14

    3、動態擴容測試

    kubectl get deployment

    [root@k8s-node1 ~]# kubectl get deployment NAME READY UP-TO-DATE AVAILABLE AGE tomcat6 2/2 2 2 11h [root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4

    應用升級: kubectl set image (–help查看幫助)
    擴容:kubectl scale --replicas=3 deployment tomcat6

    [root@k8s-node1 ~]# kubectl scale --replicas=3 deployment tomcat6 deployment.apps/tomcat6 scaled [root@k8s-node1 ~]# kubectl get pods -o wide NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES tomcat6-5f7ccf4cb9-clcpr 1/1 Running 0 4h23m 10.244.1.2 k8s-node2 <none> <none> tomcat6-5f7ccf4cb9-jbvr4 1/1 Running 0 9s 10.244.2.3 k8s-node3 <none> <none> tomcat6-5f7ccf4cb9-ng556 1/1 Running 0 9s 10.244.2.4 k8s-node3 <none> <none>[root@k8s-node1 ~]# kubectl get svc -o wide NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 5h48m <none> tomcat6 NodePort 10.96.7.78 <none> 80:30055/TCP 4h15m app=tomcat6
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12

    擴容了多份,所有無論訪問哪個node的指定端口,都可以訪問到tomcat6

    http://192.168.56.101:30055/

    http://192.168.56.102:30055/

    縮容:kubectl scale --replicas=2 deployment tomcat6

    [root@k8s-node1 ~]# kubectl scale --replicas=1 deployment tomcat6 deployment.apps/tomcat6 scaled[root@k8s-node1 ~]# kubectl get pods -o wide NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES tomcat6-5f7ccf4cb9-clcpr 1/1 Running 0 4h32m 10.244.1.2 k8s-node2 <none> <none>[root@k8s-node1 ~]# kubectl get all NAME READY STATUS RESTARTS AGE pod/tomcat6-5f7ccf4cb9-clcpr 1/1 Running 0 4h33mNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service/kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 5h58m service/tomcat6 NodePort 10.96.7.78 <none> 80:30055/TCP 4h24mNAME READY UP-TO-DATE AVAILABLE AGE deployment.apps/tomcat6 1/1 1 1 4h51mNAME DESIRED CURRENT READY AGE replicaset.apps/tomcat6-5f7ccf4cb9 1 1 1 4h51m
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21

    4、以上操作的yaml獲取
    參照k8s細節

    5、刪除
    kubectl get all

    [root@k8s-node1 ~]# kubectl get all NAME READY STATUS RESTARTS AGE pod/tomcat6-5f7ccf4cb9-clcpr 1/1 Running 0 4h33mNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service/kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 5h58m service/tomcat6 NodePort 10.96.7.78 <none> 80:30055/TCP 4h24mNAME READY UP-TO-DATE AVAILABLE AGE deployment.apps/tomcat6 1/1 1 1 4h51mNAME DESIRED CURRENT READY AGE replicaset.apps/tomcat6-5f7ccf4cb9 1 1 1 4h51m #刪除deployment.apps/tomcat6 [root@k8s-node1 ~]# kubectl delete deployment.apps/tomcat6 deployment.apps "tomcat6" deleted #查看剩余的資源 [root@k8s-node1 ~]# kubectl get all NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service/kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 6h service/tomcat6 NodePort 10.96.7.78 <none> 80:30055/TCP 4h26m # 此時沒有了部署,但是有service,沒有pod只有service也是沒有對應的服務的# 查看pod信息 [root@k8s-node1 ~]# kubectl get pods No resources found in default namespace.
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27

    kubectl delete deploye/nginx
    kubectl delete service/nginx-service

    三、docker深入

    四、K8s細節

    1、kubectl文檔

    ? https://kubernetes.io/zh/docs/reference/kubectl/overview/

    2、資源類型

    https://kubernetes.io/zh/docs/reference/kubectl/overview/#資源類型

    3、格式化輸出

    https://kubernetes.io/zh/docs/reference/kubectl/overview/

    所有?kubectl?命令的默認輸出格式都是人類可讀的純文本格式。要以特定格式向終端窗口輸出詳細信息,可以將?-o?或?--output?參數添加到受支持的?kubectl?命令中。

    語法

    kubectl [command] [TYPE] [NAME] -o=<output_format>
    • 1

    根據?kubectl?操作,支持以下輸出格式:

    Output formatDescription
    -o custom-columns=使用逗號分隔的自定義列列表打印表。
    -o custom-columns-file=使用 `` 文件中的自定義列模板打印表。
    -o json輸出 JSON 格式的 API 對象
    `-o jsonpath=打印?jsonpath?表達式定義的字段
    -o jsonpath-file=打印 `` 文件中?jsonpath?表達式定義的字段。
    -o name僅打印資源名稱而不打印任何其他內容。
    -o wide以純文本格式輸出,包含任何附加信息。對于 pod 包含節點名。
    -o yaml輸出 YAML 格式的 API 對象。

    示例

    在此示例中,以下命令將單個 pod 的詳細信息輸出為 YAML 格式的對象:

    kubectl get pod web-pod-13je7 -o yaml
    • 1

    請記住:有關每個命令支持哪種輸出格式的詳細信息,請參閱?kubectl?參考文檔。

    –dry-run:

    –dry-run=‘none’: Must be “none”, “server”, or “client”. If client strategy, only print the object that would be

    sent, without sending it. If server strategy, submit server-side request without persisting the resource.

    值必須為none,server或client。如果是客戶端策略,則只打印該發送對象,但不發送它。如果服務器策略,提交服務器端請求而不持久化資源。

    也就是說,通過–dry-run選項,并不會真正的執行這條命令。

    [root@k8s-node1 ~]# kubectl create deployment tomcat6 --image=tomcat:6.0.53-jre8 --dry-run -o yamlW0504 03:39:08.389369 8107 helpers.go:535] --dry-run is deprecated and can be replaced with --dry-run=client. apiVersion: apps/v1 kind: Deployment metadata:creationTimestamp: nulllabels:app: tomcat6name: tomcat6 spec:replicas: 1selector:matchLabels:app: tomcat6strategy: {}template:metadata:creationTimestamp: nulllabels:app: tomcat6spec:containers:- image: tomcat:6.0.53-jre8name: tomcatresources: {} status: {} [root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28

    實際上我們也可以將這個yaml輸出到文件,然后使用kubectl apply -f來應用它

    #輸出到tomcat6.yaml [root@k8s-node1 ~]# kubectl create deployment tomcat6 --image=tomcat:6.0.53-jre8 --dry-run -o yaml >tomcat6.yaml W0504 03:46:18.180366 11151 helpers.go:535] --dry-run is deprecated and can be replaced with --dry-run=client.#修改副本數為3 [root@k8s-node1 ~]# cat tomcat6.yaml apiVersion: apps/v1 kind: Deployment metadata:creationTimestamp: nulllabels:app: tomcat6name: tomcat6 spec:replicas: 3 #修改副本數為3selector:matchLabels:app: tomcat6strategy: {}template:metadata:creationTimestamp: nulllabels:app: tomcat6spec:containers:- image: tomcat:6.0.53-jre8name: tomcatresources: {} status: {}#應用tomcat6.yaml [root@k8s-node1 ~]# kubectl apply -f tomcat6.yaml deployment.apps/tomcat6 created [root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35

    查看pods:

    [root@k8s-node1 ~]# kubectl get pods NAME READY STATUS RESTARTS AGE tomcat6-7b84fb5fdc-5jh6t 1/1 Running 0 8s tomcat6-7b84fb5fdc-8lhwv 1/1 Running 0 8s tomcat6-7b84fb5fdc-j4qmh 1/1 Running 0 8s [root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    查看某個pod的具體信息:

    [root@k8s-node1 ~]# kubectl get pods tomcat6-7b84fb5fdc-5jh6t -o yaml
    • 1
    apiVersion: v1 kind: Pod metadata:creationTimestamp: "2020-05-04T03:50:47Z"generateName: tomcat6-7b84fb5fdc-labels:app: tomcat6pod-template-hash: 7b84fb5fdcmanagedFields:- apiVersion: v1fieldsType: FieldsV1fieldsV1:f:metadata:f:generateName: {}f:labels:.: {}f:app: {}f:pod-template-hash: {}f:ownerReferences:.: {}k:{"uid":"292bfe3b-dd63-442e-95ce-c796ab5bdcc1"}:.: {}f:apiVersion: {}f:blockOwnerDeletion: {}f:controller: {}f:kind: {}f:name: {}f:uid: {}f:spec:f:containers:k:{"name":"tomcat"}:.: {}f:image: {}f:imagePullPolicy: {}f:name: {}f:resources: {}f:terminationMessagePath: {}f:terminationMessagePolicy: {}f:dnsPolicy: {}f:enableServiceLinks: {}f:restartPolicy: {}f:schedulerName: {}f:securityContext: {}f:terminationGracePeriodSeconds: {}manager: kube-controller-manageroperation: Updatetime: "2020-05-04T03:50:47Z"- apiVersion: v1fieldsType: FieldsV1fieldsV1:f:status:f:conditions:k:{"type":"ContainersReady"}:.: {}f:lastProbeTime: {}f:lastTransitionTime: {}f:status: {}f:type: {}k:{"type":"Initialized"}:.: {}f:lastProbeTime: {}f:lastTransitionTime: {}f:status: {}f:type: {}k:{"type":"Ready"}:.: {}f:lastProbeTime: {}f:lastTransitionTime: {}f:status: {}f:type: {}f:containerStatuses: {}f:hostIP: {}f:phase: {}f:podIP: {}f:podIPs:.: {}k:{"ip":"10.244.2.7"}:.: {}f:ip: {}f:startTime: {}manager: kubeletoperation: Updatetime: "2020-05-04T03:50:49Z"name: tomcat6-7b84fb5fdc-5jh6tnamespace: defaultownerReferences:- apiVersion: apps/v1blockOwnerDeletion: truecontroller: truekind: ReplicaSetname: tomcat6-7b84fb5fdcuid: 292bfe3b-dd63-442e-95ce-c796ab5bdcc1resourceVersion: "46229"selfLink: /api/v1/namespaces/default/pods/tomcat6-7b84fb5fdc-5jh6tuid: 2f661212-3b03-47e4-bcb8-79782d5c7578 spec:containers:- image: tomcat:6.0.53-jre8imagePullPolicy: IfNotPresentname: tomcatresources: {}terminationMessagePath: /dev/termination-logterminationMessagePolicy: FilevolumeMounts:- mountPath: /var/run/secrets/kubernetes.io/serviceaccountname: default-token-bxqtwreadOnly: truednsPolicy: ClusterFirstenableServiceLinks: truenodeName: k8s-node2priority: 0restartPolicy: AlwaysschedulerName: default-schedulersecurityContext: {}serviceAccount: defaultserviceAccountName: defaultterminationGracePeriodSeconds: 30tolerations:- effect: NoExecutekey: node.kubernetes.io/not-readyoperator: ExiststolerationSeconds: 300- effect: NoExecutekey: node.kubernetes.io/unreachableoperator: ExiststolerationSeconds: 300volumes:- name: default-token-bxqtwsecret:defaultMode: 420secretName: default-token-bxqtw status:conditions:- lastProbeTime: nulllastTransitionTime: "2020-05-04T03:50:47Z"status: "True"type: Initialized- lastProbeTime: nulllastTransitionTime: "2020-05-04T03:50:49Z"status: "True"type: Ready- lastProbeTime: nulllastTransitionTime: "2020-05-04T03:50:49Z"status: "True"type: ContainersReady- lastProbeTime: nulllastTransitionTime: "2020-05-04T03:50:47Z"status: "True"type: PodScheduledcontainerStatuses:- containerID: docker://18eb0798384ea44ff68712cda9be94b6fb96265206c554a15cee28c288879304image: tomcat:6.0.53-jre8imageID: docker-pullable://tomcat@sha256:8c643303012290f89c6f6852fa133b7c36ea6fbb8eb8b8c9588a432beb24dc5dlastState: {}name: tomcatready: truerestartCount: 0started: truestate:running:startedAt: "2020-05-04T03:50:49Z"hostIP: 10.0.2.4phase: RunningpodIP: 10.244.2.7podIPs:- ip: 10.244.2.7qosClass: BestEffortstartTime: "2020-05-04T03:50:47Z"
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35
    • 36
    • 37
    • 38
    • 39
    • 40
    • 41
    • 42
    • 43
    • 44
    • 45
    • 46
    • 47
    • 48
    • 49
    • 50
    • 51
    • 52
    • 53
    • 54
    • 55
    • 56
    • 57
    • 58
    • 59
    • 60
    • 61
    • 62
    • 63
    • 64
    • 65
    • 66
    • 67
    • 68
    • 69
    • 70
    • 71
    • 72
    • 73
    • 74
    • 75
    • 76
    • 77
    • 78
    • 79
    • 80
    • 81
    • 82
    • 83
    • 84
    • 85
    • 86
    • 87
    • 88
    • 89
    • 90
    • 91
    • 92
    • 93
    • 94
    • 95
    • 96
    • 97
    • 98
    • 99
    • 100
    • 101
    • 102
    • 103
    • 104
    • 105
    • 106
    • 107
    • 108
    • 109
    • 110
    • 111
    • 112
    • 113
    • 114
    • 115
    • 116
    • 117
    • 118
    • 119
    • 120
    • 121
    • 122
    • 123
    • 124
    • 125
    • 126
    • 127
    • 128
    • 129
    • 130
    • 131
    • 132
    • 133
    • 134
    • 135
    • 136
    • 137
    • 138
    • 139
    • 140
    • 141
    • 142
    • 143
    • 144
    • 145
    • 146
    • 147
    • 148
    • 149
    • 150
    • 151
    • 152
    • 153
    • 154
    • 155
    • 156
    • 157
    • 158
    • 159
    • 160
    • 161
    • 162
    • 163
    • 164
    • 165
    • 166
    • 167
    • 168

    命令參考

    https://kubernetes.io/docs/reference/generated/kubectl/kubectl-commands#create

    service的意義

    3、Service的意義 1、部署一個nginx kubectl create deployment nginx --image=nginx2、暴露nginx訪問 kubectl expose deployment nginx --port=80 --type=NodePort統一應用訪問入口, Service管理一組Pod 防止Pod失聯(服務發現)、定義一組Pod的訪問策略 現在我們使用NodePort的方式暴露,這樣訪問每個節點的端口,都可以訪問各個Pod,如果節點宕機,就會出現問題。
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12

    前面我們通過命令行的方式,部署和暴露了tomcat,實際上也可以通過yaml的方式來完成這些操作。

    #這些操作實際上是為了獲取Deployment的yaml模板 [root@k8s-node1 ~]# kubectl create deployment tomcat6 --image=tomcat:6.0.53-jre8 --dry-run -o yaml >tomcat6-deployment.yaml W0504 04:13:28.265432 24263 helpers.go:535] --dry-run is deprecated and can be replaced with --dry-run=client. [root@k8s-node1 ~]# ls tomcat6-deployment.yaml tomcat6-deployment.yaml [root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    修改“tomcat6-deployment.yaml”內容如下:

    apiVersion: apps/v1 kind: Deployment metadata:labels:app: tomcat6name: tomcat6 spec:replicas: 3selector:matchLabels:app: tomcat6template:metadata: labels:app: tomcat6spec:containers:- image: tomcat:6.0.53-jre8name: tomcat
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    #部署 [root@k8s-node1 ~]# kubectl apply -f tomcat6-deployment.yaml deployment.apps/tomcat6 configured#查看資源 [root@k8s-node1 ~]# kubectl get all NAME READY STATUS RESTARTS AGE pod/tomcat6-7b84fb5fdc-5jh6t 1/1 Running 0 27m pod/tomcat6-7b84fb5fdc-8lhwv 1/1 Running 0 27m pod/tomcat6-7b84fb5fdc-j4qmh 1/1 Running 0 27mNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service/kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 14hNAME READY UP-TO-DATE AVAILABLE AGE deployment.apps/tomcat6 3/3 3 3 27mNAME DESIRED CURRENT READY AGE replicaset.apps/tomcat6-7b84fb5fdc 3 3 3 27m [root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    kubectl expose deployment tomcat6 --port=80 --target-port=8080 --type=NodePort --dry-run -o yaml
    • 1
    apiVersion: v1 kind: Service metadata:creationTimestamp: nulllabels:app: tomcat6name: tomcat6 spec:ports:- port: 80protocol: TCPtargetPort: 8080selector:app: tomcat6type: NodePort status:loadBalancer: {}
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17

    將這段輸出和“tomcat6-deployment.yaml”進行拼接,表示部署完畢并進行暴露服務:

    apiVersion: apps/v1 kind: Deployment metadata:labels:app: tomcat6name: tomcat6 spec:replicas: 3selector:matchLabels:app: tomcat6template:metadata: labels:app: tomcat6spec:containers:- image: tomcat:6.0.53-jre8name: tomcat --- apiVersion: v1 kind: Service metadata:creationTimestamp: nulllabels:app: tomcat6name: tomcat6 spec:ports:- port: 80protocol: TCPtargetPort: 8080selector:app: tomcat6type: NodePort
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29
    • 30
    • 31
    • 32
    • 33
    • 34
    • 35

    部署并暴露服務

    [root@k8s-node1 ~]# kubectl apply -f tomcat6-deployment.yaml deployment.apps/tomcat6 created service/tomcat6 created
    • 1
    • 2
    • 3

    查看服務和部署信息

    [root@k8s-node1 ~]# kubectl get all NAME READY STATUS RESTARTS AGE pod/tomcat6-7b84fb5fdc-dsqmb 1/1 Running 0 4s pod/tomcat6-7b84fb5fdc-gbmxc 1/1 Running 0 5s pod/tomcat6-7b84fb5fdc-kjlc6 1/1 Running 0 4sNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service/kubernetes ClusterIP 10.96.0.1 <none> 443/TCP 14h service/tomcat6 NodePort 10.96.147.210 <none> 80:30172/TCP 4sNAME READY UP-TO-DATE AVAILABLE AGE deployment.apps/tomcat6 3/3 3 3 5sNAME DESIRED CURRENT READY AGE replicaset.apps/tomcat6-7b84fb5fdc 3 3 3 5s [root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16

    訪問node1,node1和node3的30172端口:

    [root@k8s-node1 ~]# curl -I http://192.168.56.{100,101,102}:30172/ HTTP/1.1 200 OK Server: Apache-Coyote/1.1 Accept-Ranges: bytes ETag: W/"7454-1491118183000" Last-Modified: Sun, 02 Apr 2017 07:29:43 GMT Content-Type: text/html Content-Length: 7454 Date: Mon, 04 May 2020 04:35:35 GMTHTTP/1.1 200 OK Server: Apache-Coyote/1.1 Accept-Ranges: bytes ETag: W/"7454-1491118183000" Last-Modified: Sun, 02 Apr 2017 07:29:43 GMT Content-Type: text/html Content-Length: 7454 Date: Mon, 04 May 2020 04:35:35 GMTHTTP/1.1 200 OK Server: Apache-Coyote/1.1 Accept-Ranges: bytes ETag: W/"7454-1491118183000" Last-Modified: Sun, 02 Apr 2017 07:29:43 GMT Content-Type: text/html Content-Length: 7454 Date: Mon, 04 May 2020 04:35:35 GMT[root@k8s-node1 ~]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20
    • 21
    • 22
    • 23
    • 24
    • 25
    • 26
    • 27
    • 28
    • 29

    Ingress

    通過Ingress發現pod進行關聯。基于域名訪問
    通過Ingress controller實現POD負載均衡
    支持TCP/UDP 4層負載均衡和HTTP 7層負載均衡

    • service管理多個pod
    • Ingress管理多個service

    步驟:
    (1)部署Ingress controller

    執行“k8s/ingress-controller.yaml”

    [root@k8s-node1 k8s]# kubectl apply -f ingress-controller.yaml namespace/ingress-nginx created configmap/nginx-configuration created configmap/tcp-services created configmap/udp-services created serviceaccount/nginx-ingress-serviceaccount created clusterrole.rbac.authorization.k8s.io/nginx-ingress-clusterrole created role.rbac.authorization.k8s.io/nginx-ingress-role created rolebinding.rbac.authorization.k8s.io/nginx-ingress-role-nisa-binding created clusterrolebinding.rbac.authorization.k8s.io/nginx-ingress-clusterrole-nisa-binding created daemonset.apps/nginx-ingress-controller created service/ingress-nginx created [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13

    查看

    [root@k8s-node1 k8s]# kubectl get pods --all-namespaces NAMESPACE NAME READY STATUS RESTARTS AGE default tomcat6-7b84fb5fdc-dsqmb 1/1 Running 0 16m default tomcat6-7b84fb5fdc-gbmxc 1/1 Running 0 16m default tomcat6-7b84fb5fdc-kjlc6 1/1 Running 0 16m ingress-nginx nginx-ingress-controller-9q6cs 0/1 ContainerCreating 0 40s ingress-nginx nginx-ingress-controller-qx572 0/1 ContainerCreating 0 40s kube-system coredns-546565776c-9sbmk 1/1 Running 1 14h kube-system coredns-546565776c-t68mr 1/1 Running 1 14h kube-system etcd-k8s-node1 1/1 Running 1 14h kube-system kube-apiserver-k8s-node1 1/1 Running 1 14h kube-system kube-controller-manager-k8s-node1 1/1 Running 1 14h kube-system kube-flannel-ds-amd64-5xs5j 1/1 Running 2 13h kube-system kube-flannel-ds-amd64-6xwth 1/1 Running 2 14h kube-system kube-flannel-ds-amd64-fvnvx 1/1 Running 1 13h kube-system kube-proxy-7tkvl 1/1 Running 1 13h kube-system kube-proxy-mvlnk 1/1 Running 2 13h kube-system kube-proxy-sz2vz 1/1 Running 1 14h kube-system kube-scheduler-k8s-node1 1/1 Running 1 14h [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20

    這里master節點負責調度,具體執行交給node2和node3來完成,能夠看到它們正在下載鏡像

    (2)創建Ingress規則

    apiVersion: extensions/v1beta1 kind: Ingress metadata:name: web spec:rules:- host: tomcat6.kubenetes.comhttp:paths: - backend: serviceName: tomcat6servicePort: 80
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    [root@k8s-node1 k8s]# touch ingress-tomcat6.yaml #將上面的規則,添加到ingress-tomcat6.yaml文件中 [root@k8s-node1 k8s]# vi ingress-tomcat6.yaml [root@k8s-node1 k8s]# kubectl apply -f ingress-tomcat6.yaml ingress.extensions/web created [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7

    修改本機的hosts文件,添加如下的域名轉換規則:

    192.168.56.102 tomcat6.kubenetes.com
    • 1

    測試: http://tomcat6.kubenetes.com/

    并且集群中即便有一個節點不可用,也不影響整體的運行。

    安裝kubernetes可視化界面——DashBoard

    1、部署DashBoard

    $ kubectl appy -f kubernetes-dashboard.yaml
    • 1

    文件在“k8s”源碼目錄提供

    2、暴露DashBoard為公共訪問

    默認DashBoard只能集群內部訪問,修改Service為NodePort類型,暴露到外部

    kind: Service apiVersion: v1 metadata:labels:k8s-app: kubernetes-dashboardname: kubernetes-dashboardnamespace: kube-system spec:type: NodePortports:- port: 443targetPort: 8443nodePort: 3001selector:k8s-app: kubernetes-dashboard
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15

    訪問地址:http://NodeIP:30001

    3、創建授權賬號

    $ kubectl create serviceaccount dashboar-admin -n kube-sysem
    • 1
    $ kubectl create clusterrolebinding dashboar-admin --clusterrole=cluter-admin --serviceaccount=kube-system:dashboard-admin
    • 1
    $ kubectl describe secrets -n kube-system $( kubectl -n kube-system get secret |awk '/dashboard-admin/{print $1}' )
    • 1

    使用輸出的token登錄dashboard

    kubesphere

    默認的dashboard沒啥用,我們用kubesphere可以打通全部的devops鏈路,kubesphere集成了很多套件,集群要求比較高
    https://kubesphere.io

    kuboard也很不錯,集群要求不高
    https://kuboard.cn/support/

    1、簡潔

    kubesphere是一款面向云原聲設計的開源項目,在目前主流容器調度平臺kubernets智商構建的分布式多用戶容器管理平臺,提供簡單易用的操作界面以及向導式操作方式,在降低用戶使用容器調度平臺學習成本的同時,極大降低開發、測試、運維的日常工作的復雜度。

    2、安裝前提提交

    1、安裝helm(master節點執行)

    helm是kubernetes的包管理器。包管理器類似于在Ubuntu中使用的apt,centos中的yum或者python中的pip一樣,能夠快速查找,下載和安裝軟件包。Helm有客戶端組件helm和服務端組件Tiller組成,能夠將一組K8S資源打包統一管理,是查找、共享和使用為Kubernetes構建的軟件的最佳方式。

    1)安裝

    curl -L https://git.io/get_helm.sh|bash
    • 1

    由于被墻的原因,使用我們給定的get_helm.sh。

    [root@k8s-node1 k8s]# ll total 68 -rw-r--r-- 1 root root 7149 Feb 27 01:58 get_helm.sh -rw-r--r-- 1 root root 6310 Feb 28 05:16 ingress-controller.yaml -rw-r--r-- 1 root root 209 Feb 28 13:18 ingress-demo.yml -rw-r--r-- 1 root root 236 May 4 05:09 ingress-tomcat6.yaml -rwxr--r-- 1 root root 15016 Feb 26 15:05 kube-flannel.yml -rw-r--r-- 1 root root 4737 Feb 26 15:38 kubernetes-dashboard.yaml -rw-r--r-- 1 root root 3841 Feb 27 01:09 kubesphere-complete-setup.yaml -rw-r--r-- 1 root root 392 Feb 28 11:33 master_images.sh -rw-r--r-- 1 root root 283 Feb 28 11:34 node_images.sh -rw-r--r-- 1 root root 1053 Feb 28 03:53 product.yaml -rw-r--r-- 1 root root 931 May 3 10:08 Vagrantfile [root@k8s-node1 k8s]# sh get_helm.sh Downloading https://get.helm.sh/helm-v2.16.6-linux-amd64.tar.gz Preparing to install helm and tiller into /usr/local/bin helm installed into /usr/local/bin/helm tiller installed into /usr/local/bin/tiller Run 'helm init' to configure helm. [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19
    • 20

    2)驗證版本

    helm version
    • 1

    3)創建權限(master執行)

    創建helm-rbac.yaml,寫入如下內容

    apiVersion: v1 kind: ServiceAccount metadata:name: tillernamespace: kube-system --- apiVersion: rbac.authorization.k8s.io/v1 kind: ClusterRoleBinding metadata:name: tiller roleRef:apiGroup: rbac.authorization.k8s.iokind: ClusterRolename: cluster-admin subjects:- kind: ServiceAccountname: kubernetes-dashboardnamespace: kube-system
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18

    應用配置:

    [root@k8s-node1 k8s]# kubectl apply -f helm-rbac.yaml serviceaccount/tiller created clusterrolebinding.rbac.authorization.k8s.io/tiller created [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4

    2、安裝Tilller(Master執行)

    1、初始化

    [root@k8s-node1 k8s]# helm init --service-account=tiller --tiller-image=sapcc/tiller:v2.16.3 --history-max 300 Creating /root/.helm Creating /root/.helm/repository Creating /root/.helm/repository/cache Creating /root/.helm/repository/local Creating /root/.helm/plugins Creating /root/.helm/starters Creating /root/.helm/cache/archive Creating /root/.helm/repository/repositories.yaml Adding stable repo with URL: https://kubernetes-charts.storage.googleapis.com Adding local repo with URL: http://127.0.0.1:8879/charts $HELM_HOME has been configured at /root/.helm.Tiller (the Helm server-side component) has been installed into your Kubernetes Cluster.Please note: by default, Tiller is deployed with an insecure 'allow unauthenticated users' policy. To prevent this, run `helm init` with the --tiller-tls-verify flag. For more information on securing your installation see: https://v2.helm.sh/docs/securing_installation/ [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17
    • 18
    • 19

    –tiller-image 指定鏡像,否則會被墻,等待節點上部署的tiller完成即可。

    [root@k8s-node1 k8s]# kubectl get pods -n kube-system NAME READY STATUS RESTARTS AGE coredns-546565776c-9sbmk 1/1 Running 3 23h coredns-546565776c-t68mr 1/1 Running 3 23h etcd-k8s-node1 1/1 Running 3 23h kube-apiserver-k8s-node1 1/1 Running 3 23h kube-controller-manager-k8s-node1 1/1 Running 3 23h kube-flannel-ds-amd64-5xs5j 1/1 Running 4 22h kube-flannel-ds-amd64-6xwth 1/1 Running 5 23h kube-flannel-ds-amd64-fvnvx 1/1 Running 4 22h kube-proxy-7tkvl 1/1 Running 3 22h kube-proxy-mvlnk 1/1 Running 4 22h kube-proxy-sz2vz 1/1 Running 3 23h kube-scheduler-k8s-node1 1/1 Running 3 23h kubernetes-dashboard-975499656-jxczv 0/1 ImagePullBackOff 0 7h45m tiller-deploy-8cc566858-67bxb 1/1 Running 0 31s [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6
    • 7
    • 8
    • 9
    • 10
    • 11
    • 12
    • 13
    • 14
    • 15
    • 16
    • 17

    查看集群的所有節點信息:

    kubectl get node -o wide
    • 1
    [root@k8s-node1 k8s]# kubectl get node -o wide NAME STATUS ROLES AGE VERSION INTERNAL-IP EXTERNAL-IP OS-IMAGE KERNEL-VERSION CONTAINER-RUNTIME k8s-node1 Ready master 23h v1.17.3 10.0.2.15 <none> CentOS Linux 7 (Core) 3.10.0-957.12.2.el7.x86_64 docker://19.3.8 k8s-node2 Ready <none> 22h v1.17.3 10.0.2.4 <none> CentOS Linux 7 (Core) 3.10.0-957.12.2.el7.x86_64 docker://19.3.8 k8s-node3 Ready <none> 22h v1.17.3 10.0.2.5 <none> CentOS Linux 7 (Core) 3.10.0-957.12.2.el7.x86_64 docker://19.3.8 [root@k8s-node1 k8s]#
    • 1
    • 2
    • 3
    • 4
    • 5
    • 6

    2、測試

    helm install stable/nginx-ingress --name nginx-ingress
    • 1

    最小化安裝 KubeSphere

    若集群可用 CPU > 1 Core 且可用內存 > 2 G,可以使用以下命令最小化安裝 KubeSphere:

    kubectl apply -f https://raw.githubusercontent.com/kubesphere/ks-installer/master/kubesphere-minimal.yaml
    • 1

    提示:若您的服務器提示無法訪問 GitHub,可將?kubesphere-minimal.yaml??kubesphere-complete-setup.yaml?文件保存到本地作為本地的靜態文件,再參考上述命令進行安裝。

  • 查看滾動刷新的安裝日志,請耐心等待安裝成功。
  • $ kubectl logs -n kubesphere-system $(kubectl get pod -n kubesphere-system -l app=ks-install -o jsonpath='{.items[0].metadata.name}') -f
    • 1

    說明:安裝過程中若遇到問題,也可以通過以上日志命令來排查問題

    總結

    以上是生活随笔為你收集整理的【谷粒商城】集群篇-k8s(4/4)的全部內容,希望文章能夠幫你解決所遇到的問題。

    如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

    四虎国产精品免费久久 | 曰韩无码二三区中文字幕 | 女人和拘做爰正片视频 | 小泽玛莉亚一区二区视频在线 | 在线а√天堂中文官网 | 中文字幕+乱码+中文字幕一区 | 中文无码精品a∨在线观看不卡 | yw尤物av无码国产在线观看 | 亚洲日韩av一区二区三区中文 | 东京无码熟妇人妻av在线网址 | 免费人成网站视频在线观看 | а√天堂www在线天堂小说 | 露脸叫床粗话东北少妇 | 国产真实乱对白精彩久久 | 久久天天躁狠狠躁夜夜免费观看 | 狠狠cao日日穞夜夜穞av | 日本va欧美va欧美va精品 | av无码电影一区二区三区 | 久久综合久久自在自线精品自 | 内射爽无广熟女亚洲 | 欧美日韩综合一区二区三区 | 亚洲另类伦春色综合小说 | 永久免费观看国产裸体美女 | 日本精品久久久久中文字幕 | 欧美性生交xxxxx久久久 | 午夜无码区在线观看 | 曰韩无码二三区中文字幕 | 少妇高潮一区二区三区99 | 亚洲中文字幕乱码av波多ji | 女高中生第一次破苞av | 美女扒开屁股让男人桶 | ass日本丰满熟妇pics | 日产国产精品亚洲系列 | 国产亚洲tv在线观看 | 精品欧洲av无码一区二区三区 | 亚洲精品综合五月久久小说 | 少女韩国电视剧在线观看完整 | 久久精品一区二区三区四区 | 天海翼激烈高潮到腰振不止 | 东京热男人av天堂 | 图片小说视频一区二区 | 国产精品va在线播放 | 女人和拘做爰正片视频 | 欧美真人作爱免费视频 | 国产乱人伦av在线无码 | 久久精品无码一区二区三区 | 成人av无码一区二区三区 | 中文字幕乱码人妻无码久久 | 天天拍夜夜添久久精品 | 六十路熟妇乱子伦 | 中文字幕日产无线码一区 | 人妻少妇被猛烈进入中文字幕 | 国产午夜亚洲精品不卡下载 | 999久久久国产精品消防器材 | 人妻无码久久精品人妻 | 亚洲日韩精品欧美一区二区 | 99久久99久久免费精品蜜桃 | 亚洲日韩乱码中文无码蜜桃臀网站 | 久久www免费人成人片 | 精品偷拍一区二区三区在线看 | 成人欧美一区二区三区黑人免费 | 国产精品久久久午夜夜伦鲁鲁 | 色婷婷av一区二区三区之红樱桃 | 精品国产一区二区三区av 性色 | 婷婷六月久久综合丁香 | 日韩亚洲欧美精品综合 | 天天爽夜夜爽夜夜爽 | 一本大道久久东京热无码av | 全球成人中文在线 | 国内精品人妻无码久久久影院 | 国产熟妇另类久久久久 | 天干天干啦夜天干天2017 | 强开小婷嫩苞又嫩又紧视频 | 亚洲色欲色欲天天天www | 婷婷丁香五月天综合东京热 | 亚洲综合在线一区二区三区 | 成人精品视频一区二区三区尤物 | 波多野结衣av一区二区全免费观看 | 亚洲午夜久久久影院 | 欧美国产日产一区二区 | 99re在线播放 | 国产精品人妻一区二区三区四 | 日日夜夜撸啊撸 | 中国大陆精品视频xxxx | 曰本女人与公拘交酡免费视频 | 成人综合网亚洲伊人 | 精品国产乱码久久久久乱码 | 99久久久国产精品无码免费 | 特黄特色大片免费播放器图片 | 国产一区二区三区日韩精品 | 男人和女人高潮免费网站 | 少妇人妻大乳在线视频 | 精品人妻人人做人人爽夜夜爽 | 亚洲国产精品毛片av不卡在线 | 欧美激情综合亚洲一二区 | av在线亚洲欧洲日产一区二区 | 婷婷色婷婷开心五月四房播播 | 亚洲一区二区三区四区 | 日日噜噜噜噜夜夜爽亚洲精品 | 国产 浪潮av性色四虎 | 亚洲成a人片在线观看日本 | 国产美女精品一区二区三区 | 天天综合网天天综合色 | 久久熟妇人妻午夜寂寞影院 | 牛和人交xxxx欧美 | 精品厕所偷拍各类美女tp嘘嘘 | 日日摸日日碰夜夜爽av | 97人妻精品一区二区三区 | 国产成人人人97超碰超爽8 | 麻豆人妻少妇精品无码专区 | 全球成人中文在线 | 大肉大捧一进一出视频出来呀 | 精品久久8x国产免费观看 | 久久久久久久女国产乱让韩 | 18黄暴禁片在线观看 | 国产av一区二区三区最新精品 | 一个人看的www免费视频在线观看 | 国内精品九九久久久精品 | 性欧美牲交xxxxx视频 | 国产精品爱久久久久久久 | 免费国产黄网站在线观看 | 好爽又高潮了毛片免费下载 | 欧美性猛交内射兽交老熟妇 | 国产两女互慰高潮视频在线观看 | 少妇性荡欲午夜性开放视频剧场 | 国产精品国产三级国产专播 | 欧美日韩久久久精品a片 | 国产肉丝袜在线观看 | 东京热无码av男人的天堂 | 日本精品少妇一区二区三区 | 最近的中文字幕在线看视频 | 日韩精品乱码av一区二区 | 久久国产精品二国产精品 | 伊人久久大香线焦av综合影院 | 日本乱人伦片中文三区 | 亚洲日本va午夜在线电影 | а天堂中文在线官网 | 精品国产乱码久久久久乱码 | 日本一区二区三区免费播放 | 大色综合色综合网站 | 天天躁日日躁狠狠躁免费麻豆 | 东京无码熟妇人妻av在线网址 | 少妇高潮喷潮久久久影院 | 色综合久久中文娱乐网 | 国产精品-区区久久久狼 | 亚洲の无码国产の无码步美 | 亚洲精品成人福利网站 | 97夜夜澡人人双人人人喊 | 精品国产av色一区二区深夜久久 | 国产成人无码午夜视频在线观看 | 国产熟妇另类久久久久 | 国产精品久久久久久无码 | 中文字幕色婷婷在线视频 | 乱人伦人妻中文字幕无码 | 国产精品igao视频网 | 亚洲日韩av片在线观看 | 国产激情一区二区三区 | 国产明星裸体无码xxxx视频 | 人人妻人人澡人人爽人人精品浪潮 | 国产精品高潮呻吟av久久 | 97精品人妻一区二区三区香蕉 | аⅴ资源天堂资源库在线 | 好男人www社区 | 无码av最新清无码专区吞精 | 帮老师解开蕾丝奶罩吸乳网站 | 亚洲乱码国产乱码精品精 | 99视频精品全部免费免费观看 | 亚洲精品美女久久久久久久 | 久久午夜夜伦鲁鲁片无码免费 | 国产精品无码一区二区桃花视频 | 欧美zoozzooz性欧美 | 无码人妻精品一区二区三区不卡 | 久久久久久久久蜜桃 | 亚洲一区av无码专区在线观看 | 性色av无码免费一区二区三区 | 黑人巨大精品欧美黑寡妇 | 午夜精品一区二区三区在线观看 | 久久国产精品精品国产色婷婷 | 无码人妻丰满熟妇区五十路百度 | 中文无码成人免费视频在线观看 | 亚洲精品国偷拍自产在线观看蜜桃 | 精品国精品国产自在久国产87 | 精品成人av一区二区三区 | 少妇愉情理伦片bd | 人人爽人人澡人人高潮 | 国产尤物精品视频 | 成熟女人特级毛片www免费 | 亚洲国产精品成人久久蜜臀 | 国产成人无码a区在线观看视频app | 亚洲色大成网站www国产 | 十八禁视频网站在线观看 | 九一九色国产 | 网友自拍区视频精品 | 成人一在线视频日韩国产 | 少妇性l交大片 | 成人精品一区二区三区中文字幕 | aa片在线观看视频在线播放 | 国产va免费精品观看 | аⅴ资源天堂资源库在线 | 久久久久亚洲精品男人的天堂 | 九九在线中文字幕无码 | 国产色在线 | 国产 | 亚洲国产成人av在线观看 | 免费男性肉肉影院 | 小sao货水好多真紧h无码视频 | 国产精品99久久精品爆乳 | 两性色午夜免费视频 | 嫩b人妻精品一区二区三区 | 国产成人精品三级麻豆 | 激情国产av做激情国产爱 | 强开小婷嫩苞又嫩又紧视频 | 中文字幕无线码 | 色偷偷人人澡人人爽人人模 | 国产色视频一区二区三区 | 亚洲中文字幕无码中字 | 无套内射视频囯产 | 亚洲天堂2017无码中文 | 亚洲呦女专区 | 亚洲成av人在线观看网址 | 一本精品99久久精品77 | 午夜福利不卡在线视频 | 亚洲の无码国产の无码步美 | 人妻少妇精品无码专区动漫 | 日本丰满护士爆乳xxxx | 性欧美疯狂xxxxbbbb | 久久国产精品精品国产色婷婷 | 狂野欧美性猛交免费视频 | 精品久久久久香蕉网 | 乱人伦人妻中文字幕无码久久网 | 少妇一晚三次一区二区三区 | 毛片内射-百度 | 国产亚洲美女精品久久久2020 | 真人与拘做受免费视频一 | 色一情一乱一伦一区二区三欧美 | 日本护士毛茸茸高潮 | 亚洲精品成a人在线观看 | 性生交大片免费看女人按摩摩 | 久激情内射婷内射蜜桃人妖 | 中文字幕乱码亚洲无线三区 | 在线亚洲高清揄拍自拍一品区 | 国产精品美女久久久久av爽李琼 | 色欲人妻aaaaaaa无码 | 牛和人交xxxx欧美 | 日韩av无码一区二区三区不卡 | 日日摸天天摸爽爽狠狠97 | 无人区乱码一区二区三区 | 亚洲日韩av片在线观看 | 日本高清一区免费中文视频 | 久久99精品国产麻豆蜜芽 | 欧美第一黄网免费网站 | 久久亚洲a片com人成 | 国产精品久久久久久无码 | 亚洲男人av香蕉爽爽爽爽 | 97久久国产亚洲精品超碰热 | 日日橹狠狠爱欧美视频 | 日本丰满护士爆乳xxxx | 2020久久超碰国产精品最新 | 亚洲精品久久久久avwww潮水 | 欧美亚洲日韩国产人成在线播放 | 强开小婷嫩苞又嫩又紧视频 | 人妻少妇精品久久 | 国产亚洲精品久久久闺蜜 | aⅴ在线视频男人的天堂 | 丰满少妇女裸体bbw | 荫蒂被男人添的好舒服爽免费视频 | 一二三四社区在线中文视频 | 成人免费视频一区二区 | 亚洲色在线无码国产精品不卡 | 高中生自慰www网站 | 欧美人与禽zoz0性伦交 | 久久综合香蕉国产蜜臀av | 大地资源中文第3页 | 欧美阿v高清资源不卡在线播放 | 精品久久久久久亚洲精品 | 亚洲中文无码av永久不收费 | av人摸人人人澡人人超碰下载 | 国产两女互慰高潮视频在线观看 | 人人妻人人澡人人爽欧美精品 | 无码av岛国片在线播放 | 一个人看的视频www在线 | 久久亚洲中文字幕无码 | 久久精品女人的天堂av | 日韩精品一区二区av在线 | √8天堂资源地址中文在线 | 国内揄拍国内精品少妇国语 | 久久久精品人妻久久影视 | 99久久99久久免费精品蜜桃 | 精品国产国产综合精品 | 少妇无码av无码专区在线观看 | 精品国产一区二区三区四区 | 在线观看欧美一区二区三区 | 国产成人精品视频ⅴa片软件竹菊 | 宝宝好涨水快流出来免费视频 | 97夜夜澡人人爽人人喊中国片 | 性色欲情网站iwww九文堂 | 永久免费观看国产裸体美女 | 无码一区二区三区在线 | 精品无码成人片一区二区98 | 免费国产黄网站在线观看 | 亚洲人成影院在线无码按摩店 | 人人妻人人澡人人爽欧美一区九九 | а天堂中文在线官网 | 亚洲娇小与黑人巨大交 | yw尤物av无码国产在线观看 | 99er热精品视频 | 久久成人a毛片免费观看网站 | 97精品国产97久久久久久免费 | 亚洲欧洲无卡二区视頻 | 无码一区二区三区在线 | 国产办公室秘书无码精品99 | 草草网站影院白丝内射 | 六月丁香婷婷色狠狠久久 | 色一情一乱一伦一视频免费看 | 一本无码人妻在中文字幕免费 | 亚洲中文字幕无码中字 | 午夜男女很黄的视频 | 国产麻豆精品一区二区三区v视界 | www国产亚洲精品久久久日本 | 97久久国产亚洲精品超碰热 | 欧美 亚洲 国产 另类 | 亚洲经典千人经典日产 | 无码午夜成人1000部免费视频 | 国产亚洲美女精品久久久2020 | 久久久亚洲欧洲日产国码αv | 久久精品国产99久久6动漫 | 人人爽人人澡人人高潮 | 1000部啪啪未满十八勿入下载 | 亚洲性无码av中文字幕 | 国产内射爽爽大片视频社区在线 | 九一九色国产 | 人人妻人人澡人人爽欧美精品 | 免费无码肉片在线观看 | 亚洲综合无码一区二区三区 | 澳门永久av免费网站 | 亚洲一区二区三区含羞草 | 在线a亚洲视频播放在线观看 | 国内少妇偷人精品视频 | 久久亚洲a片com人成 | 亚洲精品一区二区三区在线观看 | 亚洲欧美国产精品久久 | 乱人伦中文视频在线观看 | 成人一在线视频日韩国产 | 四虎4hu永久免费 | 2019nv天堂香蕉在线观看 | 国产又粗又硬又大爽黄老大爷视 | 亚洲色大成网站www | 亚洲精品成人福利网站 | 亚洲综合另类小说色区 | 中文久久乱码一区二区 | 久精品国产欧美亚洲色aⅴ大片 | 狠狠cao日日穞夜夜穞av | 丝袜人妻一区二区三区 | 天天拍夜夜添久久精品 | 中文字幕 人妻熟女 | 久久久亚洲欧洲日产国码αv | 麻豆av传媒蜜桃天美传媒 | 国产精品国产三级国产专播 | 日本一卡二卡不卡视频查询 | 99视频精品全部免费免费观看 | 久久精品国产日本波多野结衣 | 久久精品人人做人人综合试看 | 国产亚洲精品久久久久久久久动漫 | 久青草影院在线观看国产 | 波多野结衣高清一区二区三区 | 国产人妻人伦精品1国产丝袜 | 亚洲日韩乱码中文无码蜜桃臀网站 | 成人精品一区二区三区中文字幕 | 欧美猛少妇色xxxxx | 内射后入在线观看一区 | 婷婷五月综合缴情在线视频 | 国产精品久久国产三级国 | 国产成人无码午夜视频在线观看 | 国产九九九九九九九a片 | 亚洲中文字幕久久无码 | 国产人妻人伦精品 | 国产真实夫妇视频 | 亚洲の无码国产の无码影院 | 亚洲精品国偷拍自产在线观看蜜桃 | 亚洲一区二区三区 | 亚洲精品国产a久久久久久 | 亚洲精品国产精品乱码不卡 | 欧美怡红院免费全部视频 | 国产 精品 自在自线 | 天堂亚洲免费视频 | www国产亚洲精品久久久日本 | 日本免费一区二区三区最新 | a在线观看免费网站大全 | 日日天日日夜日日摸 | 永久免费观看国产裸体美女 | 国产偷自视频区视频 | 成年女人永久免费看片 | 水蜜桃亚洲一二三四在线 | 东京热无码av男人的天堂 | av人摸人人人澡人人超碰下载 | 久久伊人色av天堂九九小黄鸭 | 国产综合久久久久鬼色 | 东京无码熟妇人妻av在线网址 | 亚洲娇小与黑人巨大交 | 欧美freesex黑人又粗又大 | 久久无码专区国产精品s | 国产精品对白交换视频 | 老熟女重囗味hdxx69 | 久久久精品456亚洲影院 | 婷婷五月综合缴情在线视频 | 无码av最新清无码专区吞精 | 亚洲乱码国产乱码精品精 | 久久精品无码一区二区三区 | 欧美性黑人极品hd | 国产成人综合色在线观看网站 | 国产艳妇av在线观看果冻传媒 | 在线视频网站www色 | 中文字幕+乱码+中文字幕一区 | 免费无码av一区二区 | 欧美色就是色 | 中文毛片无遮挡高清免费 | 成人精品一区二区三区中文字幕 | 午夜理论片yy44880影院 | 初尝人妻少妇中文字幕 | 亚洲毛片av日韩av无码 | 欧美肥老太牲交大战 | 国产极品视觉盛宴 | 国产美女极度色诱视频www | 亚洲va中文字幕无码久久不卡 | 午夜精品久久久久久久久 | 少女韩国电视剧在线观看完整 | 中文字幕 亚洲精品 第1页 | 久久99热只有频精品8 | 亚洲精品一区国产 | 国产精品怡红院永久免费 | 日韩av无码一区二区三区不卡 | 亚洲熟妇色xxxxx欧美老妇y | 久久精品女人天堂av免费观看 | 欧洲极品少妇 | 日韩av激情在线观看 | 中国女人内谢69xxxxxa片 | 亚洲中文字幕无码中文字在线 | 欧美xxxx黑人又粗又长 | 欧美freesex黑人又粗又大 | 国产av无码专区亚洲a∨毛片 | 亚洲中文字幕乱码av波多ji | 性欧美熟妇videofreesex | 色婷婷香蕉在线一区二区 | 国产亚洲精品久久久久久国模美 | 131美女爱做视频 | 精品国产福利一区二区 | 久久国产精品萌白酱免费 | 成人精品天堂一区二区三区 | 日韩欧美群交p片內射中文 | 中文无码精品a∨在线观看不卡 | 久久人人爽人人爽人人片ⅴ | 亚洲日韩av一区二区三区中文 | 大肉大捧一进一出视频出来呀 | 国产亚av手机在线观看 | 在线看片无码永久免费视频 | 午夜精品久久久内射近拍高清 | 欧美放荡的少妇 | 亚洲娇小与黑人巨大交 | 国产色在线 | 国产 | 国产亚洲人成a在线v网站 | 国产精品久久久久久亚洲毛片 | 国产高潮视频在线观看 | 亚洲一区二区观看播放 | 女人被男人躁得好爽免费视频 | 欧美日本免费一区二区三区 | 婷婷综合久久中文字幕蜜桃三电影 | 中文字幕+乱码+中文字幕一区 | 欧美猛少妇色xxxxx | 久久久久免费精品国产 | 精品水蜜桃久久久久久久 | 人妻有码中文字幕在线 | 色妞www精品免费视频 | 色欲综合久久中文字幕网 | 久久无码专区国产精品s | 欧美日韩亚洲国产精品 | 一区二区传媒有限公司 | 婷婷色婷婷开心五月四房播播 | 中文久久乱码一区二区 | 日韩av无码中文无码电影 | 午夜不卡av免费 一本久久a久久精品vr综合 | 国产美女精品一区二区三区 | 中文字幕无码乱人伦 | 亚洲欧洲日本综合aⅴ在线 | 99久久精品日本一区二区免费 | 免费无码午夜福利片69 | 黑森林福利视频导航 | 国精品人妻无码一区二区三区蜜柚 | 国产 浪潮av性色四虎 | 国产成人精品久久亚洲高清不卡 | 性史性农村dvd毛片 | 无码人妻黑人中文字幕 | 欧美精品一区二区精品久久 | 精品久久综合1区2区3区激情 | 中文字幕人妻无码一区二区三区 | 精品无码一区二区三区爱欲 | 欧美一区二区三区视频在线观看 | 波多野结衣一区二区三区av免费 | 欧洲熟妇色 欧美 | 亚洲国产精品一区二区第一页 | 日本乱人伦片中文三区 | 国产精品久久久一区二区三区 | 亚洲成色在线综合网站 | 激情亚洲一区国产精品 | 免费无码av一区二区 | 国产色xx群视频射精 | 国产综合久久久久鬼色 | 国产精品久久久久久无码 | 欧美老妇与禽交 | 精品一区二区三区无码免费视频 | 女高中生第一次破苞av | 婷婷综合久久中文字幕蜜桃三电影 | 色婷婷欧美在线播放内射 | 国产亚洲美女精品久久久2020 | 日韩精品无码一区二区中文字幕 | 中文字幕乱妇无码av在线 | 中文字幕久久久久人妻 | 欧美性色19p | 亚洲国产综合无码一区 | 国产高清av在线播放 | 久久亚洲国产成人精品性色 | 国产精品国产自线拍免费软件 | 久久亚洲日韩精品一区二区三区 | 巨爆乳无码视频在线观看 | 丝袜足控一区二区三区 | 国内老熟妇对白xxxxhd | 欧美老人巨大xxxx做受 | 国产三级精品三级男人的天堂 | 97久久精品无码一区二区 | 亚洲中文字幕无码中字 | 97se亚洲精品一区 | 国精品人妻无码一区二区三区蜜柚 | 亚洲成色在线综合网站 | 色 综合 欧美 亚洲 国产 | 午夜理论片yy44880影院 | 成 人 网 站国产免费观看 | 亚洲日韩乱码中文无码蜜桃臀网站 | 欧美自拍另类欧美综合图片区 | 好爽又高潮了毛片免费下载 | 奇米影视7777久久精品人人爽 | 欧美大屁股xxxxhd黑色 | 人妻与老人中文字幕 | 免费人成在线观看网站 | 亚洲日韩一区二区 | 一本加勒比波多野结衣 | 六十路熟妇乱子伦 | 男女下面进入的视频免费午夜 | 成人免费视频视频在线观看 免费 | 色欲av亚洲一区无码少妇 | 人妻少妇精品视频专区 | 国语自产偷拍精品视频偷 | 久热国产vs视频在线观看 | 在线天堂新版最新版在线8 | 少妇性l交大片欧洲热妇乱xxx | 荫蒂添的好舒服视频囗交 | yw尤物av无码国产在线观看 | 亚洲成a人片在线观看无码 | 国产成人精品一区二区在线小狼 | 2020久久超碰国产精品最新 | www国产亚洲精品久久网站 | 亚洲无人区午夜福利码高清完整版 | 亚洲另类伦春色综合小说 | 亚洲午夜无码久久 | 欧美野外疯狂做受xxxx高潮 | 日韩 欧美 动漫 国产 制服 | 天天做天天爱天天爽综合网 | 亚洲精品久久久久久久久久久 | 撕开奶罩揉吮奶头视频 | 日本大香伊一区二区三区 | 国产精品久久久久影院嫩草 | 亚洲aⅴ无码成人网站国产app | 啦啦啦www在线观看免费视频 | 亚洲aⅴ无码成人网站国产app | 国产97人人超碰caoprom | 午夜熟女插插xx免费视频 | 99精品无人区乱码1区2区3区 | 欧美猛少妇色xxxxx | 国产精品无码mv在线观看 | 成人影院yy111111在线观看 | 国产成人无码av在线影院 | 少妇愉情理伦片bd | 日韩欧美群交p片內射中文 | 少妇高潮一区二区三区99 | 中文字幕人妻无码一夲道 | 中文字幕+乱码+中文字幕一区 | 综合激情五月综合激情五月激情1 | 色综合久久久无码中文字幕 | 成人精品一区二区三区中文字幕 | 无遮挡国产高潮视频免费观看 | 水蜜桃色314在线观看 | 亚洲一区二区三区含羞草 | 国产精品亚洲五月天高清 | 亚洲人交乣女bbw | 精品国产一区二区三区四区 | 波多野结衣av在线观看 | 精品国产成人一区二区三区 | 精品久久久久久人妻无码中文字幕 | 成熟女人特级毛片www免费 | 人妻无码αv中文字幕久久琪琪布 | 亚洲欧美精品aaaaaa片 | 久久无码专区国产精品s | 国产精品怡红院永久免费 | 国产乱人无码伦av在线a | 日欧一片内射va在线影院 | 水蜜桃色314在线观看 | 亚洲 另类 在线 欧美 制服 | 国产乡下妇女做爰 | 国产熟妇另类久久久久 | 奇米影视888欧美在线观看 | 欧美zoozzooz性欧美 | √天堂资源地址中文在线 | 日日天日日夜日日摸 | 国产色视频一区二区三区 | 黑人粗大猛烈进出高潮视频 | 日产精品99久久久久久 | 色一情一乱一伦一视频免费看 | 日本大乳高潮视频在线观看 | 性色欲网站人妻丰满中文久久不卡 | 国产无遮挡又黄又爽又色 | 四虎永久在线精品免费网址 | 日本爽爽爽爽爽爽在线观看免 | 久久熟妇人妻午夜寂寞影院 | 一本色道久久综合亚洲精品不卡 | 亚洲熟妇自偷自拍另类 | 性生交片免费无码看人 | 少妇被粗大的猛进出69影院 | 国产国语老龄妇女a片 | 日韩精品一区二区av在线 | 99麻豆久久久国产精品免费 | 国产午夜手机精彩视频 | 丝袜人妻一区二区三区 | 国产疯狂伦交大片 | 亚洲天堂2017无码中文 | 国产精品a成v人在线播放 | 午夜性刺激在线视频免费 | 波多野结衣乳巨码无在线观看 | 无码免费一区二区三区 | 午夜福利电影 | 欧美黑人乱大交 | 日产精品99久久久久久 | 亚洲精品一区二区三区婷婷月 | 国产成人精品久久亚洲高清不卡 | 内射欧美老妇wbb | 国产精品.xx视频.xxtv | 国产精品久久久久无码av色戒 | 欧美喷潮久久久xxxxx | 精品国偷自产在线视频 | 免费无码av一区二区 | 亚洲s色大片在线观看 | 日韩视频 中文字幕 视频一区 | 欧美国产亚洲日韩在线二区 | 国产极品视觉盛宴 | 97精品国产97久久久久久免费 | 日本熟妇人妻xxxxx人hd | 亚洲中文字幕乱码av波多ji | 亚洲熟妇色xxxxx欧美老妇 | 好男人www社区 | 成人三级无码视频在线观看 | аⅴ资源天堂资源库在线 | 成人av无码一区二区三区 | 色偷偷人人澡人人爽人人模 | 国产极品美女高潮无套在线观看 | 国产成人精品视频ⅴa片软件竹菊 | 精品成在人线av无码免费看 | 亚洲va欧美va天堂v国产综合 | 人妻插b视频一区二区三区 | 99久久亚洲精品无码毛片 | www成人国产高清内射 | av无码不卡在线观看免费 | 国精品人妻无码一区二区三区蜜柚 | 欧美激情综合亚洲一二区 | 国产乡下妇女做爰 | 久久国产精品_国产精品 | 欧美国产亚洲日韩在线二区 | 国产麻豆精品一区二区三区v视界 | 永久免费精品精品永久-夜色 | 一本无码人妻在中文字幕免费 | 99国产欧美久久久精品 | 荡女精品导航 | 亚洲国产精品一区二区第一页 | 国产猛烈高潮尖叫视频免费 | 欧美 亚洲 国产 另类 | 亚洲欧美色中文字幕在线 | 亚洲精品午夜国产va久久成人 | 成人性做爰aaa片免费看不忠 | 初尝人妻少妇中文字幕 | 丁香啪啪综合成人亚洲 | 日本护士xxxxhd少妇 | 精品偷拍一区二区三区在线看 | 欧美兽交xxxx×视频 | 成熟人妻av无码专区 | 色综合天天综合狠狠爱 | 亚洲熟女一区二区三区 | 波多野结衣av在线观看 | 国产成人综合在线女婷五月99播放 | 欧美真人作爱免费视频 | 综合网日日天干夜夜久久 | 妺妺窝人体色www在线小说 | 影音先锋中文字幕无码 | 欧美成人家庭影院 | 午夜精品久久久内射近拍高清 | 97久久国产亚洲精品超碰热 | 国产成人无码av在线影院 | 18黄暴禁片在线观看 | 中文精品无码中文字幕无码专区 | 亚洲自偷自拍另类第1页 | 国产在热线精品视频 | 波多野42部无码喷潮在线 | 国产午夜无码视频在线观看 | 丰满妇女强制高潮18xxxx | 精品国精品国产自在久国产87 | 国产农村妇女高潮大叫 | 成人精品视频一区二区三区尤物 | 国产极品美女高潮无套在线观看 | 99精品无人区乱码1区2区3区 | 精品国产精品久久一区免费式 | 最新国产麻豆aⅴ精品无码 | 久久精品中文字幕大胸 | 无码国产激情在线观看 | 亚洲欧美日韩国产精品一区二区 | 亚洲第一无码av无码专区 | 激情综合激情五月俺也去 | 久久久精品欧美一区二区免费 | 色婷婷综合激情综在线播放 | 久久午夜夜伦鲁鲁片无码免费 | 国产精品亚洲专区无码不卡 | 欧美丰满少妇xxxx性 | 精品亚洲韩国一区二区三区 | 女高中生第一次破苞av | 成人一在线视频日韩国产 | 国产精品人人爽人人做我的可爱 | 中文精品无码中文字幕无码专区 | 六十路熟妇乱子伦 | 日本乱人伦片中文三区 | 国产又爽又黄又刺激的视频 | 亚洲精品国产品国语在线观看 | 亚洲色大成网站www | 久久精品99久久香蕉国产色戒 | 日韩无码专区 | 国产性生大片免费观看性 | 久久亚洲精品成人无码 | 国产精品毛多多水多 | 亚洲精品久久久久中文第一幕 | 丰满少妇人妻久久久久久 | 国产av一区二区精品久久凹凸 | 亚洲色成人中文字幕网站 | 日韩av激情在线观看 | 老熟妇乱子伦牲交视频 | 在线a亚洲视频播放在线观看 | 午夜男女很黄的视频 | 亚洲人成无码网www | 99麻豆久久久国产精品免费 | 国产99久久精品一区二区 | 久久久中文久久久无码 | 亚洲а∨天堂久久精品2021 | 一二三四社区在线中文视频 | 国产色在线 | 国产 | 麻豆国产丝袜白领秘书在线观看 | 国产乱人伦偷精品视频 | 亚洲gv猛男gv无码男同 | 日韩精品a片一区二区三区妖精 | 曰韩无码二三区中文字幕 | 性生交片免费无码看人 | 真人与拘做受免费视频 | 蜜桃臀无码内射一区二区三区 | 精品熟女少妇av免费观看 | 亚洲精品综合一区二区三区在线 | 纯爱无遮挡h肉动漫在线播放 | 日本丰满护士爆乳xxxx | 99久久人妻精品免费二区 | 精品无人区无码乱码毛片国产 | 国产美女精品一区二区三区 | 丰满人妻精品国产99aⅴ | 欧美日韩人成综合在线播放 | 5858s亚洲色大成网站www | 亚洲精品成人av在线 | 亚洲欧美精品伊人久久 | 一本久道久久综合狠狠爱 | 东京无码熟妇人妻av在线网址 | 国产精品久久福利网站 | 最新国产麻豆aⅴ精品无码 | 乱人伦人妻中文字幕无码久久网 | 亚洲s码欧洲m码国产av | 色欲av亚洲一区无码少妇 | 欧美日韩综合一区二区三区 | 无码一区二区三区在线 | 色欲久久久天天天综合网精品 | 国产精品久久国产三级国 | 国产熟妇高潮叫床视频播放 | 露脸叫床粗话东北少妇 | 人妻少妇精品无码专区动漫 | 国产做国产爱免费视频 | 少妇无码av无码专区在线观看 | 国产69精品久久久久app下载 | 色偷偷av老熟女 久久精品人妻少妇一区二区三区 | 少妇人妻av毛片在线看 | 精品aⅴ一区二区三区 | 国产成人无码av在线影院 | 高中生自慰www网站 | 亚洲欧美日韩综合久久久 | 国产精品久久久久久久影院 | 风流少妇按摩来高潮 | 久热国产vs视频在线观看 | 精品国产青草久久久久福利 | 午夜丰满少妇性开放视频 | 大乳丰满人妻中文字幕日本 | 亚洲成a人片在线观看日本 | 国产性生交xxxxx无码 | 18无码粉嫩小泬无套在线观看 | 99er热精品视频 | 毛片内射-百度 | 男人和女人高潮免费网站 | 国产电影无码午夜在线播放 | 高中生自慰www网站 | 中文字幕无码av激情不卡 | 国产精品沙发午睡系列 | 国产成人无码a区在线观看视频app | 久青草影院在线观看国产 | 国产真实乱对白精彩久久 | 亚洲日韩中文字幕在线播放 | 国产97在线 | 亚洲 | 色情久久久av熟女人妻网站 | 丝袜人妻一区二区三区 | 夫妻免费无码v看片 | 人人妻人人藻人人爽欧美一区 | 亚洲熟妇色xxxxx欧美老妇 | 欧美人妻一区二区三区 | 大肉大捧一进一出好爽视频 | 成 人 免费观看网站 | 亚洲午夜福利在线观看 | 四虎4hu永久免费 | 久久这里只有精品视频9 | 丰满少妇弄高潮了www | 国产另类ts人妖一区二区 | 日本精品少妇一区二区三区 | 内射爽无广熟女亚洲 | 欧美国产日韩久久mv | 国产精品沙发午睡系列 | www国产亚洲精品久久网站 | 精品无码国产自产拍在线观看蜜 | 狠狠综合久久久久综合网 | 国产一区二区三区四区五区加勒比 | 性生交片免费无码看人 | 日本又色又爽又黄的a片18禁 | 国产成人久久精品流白浆 | 色欲综合久久中文字幕网 | 国产人妻人伦精品1国产丝袜 | 国产精品18久久久久久麻辣 | 欧美丰满熟妇xxxx性ppx人交 | 成人免费视频视频在线观看 免费 | 国产精品美女久久久 | 美女张开腿让人桶 | 中文字幕 亚洲精品 第1页 | 亚洲精品无码国产 | 色窝窝无码一区二区三区色欲 | 99精品国产综合久久久久五月天 | 秋霞成人午夜鲁丝一区二区三区 | 亚洲日韩乱码中文无码蜜桃臀网站 | 亚洲人成影院在线观看 | 狠狠色丁香久久婷婷综合五月 | 亚洲精品午夜国产va久久成人 | 最新版天堂资源中文官网 | 久久久www成人免费毛片 | 精品国产一区二区三区四区在线看 | 成人亚洲精品久久久久 | 精品偷拍一区二区三区在线看 | 日本一卡2卡3卡4卡无卡免费网站 国产一区二区三区影院 | 中文无码成人免费视频在线观看 | 国产精品怡红院永久免费 | 天天摸天天透天天添 | 夫妻免费无码v看片 | 爽爽影院免费观看 | 国产精品无码一区二区桃花视频 | 青春草在线视频免费观看 | 国产人妻精品午夜福利免费 | 99久久精品日本一区二区免费 | 国产av剧情md精品麻豆 | аⅴ资源天堂资源库在线 | 久久国产36精品色熟妇 | 在线观看国产一区二区三区 | 国产内射老熟女aaaa | 中文字幕无码视频专区 | 日本在线高清不卡免费播放 | 夜夜高潮次次欢爽av女 | 色一情一乱一伦一视频免费看 | 亚洲色无码一区二区三区 | 国产精品第一国产精品 | 精品人妻人人做人人爽 | 国产亚洲精品久久久久久久久动漫 | 欧美freesex黑人又粗又大 | 一本久道久久综合狠狠爱 | 亚洲精品一区国产 | 日本一卡2卡3卡四卡精品网站 | 久激情内射婷内射蜜桃人妖 | 欧美国产日韩亚洲中文 | 国产亚洲精品久久久久久 | 国产精品无码久久av | 欧美熟妇另类久久久久久不卡 | 真人与拘做受免费视频一 | 好爽又高潮了毛片免费下载 | 国内精品人妻无码久久久影院蜜桃 | 精品一区二区三区波多野结衣 | 国产99久久精品一区二区 | 狠狠cao日日穞夜夜穞av | 国产 精品 自在自线 | 熟女少妇人妻中文字幕 | 亚洲色无码一区二区三区 | 亚洲日本va中文字幕 | 女人和拘做爰正片视频 | 午夜精品一区二区三区的区别 | 无码人妻黑人中文字幕 | 人人妻人人澡人人爽人人精品浪潮 | 亚洲毛片av日韩av无码 | 亚洲熟女一区二区三区 | 婷婷丁香五月天综合东京热 | 欧美阿v高清资源不卡在线播放 | 亚洲午夜福利在线观看 | 久久综合九色综合欧美狠狠 | 中文字幕无码日韩专区 | yw尤物av无码国产在线观看 | 午夜嘿嘿嘿影院 | 东京一本一道一二三区 | 又大又黄又粗又爽的免费视频 | 夜夜影院未满十八勿进 | 无码福利日韩神码福利片 | 欧美国产亚洲日韩在线二区 | 国产精品久久久午夜夜伦鲁鲁 | 国内少妇偷人精品视频 | 露脸叫床粗话东北少妇 | 欧美性生交活xxxxxdddd | 亚洲а∨天堂久久精品2021 | 久久亚洲精品中文字幕无男同 | 亚洲人亚洲人成电影网站色 | 日韩精品一区二区av在线 | 国产精品a成v人在线播放 | 久久久久久九九精品久 | 亚洲综合精品香蕉久久网 | 亚洲日本一区二区三区在线 | 欧美日韩综合一区二区三区 | 国产偷国产偷精品高清尤物 | 又粗又大又硬又长又爽 | 秋霞特色aa大片 | 丰满人妻被黑人猛烈进入 | 精品国产乱码久久久久乱码 | 国产午夜福利亚洲第一 | 国产亚洲欧美在线专区 | 麻花豆传媒剧国产免费mv在线 | 亚洲国产精华液网站w | 国产精品a成v人在线播放 | 欧美 日韩 人妻 高清 中文 | 国产婷婷色一区二区三区在线 | 国产精品久久国产精品99 | 搡女人真爽免费视频大全 | 国产欧美精品一区二区三区 | 国产香蕉97碰碰久久人人 | 成人欧美一区二区三区黑人免费 | 中文字幕无码日韩欧毛 | 荫蒂添的好舒服视频囗交 | 国产成人一区二区三区别 | 国产农村妇女aaaaa视频 撕开奶罩揉吮奶头视频 | 欧美第一黄网免费网站 | 国产人妻精品一区二区三区不卡 | 精品成人av一区二区三区 | 免费无码一区二区三区蜜桃大 | 强伦人妻一区二区三区视频18 | 永久免费观看美女裸体的网站 | 国产亲子乱弄免费视频 | 特级做a爰片毛片免费69 | 国产精品永久免费视频 | 日韩精品无码一区二区中文字幕 | 精品国产福利一区二区 | 永久黄网站色视频免费直播 | 亚洲国产成人a精品不卡在线 | a在线观看免费网站大全 | 在线观看国产一区二区三区 | 永久免费观看美女裸体的网站 | 亚洲精品国偷拍自产在线观看蜜桃 | 国产激情精品一区二区三区 | 亚洲国产精品久久久天堂 | 精品久久综合1区2区3区激情 | 国产97人人超碰caoprom | 丰满少妇女裸体bbw | 亚洲成色www久久网站 | 国产亚洲欧美日韩亚洲中文色 | 国产美女极度色诱视频www | 天天爽夜夜爽夜夜爽 | 亚洲大尺度无码无码专区 | 国产成人一区二区三区别 | 麻豆av传媒蜜桃天美传媒 | 国产精品久久久久无码av色戒 | 性生交大片免费看女人按摩摩 | 久久久成人毛片无码 | 曰韩无码二三区中文字幕 | 性做久久久久久久免费看 | 无码av最新清无码专区吞精 | 中国女人内谢69xxxxxa片 | 鲁一鲁av2019在线 | 呦交小u女精品视频 | 日日干夜夜干 | 亚洲精品一区二区三区在线 | 中文字幕+乱码+中文字幕一区 | 精品久久8x国产免费观看 | 久久久久久国产精品无码下载 | 日韩视频 中文字幕 视频一区 | 亚洲成色www久久网站 | 亚洲国产欧美日韩精品一区二区三区 | 九九久久精品国产免费看小说 | 欧美xxxxx精品 | 女人被男人躁得好爽免费视频 | 国产成人无码午夜视频在线观看 | 国内少妇偷人精品视频 | 亚洲国产精品久久久天堂 | av人摸人人人澡人人超碰下载 | 免费看少妇作爱视频 | 牲交欧美兽交欧美 | 久久人人97超碰a片精品 | 久久精品女人的天堂av | 久久精品国产99久久6动漫 | 国产亚洲人成a在线v网站 | √8天堂资源地址中文在线 | 久久久www成人免费毛片 | 荫蒂添的好舒服视频囗交 | 夜夜躁日日躁狠狠久久av | 国产真实伦对白全集 | 日韩精品无码免费一区二区三区 | 日韩少妇内射免费播放 | 久久久久久av无码免费看大片 | aⅴ在线视频男人的天堂 | 亚洲成av人片天堂网无码】 | 成人无码精品一区二区三区 | 一区二区传媒有限公司 | 国产精品怡红院永久免费 | 国产香蕉97碰碰久久人人 | 中国大陆精品视频xxxx | 国产乱人偷精品人妻a片 | 欧美放荡的少妇 | 丰满岳乱妇在线观看中字无码 | 亚洲成色www久久网站 | 国产av人人夜夜澡人人爽麻豆 | 在线观看国产午夜福利片 | 成人影院yy111111在线观看 | 久久国产36精品色熟妇 | 午夜福利不卡在线视频 | 狠狠色噜噜狠狠狠狠7777米奇 | 强开小婷嫩苞又嫩又紧视频 | 波多野结衣av一区二区全免费观看 | 日韩av无码中文无码电影 | 国产一区二区三区精品视频 | 国产猛烈高潮尖叫视频免费 | 乱码av麻豆丝袜熟女系列 | 国产麻豆精品精东影业av网站 | 久久精品女人的天堂av | 精品无码av一区二区三区 | 色综合久久久无码中文字幕 | 色诱久久久久综合网ywww | 伊人久久大香线蕉午夜 | 少妇厨房愉情理9仑片视频 | 久久久久久久人妻无码中文字幕爆 | 丰满人妻一区二区三区免费视频 | 婷婷色婷婷开心五月四房播播 | 高中生自慰www网站 | 高清国产亚洲精品自在久久 | 午夜精品一区二区三区在线观看 | 国产免费无码一区二区视频 | 国产办公室秘书无码精品99 | 人人妻人人澡人人爽欧美一区九九 | 亚洲精品一区二区三区四区五区 | 妺妺窝人体色www婷婷 | 欧美精品免费观看二区 | 成在人线av无码免观看麻豆 | 亚洲伊人久久精品影院 | 欧美 日韩 人妻 高清 中文 | 丰满人妻一区二区三区免费视频 | 日韩 欧美 动漫 国产 制服 | 中文字幕中文有码在线 | 性开放的女人aaa片 | 亚洲国产av精品一区二区蜜芽 | 一本精品99久久精品77 | 人人澡人人透人人爽 | 国精产品一品二品国精品69xx | 大肉大捧一进一出视频出来呀 | 18黄暴禁片在线观看 | 中文字幕中文有码在线 | 国产精品无码成人午夜电影 | 老司机亚洲精品影院无码 | 撕开奶罩揉吮奶头视频 | 人人妻人人藻人人爽欧美一区 | 一本大道伊人av久久综合 | 国产乱人无码伦av在线a | 亚洲熟妇自偷自拍另类 | 国产乱子伦视频在线播放 | 日日夜夜撸啊撸 | 99视频精品全部免费免费观看 | 乌克兰少妇xxxx做受 | 亚洲成av人影院在线观看 | 秋霞成人午夜鲁丝一区二区三区 | 亚洲乱码国产乱码精品精 | 色五月五月丁香亚洲综合网 | 久久99精品久久久久久动态图 | 一本久久a久久精品亚洲 | 欧美日本精品一区二区三区 | 久久人妻内射无码一区三区 | 人妻体内射精一区二区三四 | 在线a亚洲视频播放在线观看 | 国产人妻精品午夜福利免费 | 丰满人妻被黑人猛烈进入 | 大肉大捧一进一出好爽视频 | 美女黄网站人色视频免费国产 | 国产亚洲欧美日韩亚洲中文色 | 在线精品亚洲一区二区 | 日日躁夜夜躁狠狠躁 | 人人爽人人爽人人片av亚洲 | 亚洲精品美女久久久久久久 | 老司机亚洲精品影院 | 蜜臀av在线观看 在线欧美精品一区二区三区 | 76少妇精品导航 | 巨爆乳无码视频在线观看 | 超碰97人人做人人爱少妇 | 狠狠躁日日躁夜夜躁2020 | 日欧一片内射va在线影院 | 女人高潮内射99精品 | 色婷婷综合中文久久一本 | 天天躁日日躁狠狠躁免费麻豆 | 水蜜桃av无码 | 啦啦啦www在线观看免费视频 | 国产69精品久久久久app下载 | 国产疯狂伦交大片 | 成年女人永久免费看片 | 乱中年女人伦av三区 | 欧美 丝袜 自拍 制服 另类 | 久久综合香蕉国产蜜臀av | 丰满肥臀大屁股熟妇激情视频 | 日本精品高清一区二区 | 成人亚洲精品久久久久软件 | 亚洲精品久久久久久久久久久 | 久久精品中文字幕一区 | 又大又紧又粉嫩18p少妇 | 久久久久久九九精品久 | 国产艳妇av在线观看果冻传媒 | 草草网站影院白丝内射 | 亚洲狠狠婷婷综合久久 | 成人无码视频免费播放 | 好爽又高潮了毛片免费下载 | 久久久久99精品国产片 | 亚洲色成人中文字幕网站 | 无遮无挡爽爽免费视频 | 国产精品久久国产精品99 | 高潮毛片无遮挡高清免费视频 | 国产麻豆精品精东影业av网站 | 久久99国产综合精品 | 无套内射视频囯产 | 大地资源中文第3页 | 99国产精品白浆在线观看免费 | 国产精品久久久久久久影院 | 国产精品无码永久免费888 | 久久久久久久久蜜桃 | 久久久精品成人免费观看 | 国产精品无码一区二区桃花视频 | 国产精品99久久精品爆乳 | 日本大乳高潮视频在线观看 | 久久综合狠狠综合久久综合88 | 国精产品一品二品国精品69xx | 免费无码午夜福利片69 | 欧美成人午夜精品久久久 | 美女毛片一区二区三区四区 | 少女韩国电视剧在线观看完整 | 大地资源中文第3页 | 2019午夜福利不卡片在线 | 国产欧美精品一区二区三区 | 亚洲日韩一区二区 | 久久久精品456亚洲影院 | 亚洲色偷偷男人的天堂 | 俄罗斯老熟妇色xxxx | 久久久国产精品无码免费专区 | 99在线 | 亚洲 | 中文字幕 人妻熟女 | 波多野结衣乳巨码无在线观看 | 亚洲色欲久久久综合网东京热 | 人人爽人人澡人人高潮 | 成人欧美一区二区三区黑人免费 | 欧美人妻一区二区三区 | 欧美日韩视频无码一区二区三 | 精品无码一区二区三区的天堂 | 国产综合色产在线精品 | 美女扒开屁股让男人桶 | 久久久久久久女国产乱让韩 | 99精品久久毛片a片 | 亚洲理论电影在线观看 | 伦伦影院午夜理论片 | 中文字幕av日韩精品一区二区 | 性欧美大战久久久久久久 | 国产午夜福利100集发布 | 久久综合九色综合97网 | 成人无码精品一区二区三区 | 中国大陆精品视频xxxx | 一本久久伊人热热精品中文字幕 | 人人妻人人藻人人爽欧美一区 | 精品偷自拍另类在线观看 | 国产偷抇久久精品a片69 | 强伦人妻一区二区三区视频18 | 无码人妻丰满熟妇区毛片18 | 亚洲高清偷拍一区二区三区 | 色综合久久久无码中文字幕 | 国产亚洲精品久久久闺蜜 | 大乳丰满人妻中文字幕日本 | 西西人体www44rt大胆高清 | 国产精品无码一区二区桃花视频 | 日韩av激情在线观看 | 亚洲啪av永久无码精品放毛片 | 午夜精品久久久久久久久 | 丰满少妇弄高潮了www | 久久国产精品精品国产色婷婷 | 久久久久免费精品国产 | 亚洲国产日韩a在线播放 | 国产9 9在线 | 中文 | 男女猛烈xx00免费视频试看 | 亚洲精品久久久久久一区二区 | 在线欧美精品一区二区三区 | 最近免费中文字幕中文高清百度 | 成人免费视频一区二区 | 亚洲人成无码网www | 在线天堂新版最新版在线8 | 奇米影视7777久久精品 | 熟妇人妻中文av无码 | 久久精品99久久香蕉国产色戒 | 国产成人综合色在线观看网站 | 欧美成人免费全部网站 | 奇米综合四色77777久久 东京无码熟妇人妻av在线网址 | 97夜夜澡人人爽人人喊中国片 | 无码精品国产va在线观看dvd | 大地资源网第二页免费观看 | 国产午夜亚洲精品不卡 | 在线播放免费人成毛片乱码 | 亚洲精品国产精品乱码视色 | 人妻无码久久精品人妻 | 国产午夜福利亚洲第一 | 男女猛烈xx00免费视频试看 | 亚洲精品无码国产 | 精品国精品国产自在久国产87 | 呦交小u女精品视频 | 色一情一乱一伦一区二区三欧美 | 国产人妻久久精品二区三区老狼 | 99视频精品全部免费免费观看 | 国产另类ts人妖一区二区 | 300部国产真实乱 | 久9re热视频这里只有精品 | 在线观看免费人成视频 | 免费网站看v片在线18禁无码 | 亚洲一区二区三区播放 | 欧美丰满熟妇xxxx性ppx人交 | 永久免费观看美女裸体的网站 | 久久久精品成人免费观看 | 最近免费中文字幕中文高清百度 | 国产综合久久久久鬼色 | 亚洲色欲色欲欲www在线 | 国产极品美女高潮无套在线观看 | 国产尤物精品视频 | 丰满诱人的人妻3 | 日本www一道久久久免费榴莲 | 亚洲综合无码久久精品综合 | 国产av人人夜夜澡人人爽麻豆 | 欧美成人免费全部网站 | 狠狠cao日日穞夜夜穞av | 欧美日本免费一区二区三区 | 久久精品中文字幕一区 | 亚洲欧洲日本无在线码 | 精品久久久久久人妻无码中文字幕 | 亚洲欧美中文字幕5发布 | 精品久久久无码人妻字幂 | 精品夜夜澡人妻无码av蜜桃 | 欧美午夜特黄aaaaaa片 | 日本爽爽爽爽爽爽在线观看免 | 免费视频欧美无人区码 | 久久亚洲精品中文字幕无男同 | 伊人久久婷婷五月综合97色 | 亚洲男人av天堂午夜在 | 亚洲一区二区三区播放 | 偷窥日本少妇撒尿chinese | 小泽玛莉亚一区二区视频在线 | 又大又硬又爽免费视频 | 欧美三级a做爰在线观看 | 丰腴饱满的极品熟妇 | 中文字幕无码视频专区 | 无码国产乱人伦偷精品视频 | 内射欧美老妇wbb | 特大黑人娇小亚洲女 | 正在播放东北夫妻内射 | 久久精品女人的天堂av | 纯爱无遮挡h肉动漫在线播放 | 国产亚洲精品久久久久久久 | 色婷婷久久一区二区三区麻豆 | 麻豆精品国产精华精华液好用吗 | 大色综合色综合网站 | 青青青爽视频在线观看 | 日韩在线不卡免费视频一区 | 国产手机在线αⅴ片无码观看 | 欧美放荡的少妇 | 九月婷婷人人澡人人添人人爽 | 精品成在人线av无码免费看 | 波多野结衣av一区二区全免费观看 | 香港三级日本三级妇三级 | 国产精品久久久一区二区三区 | 国产精品-区区久久久狼 | 2019午夜福利不卡片在线 | 国产一区二区三区影院 | 亚洲色偷偷男人的天堂 | 中文字幕久久久久人妻 | 99精品国产综合久久久久五月天 | 成人亚洲精品久久久久 | 国产人妻精品一区二区三区不卡 | 国产成人精品优优av | 暴力强奷在线播放无码 | 天干天干啦夜天干天2017 | 国产人妻精品一区二区三区 | 亚洲人成无码网www | 999久久久国产精品消防器材 | 人妻少妇精品无码专区二区 | 国产精品无码mv在线观看 | 人妻插b视频一区二区三区 | 国产精品香蕉在线观看 | 国产疯狂伦交大片 | 午夜丰满少妇性开放视频 | 99国产精品白浆在线观看免费 | 国产精品内射视频免费 | 131美女爱做视频 | 欧美黑人性暴力猛交喷水 | 无码人妻丰满熟妇区五十路百度 | 精品一区二区三区无码免费视频 | 久久综合狠狠综合久久综合88 | 亚洲中文字幕无码一久久区 | 午夜精品一区二区三区在线观看 | 丰腴饱满的极品熟妇 | 少女韩国电视剧在线观看完整 | 啦啦啦www在线观看免费视频 | 欧美一区二区三区视频在线观看 | 人妻少妇精品久久 | 乱人伦中文视频在线观看 | 天堂在线观看www | 久青草影院在线观看国产 | 精品夜夜澡人妻无码av蜜桃 | 欧美变态另类xxxx | 色婷婷综合中文久久一本 | 九九热爱视频精品 | 亚洲乱码中文字幕在线 | 国产偷抇久久精品a片69 | 小泽玛莉亚一区二区视频在线 | 欧美35页视频在线观看 | 国产片av国语在线观看 | 一个人看的视频www在线 | 无码国产色欲xxxxx视频 | 日本丰满护士爆乳xxxx | yw尤物av无码国产在线观看 | 国内精品人妻无码久久久影院蜜桃 | 精品偷拍一区二区三区在线看 | 2020最新国产自产精品 | 国产精品永久免费视频 | 亚洲国产精品久久久久久 | 久久久久99精品成人片 | 国产亚洲精品久久久闺蜜 | 一区二区三区高清视频一 | 国产精品第一国产精品 | 国产suv精品一区二区五 | 精品少妇爆乳无码av无码专区 | 亚洲а∨天堂久久精品2021 | 国产成人精品三级麻豆 | 国产三级精品三级男人的天堂 | 东北女人啪啪对白 | 欧美 亚洲 国产 另类 | 精品无码一区二区三区爱欲 | 国产精华av午夜在线观看 | 97久久精品无码一区二区 | 久久综合给合久久狠狠狠97色 | 亚洲精品国产品国语在线观看 | 国产精品亚洲五月天高清 | 中文字幕无码av波多野吉衣 | 四十如虎的丰满熟妇啪啪 | 久久午夜夜伦鲁鲁片无码免费 | 精品日本一区二区三区在线观看 | 波多野42部无码喷潮在线 | 久久无码人妻影院 | 国产无套粉嫩白浆在线 | 少妇性俱乐部纵欲狂欢电影 | 亚洲の无码国产の无码步美 | 天天拍夜夜添久久精品 | 青青久在线视频免费观看 | 男女超爽视频免费播放 | 国产精品亚洲lv粉色 | 久久精品国产一区二区三区肥胖 | 久久亚洲中文字幕无码 | 成人三级无码视频在线观看 | 97精品人妻一区二区三区香蕉 | 亚洲gv猛男gv无码男同 | av无码久久久久不卡免费网站 | 久久综合色之久久综合 | 男女爱爱好爽视频免费看 | 中文字幕无码视频专区 | 人妻与老人中文字幕 | 国产av一区二区三区最新精品 | 亚洲成av人片天堂网无码】 | 好爽又高潮了毛片免费下载 | 精品久久久无码中文字幕 | 精品国产乱码久久久久乱码 | 亚洲综合另类小说色区 | 扒开双腿吃奶呻吟做受视频 | 国产精品久久久久久亚洲毛片 | 樱花草在线社区www | 欧美刺激性大交 | 成人精品一区二区三区中文字幕 | 国产三级久久久精品麻豆三级 | 亚洲精品成人福利网站 | 日韩精品a片一区二区三区妖精 | www国产亚洲精品久久久日本 | 国产亚洲日韩欧美另类第八页 | 性色av无码免费一区二区三区 | 国产免费无码一区二区视频 | 亚洲а∨天堂久久精品2021 | 女人被爽到呻吟gif动态图视看 | 九九热爱视频精品 | 国产精品无码久久av | 波多野42部无码喷潮在线 | 成人无码精品一区二区三区 | 午夜精品久久久久久久 | 国产又爽又黄又刺激的视频 | 一区二区传媒有限公司 | 国产亚洲精品久久久久久久久动漫 | 无码午夜成人1000部免费视频 | 99久久精品国产一区二区蜜芽 | 老头边吃奶边弄进去呻吟 | 色情久久久av熟女人妻网站 | 男人和女人高潮免费网站 | 国产成人精品久久亚洲高清不卡 | 青青青手机频在线观看 | 国产又粗又硬又大爽黄老大爷视 | 亚洲日韩乱码中文无码蜜桃臀网站 | 国内少妇偷人精品视频免费 | 好爽又高潮了毛片免费下载 | 婷婷色婷婷开心五月四房播播 | 人人澡人人透人人爽 | 麻豆果冻传媒2021精品传媒一区下载 | 国产亚洲人成在线播放 | 樱花草在线社区www | 精品国精品国产自在久国产87 | 欧美性猛交内射兽交老熟妇 | 亚洲成av人片在线观看无码不卡 | 精品国产一区二区三区av 性色 | 亚洲精品午夜国产va久久成人 | 成人三级无码视频在线观看 | 国产性生交xxxxx无码 | 玩弄中年熟妇正在播放 | 俺去俺来也在线www色官网 | 午夜成人1000部免费视频 | av在线亚洲欧洲日产一区二区 | 色综合久久网 | 97无码免费人妻超级碰碰夜夜 | 国产无遮挡吃胸膜奶免费看 | 中文字幕 人妻熟女 | 亚洲熟妇自偷自拍另类 | 玩弄少妇高潮ⅹxxxyw | 国产农村妇女aaaaa视频 撕开奶罩揉吮奶头视频 | 欧美人与物videos另类 | 丰满人妻翻云覆雨呻吟视频 | 国产激情无码一区二区app | 亚洲欧美中文字幕5发布 | 台湾无码一区二区 | 亚洲精品综合五月久久小说 | 亚洲国产成人av在线观看 | 色综合久久久无码中文字幕 | 领导边摸边吃奶边做爽在线观看 | 国产av剧情md精品麻豆 | 亚洲中文无码av永久不收费 | v一区无码内射国产 | 国产黄在线观看免费观看不卡 | 无码午夜成人1000部免费视频 | 兔费看少妇性l交大片免费 | 无码国产激情在线观看 | 青青青爽视频在线观看 | 无码人妻出轨黑人中文字幕 | 亚洲精品综合五月久久小说 | 欧美老妇交乱视频在线观看 | 曰本女人与公拘交酡免费视频 | 国产av一区二区精品久久凹凸 | 久久综合九色综合97网 | 九九在线中文字幕无码 | 欧美兽交xxxx×视频 | 丰满人妻一区二区三区免费视频 | 国产成人无码专区 | 偷窥村妇洗澡毛毛多 | 国产激情艳情在线看视频 | 日韩人妻无码一区二区三区久久99 | 精品偷拍一区二区三区在线看 | 日日躁夜夜躁狠狠躁 | 国内综合精品午夜久久资源 | 亚洲国产精品美女久久久久 | 日本欧美一区二区三区乱码 | 久久久久成人片免费观看蜜芽 | 无码一区二区三区在线 | 自拍偷自拍亚洲精品10p | 漂亮人妻洗澡被公强 日日躁 | 97夜夜澡人人爽人人喊中国片 | 久久国产36精品色熟妇 | 黑人巨大精品欧美一区二区 | 亚洲精品国产a久久久久久 | 欧美激情一区二区三区成人 | 国产成人精品久久亚洲高清不卡 | 大肉大捧一进一出好爽视频 | 国产内射爽爽大片视频社区在线 | 国内丰满熟女出轨videos | 亚洲人成网站在线播放942 | 无码一区二区三区在线 | 成人三级无码视频在线观看 | 国产亚洲精品久久久闺蜜 | 午夜丰满少妇性开放视频 | 日本一本二本三区免费 | 久在线观看福利视频 | 亚洲日韩av一区二区三区中文 | 午夜成人1000部免费视频 | 少妇被粗大的猛进出69影院 | 欧美亚洲国产一区二区三区 | 欧美黑人性暴力猛交喷水 | 奇米影视7777久久精品人人爽 | 全黄性性激高免费视频 | aⅴ在线视频男人的天堂 | 国产精品内射视频免费 | 99久久人妻精品免费一区 | 无码午夜成人1000部免费视频 | 亚洲欧美日韩国产精品一区二区 | 奇米影视888欧美在线观看 | 免费国产黄网站在线观看 | 国产内射爽爽大片视频社区在线 | 九月婷婷人人澡人人添人人爽 | 亚洲欧美精品伊人久久 | 最新国产乱人伦偷精品免费网站 | 亚洲欧美日韩成人高清在线一区 | 亚洲中文字幕无码中文字在线 | 国产亚洲精品久久久ai换 | 国产又爽又猛又粗的视频a片 | 亚洲精品成人福利网站 | 欧美性黑人极品hd | 国产精品资源一区二区 | 玩弄中年熟妇正在播放 | 国产真实夫妇视频 | 少妇性l交大片 | 美女极度色诱视频国产 | 亚洲国产一区二区三区在线观看 | 日本高清一区免费中文视频 | 疯狂三人交性欧美 | 无码帝国www无码专区色综合 | 日产国产精品亚洲系列 | 波多野42部无码喷潮在线 | 中文无码精品a∨在线观看不卡 | 久久国产精品_国产精品 | 少妇太爽了在线观看 | 日本一卡二卡不卡视频查询 | 色欲av亚洲一区无码少妇 | 国产精品亚洲综合色区韩国 | 人妻人人添人妻人人爱 | 成人试看120秒体验区 | 妺妺窝人体色www在线小说 | 2020久久超碰国产精品最新 | 国内精品一区二区三区不卡 | 国产亚av手机在线观看 | 东京一本一道一二三区 | 亚洲中文无码av永久不收费 | 色狠狠av一区二区三区 | 亚欧洲精品在线视频免费观看 | 四虎永久在线精品免费网址 | 国产亚洲精品久久久久久久 | 国产婷婷色一区二区三区在线 | 波多野结衣av一区二区全免费观看 | 免费观看又污又黄的网站 | 国精品人妻无码一区二区三区蜜柚 | 成人无码视频免费播放 | 亚洲男人av香蕉爽爽爽爽 | 精品一区二区三区无码免费视频 | 成人女人看片免费视频放人 | 丰满诱人的人妻3 | 大地资源中文第3页 | 国产免费久久精品国产传媒 | 久久久久国色av免费观看性色 | 久久国产精品二国产精品 | 牲欲强的熟妇农村老妇女视频 | 精品无码一区二区三区的天堂 | 麻豆国产97在线 | 欧洲 | 亲嘴扒胸摸屁股激烈网站 | 欧美 日韩 人妻 高清 中文 | 亚洲成a人片在线观看日本 | 日韩av无码中文无码电影 | 波多野结衣av在线观看 | 在线观看欧美一区二区三区 | 国产超级va在线观看视频 | 国产色视频一区二区三区 | 亚洲色欲色欲欲www在线 | 亚洲欧美日韩成人高清在线一区 | 国产精品无码久久av | 午夜福利电影 | 色婷婷综合激情综在线播放 | 亚洲啪av永久无码精品放毛片 | 精品国产国产综合精品 | 四虎影视成人永久免费观看视频 | 欧美日韩一区二区综合 | 牛和人交xxxx欧美 | 97色伦图片97综合影院 | 久久久久久国产精品无码下载 | 亚洲熟熟妇xxxx | 亚洲日韩乱码中文无码蜜桃臀网站 | 午夜时刻免费入口 | 日本一区二区三区免费高清 | 亚洲熟妇色xxxxx亚洲 | 久久天天躁夜夜躁狠狠 | 亚洲中文字幕av在天堂 | 十八禁视频网站在线观看 | 99在线 | 亚洲 | 丰满人妻一区二区三区免费视频 | 国产三级精品三级男人的天堂 | 奇米影视7777久久精品人人爽 | 亚洲 日韩 欧美 成人 在线观看 | 欧美老妇交乱视频在线观看 | 欧美熟妇另类久久久久久多毛 | 国产香蕉尹人综合在线观看 | 国产无套内射久久久国产 | 狂野欧美性猛交免费视频 | 久久久久久久人妻无码中文字幕爆 | 午夜理论片yy44880影院 | 狠狠色噜噜狠狠狠7777奇米 | 88国产精品欧美一区二区三区 | 天堂一区人妻无码 | √天堂资源地址中文在线 | 色妞www精品免费视频 | 黄网在线观看免费网站 | 国产激情精品一区二区三区 | 久久国产精品二国产精品 | 成人亚洲精品久久久久 | 无码福利日韩神码福利片 | 久久人人爽人人爽人人片ⅴ | 国产极品视觉盛宴 | 男人和女人高潮免费网站 | 精品 日韩 国产 欧美 视频 | 日本一卡2卡3卡四卡精品网站 | 无套内谢老熟女 | 丝袜 中出 制服 人妻 美腿 | 日韩精品乱码av一区二区 | 又大又硬又爽免费视频 | 欧美成人家庭影院 | 成 人影片 免费观看 | 色妞www精品免费视频 | 亚洲精品综合五月久久小说 | 欧美丰满老熟妇xxxxx性 | 日日噜噜噜噜夜夜爽亚洲精品 | 精品厕所偷拍各类美女tp嘘嘘 | 激情综合激情五月俺也去 | 性色欲网站人妻丰满中文久久不卡 | 天天躁日日躁狠狠躁免费麻豆 | 国产精品va在线观看无码 | 无码av岛国片在线播放 | 丁香啪啪综合成人亚洲 | 久久综合给久久狠狠97色 | 亚洲综合无码一区二区三区 | 亚洲高清偷拍一区二区三区 | 久久国内精品自在自线 | 亚洲欧洲日本无在线码 | 国产激情无码一区二区app | 国产精品18久久久久久麻辣 | 中文字幕精品av一区二区五区 | 18无码粉嫩小泬无套在线观看 | 内射巨臀欧美在线视频 | 国产成人一区二区三区别 | 蜜桃av抽搐高潮一区二区 | 人妻体内射精一区二区三四 | 天天躁夜夜躁狠狠是什么心态 | 精品一二三区久久aaa片 | 性色av无码免费一区二区三区 | 黑人玩弄人妻中文在线 | 免费视频欧美无人区码 | 亚洲阿v天堂在线 | 六月丁香婷婷色狠狠久久 | 又大又硬又黄的免费视频 | 日产国产精品亚洲系列 | 日韩精品一区二区av在线 |