Yum安装支持InfiniBand的lustre——Install Lustre with InfiniBand Support By Yum
前言:實驗室需要搭建一套Lustre,我在使用了網上各種教程之后總是不成功,于是嘗試了使用Lustre的yum庫來安裝,作如下總結
安裝支持InfiniBand的lustre
note:lustre的編譯安裝太容易出問題,所以這里選用的是yum安裝,請確保您的服務器能夠連接到相應網絡
server端(包括mds與osd)
首先卸載已經安裝了的infiniband(未安裝可不選)
sudo yum remove neohost-backend sudo /sbin/ofed_uninstall.sh #卸載已經安裝了的lustre組件 sudo yum remove "*lustre*"請確認沒有多刪之后再按y
添加lustre-server的yumrepo
sudo vim /etc/yum.repos.d/lustre-server.repo寫入如下內容
[lustre-server] name=lustre-server baseurl=https://downloads.whamcloud.com/public/lustre/lustre-2.12.0-ib/MOFED-4.5-1.0.1.0/el7/server gpgcheck=0從lustre網站上安裝infiniband相關組件
sudo yum --enablerepo=lustre-server install "*OFED*" "*mlnx*" ibutils同樣,請檢查以上包來自于lustre-client而不是其他的鏡像源
啟動ib
sudo modprobe -rv ib_isert rpcrdma ib_srpt sudo service openibd start關于infiniband的config部分我是用的我們實驗室的規定,可以根據自己情況修改
如果讀者不知道怎么弄,如下操作
請將10.0.0.1修改為每臺機器對應的地址
添加e2fsprogs的yumrepo
sudo vim /etc/yum.repos.d/e2fsprogs.repo寫入
[e2fsprogs-el7-x86_64] name=e2fsprogs-el7-x86_64 baseurl=https://downloads.whamcloud.com/public/e2fsprogs/latest/el7/ enabled=1 priority=1note:最好打開瀏覽器手動核對url鏈接,確保與你的服務器版本對應
安裝打過lustre補丁的內核
sudo yum install kernel-3.10.0-957.el7_lustre kernel-debuginfo-3.10.0-957.el7_lustre kernel-debuginfo-common-x86_64-3.10.0-957.el7_lustre kernel-devel-3.10.0-957.el7_lustre kernel-headers-3.10.0-957.el7_lustre uname -r #檢查內核是否是3.10.0-957.el7_lustre,不是的話設定手動內核啟動模塊 sudo reboot安裝lustre
sudo yum --nogpgcheck --enablerepo=lustre-server install kmod-lustre-osd-ldiskfs kmod-lustre lustre lustre-osd-ldiskfs-mount lustre-iokit lustre-tests kmod-lustre-tests裝lustre應該會自動裝上e2fsprogs,沒有的話就手動yum裝一下好了
為lustre添加ib網卡:這一步很重要
sudo vim /etc/modprobe.d/lustre.conf #寫入以下內容 options lnet networks="o2ib0(ib0)" sudo modprobe -v lustre 無error說明大功告成如何配置mgs,mdt,ost我會新開一個頁面來寫,不混在一起。(其實是我累了
client端
首先卸載已經安裝了的infiniband
sudo yum remove neohost-backend sudo /sbin/ofed_uninstall.sh卸載已經安裝了的lustre組件
sudo yum remove "*lustre*"請確認沒有多刪之后再按y
添加lustre-client的yumrepo
sudo vim /etc/yum.repos.d/lustre-client.repo寫入
[lustre-client] name=Lustre Client gpgcheck=0 baseurl=https://downloads.whamcloud.com/public/lustre/lustre-2.12.0-ib/MOFED-4.5-1.0.1.0/el7/client/note:最好打開瀏覽器手動核對url鏈接,確保與你的服務器版本對應
安裝infiniband相關組件
sudo yum --enablerepo=lustre-client install "*OFED*" "*mlnx*" ibutils同樣,請檢查以上包來自于lustre-client而不是其他的鏡像源
啟動ib
sudo modprobe -rv ib_isert rpcrdma ib_srpt sudo service openibd start關于infiniband的config與上一段相似
安裝lustre的client
sudo yum install kmod-lustre-client kmod-lustre-client-tests lustre-client lustre-client-debuginfo lustre-client-tests lustre-iokit pcp-pmda-lustre pcp-pmda-lustrecomm如果有一些奇怪的東西混進來了,可以手動指定版本號重新執行yum install
為lustre添加ib網卡
sudo vim /etc/modprobe.d/lustre.conf #寫入以下內容 options lnet networks="o2ib0(ib0)" sudo modprobe -v lustre無error說明大功告成
創建40個client并掛載上去(請確保服務器available,如果你還沒掛載mds與osd請不要這么做,沒有用)
這個chown user:group自己換一下
總結
以上是生活随笔為你收集整理的Yum安装支持InfiniBand的lustre——Install Lustre with InfiniBand Support By Yum的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: InfiniBand网络
- 下一篇: unity中dds文件不可被识别,需要改