DB2 pureScale 軟體安裝配置及常見問題解決1

DB2 pureScale 軟體安裝配置及常見問題解決

硬體環境要求

DB2 pureScale 採用了和業界聯機事務處理”黃金”標準的 DB2/zOS 相同的共享存儲體系架構、集中式緩存和鎖管理,硬體配置上要求能夠通過 SAN 網路訪問資料庫共享磁碟,需要高性能、低延遲的 InfiniBand 交換機和板卡。

DB2 pureScale 目前支持的伺服器包括 IBM Power 6-550 和 595,IBM Power7 全系列伺服器。由於 IBM Power6-570 伺服器沒有 GX+ 插槽,無法安裝 Infiniband 網卡,因此不被 DB2 pureScale 支持,DB2 pureScale 後續版本將提供對 IBM PC 伺服器的支持。

DB2 pureScale 支持的存儲為所有 GPFS 文件系統支持的存儲,具體參見:
http://publib.boulder.ibm.com/infocenter/clresctr/vxrx/index.jsp?topic=/com.ibm.cluster.gpfs.doc/gpfs_faqs/gpfsclustersfaq.html

DB2 pureScale 強烈推薦使用支持 SCSI-3 協議的存儲,儘管 DB2 pureScale 也可以支持非 SCSI-3 協議的存儲,但是發生故障時,IO 屏蔽的時間將大為延長,這將嚴重影響宕機時資料庫受影響數據的恢復時間。

我們在安裝 DB2 pureScale 前,需要仔細檢查硬體環境是否滿足要求,否則後續的安裝配置工作將無法順利開展,在使用過程中也可能出現不確定的問題。

實驗環境配置及規劃

我們實驗環境硬體環境的硬體配置和規劃如下:

伺服器配置


表 1. DB2 pureScale 實驗環境伺服器配置

伺服器(主機名)

詳細配置

IP地址

InfiniBand網路名

InfiniBand IP地址

p5501

6CPU 48G 內存 1 塊 8GB HBA 1 塊 IB 卡

172.16.24.121

p5501ib

10.10.10.1

p5502

6CPU 48G 內存 1 塊 8GB HBA 1 塊 IB 卡

172.16.24.122

p5502ib

10.10.10.2

p5503

6CPU 48G 內存 1 塊 8GB HBA 1 塊 IB 卡

172.16.24.123

p5503ib

10.10.10.3

 

存儲配置

IBM DS4800 48 塊 146GB 光纖磁碟,劃分成 6 個 RAID10 (4+4),具體 LUN 使用情況:

#mpio_get_config -A

Storage Subsystem worldwide name: 60ab8001132000004babff15

Storage Subsystem Name = ‘DS4800-01-PureScal_ZSJ_D011231’

hdisk LUN # Ownership User Label

hdisk6 0 B (preferred) datagpfs1

hdisk7 1 B (non-preferred) votgpfs1

hdisk8 2 B (non-preferred) B1

hdisk9 3 B (preferred) B2

hdisk10 4 B (non-preferred) B3

hdisk11 5 B (preferred) B4

hdisk12 6 B (non-preferred) B5

hdisk13 7 B (preferred) B6

 

為簡潔起見,我們這裡僅列示了伺服器 p5501 磁碟情況,實際上每台伺服器均可看到相同的命令輸出。


表 2. DB2 pureScale 實驗環境物理卷規劃

物理卷

User Label

用途

文件系統掛載點

hdisk6

datagpfs1

pureScale 實例共享 GPFS 文件系統

/db2sd_20100521145928

hdisk7

votegpfs1

GPFS 仲裁盤

 

hdisk8

B1

資料庫數據 GPFS 文件系統

/db2data

hdisk9

B2

資料庫數據 GPFS 文件系統

/db2data

hdisk10

B3

資料庫數據 GPFS 文件系統

/db2data

hdisk11

B4

資料庫數據 GPFS 文件系統

/db2data

hdisk12

B5

資料庫數據 GPFS 文件系統

/db2data

hdisk13

B6

資料庫日誌 GPFS 文件系統

/db2log

 

InfiniBand 交換機配置

1 台 Qlogic 9024CU

InfiniBand 卡配置

如果在 1 台物理伺服器劃分多個 LPAR,分別運行 DB2 pureScale 成員伺服器或 CF,有時候需要在 LPAR 間共享使用 Infiniband 卡,這時我們需要通過 HMC 對 LPAR 的 HCA 資源進行配置:


圖 1. HCA 卡在 HMC 中的配置

建議 GUID 號和分區號保持一致,同時對 HCA 使用容量進行正確的設置。HCA 卡容量使用方式分為:

    Dedicated( 專用 ) :分配 100% 的資源

    High(高):分配 25% 的資源

    Medium (中):分配 12.5% 的資源

    Low (低):分配 6.25% 的資源

對於 p6-550 或 p750 伺服器,如果 1 個成員伺服器和 1 個 CF 伺服器在 1 台物理伺服器上,建議分配給 CF 伺服器 75% 的 HCA 資源;對於 p6-595 或 p770, p780 伺服器,建議成員伺服器和 CF 伺服器均使用專用的 HCA 資源。

pureScale 軟體安裝配置

硬體安裝配置完畢後,我們就可以開始安裝 DB2 pureScale 了,不過,我們還是有些安裝前的配置工作需要完成:

安裝操作系統和補丁

DB2 pureScale 建議安裝 AIX 6.1.3 SP3,C++ runtime 最低級別要求 xlC.rte 9.0.0.8 ,IOCP 軟體包級別要求 6.1.3.1 ,系統微碼級別要求為 3.5 或以上。

配置 SSH 信任關係

在 3 個節點 p5501, p5502, p5503 上 root 用戶登錄,執行命令:

#ssh-keygen -t dsa


 

 

直接回車接受默認值,在 ~/.ssh 目錄中將會產生 2 個文件:id_dsa, 和 id_dsa.pub

合併三個節點上的 id_dsa.pub 到一個文件 authorized_keys 中,然後把 authorized_keys 複製到各個節點的 ~/.ssh 目錄,並更改許可權:

#chmod 644 authorized_keys


 

 

檢驗 SSH 信任關係配置是否成功,需要從任何 1 個節點發起對其他節點的命令,如從 p5501 上發出命令:

#ssh p5502 date


 

 

如果不提示輸入口令,則信任關係配置成功。

安裝 InfiniBand 相關軟體包

uDAPL base fileset 從 AIX 6.1 TL3 expansion pack 光碟可以獲得。

uDAPL 升級包 udapl.rte.6.1.0.1.bff 可以從下載地址:

http://www-933.ibm.com/eserver/support/fixes/fixcentral/pseriespkgoptions/ptf?fixes=U825646

Infiniband ifix 下載地址:

ftp://public.dhe.ibm.com/aix/efixes/iz68803/iz68803.epkg.Z

使用 smit installp 安裝 uDAPL 基礎包後,使用 smit update_all 安裝 uDAPL 升級包,使用如下命令來安裝 Infiniband ifix:

#emgr -e iz68803.epkg.Z


 

 

配置 Infiniband Communication Manager

在 3 個節點上執行如下命令,創建 icm 設備:

#mkdev -c management -s infiniband -t icm


 

 

配置 Infiniband IP 地址

在 3 個節點上使用如下命令,並輸入相關參數,如 p5501 上配置如下:

#smit chinet


 

圖 2. Infiniband IP 配置

需要注意的是,HCA Adapter 必須明確指定 Infiniband 適配器設備,如 iba0,否則伺服器重啟後 Infiniband 網卡 IP 將無法正常工作,另外 Adapter ‘ s port number 需要指定到連接了 Infiniband 線纜的埠(Infiniband 網卡為雙口,我們實驗環境僅連接了 1 條線纜)。

需要說明的是,DB2 pureScale 工作時,成員伺服器和 CF 伺服器間通訊使用的是 RDMA(Remote Direct Memory Access) 協議,直接讀寫對方內存,大大減少通訊成本開銷,是 DB2 pureScale 高擴展性的重要保證技術之一。DB2 pureScale 並不使用高成本的 TCPIP over Infiniband 的技術,之所以需要給 Infiniband 網卡配置 IP 地址,主要是配置和連通性測試需要。

配置域名解析

在 3 個節點上編輯 /etc/hosts 文件,增加如下條目:

以下文章點擊率最高

Loading…

     

如果這文章對你有幫助,請掃左上角微信支付-支付寶,給於打賞,以助博客運營