DB2 pureScale 採用了和業界聯機事務處理”黃金”標準的 DB2/zOS 相同的共享存儲體系架構、集中式緩存和鎖管理,硬件配置上要求能夠通過 SAN 網絡訪問數據庫共享磁盤,需要高性能、低延遲的 InfiniBand 交換機和板卡。
DB2 pureScale 目前支持的服務器包括 IBM Power 6-550 和 595,IBM Power7 全系列服務器。由於 IBM Power6-570 服務器沒有 GX+ 插槽,無法安裝 Infiniband 網卡,因此不被 DB2 pureScale 支持,DB2 pureScale 後續版本將提供對 IBM PC 服務器的支持。
DB2 pureScale 支持的存儲為所有 GPFS 文件系統支持的存儲,具體參見:
http://publib.boulder.ibm.com/infocenter/clresctr/vxrx/index.jsp?topic=/com.ibm.cluster.gpfs.doc/gpfs_faqs/gpfsclustersfaq.html
DB2 pureScale 強烈推薦使用支持 SCSI-3 協議的存儲,儘管 DB2 pureScale 也可以支持非 SCSI-3 協議的存儲,但是發生故障時,IO 屏蔽的時間將大為延長,這將嚴重影響宕機時數據庫受影響數據的恢復時間。
我們在安裝 DB2 pureScale 前,需要仔細檢查硬件環境是否滿足要求,否則後續的安裝配置工作將無法順利開展,在使用過程中也可能出現不確定的問題。
實驗環境配置及規劃
我們實驗環境硬件環境的硬件配置和規劃如下:
服務器配置
表 1. DB2 pureScale 實驗環境服務器配置
|
服務器(主機名) |
詳細配置 |
IP地址 |
InfiniBand網絡名 |
InfiniBand IP地址 |
|
p5501 |
6CPU 48G 內存 1 塊 8GB HBA 1 塊 IB 卡 |
172.16.24.121 |
p5501ib |
10.10.10.1 |
|
p5502 |
6CPU 48G 內存 1 塊 8GB HBA 1 塊 IB 卡 |
172.16.24.122 |
p5502ib |
10.10.10.2 |
|
p5503 |
6CPU 48G 內存 1 塊 8GB HBA 1 塊 IB 卡 |
172.16.24.123 |
p5503ib |
10.10.10.3 |
存儲配置
IBM DS4800 48 塊 146GB 光纖磁盤,劃分成 6 個 RAID10 (4+4),具體 LUN 使用情況:
|
#mpio_get_config -A Storage Subsystem worldwide name: 60ab8001132000004babff15 Storage Subsystem Name = ‘DS4800-01-PureScal_ZSJ_D011231’ hdisk LUN # Ownership User Label hdisk6 0 B (preferred) datagpfs1 hdisk7 1 B (non-preferred) votgpfs1 hdisk8 2 B (non-preferred) B1 hdisk9 3 B (preferred) B2 hdisk10 4 B (non-preferred) B3 hdisk11 5 B (preferred) B4 hdisk12 6 B (non-preferred) B5 hdisk13 7 B (preferred) B6 |
為簡潔起見,我們這裡僅列示了服務器 p5501 磁盤情況,實際上每台服務器均可看到相同的命令輸出。
|
物理卷 |
User Label |
用途 |
文件系統掛載點 |
|
hdisk6 |
datagpfs1 |
pureScale 實例共享 GPFS 文件系統 |
/db2sd_20100521145928 |
|
hdisk7 |
votegpfs1 |
GPFS 仲裁盤 |
|
|
hdisk8 |
B1 |
數據庫數據 GPFS 文件系統 |
/db2data |
|
hdisk9 |
B2 |
數據庫數據 GPFS 文件系統 |
/db2data |
|
hdisk10 |
B3 |
數據庫數據 GPFS 文件系統 |
/db2data |
|
hdisk11 |
B4 |
數據庫數據 GPFS 文件系統 |
/db2data |
|
hdisk12 |
B5 |
數據庫數據 GPFS 文件系統 |
/db2data |
|
hdisk13 |
B6 |
數據庫日誌 GPFS 文件系統 |
/db2log |
InfiniBand 交換機配置
1 台 Qlogic 9024CU
InfiniBand 卡配置
如果在 1 台物理服務器劃分多個 LPAR,分別運行 DB2 pureScale 成員服務器或 CF,有時候需要在 LPAR 間共享使用 Infiniband 卡,這時我們需要通過 HMC 對 LPAR 的 HCA 資源進行配置:
建議 GUID 號和分區號保持一致,同時對 HCA 使用容量進行正確的設置。HCA 卡容量使用方式分為:
Dedicated( 專用 ) :分配 100% 的資源
High(高):分配 25% 的資源
Medium (中):分配 12.5% 的資源
Low (低):分配 6.25% 的資源
對於 p6-550 或 p750 服務器,如果 1 個成員服務器和 1 個 CF 服務器在 1 台物理服務器上,建議分配給 CF 服務器 75% 的 HCA 資源;對於 p6-595 或 p770, p780 服務器,建議成員服務器和 CF 服務器均使用專用的 HCA 資源。
硬件安裝配置完畢後,我們就可以開始安裝 DB2 pureScale 了,不過,我們還是有些安裝前的配置工作需要完成:
安裝操作系統和補丁
DB2 pureScale 建議安裝 AIX 6.1.3 SP3,C++ runtime 最低級別要求 xlC.rte 9.0.0.8 ,IOCP 軟件包級別要求 6.1.3.1 ,系統微碼級別要求為 3.5 或以上。
配置 SSH 信任關係
在 3 個節點 p5501, p5502, p5503 上 root 用戶登錄,執行命令:
|
#ssh-keygen -t dsa
|
直接回車接受默認值,在 ~/.ssh 目錄中將會產生 2 個文件:id_dsa, 和 id_dsa.pub
合併三個節點上的 id_dsa.pub 到一個文件 authorized_keys 中,然後把 authorized_keys 複製到各個節點的 ~/.ssh 目錄,並更改權限:
|
#chmod 644 authorized_keys
|
檢驗 SSH 信任關係配置是否成功,需要從任何 1 個節點發起對其他節點的命令,如從 p5501 上發出命令:
|
#ssh p5502 date
|
如果不提示輸入口令,則信任關係配置成功。
安裝 InfiniBand 相關軟件包
uDAPL base fileset 從 AIX 6.1 TL3 expansion pack 光盤可以獲得。
uDAPL 升級包 udapl.rte.6.1.0.1.bff 可以從下載地址:
http://www-933.ibm.com/eserver/support/fixes/fixcentral/pseriespkgoptions/ptf?fixes=U825646
Infiniband ifix 下載地址:
ftp://public.dhe.ibm.com/aix/efixes/iz68803/iz68803.epkg.Z
使用 smit installp 安裝 uDAPL 基礎包後,使用 smit update_all 安裝 uDAPL 升級包,使用如下命令來安裝 Infiniband ifix:
|
#emgr -e iz68803.epkg.Z
|
配置 Infiniband Communication Manager
在 3 個節點上執行如下命令,創建 icm 設備:
|
#mkdev -c management -s infiniband -t icm
|
配置 Infiniband IP 地址
在 3 個節點上使用如下命令,並輸入相關參數,如 p5501 上配置如下:
|
#smit chinet
|
需要注意的是,HCA Adapter 必須明確指定 Infiniband 適配器設備,如 iba0,否則服務器重啟後 Infiniband 網卡 IP 將無法正常工作,另外 Adapter ‘ s port number 需要指定到連接了 Infiniband 線纜的端口(Infiniband 網卡為雙口,我們實驗環境僅連接了 1 條線纜)。
需要說明的是,DB2 pureScale 工作時,成員服務器和 CF 服務器間通訊使用的是 RDMA(Remote Direct Memory Access) 協議,直接讀寫對方內存,大大減少通訊成本開銷,是 DB2 pureScale 高擴展性的重要保證技術之一。DB2 pureScale 並不使用高成本的 TCPIP over Infiniband 的技術,之所以需要給 Infiniband 網卡配置 IP 地址,主要是配置和連通性測試需要。
配置域名解析
在 3 個節點上編輯 /etc/hosts 文件,增加如下條目:
以下文章點擊率最高
Loading…

