首頁 企業 VMware VSAN 發布 2 萬次 IOPS

VMware VSAN 發布 2 萬次 IOPS

by 萊爾·史密斯

Virtual SAN (VSAN) 5.5 是 VMware 的首款軟件定義數據中心產品, 上個月發布 並受到希望從傳統計算服務器中獲得更多收益的企業的歡迎。 VSAN 實質上讓用戶可以訪問結合了計算和存儲的冗餘節點,同時分層到虛擬化環境中,該環境全部通過 VMware 的 vSphere 客戶端進行管理。 根據 VMware 的內部基準測試,VSAN 具有在 2 節點集群中達到 32 萬 IOPS 的能力。 VMware 是如何做到這一點的?他們用於實現這一壯舉的配置的詳細信息是什麼?


Virtual SAN (VSAN) 5.5 是 VMware 的首款軟件定義數據中心產品, 上個月發布 並受到希望從傳統計算服務器中獲得更多收益的企業的歡迎。 VSAN 實質上讓用戶可以訪問結合了計算和存儲的冗餘節點,同時分層到虛擬化環境中,該環境全部通過 VMware 的 vSphere 客戶端進行管理。 根據 VMware 的內部基準測試,VSAN 具有在 2 節點集群中達到 32 萬 IOPS 的能力。 VMware 是如何做到這一點的?他們用於實現這一壯舉的配置的詳細信息是什麼?

VMware 最近發布了他們的測試配置,該配置達到了驚人的 2 萬 IOPS 數字。 當然,我們知道 IOPS 只是任何存儲產品性能圖的一部分,應用程序測試將更多地揭示 VSAN 在延遲和潛在吞吐量方面的能力,但當今的行業在很大程度上將 IOPS 理解為存儲性能的衡量標準. 

VMware 在兩種情況下發布了 VSAN 性能結果; 1) 100% 讀取工作負載和 2) 70% 讀取、30% 寫入工作負載。 開始時,每個主機使用一個 戴爾PowerEdge R720 雙路 Intel Xeon CPU E5-2650 v2 @ 2.6GHz (Ivy Bridge)、128GB RAM、10GbE、LSI 9207-8i、1x 400GB Intel S3700 和 4x 1.1TB 10K RPM Hitachi SAS 驅動器和 3x 1.1 硬盤驅動器配置TB 10K RPM 希捷 SAS 驅動器。

VMware 在集群上使用 vSphere 5.5 U1 和 Virtual SAN 5.5,對 vSphere 中的默認設置進行了以下更改:

  • 將 vSphere 網絡堆棧的堆大小增加到 512MB。 “esxcli 系統設置高級設置 -o /Net/TcpipHeapMax -i 512”。 您可以使用“esxcli 系統設置高級列表 -o /Net/TcpipHeapmax”驗證此設置
  • 允許 VSAN 形成 32 台主機的集群。 “esxcli 系統設置高級設置 -o /adv/CMMDS/goto11 1”。
  • 為 LSI 存儲控制器安裝了 Phase 18 LSI 驅動程序(mpt2sas 版本 18.00.00.00.1vmw)。
  • 為“性能”配置的 BIOS 電源管理(系統配置文件設置)(例如,禁用所有節能功能)

要更詳細地了解 ESXi 配置,請訪問他們的 VMware 知識庫頁面

100% 讀取基准設置

VMware 讓每台主機在 VSAN 數據存儲上運行一個 4-vcpu 32 位 Ubuntu 12.04 VM 和 8 個虛擬磁盤(vmdk 文件),磁盤分佈在兩個 PVSCSI 控制器上。 還使用了 pvscsi 的默認驅動程序(版本 1.0.2.0-k)。

為了更好地支持具有高未完成 IO 的大規模工作負載,VMware 將 pvscsi 的啟動時間參數修改為“vmw_pvscsi.cmd_per_lun=254 vmw_pvscsi.ring_pages=32”。 參觀 VMware 知識庫 有關此配置的更多詳細信息。 VMware 將基於存儲策略的管理設置 HostFailuresToTolerate=0 應用於此基準測試的 vmdk。

在每個 VM 中運行具有 8 個工作線程的 IOMeter,每個線程都配置為在 8 GB 的單個 vmdk 上工作。 此外,每個線程運行 100% 讀取、80% 隨機工作負載,4096 字節 IO 與 4096 字節邊界對齊,每個工作線程 16 個 OIO。 本質上,每台主機上的每台虛擬機都會發出以下消息:

  • 跨 4096GB 工作集的 64 字節 IO 請求
  • 100% 閱讀,80% 隨機
  • 128 OIO/主機的聚合

VMware 運行了一個小時的配置,以 60 秒的時間間隔測量聚合客戶機 IOPS。 這導致前所未有的 IOPS 中值達到 2,024,000。

70% 讀取 30% 寫入基準

在 70/30 IO 配置文件中,每台主機在 VSAN 數據存儲上運行一個 4-vcpu 32 位 Ubuntu 12.04 虛擬機和 8 個虛擬磁盤(vmdk 文件)。 此外,磁盤分佈在兩個 PVSCSI 控制器上。 使用了pvscsi的默認驅動(1.0.2.0-k版本),同時修改了pvscsi的啟動時間參數,提高了對high outstanding IO的支持能力:“vmw_pvscsi.cmd_per_lun=254 vmw_pvscsi.ring_pages=32”。

就像在 100% 讀取配置中一樣,VMware 在每個 VM 中運行 IOMeter 和 8 個工作線程,儘管每個線程都配置為在 4GB 的單個 vmdk 上工作。 每個線程運行 70% 讀取、80% 隨機工作負載,4096 字節 IO 與 4096 字節邊界對齊,8 個 OIO。

本質上,每台主機上的每台虛擬機都會發出以下消息:

  • 跨 4096GB 工作集的 32 字節 IO 請求
  • 70% 閱讀,80% 隨機
  • 64 OIO/主機的聚合

在 70/30 測試中,VMware 記錄了 652,900 iops 的速度,平均延遲為 2.98ms,這段時間內的帶寬為 3.2GB/s。 

這是什麼意思呢?

雖然還有更多基準測試有待完成,包括我們的 一套基準 包括 SQL Server 和 VMmark 之類的東西,很明顯,從這些性能數據來看,儘管最大 32 節點集群,VSAN 從性能角度來看具有很大的潛力。 還值得注意的是,VMware 在背板上僅使用了 8 個托架,通過這種配置,他們可以有效地將存儲量翻倍,為每個節點添加另一個 SSD 和 7 個 HDD。 

VMware Virtual SAN 目前的售價為每處理器 2,495 美元,VMware Virtual SAN for Desktop 的售價為每位用戶 50 美元。

討論這個故事