AIサーバーを買うだけでは動かせない

水冷・電力・床荷重が問う

次世代インフラの条件

従来は「AIサービス提供事業者」が購入するケースが圧倒的に多かったGPUサーバー。しかし最近では、一般企業でもGPUサーバーの導入を検討する動きが見られる。その背景には、AI活用のPoCを経験した企業が、本番活用へと移行しつつあるという状況がある。ではなぜクラウドサービスによるAI活用ではなく、自社でGPUサーバーを調達し、オンプレミスでの運用を目指す企業が増えているのか。

その理由について、デル・テクノロジーズの岡野 家和氏は「3つの要因があります」と指摘する。

1つ目は「ソブリン性」への要求だ。AI活用の推進では、社外に出せない機密データや業界規制により外部保存が制限されるデータを、どのように扱うかが大きな課題になる。ガバナンスとデータ保護を完全に確保するためには、自社管理が可能なオンプレミス環境が有効な手段となる。

2つ目は「GPUリソースの確保」だ。パブリッククラウドでは、ビジネス上最も必要なタイミングで必要となるGPUリソースを、十分に確保できない危険性がある。「実際に著名なパブリッククラウド上で、リソースの確保が非常に難しかったというお話を聞くことは少なくありません。最近ではこれを大きなビジネスリスクだと考える企業が増えているのです」（岡野氏）。

そして3つ目が「コストの予見性と制御性」だ。AI活用が本番稼働フェーズに入ると、データ利用量や処理リソースが急増（スパイク）する可能性が極めて高い。その際に従量課金制のクラウドでは、月額請求額が予測不能なレベルに跳ね上がる懸念がある。長期的なコストの予見性と制御性を高めるために、オンプレミスでのGPUサーバー導入を決断するケースも増えているのである。

このような課題に対応するためデル・テクノロジーズがNVIDIAと共に取り組んでいるのが、「Dell AI Factory with NVIDIA」の提供だ。

Dell AI Factory with NVIDIAは、単なるGPUサーバー単体の提供にとどまらず、企業のAI導入から運用拡大までを一貫支援する統合フレームワークだ。「どのユースケースがROI（投資対効果）を出しやすいのか」といった導入初期の相談から、社内データの整備・活用、NVIDIAのAIソフトウエア群、そしてサーバー・ストレージ・ネットワークといったインフラ基盤までを、一気通貫で提供している。

「その最大の目的は、AI構想から本番稼働までのリードタイムを最短化すること。発表されてからまだ3年程度ですが、全世界で6500社以上の導入実績を有しています」（岡野氏）

デル・テクノロジーズはこのDell AI Factory with NVIDIAを支えるため、デスクサイドのエージェンティックAI向けPC／ワークステーションからデータセンター向けのモジュラー型サーバーまで、幅広いAI基盤をラインアップ。またDell PowerScaleなどのストレージ製品や、Dell PowerSwitchといったネットワーク製品もカバーしているという。

その構成で特に注目したいのが「Dell AI Factory with NVIDIAモジュラーアーキテクチャ」と呼ばれる柔軟な構成を採用している点だ。

これは、顧客企業からの「より柔軟にAI基盤を構成・拡張したい」という要請に応えるため導入された提供形態であり、コンピュート（PowerEdge）、ネットワーク（PowerSwitch）、ストレージ（PowerScale）をモジュール化し、柔軟に組み合わせて構成できるというもの。これによって、パイロットフェーズでは小さく始め、ROIや安全性を確認しながら段階的に本番環境へ拡張できる。小さく始められることで、初期導入費用を抑えられるだけではなく、社内データの運用フローやセキュリティー・ガバナンス体制を検証しながら、安全かつ着実にシステムを拡張できるわけだ。

この根幹を支える空冷のGPUサーバーは、用途や規模に合わせて、大きく3パターンのものが用意されている。

1つ目は、PowerEdge R770／R7725といった2U 2ソケット サーバー。NVIDIA H200 NVLなどのPCIe GPUを最大2基搭載可能であり、小規模なAI推論処理や初期のPoC（概念実証）環境に適している。

2つ目は、PowerEdge XE7740／XE7745といった4Uサーバー。PCIe GPUを最大8基（NVIDIA RTX PRO 6000／4500など）搭載でき、エンタープライズ領域における標準的なAI推論基盤や開発用途に活用できる。

そして3つ目が、PowerEdge XE9780／XE9785などのXE9700シリーズだ。NVIDIA HGX B200／B300などの最上位GPUを8基相互接続して搭載できる大型サーバーで、大規模言語モデル（LLM）のファインチューニングや学習用途に特化した高性能モデルとなっている。

これらのサーバーは、国内サーバー市場の主要部門でシェア1位を獲得。また「日経コンピュータ」2026年9月3日号に掲載された「顧客満足度調査 2026-2027」でも、PCサーバー部門第1位となっている。

このようにパイロットから本番環境まで、AI Factoryで検証済みの適切な規模のプラットフォームを提供しているデル・テクノロジーズだが、GPUを8基搭載可能なサーバーを空冷で提供できるのは、この世代が最後になるかもしれないと岡野氏は言う。

「今GPUサーバーの業界で最も大きな課題になっているのは電力と発熱。GPUの世代が進むごとにTDP（Thermal Design Power：熱設計電力）が右肩上がりで増大しています。例えばNVIDIAが次世代のAI向けGPUアーキテクチャとして開発している『Rubin Ultra』のTDPは、今年秋に出荷が始まった『Rubin』が2300W程度だと言われているのに対し、3600Wに達すると予測されています」（岡野氏）

これを空気だけで冷やすのは限界がある。そのため水冷サーバーへの移行は、好むと好まざるにかかわらず、必然になっていくという。

「デル・テクノロジーズは先ほど紹介した3種類のサーバーに加えて、この図の右側にあるような『Dell PowerRackシリーズ』を提供していますが、これらの最上位クラスGPUを高密度搭載したサーバーでは、既にDLC（Direct Liquid Cooling：水冷方式の一種）が前提になっています。水冷方式は空冷では冷やしきれない発熱量に対応できるのはもちろんのこと、同等の処理パフォーマンスに対する最大システム入力電力を10〜30％削減することが可能です」（岡野氏）

それではDLCサーバーは、具体的にどのような構成で冷却を行うのだろうか。これについてデル・テクノロジーズの水口 浩之氏は「主に3つのコンポーネントで構成されています」と説明する。

1つ目は「コールドプレート」。これはCPUやGPUの直上に設置し、発生した熱を直接冷却水へ移す「受熱部材」だ。2つ目は「マニフォールド」。これはラック内部に設置される「配管」であり、各サーバーへの冷却水を安全かつ効率的に分配・回収する役割を担う。

そして3つ目が「CDU（Cooling Distribution Unit）」。これは施設側の一次側冷却水とサーバー回路の二次側冷却水との間で熱交換を行うユニットで、液体同士を混ぜずに熱のみを移動させるため、回路を独立して分離運用できる。

「ただし従来の19インチラックでDLCを実現する場合には、サーバーごとに個別の水冷ホースや電源ケーブルが必要で、これらが背面に集中し、配線・配管の交錯やメンテナンスが煩雑になるという課題がありました。この問題を解決したのが、先ほどの製品一覧にもあったIR7000などの最新ラックです。これらはOCP ORv3（Open Compute Project Open Rack Version 3）に準拠した21インチラックとなっており、高密度運用を前提に設計されています」（水口氏）

特に注目したいのが、外形サイズをほぼ変えずにサーバー幅を21インチに拡大したのに加えて、サーバーを差し込むだけで水冷配管がマニフォールドへ直接結合される「ブラインドメイト コネクタ」が採用されている点だ。これによって手動でホースを個別接続する必要が解消され、背面作業の負荷と配線トラブルを激減させているという。

また電源に関しては、サーバー個別の電源ユニット（PSU）ではなく、ラック内に配置された「パワーシェルフ」で交流から直流へと効率的に変換。各サーバーへの給電はこのパワーシェルフから、ラック背面に配置された導体板「バスバー」を介して行う。そのためサーバー内部に電源ユニットを搭載する必要がなくなり、GPUなどの計算リソースにより多くのスペースを割り当てることが可能になった。

「なお、データセンター側から供給される電源条件については、DLCラックでも3相4線400Vが基本的な構成になっており、ラックの違いによって電源の設備仕様が大きく変わるわけではありません。また、パワーシェルフの給電能力は、現行の33kWモデル×8台構成で1ラックあたり264kW、次世代モデル（63kW／72kW）では最大576kWという、超高密度給電への対応を見込んでいます」（水口氏）

ただし、これらのDLCラックを導入すれば、すべての問題が解決するわけではない。特に重要なのは次の2点だ。

1つは「水冷周りのインフラをどう構成するか」だ。「サーバーからCDUに戻る冷却水の温度は60℃未満に保つのが望ましく、サーバーで10〜20℃の温度上昇が発生するため、CDUに供給する水温は30〜40℃以下に管理する必要があります」と水口氏。設備側で受け取った熱量を効率的に排出するためには、ハイブリッドクーラーやフリークーリングチラーなどの設備を用いることが望ましいという。設備側の消費電力削減は重要だが、高価なGPUのパフォーマンスを最大限に引き出し、長期間にわたって安定運用するためには、適切な低温環境を維持する必要がある。

「冷却にかかる電気料金を下げたいという気持ちはもちろん理解できますが、そのためにGPUやCPUの温度が高くなるようでは故障率が上昇します。アレニウス則でも示されているように、35℃の環境で製品寿命が3年の場合、温度を10℃上げると寿命が半分になってしまうからです」（水口氏）

もう1つが「荷重への配慮」だ。AIサーバーが格納されたDLCラックは、サーバー群やラックそのものの重量だけではなく、冷却水や銅製マニフォールド、パワーシェルフなどの重量も加わるため、1ラックあたり1.5トン超の重量になる。つまり普通乗用車1台分と同等の荷重が、わずかなラック設置面積にかかるわけだ。

「そのため設置場所の『長期荷重（静荷重）』に対する床耐荷重の確認や補強工事はもちろん、エレベーターや廊下を通る移動時の『短期荷重（動荷重）』や、搬入経路の寸法・耐荷重を事前検証することも必須です。IT機器の選定にとどまらず、ビルやデータセンター側（ファシリティー）との緊密な設計連携が、導入の成否を分けるポイントとなるのです」（水口氏）

デル・テクノロジーズでは、このような点も考慮してDLCラックの導入を支援。また水冷技術に関する専門イベント「DLC Servers & Datacenter Summit（DSDS）」を主催するなど、ITの枠を超えてファシリティー業界全体との協業・技術検証を強力に推進しているという。

さらにGPUサーバーの活用を成功させるには、もう1つ条件があると水口氏は指摘する。

「GPU活用で早期に投資効果を出しているいわゆる『勝ち組』のお客様には、1つの共通点があります。それは『そのときに買えるものを迷わず買っている』ということです。GPUは次々と新製品が発表されるため『次を待とう』と考えがちですが、次世代製品は値段が大幅に高くなるケースが多く、十分な数を揃えることが難しくなります。そのため十分な投資効果を出しにくくなってしまうのです」

もちろんDLCサーバーでも、同様のことが言える。将来の性能向上などを期待して二の足を踏み続ければ、投資効果が得られる時期はどんどん先送りになってしまうだろう。

未来をきちんと見据えた上で、現在調達可能なものを活用し、できるだけ早期に投資効果を出していく。急速に進化するAI活用で成功するには、このような発想が不可欠だと言えそうだ。