気象研究所非静力学モデルの並列化について
斉藤和雄・加藤輝之・永戸久喜(気象研究所・予報)
室井ちあし(気象庁・数値予報)
Gopal
Kuman・山岸米二郎(高度情報科学技術研究機構)
米村崇(日立製作所HPC技術センタ)
1. はじめに
気象研究所の計算機システムは今年3月に更新され、スーパーコンピュータは、従来のS-3800からSR8000にリプレースされた。SR8000は36ノードの分散主記憶型並列計算機で、その機能を十分に発揮するためには、プログラム全体を並列化する必要がある。また、平成10年度より始まっている科学技術振興調整費研究に「高精度の大気・海洋変動予測のための並列ソフトウエア開発に関する研究」がある。この研究は、2001年に運用開始が予定されている地球シミュレータ上で動作する並列ソフトウェアを開発するためのもので、その中の課題として、「雲解像非静力学モデルの最適化並列プログラム構築に関する研究」が行われている。研究目標は、数千km四方の領域を対象に個々の雲を解像して降水過程を再現する高精度の高分解能並列非静力学大気モデルを開発し、領域数値予報モデルや全球プラットホームと結合して地球シミュレータでの高速シミュレーションを行い、集中豪雨・豪雪、雷、ダウンバースト等の局地的顕著気象現象や台風の微細構造を数値的・力学的に再現する1kmメッシュ気象学を確立することである。今回は、高度情報科学技術研究機構(RIST)などとの協力で行われている気象研究所非静力学メソスケールモデル(MRI-NHM)の並列版作成について報告する。
2. 並列化手法
MPIを通信関数に用いて、全体領域を緯度(y軸)方向に分割して並列化する。フルモデルの場合、計算量は、雲微物理過程が全体の約1/2を占め、以下気圧計算、移流計算の順となる。このうち雲物理については水平方向の依存性は殆どないので緯度方向分割には好都合である。気圧計算では、MRI-NHMの完全圧縮系バージョンでは音波を水平・鉛直ともインプリシットに扱う時間積分法(HI-VI法)を用いているため、楕円型の気圧傾向方程式を解く必要がある。MRI-NHMでは、楕円方程式の高速解法に、逐次近似を用いない直接法(Dimension
Reduction Method)を用いている。これは気圧方程式を差分表現したときの行列の固有関数を求めておいてテンソル積変換した成分についての鉛直1次元の楕円方程式を解いてから逆変換するもので、この部分に関してはスペクトルモデルのフーリエ変換/逆変換とほぼ同じ関係にある(但し現バージョンではFFTは用いていない)。y軸方向分割をそのまま用いた場合、通信が多数発生するため、1図のようなデータの並べ変えを行い、フーリエ変換時の通信を防いでいる。
3. 並列化効率の例
TREXのケースについて、RSMにネスティングしたMRI-NHM(98年版)を気象研究所のSR8000とRISTのSR2201を用いてテストした場合の計算時間について表1に示す。モデルの大きさは
(122×122×38)、水平分解能10kmで、放射過程、雲氷・雪・あられの数濃度まで予報する雲微物理過程を含むフルモデルである。
表1
計算機 |
ノード数 |
計算時間(分:秒) |
加速率 |
SR8000 |
2 |
23:23.9 |
1.9 |
SR8000 |
4 |
12:34.4 |
3.5 |
SR2201 |
4 |
50:03.3 |
3.5 |
SR2201 |
5 |
39:14.0 |
4.7 |
SR2201 |
6 |
33:29.9 |
5.2 |
SR2201 |
8 |
25:25.3 |
6.9 |
SR2201 |
10 |
22:01.9 |
8.0 |
SR2201 |
12 |
19:16.0 |
9.1 |
注)計算時間はDt=15秒でSR8000が300ステップ、SR2201が200ステップのreal
time。それぞれネスティングに必要なI/Oと初期設定に要する時間を含んでいる。
1ノードでのテストを予稿執筆時点で行っていないので、加速率は別のテストの結果を基にした推定値。
テストしたモデルサイズが大きくないにもかかわらず、この程度のノード数では実用的な加速率を得ている。SR8000での計算時間がスペックに比べてかなりかかっているのは、モデルサイズが小さいことと、MRI-NHM98年版モデルのソースプログラムではSR8000のノードを構成する複数のプロセッサ間の自動並列化機能(要素並列)を阻害する要因が多く含まれているためである。MRI-NHMの最新バージョンでは、新しい放射過程の導入や任意の等角投影法への対応とともに、SR8000での要素並列阻害要因を取り除く努力が行われており、同じ計算例について、現状で下記の計算時間を実現している。
(参考)MRI-NHM99最新版
計算機 |
ノード数 |
計算時間(分:秒) |
加速率 |
SR8000 |
1 |
17:15.0 |
----- |
現在上記の最新バージョンの並列化作業が進行中である。
4. 謝辞
科学技術振興調整費研究「雲解像非静力学モデルの最適化並列プログラム構築に関する研究」は高度情報科学技術研究機構の協力のもとに、以下の担当者で行われている。
斉藤和雄・加藤輝之・吉崎正憲・瀬古弘・永戸久喜(気象研・予報)、上野充・村田昭彦・益子渉(気象研・台風)、室井ちあし(気象庁・数値予報=気象研・予報に併任)