OpenMPを使ってFortranプログラムを並列化したのに、実行時間がほとんど変わらない、または逆に遅くなるという現象は珍しくありません。特にCPUのコア数が多い環境では、単純に「コア数分だけ速くなる」と考えてしまいがちですが、実際にはメモリアクセス、並列化する範囲、スレッド管理コストなど多くの要因が影響します。
この記事では、Intel FortranとOpenMPを利用した数値計算プログラムで高速化できない場合に確認すべきポイントと、parallel doの効果を高めるための具体的な改善方法を解説します。
OpenMPを追加しても速くならない主な理由
OpenMPは、指定したループ処理を複数のスレッドで分担して実行する仕組みです。しかし、すべての処理が自動的に高速化されるわけではありません。
例えば、6コア12スレッドのCPUを使用していても、処理内容がCPU計算よりメモリアクセス中心の場合、コアを増やしても性能向上が小さくなることがあります。
特に大きな3次元配列を扱う科学技術計算では、計算速度よりもメモリ帯域がボトルネックになるケースが多くあります。
提示されたコードで考えられる並列化の問題点
提示されたプログラムでは、k,j,iの3重ループがあります。その中で外側のkループにparallel doを指定しています。
この方法自体は間違いではありませんが、注意すべき点があります。外側ループの分割では、スレッド数に対して十分な仕事量がある必要があります。
例えばkendが小さい場合、6コアや12スレッドを使うほど分割する仕事がなく、スレッド作成や同期のコストが処理時間を打ち消してしまう可能性があります。
OpenMPが実際に有効になっているか確認する
まず確認すべきなのは、OpenMPが本当に有効な状態でコンパイル・実行されているかです。
Intel Fortranの場合、コンパイル時にOpenMP有効化オプションが必要です。Visual Studio環境ではプロジェクト設定の確認が必要になります。
また、実行時には環境変数によって使用スレッド数を指定できます。
set OMP_NUM_THREADS=6
プログラム内では以下のように確認できます。
print *, omp_get_max_threads()
これで意図したスレッド数が表示されない場合、parallel doを書いていても並列実行されていない可能性があります。
private指定だけでは不十分な場合がある
提示コードでは、parallel doにprivate(k,j,i,a0mean,amean,dw)を指定しています。
しかし、並列計算ではprivate変数だけでなく、共有される配列や変数への書き込み競合にも注意が必要です。
例えば、複数スレッドが同じ配列要素へ書き込む可能性がある場合、結果が不正になるだけでなく、同期処理によって性能が低下することがあります。
今回のようにkごとに独立して計算できる場合は比較的並列化しやすいですが、依存関係がある場合はループ構造そのものを変更する必要があります。
外側ループより内側ループを並列化した方が速い場合もある
多次元配列計算では、どのループをparallel doにするかで性能が大きく変わります。
Fortranの配列は列方向（左側の添字）が連続したメモリ配置になります。そのため、以下のようなループ順序の場合、メモリアクセス効率が悪くなる可能性があります。
do k
do j
do i
環境によってはi方向の処理をスレッド分割した方がキャッシュ効率が良くなる場合があります。
ただし、単純に内側ループを並列化するとスレッド管理コストが増える場合もあるため、実際にはベンチマークで比較することが重要です。
Intel Fortranの自動最適化とOpenMPは別物
Intel Fortranコンパイラには、自動ベクトル化や最適化機能があります。しかし、これはOpenMPによるスレッド並列化とは異なるものです。
コンパイラ最適化では、1つのスレッド内でSIMD命令などを利用して高速化します。一方、OpenMPは複数のCPUコアへ処理を分散します。
そのため、すでにコンパイラによって効率化されている処理でも、OpenMPによる追加効果が小さい場合があります。
高速化するために確認したいポイント
OpenMPで効果を出すには、以下の項目を順番に確認すると改善点を見つけやすくなります。
- OpenMPが有効な設定でコンパイルされているか
- OMP_NUM_THREADSで適切なスレッド数を設定しているか
- 並列化するループに十分な処理量があるか
- 配列アクセスがメモリ帯域を圧迫していないか
- スレッド間のデータ依存がないか
- 最適化オプションを有効にしているか
例えば、1000×1000×1000規模の配列では約10億要素を扱うため、計算量は大きく見えます。しかし、単純な代入や掛け算が中心の場合、CPUよりメモリ転送速度が支配的になることがあります。
まとめ
OpenMPを利用しても高速化しない原因は、CPU性能不足ではなく、並列化方法やプログラム構造にあることが多くあります。
特にFortranによる大規模配列計算では、メモリアクセス性能、ループの依存関係、OpenMP設定の確認が重要です。
parallel doを追加するだけでは最大性能は得られません。使用スレッド数の確認、ループ配置の見直し、データ配置の改善を行うことで、6コアCPUでもより大きな高速化が期待できます。
コメント