ポスト「ムーアの法則」時代を迎えた
HPCはどこへ向かうのか？

　これまで半導体技術発展の指標となってきた「ムーアの法則」を支える半導体技術の微細加工技術が限界に近づいているといわれます。そこには、集積度の向上といった半導体チップの技術開発の難しさだけでなく、技術開発・製造にかかるコストの増大、市場の動向なども深く関わっています。昨年11月に米国コロラド州デンバーで開催されたスーパーコンピュータ分野の最大の学会「SC17」においても、こうした状況が色濃く反映され、次世代を切り拓く新技術を力強く推進するなかにも、明るい未来を見通すことができない戸惑いが会場全体から感じられました。今回は、HPCIコンソーシアムで中心的な役割を果たす中島理事長、加藤副理事長、佐藤理事に、「SC17」から見えてきたHPCの現状と未来、さらには現在開発が進む日本のフラッグシップマシンであるポスト「京」についてお話しいただきました。

「SC17」で垣間見えた混迷するHPCストラテジー

──昨年11月にデンバーで開かれた「SC17」では、TOP10に日本の「暁光」、「Oakforest-PACS」、「京」の3システムがランキングされたことなどが報じられましたが、「SC17」に参加されて、みなさんはどのような感想を持たれましたか。

中島（敬称略）　18カ月で半導体チップの集積度は倍増するという「ムーアの法則」の限界が近づいているといわれるようになって10年くらいたちます。確かにこれまでの半導体技術の発展を支えてきた集積度の向上は、徐々に小さくなっていますし、市場に出ているプロセッサの性能アップもスローダウンしつつあります。いわゆるポスト・ムーア時代の前兆のように思えます。IntelやARM陣営をはじめとする半導体業界も、今までと同じことはもうできないと思っているようです。例えば、IntelのXeon Phiプロセッサは、第1世代のKnights Cornerでは倍精度で1TFLOPS以上、第2世代Knights Landingは、消費電力はそこそこ高いですが、1チップに最大72コアを集積して3TFLOPS以上（倍精度）を出しました。ただし、この先10TFLOPSのCPUが開発できるのかというと、ちょっと先が見えてこないですね。GPUなどのアクセラレータ系はまた別ですけれど、これまでのいわゆるCPUでは、そう簡単に10TFLOPSのチップが出てくる感じはありません。では今後はどうしていくのか、そこが気になるところです。GPUやアクセラレータに向かうのか、あるいは、中国の「神威・太湖之光」のようなエキセントリックなアーキテクチャでいくのか。いや、さすがに「神威・太湖之光」は違うだろうと思いますが、コレというものが見えてきません。最近はFPGAも注目されていますが、そう簡単ではないかもしれない。HPCが今までどうして年間1.8倍というラインで伸びることが可能だったかというと、そこそこ売れ筋のプロセッサを使ってきたからで、HPCにしか使えないテクノロジーでやっていけるかといわれたら、それほど市場規模は大きくないわけで、かなり厳しいといわざるを得ません。ならばどうするのか、そこがなかなか見えてこない。今回の「SC17」は、そういうことをまざまざと実感させられたという印象です。
佐藤　確かにテクノロジーはスローダウンしてきましたが、ポスト・ムーアのもう1つの側面は、物理的な限界だけでなく、経済的な限界も重要だと思います。よくいわれるように、プロセスにかかるお金が高くなり過ぎているわけです。半導体チップの値段がどんどん高くなってしまい、それが原因で全体的にスローダウンしていることは明らかです。私が「SC17」で強く感じたのは、米国もヨーロッパも、HPCのストラテジー（戦略）に関して、非常に混乱しているということでした。実際にテクノロジー的なアップデータもあまり見られませんでしたし。
加藤　米国のフラッグシップスパコン「Summit」も、今回は出てこなかったですね。IBMが計算ノードは展示していましたけれど。
佐藤　全体的に、ストラテジーがはっきりしていない印象です。テクノロジーのスローダウンに対応して、それぞれが描いてきたロードマップを書き換えないといけない状況になっています。それで何となく元気がないのかもしれません。例えば米国は、これまで「2020年にはエクサフロップスを達成するぞ」といってきましたが、ここへ来て計画を見直す必要が出てきて、ちょっと混乱しています。ヨーロッパも5年前のロードマップからどんどんビハインドしていて、よくわからないストラテジーになっています。

──中国はどうですか。TOP500では今回も中国のシステムが1・2位を維持し、国別のシステム数でも中国が202システムを占めて米国を抜いてトップになりました。

佐藤　それは中国の民間企業などのマシンがどんどんエントリーしているからです。中国は独自の道を走り続けてきて好調に見えますが、「神威・太湖之光」や「天河2号」がほかに売れたという話は聞こえてこないし、中国の体制のなかでは維持していけるのでしょうが、この先があるのかというと、やはり厳しい状況じゃないでしょうか。全体的に混乱しているように見えます。
中島　中国のトップクラスのマシンが下方展開されたという話は聞かれませんね。それでも、民間企業などに数多くの高度なシステムが導入されているというのは、ある意味では頑張っているといえなくもない。

「SC17」から見えてきた3つの潮流

──加藤副理事長は、「SC17」でどんなことをお感じになりましたか。

加藤　全体の流れが、3つに明確に分かれてきたなという気がしました。1つ目は、とにかくTOP500で高い性能を狙う流れ。2つ目はCPUとGPUを組み合わせることによって性能向上を目指すという流れ。例えば米国の「Summit」もそうですね。3つ目はCPUだけで突き進もうという流れ。これらの3つのグループに明確に分かれてきました。ただ、そのなかでIntelは彷徨っているように見受けられます。簡潔にまとめると、そういう感想です。最初に挙げたTOP500だけを狙うグループについてですが、単にLINPACKで計算性能を競うだけなら、「神威・太湖之光」や「天河2号」のようなやり方もあります。ただ、普通の意味でのHPCとはいえません。普通の汎用アプリでは性能を出すことが極めて難しい計算機であるというのが、私の見方です。“アプリ屋”から見ると、あのようなシステムが世界トップのHPCとは考えていません。
佐藤　それはちょっといい過ぎですよ（笑）。実際にGordon Bell賞も受賞しているわけですからね。おっしゃるように一般的なHPCと違って、単にコンパイルすれば動くというような代物でないことは確かですが。
加藤　別にあのようなやり方を否定するわけではありませんが、私たち“アプリ屋”にしてみれば、あれは普通のHPCではありません。中国では清華大学の研究者にどんどんプログラムを書かせているようですが、誰もが使っているようなプログラムが、すぐに高い性能で動くようなことは決してありません。また、あのようなマシンの最も大きな問題は、チップのなかでデータが動く速度とチップ間でデータが動く速度が、あまりにも違い過ぎることです。そこは基礎方程式の段階で何とかしない限り、まともには動きません。そこが一番のボトルネックです。
中島　つまり、原理的に性能が出ないアプリケーションが多数あるということです。アプリケーションそのものの設計から何から、全てやり直さないと性能は出ません。ただ、それは今現在安定したマシンモデルがないというだけで、将来的には定着していくかもしれない。それはGPUにしても同じことでしょ。
佐藤　GPUは、かなり定着してきたんじゃないでしょうか。かつては使えないといわれていましたが、今は大きな広がりを見せています。
加藤　最近の動きのなかで、CPUとGPUの関係に大きな変化が見えてきました。今までは、GPUのホストとしてCPUが存在していました。GPUはデバイスであって、それを動かすOSはCPUで動いていましたが、その関係がここへ来て変わってきました。要するに、非常に小さいGPUのメモリに対して、CPUが大きなメモリを提供するという位置づけに変わってきたわけです。そのためのハイスピードリンクや階層メモリの開発も進んでおり、CPU側もできるだけメモリを提供しようというスタンスを取り始めています。それがどこまで実効的に性能を出すか、CPUとGPUを組み合わせるグループはそこに注目しています。どこまで行けるかは、まだよくわかりません。ただ、最近の動きを見る限りでは、CPUだけで突き進んでいるグループより、CPUとGPUを組み合わせるグループの方に分があるのではないかと私は考えています。一方で、元々CPU路線を突き進んできたIntelは、Xeon Phiがうまく進まなくて、何となく途方に暮れているという印象ですね。こうして見ていくと、先ほど佐藤さんがいわれたように、“みんな、困っている”という表現は的を得ているかもしれませんね。どこが先陣を切って決定打を放ってくれるか、みなさん今後の行方を見守っているという状況でしょうか。

汎用品テクノロジーとシェアできない時代のHPC開発

──ほかに「SC17」から見えてきたことはありますか。

加藤　そういえば、意外にビッグデータ色が見られなかったですね。
中島　ビッグデータは、何かAIに吹き飛ばされちゃったような感じでした。
佐藤　AIは、もはや違う世界になってしまったような気がします。HPCのアクセラレーションとは違うレベルのアクセラレーションになっていて、GPUでやるよりも、AI専用の回路を載せるレベルになっています。
加藤　普通のプロセッサでは、もう勝負になりませんから。64ビットのレジスターを4×16ビットのレジスターで使えるなら共有化できますが、回路が違うと全く世界が違ってしまう、そんな感じです。
中島　完全に分かれてしまうのかというと、微妙なところもあります。Intelなどは、AIでも巻き返してくる可能性はあります。ただ、それをさらに推し進めるだけのパワーがAI分野にあるかどうかは未知数です。
加藤　マーケットに資金がないので、投資できないというのが実際のところではないでしょうか。
佐藤　本当にAIに投資できるのかという問題ですね。その観点からいうと、話は戻りますが、HPCのスローダウンに象徴されるように、大きな問題はコモディティ（共通性）ではないでしょうか。CPUやGPUにしても、他とシェアする形でコストダウンを図ってきたという側面があるわけです。ところが近年は、CPUもGPUもHPC向けだけに開発を進めてきたために、その分値段がどんどん高くなっていますし、コモディティのある汎用品のテクノロジーとシェアできなくなっているため、より経済的に苦しくなり、HPCのテクノロジーも進みにくくなっています。それがHPCのスローダウンにつながっていると思います。マーケットがテクノロジーをけん引してくれないことには、先が見通せません。
中島　先ほど、米国やヨーロッパのストラテジーが混乱しているという話が出ましたが、そのベースラインにあるのも、コモディティ・テクノロジーが使えないということに関係しているように思えますね。
佐藤　コモディティ・テクノロジーとシェアできないと、先へ進めていくことは難しいですね。例えばハイエンドCPUは、かつて私たちがPCクラスタをやっていたころは1つ数万円のレベルでしたが、今は20～30万円、いや50万円くらいしますからね。
加藤　いやいやハイエンドCPUは70万円くらいでしょう。
佐藤　GPUにしても、バーッと広がったころはゲームのマーケットとシェアできたので2～3万円、HPC用も10万円くらいで買えましたが、今はAIとシェアできるとはいうもののGPUボードが1つ100万円近くするわけです。こうなると、いくら性能が向上してもコスト的にかなり厳しくなりますから、「HPCはもうやりたくない」というベンダーが出てきても不思議はありません。

先の見えない時代を切り拓く難しさ

──「SC17」では、先ほどからお話に出ている“混乱した状況を打ち破るヒント”のようなものはありませんでしたか。

中島　そうですね。今回の「SC17」で、何か明るい希望が見えたという話は、残念ながらなかったですね。

加藤　敢えていうなら、迷いながらも我が道を見つけて走り出そうとする動きは見えたかもしれません。“見つける”というより、とにかく“決めた” という感じでしょうかね。例えば、IBMはCPUだけで性能を出す独自路線を完全にやめて、NVIDIAと手を組んで「この路線でいきます！」と決めたわけです。NECもベクトルプロセッサでいくことを決めて「Aurora TSUBASA」を発売しました。富士通もポスト「京」の命令セットアーキテクチャはARMでいこうと決めました。混迷するなかで、それぞれに自分たちの進むべき道を決めて歩み出そうとしています。ただ、Intelはまだ迷っているようですね。この先どう進むべきか、決めかねているように思えます。
佐藤　こうしてみると、欧米のストラテジーが混乱しているなかで、日本のプロジェクトは比較的堅調といえるかもしれませんね。ポスト「京」だって、開発期間の延長こそありましたが、比較的順調に進んでいます。
中島　開発の遅れを除けば、不安視するような材料はあまり見られませんね。
佐藤　アプリケーションのこともしっかり考えて進んでいます。特定の分野に絞り込むことなく、幅広い分野のアプリケーションを高速かつ効率的に実行できるようなアーキテクチャ構成を選んで、利用する側の立場も考えて開発が行われています。
加藤　幅広い分野の利用をカバーしているところが、このプロジェクトの最大の特徴といえますね。その反面、アーキテクチャがどうしても既存のアプリケーションに引っ張られる可能性は避けられません。しかし、既存のアプリケーションで性能が出なければ、それもまた問題です。というのもアプリケーションの寿命は30年くらいですが、計算機の寿命は5、6年ほどです。計算機が進化するたびにアプリケーションが動かなくなったら、先へ進みません。
佐藤　確かに、ポスト「京」プロジェクトは、新規システムを開発することより、システムで幅広いアプリケーションを実行して、高い成果を生み出すことを一番の目標にしていますから、そういうつくりになっているわけです。ただ、新たなチャレンジも加えていかないと、先へ続かないという意見もあります。
加藤　その通りですが、それはフェーズの違いだと思います。私たちにしてみれば、現在のアプリケーションが使えなければ話になりませんが、今は使えないけれど10年後のアプリケーションなら使えるという先進的な取り組みももちろん大切です。
中島　アーキテクチャで魔法は起こせませんから、システムの計算性能が100倍になったんだから、今までのアプリケーションで100倍の成果が出るかといったら、それは無理な話です。アプリケーション側も必ずどこかで対応しなければ高い成果は出せません。
加藤　ただ、アプリ屋もけっこう頑張っていて、それなりのアーキテクチャであれば性能を引き出すことはできます。ただ、基礎方程式から考え直すとなると、なかなか難しい。

ポスト「京」への期待とその先に向けて

佐藤　「京」の開発思想においてはケイパビリティ・コンピューティング、つまりこのシステムでなければできない計算をしましょうという考え方が強かったと思いますが、ポスト「京」ではそういう話もありますが、しっかり使って高い成果を創出していこうという考え方が重視されているように思います。その意味では、ものづくり現場をはじめ産業界の人たちにも使いやすいシステムになると思います。「京」のときには、どこか遠慮していたところがあったと思うのですが、ポスト「京」では、どんどん参加してほしいですね。
加藤　「京」のときの戦略分野は4つだけでしたが、ポスト「京」の重点課題は9つに増えました。私がかかわっている「重点課題8　近未来型ものづくりを先導する革新的設計・製造プロセスの開発」は、産業界からの期待も大きいです。
佐藤　もちろん「京」も優れたシステムだったと思いますが、ポスト「京」も、「京」に引けをとらない優れたシステムになると、私は考えています。ただ、次のポスト・ポスト「京」をどうするのかは、ポスト・ムーア時代ということもあり、なかなか難しいと思います。早めに考えておいた方がいいかもしれません。
加藤　「京」を使って大規模な計算をやり始めた産業界の人たちから、これからも「京」と同じアーキテクチャで進めていきたいという声がよく聞かれます。確実にいえるのは、佐藤さんがいわれたように、「京」もポスト「京」も、とても優れたシステムだということです。私もいろいろな計算システムを使ってきましたが、それは本当に間違いありません。私がポスト「京」に一番期待しているのは、「京」で進めてきた実証プロジェクトの成果が、ポスト「京」でどんどん実用化されていくことです。ポスト「京」が完成すれば、CPUの性能は少なくとも「京」の20倍くらいになるのではないかと予想しています。必要なリソースが一気に減らせるので、受け入れるプロジェクトを増やすことができます。それならもっとやってみようという人が増えて、産業界からもどんどんお金がつくようになる、そういう流れが生まれることに期待しています。これまで産業界が「京」やほかのHPCでやってきたのは、主にベンチマーキングで、プロダクションにはほとんど使われていませんでしたが、ポスト「京」でこれまで開発されたアプリケーションが実用化されるようになれば、HPCがさらに広がる契機にもなるはずです。そんなストーリーを私は思い描いています。
中島　問題はその先ですね。
加藤　その先を考えるときに重要なことは、例えば、この時代にはこういうことができる、次の時代にはこんなことを実現させたい、そのためにはハードウェアの要素開発に何が求められるのか、アプリケーションのアルゴリズムはどうするのかといった、その時々のフェーズをしっかり考えたロードマップやマスタープランを準備することです。それが今、日本にはありません。誰もがポスト・ポスト「京」をやらなければいけないという認識はあるものの、残念ながらロードマップはありません。先のことを予測するのは簡単なことではありませんが、それでも誰かがリーダーシップをとって、ポスト「京」の次のテクノロジーはどうするのか、何を目指すのか、夢物語ではない、確かなロードマップを書くことが必要だと個人的には思っています。

──残念ながら、時間が来てしまいました。ポスト・ムーア時代を迎えようとする今日、HPCの未来を見通すのは容易なことではありませんが、それでもこれから日本のHPCの将来に向けてポスト・ポスト「京」に向けたロードマップづくりを真剣に考えていかなければいけないということですね。みなさん、本日はお忙しいなか、ありがとうございました。