どんな研究?
私たちの身の回りには「つながり」がたくさんあります。たとえば、SNSの友達同士、道路の交差点、分子の中でくっついている原子同士などです。それらの「どことどこがつながっているか」を表す図のことを「グラフ」と呼びます。
グラフは、点と線でできていて、点が人や場所、物などを表し、線がその間のつながりを表します。たとえば、あなたと友達が点で、それを結ぶ線が友達関係を意味しています。線には太さもあって、重要なつながりは太い線で、希薄なつながりは細い線で表します。このようにして、多くの点を関連付けるネットワークが出来上がります。

このようなネットワークの中で、知りたい情報(点)とそれに関連する情報(点)、そしてそのつながり(線)をたどって、答えを導き出すAIがグラフニューラルネットワーク(GNN)です。GNNは、複雑なつながりの中から「意味のあるパターン」や「重要な関係性」を見つけるのが得意です。
でもそのためには、すべての点と線の関係を丁寧に調べる必要があり、それはコンピュータにとっても大変な作業になります。何度もメモリにアクセスして大量のデータを移動させる作業を繰り返し行うため、処理に時間がかかり、電力消費も大きいという課題がありました。
これまでの研究では、GNNをもっと効率よく利用するために、グラフを分割したり、必要な情報だけをあらかじめ抜き出しておくなどの工夫がされてきました。しかし、大規模なリアルタイム処理には限界があり、分割しすぎると精度が落ち結果をまとめ直すのに時間がかかるといった新たな課題も生まれていました。
ここが重要
東京科学大学(Science Tokyo)の藤木大地(ふじき・だいち)准教授らは、GNNを速く、効率よく利用するための新しい仕組み「BingoGCN」を開発しました。ポイントは、「クロスパーティションメッセージ量子化(CMQ)」という技術です。これは、分割されたグラフ間で必要な情報だけをギュッとまとめてやり取りする仕組みです。これによりムダなデータのやり取りが大幅に減り、処理の速さと電力効率を大きく向上させました。
BingoGCNにはSLT(Strong Lottery Ticket: 強い宝くじ)理論という、ちょっとユニークな考え方も使われています。それは、ニューラルネットワークを直接学習させるのではなく、「当たりくじ」を見つけ出すように未学習のニューラルネットワークからうまく動くネットワークを見つけ出す方法です。これにより、使うデータは少なくても精度はそのままで、より高速な処理が可能になります。
CMQとSLTのしくみを組み合わせた結果、従来と比べて最大で約66倍の処理速度と、約107分の1の電力消費を実現しました。
今後の展望
BingoGCNは、さまざまな分野での応用が期待されています。たとえば、自動運転での大量データのリアルタイム処理、薬の開発、SNSのレコメンド機能などです。また、近年注目されているグラフトランスフォーマー※用語1にも応用が可能です。グラフトランスフォーマーはGNNの一種で、従来からあるGNNに比べて遠く離れた点同士の関係も捉えるのが得意です。今後のAIの進化を加速させる技術として世界中で研究が進んでいます。
研究者のひとこと
AIの運用のための電力コストは全世界の総発電量の2%を超え、驚くべき速度で増加していると言われています。そのため、持続的なAI活用のためにはAIの省電力化は避けては通れません。特に、GNNはデータのアクセス順序が複雑なため、実行速度の向上はもちろん、コストの最適化を行うのも難しいとされてきました。
私たちのBingoGCNは、この課題の解決を通じ、AIやGNNが社会で真に役立つ技術となるための一歩になると信じています。
(藤木大地:東京科学大学 総合研究院 AIコンピューティング研究ユニット 准教授)

用語説明
※用語1. グラフトランスフォーマー:「グラフのなかで、一番大事な部分だけに集中して見る」ことで、より正確に早く学習できる新しいタイプのAI。いま、従来のGNN(メッセージパッシングGNN)よりも広い範囲を理解できるとして、とても注目されています。
この研究をもっと詳しく知るには
お問い合わせ先
研究支援窓口