計算科学研究センター 高性能人工知能システム研究チーム
チームリーダー WAHIB Mohamed（Ph.D.）
研究概要
R-CCSの研究チームの一つである「高性能人工知能システム研究チーム」は、「富岳」などの最先端の高性能計算基盤を用いた次世代のAIの探求を行うため、国内のHPCおよびAI研究機関と連携した上で、“人工知能・機械学習と高性能計算の相互的な高性能化”を目指し、特にそのための高性能システム・ソフトウェア・アルゴリズムの研究を行います。特に、具体的には深層学習の超スケール・超高速化：深層学習の最新のアルゴリズムやフレームワークと、HPCでのMPIなどの超並列化をサポートするシステムソフトウェアを用いて、「富岳」を含む大規模なスーパーコンピュータ基盤上で超スケーリングするシステム研究、深層学習や他の機械学習・AI関連のアルゴリズムを分析し、それらの性能モデリングを行い、演算カーネル部分を最新のハードウェアアーキテクチャにおいて加速するシステム研究、超高速・超スケール化した機械学習のシステムを用いて、超深層なニューラルネットワークや、高解像度GANなどの、莫大な計算量が必要な先進的AIアルゴリズムを加速するシステム研究、機械学習に代表される経験則的手法でHPCのアルゴリズムやアプリケーションを大幅に加速するシステム研究などを、内外のHPCおよびAIに関する研究機関と連携して行っていきます。
研究主分野
- 情報学
研究関連分野
- 高性能計算
- 並列・分散処理
- 計算機システム
キーワード
- 高性能人工知能システム
- 知能プログラミングシステム
- 深層学習等の人工知能アルゴリズムの性能モデリング
- スケーラブルな深層学習
- 人工知能とシミュレーションの融合
主要論文
「*」は、理研外のみでの成果です。
- 1.
*Jintao Meng, Chen Zhuang, Peng Chen, Mohamed Wahib, Bertil Schmidt, Xiao Wang, Haidong Lan, Dou Wu, Minwen Deng, Yanjie Wei, Shenzhong Feng.:
"Automatic Generation of High-Performance Convolution Kernels on ARM CPUs for Deep Learning"
IEEE Transactions on Parallel & Distributed Systems, vol. 34, April 2022. - 2.
*Jintao Meng, Peng Chen, Mingjun Yang, Mohamed Wahib, Yanjie Wei, Shengzhong Feng, Wei Liu, Junzhou Huang.:
"Boosting the Predictive Performance with Aqueous Solubility Dataset Curation”
Nature Scientific Data, March 2022. - 3.
*Truong Thao Nguyen, Francois Trahay, Jens Domke, Aleksandr Drozd, Emil Vatai, Jianwei Liao, Mohamed Wahib, Balazs Gerofi.:
"Why Globally Re-shuffle? Revisiting Data Shuffling in Large Scale Deep Learning"
36th IEEE International Parallel & Distributed Processing Symposium (IPDPS 2022). - 4.
*Albert Khaira, Truong Thao Nguyen, Leonardo Bautista Gomez, Ryousei Takano, Rosa Badia, Mohamed Wahib.:
"An Oracle for Guiding Large-Scale Model/Hybrid Parallel Training of Convolutional Neural Networks"
30th ACM International Symposium on High-Performance Parallel and Distributed Computing (HPDC 2021). - 5.
*Peng Chen, Mohamed Wahib, Xiao Wang, shinichiro takizawa, Takahiro Hirofuchi, Ogawa Hirotaka, Satoshi Matsuoka.:
"Performance Portable Back-projection Algorithms on CPUs: Agnostic Data Locality and Vectorization Optimizations"
35th ACM International Conference on Supercomputing (ICS 2021). - 6.
*Peng Chen, Mohamed Wahib, Xiao Wang, Takahiro Hirofuchi, Hirotaka Ogawa, Ander Biguri, Richard Boardman, Thomas Blumensath, Satoshi Matsuoka.:
"Scalable FBP Decomposition for Cone-Beam CT Reconstruction"
International Conference for High Performance Computing, Networking, Storage, and Analysis (SC 2021). - 7.
Fareed Mohammad Qararyah, Mohamed Wahib, Doga Dikbayır, Mehmet Esat Belviranl, Didem Unat.:
"A computational-graph Partitioning Method for Training Memory-constrained DNNs”
Elsevier Parallel Computing, Volume 104 pp. 102-117, July 2021. - 8.
Jens Domke, Emil Vatai, Aleksandr Drozd, Peng Chen, Yosuke Oyama, Lingqi Zhang, Shweta Salaria, Daichi Mukunoki, Artur Podobas, Mohamed Wahib, Satoshi Matsuoka.:
"Matrix Engines for HPC: A Performance Study from the Applications Perspective"
35th IEEE International Parallel & Distributed Processing Symposium (IPDPS 2021). - 9.
Mohamed Wahib, Haoyu Zhang, Truong Thao Nguyen, Aleksandr Drozd, Jens Domke, Lingqi Zhang, Ryousei Takano, Satoshi Matsuoka.:
"Scaling Deep Learning Workloads Beyond Memory Capacity"
International Conference for High Performance Computing, Networking, Storage, and Analysis (SC 2020). - 10.
Chen Peng,Wahib Mohamed,Takizawa Shinichiro,Matsuoka Satoshi.:
"A Versatile Software Systolic Execution Model for GPU Memory Bound Kernels"
International Conference for High Performance Computing, Networking, Storage, and Analysis (SC 2019).
関連リンク
メンバーリスト
主宰者
- WAHIB Mohamed
- チームリーダー
メンバー
- 五十嵐 潤
- 上級研究員
- GEROFI Balazs
- 上級研究員
- DROZD Aleksandr
- 研究員
- VATAI Emil
- 研究員
採用情報
| 募集職種 | 応募締切 |
|---|---|
| 研究員または特別研究員募集（R-CCS2202） | ポストが決まり次第 |
お問い合わせ先
〒103-0027 東京都中央区日本橋1-4-1 日本橋一丁目三井ビルディング 15階
Email: mohamed.attia [at] riken.jp
※[at]は@に置き換えてください。