計算科学研究センター AI学習最適化基盤開発ユニット
ユニットリーダー WAHIB Mohamed（Ph.D.）
研究概要
学習最適化プラットフォーム開発ユニットは、商用ユースケースを超えて科学分野にAIの使用を拡大するためのAIソフトウェアインフラストラクチャとモデルの開発に焦点を当てたR-CCSユニットです。特に、半構造化されたマルチモーダルデータ、複雑な表現、および帰属の科学的要件に適応します。具体的には、以下のテーマを中心に次世代AIシステムの研究を行っています。
- 1.さまざまな科学分野にわたる複雑な最適化問題に対処するために、生成AI技術をスケーリングするための新しい最適化手法を調査および開発します。生成AIモデルの統合を通じて、最適化パフォーマンス、スケーラビリティ、適応性を強化することに重点を置いています。
- 2.大規模言語モデル（LLM）の並列および分散推論技術を研究、開発、実装し、LLM上に構築された効率的で科学的なアプリケーションを可能にします。リアルタイムおよび大規模な科学アプリケーション向けに、LLMの推論速度、スケーラビリティ、およびリソース利用率を向上させることに重点を置いています。
- 3.最新のハードウェアアーキテクチャの計算能力を活用し、最適化プロセスを加速するために、並列分散DNNを研究、開発、実装します。さまざまなドメインにわたる大規模な問題に対する最適化アルゴリズムのスケーラビリティ、効率、堅牢性の向上に焦点を置いています。
研究主分野
- 情報学
キーワード
- 人工知能に基づく科学
- 基盤モデルのためのインフラストラクチャ（訓練、推論）
- 科学における生成AI
- 科学におけるAIの統合
主要論文
「*」は、理研外のみでの成果です。
- 1.
Enzhi Zhang, Isaac Lyngaas, Peng Chen, Xiao Wang, Jun Igarashi, Yuankai Huo, Masaharu Munetomo, Mohamed Wahib.
"Adaptive Patching for High-resolution Image Segmentation with Transformers"
International Conference for High Performance Computing, Networking, Storage, and Analysis (SC 2024) - 2.
Du Wu, Jintao Meng, Peng Chen, Mohamed Wahib, Xiao Wang, Minwen Deng, Wenxi Zhu, Luo Tao, Yanjie Wei.
"autoGEMM: Pushing the Limits of Irregular Matrix Multiplication on Arm Architectures"
International Conference for High Performance Computing, Networking, Storage, and Analysis (SC 2024) - 3.
*Yu Xue, Jiajie Zha, Danilo Pelusi, Peng Chen, Tao Luo, Liangli Zhen, Yan Wang, Mohamed Wahib.
"Neural Architecture Search With Progressive Evaluation and Sub-Population Preservation"
in IEEE Transactions on Evolutionary Computation, doi: 10.1109/TEVC.2024.3393304.(2024) - 4.
Thao Nguyen Truong, Balazs Gerofi, Edgar Josafat Martinez-Noriega, Francois Trahay, Mohamed Wahib.
"KAKURENBO: Adaptively Hiding Samples in Deep Neural Network Training"
Advances in Neural Information Processing Systems 2023 (NeurIPS 2023) - 5.
*Huaipeng Zhang, Nhut-Minh Ho, Yigit Polat Dogukan, Peng Chen, Mohamed Wahib, Truong Thao Nguyen, Jintao Meng, Rick Siow Mong Goh, Satoshi Matsuoka, Tao Luo, Weng-Fai Wong.
"Simeuro: A Hybrid CPU-GPU Parallel Simulator for Neuromorphic Computing Chips,"
IEEE Transactions on Parallel and Distributed Systems, volume:34, pp2767-2782 (2023) - 6.
*Lingqi Zhang, Mohamed Wahib, Chen Peng, Jintao Meng, Xiao Wang, Toshio Endo, Satoshi Matsuoka.
"PERKS:a Locality-Optimized Execution Model for Iterative Memory-bound GPU Applications"
ACM 37th International Confernce on Supercomputing (ACM ICS 2023) - 7.
*Jintao Meng, Peng Chen, Mingjun Yang, Mohamed Wahib, Yanjie Wei, Shengzhong Feng, Wei Liu,Liangzhen Zheng.
"Boosting the Predictive Performance with Aqueous Solubility Dataset Curation"
Nature Scientific Data, March 2022
関連リンク
メンバーリスト
主宰者
- WAHIB Mohamed
- ユニットリーダー
メンバー
- DROZD Aleksandr
- 研究員
- VATAI Emil
- 研究員
- ZHANG Lingqi
- 特別研究員
- BATISTA Joao Eduardo
- 特別研究員
採用情報
| 募集職種 | 応募締切 |
|---|---|
| 上級研究員、研究員または特別研究員募集（K24040） | ポストが決まり次第 |
お問い合わせ先
〒103-0027 東京都中央区日本橋1-4-1
日本橋一丁目三井ビルディング 15階
Email: mohamed.attia [at] riken.jp
※[at]は@に置き換えてください。