革新知能統合研究センター 人工知能セキュリティ・プライバシーチーム
チームディレクター 佐久間 淳(D.Eng.)
研究概要

人工知能技術の発展に伴い、機械学習による判断や意思決定が広く社会実装されつつあります。人工知能が人間にとって重要な意思決定を担えるようになるためには、人工知能による学習過程や意思決定過程において個人情報や機密情報の漏えいがないこと(プライバシー)や、その挙動が悪意を持った攻撃者に恣意的に操作されないこと、本来の意図に反して人間に害を及ぼす振る舞いをしないこと(セキュリティ)が必要です。私たちのチームでは、このような人工知能が社会において適切に利用されるために必要なセキュリティとプライバシーの基盤技術を研究しています。
研究テーマ:
- 人工知能セキュリティ
- 人工知能プライバシー
研究主分野
- 情報学
研究関連分野
- 工学
- 総合人文社会
- 知能情報学
- 情報セキュリティ
キーワード
- 機械学習
- セキュリティ
- プライバシー
- 公平性
主要論文
- 1.
Akifumi Wachi, Thien Q. Tran, Rei Sato, Takumi Tanabe, Youhei Akimoto:
"Stepwise Alignment for Constrained Language Model Policy Optimization."
NeurIPS 20246 - 2.
Yuwei Sun, Hideya Ochiai:
"Bidirectional Contrastive Split Learning for Visual Question Answering."
AAAI 2024: 21602-216096 - 3.
Jiayang Liu, Weiming Zhang, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma:
"Unauthorized AI cannot recognize me: Reversible adversarial example."
Pattern Recognit. 134: 109048 (2023)6 - 4.
Thien Q. Tran, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma:
"Statistically Significant Pattern Mining With Ordinal Utility."
IEEE Trans. Knowl. Data Eng. 35(9): 8770-8783 (2023)6 - 5.
Yoshimasa Akimoto, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma:
"Privformer: Privacy-preserving Transformer with MPC."
EuroS&P 2023: 392-4106 - 6.
Kaiwen Xu, Kazuto Fukuchi, Youhei Akimoto,Jun Sakuma:
"Statistically Significant Concept-based Explanation of Image Classifiers via Model Knockoffs."
IJCAI 2023: 519-5266 - 7.
Kazuto Fukuchi, Jun Sakuma:
"Demographic Parity Constrained Minimax Optimal Regression under Linear Model."
NeurIPS 20236 - 8.
Thien Q. Tran, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma:
"Unsupervised Causal Binary Concepts Discovery with VAE for Black-Box Model Explanation."
AAAI 2022: 9614-96226 - 9.
Takumi Tanabe, Rei Sato, Kazuto Fukuchi, Jun Sakuma, Youhei Akimoto:
"Max-Min Off-Policy Actor-Critic Method Focusing on Worst-Case Robustness to Model Misspecification."
NeurIPS 20226 - 10.
Rei Sato, Jun Sakuma, Youhei Akimoto:
"AdvantageNAS: Efficient Neural Architecture Search with Credit Assignment."
AAAI 2021: 9489-9496
関連リンク
メンバーリスト
主宰者
- 佐久間 淳
- チームディレクター
メンバー
- 清田 純
- 研究員
- Sun Lu
- 研究員
- YU Zhe
- 特別研究員
- 福地 一斗
- 客員研究員
- 森 達哉
- 客員研究員
- 秋本 洋平
- 客員研究員
- 小池 悠生
- 客員研究員
- 村上 隆夫
- 客員研究員
- SUN Yuwei
- 客員研究員
- 西山 大輝
- 研究パートタイマーⅠ
- WEI Junhao
- 研究パートタイマーⅠ
- 工藤 ミコト
- 研究パートタイマーⅠ
- NIHAL Md Ragib Amin
- 研究パートタイマーⅠ
- 戸田 宇亮
- 研究パートタイマーⅡ
- AN Shiwen
- 研究パートタイマーⅡ
- TSAI Yu-Lin
- 研修生
- 加藤 宇生
- 研修生
お問い合わせ先
茨城県つくば市天王台1-1-1 筑波大学
総合研究棟B 1006
Email: jun.sakuma@riken.jp