1. Home
  2. 研究室紹介
  3. 革新知能統合研究センター
  4. 社会における人工知能研究グループ

革新知能統合研究センター 人工知能セキュリティ・プライバシーチーム

チームディレクター 佐久間 淳(D.Eng.)

研究概要

佐久間 淳 (D.Eng.)

人工知能技術の発展に伴い、機械学習による判断や意思決定が広く社会実装されつつあります。人工知能が人間にとって重要な意思決定を担えるようになるためには、人工知能による学習過程や意思決定過程において個人情報や機密情報の漏えいがないこと(プライバシー)や、その挙動が悪意を持った攻撃者に恣意的に操作されないこと、本来の意図に反して人間に害を及ぼす振る舞いをしないこと(セキュリティ)が必要です。私たちのチームでは、このような人工知能が社会において適切に利用されるために必要なセキュリティとプライバシーの基盤技術を研究しています。

研究テーマ:

  • 人工知能セキュリティ
  • 人工知能プライバシー

研究主分野

  • 情報学

研究関連分野

  • 工学
  • 総合人文社会
  • 知能情報学
  • 情報セキュリティ

キーワード

  • 機械学習
  • セキュリティ
  • プライバシー
  • 公平性

主要論文

  • 1. Akifumi Wachi, Thien Q. Tran, Rei Sato, Takumi Tanabe, Youhei Akimoto:
    "Stepwise Alignment for Constrained Language Model Policy Optimization."
    NeurIPS 20246
  • 2. Yuwei Sun, Hideya Ochiai:
    "Bidirectional Contrastive Split Learning for Visual Question Answering."
    AAAI 2024: 21602-216096
  • 3. Jiayang Liu, Weiming Zhang, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma:
    "Unauthorized AI cannot recognize me: Reversible adversarial example."
    Pattern Recognit. 134: 109048 (2023)6
  • 4. Thien Q. Tran, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma:
    "Statistically Significant Pattern Mining With Ordinal Utility."
    IEEE Trans. Knowl. Data Eng. 35(9): 8770-8783 (2023)6
  • 5. Yoshimasa Akimoto, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma:
    "Privformer: Privacy-preserving Transformer with MPC."
    EuroS&P 2023: 392-4106
  • 6. Kaiwen Xu, Kazuto Fukuchi, Youhei Akimoto,Jun Sakuma:
    "Statistically Significant Concept-based Explanation of Image Classifiers via Model Knockoffs."
    IJCAI 2023: 519-5266
  • 7. Kazuto Fukuchi, Jun Sakuma:
    "Demographic Parity Constrained Minimax Optimal Regression under Linear Model."
    NeurIPS 20236
  • 8. Thien Q. Tran, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma:
    "Unsupervised Causal Binary Concepts Discovery with VAE for Black-Box Model Explanation."
    AAAI 2022: 9614-96226
  • 9. Takumi Tanabe, Rei Sato, Kazuto Fukuchi, Jun Sakuma, Youhei Akimoto:
    "Max-Min Off-Policy Actor-Critic Method Focusing on Worst-Case Robustness to Model Misspecification."
    NeurIPS 20226
  • 10. Rei Sato, Jun Sakuma, Youhei Akimoto:
    "AdvantageNAS: Efficient Neural Architecture Search with Credit Assignment."
    AAAI 2021: 9489-9496

関連リンク

メンバーリスト

主宰者

佐久間 淳
チームディレクター

メンバー

清田 純
研究員
Sun Lu
研究員
YU Zhe
特別研究員
福地 一斗
客員研究員
森 達哉
客員研究員
秋本 洋平
客員研究員
小池 悠生
客員研究員
村上 隆夫
客員研究員
SUN Yuwei
客員研究員
西山 大輝
研究パートタイマーⅠ
WEI Junhao
研究パートタイマーⅠ
工藤 ミコト
研究パートタイマーⅠ
NIHAL Md Ragib Amin
研究パートタイマーⅠ
戸田 宇亮
研究パートタイマーⅡ
AN Shiwen
研究パートタイマーⅡ
TSAI Yu-Lin
研修生
加藤 宇生
研修生

お問い合わせ先

茨城県つくば市天王台1-1-1 筑波大学
総合研究棟B 1006
Email: jun.sakuma@riken.jp

Top