1. Home
  2. 研究室紹介
  3. 革新知能統合研究センター
  4. 社会における人工知能研究グループ

革新知能統合研究センター 人工知能セキュリティ・プライバシーチーム

チームリーダー 佐久間 淳(D.Eng.)

研究概要

佐久間 淳 (D.Eng.)

人工知能技術の発展に伴い、機械学習による判断や意思決定が広く社会実装されつつあります。人工知能が人間にとって重要な意思決定を担えるようになるためには、人工知能による学習過程や意思決定過程において個人情報や機密情報の漏えいがないこと(プライバシー)や、その挙動が悪意を持った攻撃者に恣意的に操作されないこと、本来の意図に反して人間に害を及ぼす振る舞いをしないこと(セキュリティ)が必要です。私たちのチームでは、このような人工知能が社会において適切に利用されるために必要なセキュリティとプライバシーの基盤技術を研究しています。

研究テーマ:

  • 人工知能セキュリティ
  • 人工知能プライバシー

研究主分野

  • 情報学

研究関連分野

  • 工学
  • 総合人文社会
  • 知能情報学
  • 情報セキュリティ

キーワード

  • 機械学習
  • セキュリティ
  • プライバシー
  • 公平性

主要論文

  • 1. Thien Q. Tran, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma:
    "Statistically Significant Pattern Mining with Ordinal Utility."
    KDD 2020: pp. 1645-1655 (2020).
  • 2. Hiromu Yakura, Youhei Akimoto, Jun Sakuma.:
    "Generate (Non-Software) Bugs to Fool Classifiers"
    AAAI 2020: pp. 1070-1078 (2020).
  • 3. Hiromu Yakura, Shinnosuke Shinozaki, Reon Nishimura, Yoshihiro Oyama, Jun Sakuma.:
    "Neural malware analysis with attention mechanism"
    Comput. Secur. 87, 15 pages, (2019).
  • 4. Ryota Namba, Jun Sakuma.:
    "Robust Watermarking of Neural Network with Exponential Weighting"
    AsiaCCS 2019: pp. 228-240 (2019).
  • 5. Hiromu Yakura, Jun Sakuma.:
    "Robust Audio Adversarial Example for a Physical Attack"
    IJCAI 2019: pp. 5334-5341 (2019).
  • 6. Thien Q. Tran, Jun Sakuma.:
    "Seasonal-adjustment Based Feature Selection Method for Predicting Epidemic with Large-scale Search Engine Logs"
    KDD 2019: pp. 2857-2866 (2019).
  • 7. Toshihiro Kamishima, Shotaro Akaho, Hideki Asoh, Jun Sakuma.:
    "Model-based and actual independence for fairness-aware classification"
    Data Min. Knowl. Discov. 32(1): pp. 258-286 (2018).
  • 8. Takao Murakami, Hideitsu Hino, Jun Sakuma.:
    "Toward Distribution Estimation under Local Differential Privacy with Small Samples"
    PoPETs 2018(3): pp. 84-104 (2018).
  • 9. Kazuya Kakizaki, Kazuto Fukuchi, Jun Sakuma.:
    "Differentially Private Chi-squared Test by Unit Circle Mechanism"
    ICML 2017: pp. 1761-1770 (2017).
  • 10. Wenjie Lu, Shohei Kawasaki, Jun Sakuma.:
    "Using Fully Homomorphic Encryption for Statistical Analysis of Categorical, Ordinal and Numerical Data"
    NDSS 2017, 15 pages (2017).

関連リンク

メンバーリスト

主宰者

佐久間 淳
チームリーダー

メンバー

YU Zhe
特別研究員
BUTKE Joshua
特別研究員
福地 一斗
客員研究員
日野 英逸
客員研究員
森 達哉
客員研究員
秋本 洋平
客員研究員
小池 悠生
客員研究員
村上 隆夫
客員研究員
SUN Yuwei
客員研究員
西山 大輝
研究パートタイマーⅠ
HE Ziling
研究パートタイマーⅠ
WEI Junhao
研究パートタイマーⅠ
工藤 ミコト
研究パートタイマーⅠ
大磯 秀幸
研究パートタイマーⅡ
戸田 宇亮
研究パートタイマーⅡ
AN Shiwen
研究パートタイマーⅡ
NIHAL Md Ragib Amin
研究パートタイマーⅡ
TSAI Yu-Lin
研修生

お問い合わせ先

茨城県つくば市天王台1-1-1 筑波大学
総合研究棟B 1006
Email: jun.sakuma [at] riken.jp
※[at]は@に置き換えてください。

Top