こんにちは！AI研究所の見習い研究員Chisatoです。
本日のtopicsは、AIを守る技術に関する共同研究をご紹介します。
株式会社ChillStackと三井物産セキュアディレクション株式会社は、AIの開発・提供・利用を安全に行うためのAIを守る技術に関する共同研究を開始しました。
目次
共同研究の背景
近年、AI技術の発展に伴い、日本国内においても顔認証システムや防犯システム、自動運転技術等、様々な分野でAIの社会実装が進んでいます。その一方で、AIに対する攻撃手法も数多く生まれ、防御技術の確立が急務となっています。しかし、AIに対する攻撃手法は既存システムに対する攻撃手法とは根本的に原理が異なるものが多く、従来のセキュリティ技術で対策することは非常に困難です。
各開発工程でセキュリティを考慮していない場合、攻撃者が細工したデータが学習データに注入されることで、AIにバックドアが設置されてしまう問題や、AIの入力データが偽装されることで、AIの判断に誤りが生じる問題等が顕在化するおそれがあります。
共同研究概要
既知の攻撃手法の検証と体系化を行いながら、新規の攻撃手法と防御技術の研究も同時に進めていきます。
ハンズオン・トレーニングとは
実証実験の結果等を元に、AIの安全を確保する技術を普及する活動の1つとして、「イチからAIの安全確保技術を習得」できるハンズオン・トレーニングを開発・提供します。
2020年5月頃に、下記内容のハンズオン・トレーニングを提供開始する予定です。
・AIを騙す攻撃
：人間には識別できない小さな変化を加えたデータを使用し、AIを意図的に騙す攻撃手法と対策を学びます。
・AIを乗っ取る攻撃
：AIが学習するデータセットを汚染し、AIにバックドアを仕込むことでAIに意図した挙動をさせる攻撃手法と対策を学びます。
・AIシステムへの侵入
：機械学習フレームワークの仕様を悪用し、システムへ侵入する攻撃手法と対策を学びます。
今後は、ハンズオン・トレーニングの内容を随時アップデートしながら、機械学習未経験者向けやAIセキュリティ上級者向けのトレーニング教材も今後提供していく予定です。
AIに対する攻撃手法を検証・体系化、攻撃に対する防御技術の実証実験を実施する共同研究に注目です！
タグ：AI AIセキュリティ ChillStack ディープラーニング 三井物産セキュアディレクション 共同研究
AI入門ブログの中の人
アメリカ・サンフランシスコにある情報メディアの専門学校を卒業。大手金融会社での事務経験を経て、2016年9月よりAI研究所に入所。見習い研究員として、AI技術を日々勉強中。
AIセミナー責任者、講師。AIについての幅広い知識を持ち、人に分かりやすく伝える技術を持つ。特にAIを事業や仕事に取り入れる方法について日々講義しています。
AI研究所Twitter
Tweets by ai_kenkyujo最新記事
2020.04.10 AI(人工知能)の知識
イノベーションとは？意味や事例を分かりやすく徹底解説！
2020.04.09 AI(人工知能)のニュース
ディープラーニングの画像解析を小型エッジコンピュータで実現するVieurekaカメラの新機種「VRK-C301」提供開始へ！
2020.04.07 AI(人工知能)の知識
Jスコア(ジェイスコア)とは？審査基準や点数の上げ方について
2020.04.07 AI(人工知能)の知識
AIを利用した医療の現状や実例、メリットデメリットを徹底解説
2020.04.06 AI(人工知能)のニュース
AI・ディープラーニングを用いたオープンソースソフトウェア「SDTest」とは？！
2020.03.30 AI(人工知能)のニュース
