Machine Learning System Security Guidelines Version 1.03a

The guidelines consist of the following documents.

1. Machine Learning System Security Guidelines, Part I. "Security Measures Procedures"

   • MLSystemSecurityGuidelines-main-E.pdf

2. Machine Learning System Security Guidelines, Part II. "Risk Assessment"

   • MLSystemSecurityGuidelines-RiskAssessment-E.pdf

3. Machine Learning System Security Guidelines, Appendix. "Overview of Detection Techniques for Machine Learning-Specific Attacks"

   • MLSystemSecurityGuidelines-Appendix-E.pdf

4. Machine Learning System Security Guidelines, merged version of three documents

   • MLSystemSecurityGuidelines-all-E.pdf

The folder "util" contains the related tool. For more information, please see README-E.txt in this folder.

• AI risk assessment tool

Update information

• Version 1.03a

  • Fixed some misreferences

• Version 1.03

  • Translated version of Japanese version 1.03

機械学習システム セキュリティガイドライン Version 2.00β

本ガイドラインは以下で構成されています。

1. 機械学習システム セキュリティガイドライン「本編」

   • MLSystemSecurityGuideline-main.pdf

2. 機械学習システム セキュリティガイドライン「リスク分析編」

   • MLSystemSecurityGuideline-RiskAnalysis.pdf

3. 機械学習システム セキュリティガイドライン「付録：攻撃検知技術の概要」

   • MLSystemSecurityGuideline-Appendix.pdf

4. 機械学習システム セキュリティガイドライン全て

   • MLSystemSecurityGuideline-all.pdf

また、utilフォルダには関連ツールとして以下を含めています。詳しくは それぞれのREADMEを御覧ください。

• AIリスク問診ツール
• AI影響分析ワークシート

・更新履歴

Version 2.00β(2023/06/28)

• 第2版のβ版として本編とリスク分析編について、第1版を改訂
  • 各編の変更箇所はそれぞれのドキュメントをご参照下さい
• AIリスク問診ツールを改訂
• AI影響分析ワークシートを新規で追加

Version 1.03a(2022/12/26)

• 本編について参考文献の引用ミスを修正
• 3編の結合ドキュメントの索引の誤記を修正

Version 1.03(2022/12/26)

• リスク分析編についてメンバシップ推測攻撃のシナリオM1とM7のツリーを修正
• バージョンは上がっていますが、本編と付録に変更はありません

Version 1.02

• リスク分析編のメンバーシップ推測攻撃のシナリオM7のツリーを修正
• リスク分析編について、シナリオM7の修正に伴い、質問の追加、条件の追加、アタックツリーの修正
• バージョンは上がっていますが、本編と付録に変更はありません

Version 1.0

• 正式版として公開
  • リスク分析編に関連技術を追加（II-5.2）
  • AIリスク問診ツールのバグを修正
  • 章立て、参考文献、図番号、表番号等を3ガイド間で一意化

Version 0.8

• 新規公開