AI 方針と目標(箇条 5)
トップマネジメントが、責任ある開発、人による監督、AI 固有のリスク許容度を含む AI 方針を定めます。
初の AI マネジメントシステム規格
2023 年 12 月に発行されました。金融、医療、行政の調達担当者は、すでに AI ガバナンスに関するチェックシートを送付しています。
EU AI Act は文書化されたガバナンスを求める
高リスクの AI システムには、人による監督、透明性、リスク管理を示すことが求められます。単体の高リスクシステムに関する義務は 2027 年 12 月から適用されます。
AI のリスクは IT のリスクとは異なる
バイアス、ハルシネーション、学習データの漏えい、モデルのドリフトは、一般的な IT セキュリティのフレームワークではカバーされません。
クラウド、コードリポジトリ、ID 管理システムを連携し、チームのオンボーディングを行います。
テンプレートのポリシー、ISO 42001 のコントロールに紐づく自動エビデンス、ギャップの是正。
エビデンスを監査人とリアルタイムで共有し、指摘事項にはその都度対応します。
最終の監査報告書と認証。継続的なモニタリングが始まります。
トップマネジメントが、責任ある開発、人による監督、AI 固有のリスク許容度を含む AI 方針を定めます。
ISO 42001 専用のリスク区分を用いて、AI 固有のリスクを特定・評価します。
モデルごとのデータの出所、学習データの同意の根拠、品質管理、バイアス検証の方法。
自動化された意思決定の開示、高リスクの出力に対する説明可能性の文書、人によるレビューの手順。
性能の監視、バイアスのドリフト検知、インシデントの記録により、本番のモデルが文書どおりに動作していることを示します。
すべてのモデルを許容できない・高・限定・最小のリスクに分類し、人による監督のコントロールとともに管理します。
コントロールを第 9 条(リスク管理)、第 13 条(透明性)、第 14 条(人による監督)に対応付けます。
AI ガバナンスの認証を示せる AI ベンダーはまだ多くありません。バイアス検証の結果を載せた Trust Center が差別化につながります。