日米など18カ国、AIの安全な運用ガイドラインを発表

この記事の要点だけを、まとめます。

2023.11.28

日米を含む18カ国は26日、人工知能（AI）の開発・利用時の安全確保に焦点を当てたガイドラインを発表し、AIを開発・利用する企業に対し、悪意ある使用を防ぐ「安全な設計」を行うよう求めた。

法的拘束力はないものの、企業がAIを開発・導入・維持する際、悪用から顧客や一般市民の安全を守る必要があるとしている。

・GGuidelines for secure AI system development

安全なAIシステム開発のためのガイドライン

ガイドラインは、米国土安全保障省のサイバーセキュリティ・社会基盤安全保障庁（CISA）や英国家サイバーセキュリティセンター（NCSC）などが共同で発表しました。

・日米を含む18カ国

アメリカ、イギリス、日本、オーストラリア、カナダ、チリ、チェコ、エストニア、フランス、ドイツ、イスラエル、イタリア、ニュージーランド、ナイジェリア、ノルウェー、ポーランド、韓国、シンガポール

・ガイドライン　

ガイドラインは、AI システム開発ライフサイクル内の 4 つの主要領域 (安全な設計、安全な開発、安全なデプロイ、安全な運用と保守) に分かれています。

1・セキュアな設計

リスクと脅威モデリングの理解、およびシステムとモデルの設計で考慮すべき特定のトピックとトレードオフについて。

2・セキュアな開発

サプライチェーンのセキュリティ、ドキュメント、資産および技術的負債の管理など、AI システム開発ライフサイクルの開発段階に適用されるガイドライン。

(セキュアとは、安全な、安心な、頑丈な、堅牢な、などの意味を持つ)

3・安全な展開

インフラストラクチャとモデルを侵害、脅威、損失から保護すること、インシデント管理プロセスの開発、責任あるリリースなど、AI システム開発ライフサイクルのデプロイ段階に適用されるガイドライン。

(インフラストラクチャとは、インフラの正式名称で社会基盤という意味)

4・安全な運用と保守

AI システム開発ライフサイクルの安全な運用および保守段階に適用されるガイドラインが含まれています。これは、ログ記録と監視、更新管理、情報共有など、システムがデプロイされた後に特に関連するアクションに関するガイドライン。

「安全なAIシステム開発のためのガイドライン」全９Pあるので時間があるときに目を通してみてください。

らい氏のブックマーク