「Amazonは「ChatGPT」の使用を禁止、チャットボットが会社の機密情報をリークする」（Emerging Technology Review）がちょっと面白い。
「OpenAIが開発したチャットボット「ChatGPT」は高度な言語能力を持ち、米国で利用が急拡大している。特に、企業の社員は日常業務でChatGPTを利用し、仕事の効率を上げている。社員は、業務資料の制作やプログラミングで、ChatGPTを使っている。企業内で利用が広がる中、Amazonは社員がChatGPTを利用することを禁止した。チャットボットが会社の機密情報をリークする危険性が明らかになったためである。」
「AmazonはChatGPTが出力するデータに会社の機密情報が含まれていると指摘する。社員がChatGPTに機密情報を入力し、これをアルゴリズムが学習し、その情報が社内に漏れることを懸念している。社員はChatGPTに機密情報を入力し、そのアップデートや修正をリクエストする。その際に、アルゴリズムは機密情報を学習し、ChatGPTが改版される。改版されたChatGPTに、社外の利用者が質問を入力すると、アルゴリズムは学習した機密情報を出力する危険性がある。」
「Amazonの社員がChatGPTを使って業務を遂行している実態が明らかになった。社員はChatGPTをプログラムのコーディングを支援するツールとして使っている。コーディングにおいて、社員はChatGPTでプログラムをデバッグし、また、ロジックを改良する。社員は開発中のコードをChatGPTに入力し、チャットボットにこれを効率化するよう指示する。ChatGPTはこれに従ってコードを生成するが、アルゴリズムは入力されたコードを学習し、これを社外の利用者に出力する危険性がある。特に、コードが開発中の先進技術を含んでいれば、情報がリークした際の被害は甚大となる。」
「AmazonはChatGPTに対抗するAIモデル「CodeWhisperer」を開発し、これをクラウドで提供している。これはコーディング支援ツールで、アルゴリズムがプログラマの指示に従ってプログラムを生成する。社員は自社製品ではなくChatGPTを利用している。」
「ChatGPTは仕事の効率をアップするための優れたツールであるが、同時に、機密情報をリークする危険性があることが分かってきた。このため、企業はChatGPTを評価し、社内で安全に運用するためのガイドラインを策定することが必須となる。また、個人でChatGPTを利用する際は、個人の機密情報を入力することは危険である。氏名、住所、電話番号、クレジットカード番号、暗証番号などを入力すると、これが他の利用者にリークする危険性は大きい。会社と個人はChatGPTの危険性を理解して安全に活用する必要がある。」
出典: OpenAI
Amazonは「ChatGPT」の使用を禁止、チャットボットが会社の機密情報をリークする | Emerging Technology Review (etechnologyreview.com)
ＩＴ起業研究所ITInvC代表 小松 仁