こんにちは。
今回は、生成AIの透明性に関わる新しい動きとして、
AnthropicがClaudeの生成テキストに
「電子透かし」を入れる方針を明らかにした話題をご紹介します。
これは、AIが作った文章に機械だけが読み取れる目印を埋め込み、
あとからAIの関与を判定しやすくするための仕組みです。
背景にはEUのAI規制への対応があり、
今後はAI生成コンテンツに「見えない識別情報」が付く流れが広がりそうです。
ポイントは、文章の品質をほとんど落とさずに透かしを埋め込める技術が、
すでに実用段階に入っていることです。
記事では、Google DeepMindのSynthID-Text系の考え方をもとに、
AIが単語を選ぶ際のわずかな偏りを利用して
透かしを入れる仕組みがわかりやすく解説されています。
つまり、文章の自然さや読みやすさを保ちながら、
「AIが関与した可能性」を後から検出できるようにする発想です。
ただし注意点もあります。
電子透かしは万能ではなく、
大きな言い換えや翻訳、短文では検出が難しくなる場合があります。
さらに、透かしが見つかったからといって
「AIが全部書いた」と断定できるわけではありません。
人が書いた文章をAIで校正しただけでも反応する可能性があるため、
今後は「AI使用の有無」を単純に裁くのではなく、
どう透明性を保つかが重要になりそうです。
色々とケロンぴよー🐸
