AnthropicのClaude透かし計画、除去ツール市場を急速に生む

AnthropicがClaude生成テキストに透かしを入れる計画は、すぐに反対方向の動きを生んだ。透かしを取り除こうとするツールだ。8月23日のBusiness Insiderインタビューで、パリの起業家Guillaume Meyerは、Anthropicが見えないテキスト透かし方式を発表した直後に、Watermarks Removerというオープンソースプロジェクトを作った経緯を語った。投稿後、プロジェクトは急速に広がり、AIが触れた人間の文章まで誤って扱われることを心配する開発者の注目を集めた。

論争の出発点は、AnthropicがEU AI法の透明性ルールに対応するため、対応するClaude出力に機械可読の印を入れるとしたことだ。同社は、この印は見えるラベルではなく、隠し文字を追加せず、ユーザーや組織を識別せず、Claudeの回答の意味、読みやすさ、品質を変えないとしている。さらに、ユーザーや第三者がClaudeの印を確認できる検出APIを提供する計画も示している。

テキスト透かしの考え方は統計的だ。文書にタグを付けるのではなく、モデルが生成する際に低リスクの単語選択をわずかに誘導し、正しい鍵を持つ側が全体のパターンを検出できるようにする。通常の読者には見えにくく、コピー後も残りやすい。一方で、ユーザーが透かしの存在を簡単に確認できず、軽い編集、翻訳、校正が全面生成と同じように扱われるかもしれないため、議論は難しくなる。

Meyerの批判はその曖昧さに向けられている。彼はBusiness Insiderに対し、統計透かしは誤検出と人間の被害者を生み得ると述べた。特に学術や専門の場では、十ページの論文の一行だけAIで直しても印が残る可能性がある。彼は自分のツールが完全ではなく、検出システムが出るたびに改良が必要だと認めつつ、粗すぎる方法を試し、問うためのプロジェクトだと位置付けている。

Anthropicにも反対側の圧力がある。規制当局は合成コンテンツの透明性を求め、AI企業はテキストが製品の外へ出た後も残る信号を必要としている。ラベルがアプリ画面にしかなければ、メール、文書、ウェブサイト、SNSにコピーされた瞬間に消える。透かしはより耐久性のある信号を約束するが、その耐久性こそがユーザーの不安を生んでいる。軽い編集でできた印でも、評判に影響するかもしれないからだ。

根本には、著者性が二分法ではなくなったという問題がある。文書は人が書き、モデルが整え、別のシステムが翻訳し、編集者が確認し、エージェントが整形することがある。単一の透かしはモデルが触れたことを示せても、人間の創造責任の大きさは説明できない。学校、雇用者、出版社、裁判所は、検出結果を単純な不正の証拠として扱わない慎重さが必要になる。