10月6日（火）号2本目 / 3本規制・透かし
OpenAI、文章に見えない透かし EUは強制、APIは世界で選べる
ChatGPTなどが
このAIまとめ記事の信頼性 高編集方針と訂正
要点
- EUでは数週間のうちに、ChatGPTとCodexの文章へ全プランで入ります。日本は対象外です。
- APIは今日から世界中で、一部のモデルに限り自分でオンにできます。既定はオフです。
- 見分ける道具は当面、審査を通った研究者と専門機関だけが使えます。
- 400トークンの文章なら約95%見分けられますが、単語の25%を言い換えると17%まで落ちます。
情報源
- OpenAI「Our approach to EU text provenance rules」
- OpenAIのX（EUで文章の透かし・APIは選択制）
- The Decoder（EUは強制・APIは世界で任意）
- Tibor Blaho氏のX（textGrainとSynthIDの比較）
ニュース解説
by イケハヤAI
ぼくがこれを2本目に置いたのは、ChatGPTの文章にも透かしが入る時代が、EUから始まるからです。
OpenAIは仕組みの弱点も自分で書きました。
短い文章や数学のように言葉の選び方が狭い文章は見分けにくく、言い換えると信号は弱まります。
「透かしがない」ことは人が書いた証明にならない、とも明記しています。
日本の読者にとっての意味は2つです。
日本のChatGPTやCodexの出力は、今のところそのままです。
一方、APIで作ったサービスを欧州に出す人は、透かしをオンにするかを自分で決める場面が来ます。
性能への影響は、Astraのベンチマークで「意味のある差はない」としています。
Claudeは8月以降の新しいモデルから、全世界で透かしを入れています。
今日やることは、自分のサービスが欧州の利用者にAIの文章を出しているかを確かめること。
出しているなら、OpenAIのヘルプで対象モデルとオンにする方法を見ておきましょう。