AI生成のヌード画像を止められない理由 — 開発者の視点

かつて人々を守っていたハードルは消え去った

数年前まで、説得力のある偽のヌード写真を制作するには相応の労力が必要でした。高性能なGPU、使い勝手の悪いソフトウェアに耐える根気、そして粗い出力結果を許容する大らかさです。その労力は自然なフィルターとして機能し、本気で実行しようとする者以外を排除していました。しかし、そのフィルターはもはや存在しません。

現在のオープンな画像生成モデルは、一般的な市販のハードウェア上で写真のようにリアルな画像を出力できます。コミュニティのモデルリポジトリに投稿されたチェックポイントは、それぞれ100万回以上ダウンロードされており、人気のベースモデルを基に構築されたアダルトコンテンツ向けの派生モデルも数十万回取得されています。さらにその上には、愛好家によって作成された無数の小さな「ファインチューン」ファイルが重ねられ、特定の外見や体型、さらには特定の人物に似せた出力を作成できるようになっています。最も広く使用されているベースモデルの中には、数百万枚の画像で学習され、コンテンツ規制が一切組み込まれずに提供されているものもあります。これらを実行するのに特殊なハードウェアはもはや必要ありません。数年前の中価格帯のゲーミングノートPCがあれば十分です。

さらに、パッケージ化されたバージョンとして、いわゆる「nudify」アプリが存在し、複雑な仕組みを単一のボタンの裏に隠しています。服を着た写真をアップロードし、数秒待つだけで、捏造されたヌード画像が送り返されてきます。最近の透明性レポートによると、主要なアプリストアで数十種類のこうしたアプリが確認され、累計ダウンロード数は数億回に達しています。スマートなインターフェースと課金要素を取り除けば、その中身は誰もが自宅で実行できる同じオープンソースのディフュージョン技術に過ぎません。

オープンウェイトとは、停止スイッチが存在しないことを意味する

これは、懸念を表明する多くの論評で見落とされがちなポイントです。これらのモデルは オープンウェイトなのです。一度公開されたモデルのパラメータはファイルとして存在し、そのファイルは現在、世界中の何万台ものハードドライブに保存されています。それを回収することはできません。遠隔操作で削除パッチを適用することもできません。リクエストが経由する中央サーバーも存在せず、利用者を拘束する利用規約もなく、何が生成されているかを把握できる企業すら存在しないため、止めることなど当然不可能です。

AI生成ポルノの規制に関する大半の議論は、プラットフォームがスイッチを切り替えて特定のコンテンツカテゴリを一瞬で消し去るような「ボトルネック」が存在することを前提としています。オープンウェイトモデルはそのようなボトルネックが存在しない形で構築されています。生成はすべて個人のデバイス上で完結し、本人が望めばオフラインで行うこともでき、外部の観察者からは一切見えません。私自身、インターネット接続のないノートPCでこれらのモデルを実行できますし、他の誰でも同様に実行できます。

これは、ローカルモデルが合法的な作業において非常に価値が高いとされる理由と同じ特性です。リクエストごとの課金がなく、サービスの停止や規約変更を行うベンダーへの依存もなく、機密データに対する完全なプライバシーが確保されます。しかし技術自体は、クライアントのコードを守ろうとする開発者と、同意のない画像を捏造しようとする見知らぬ他人を区別しません。有益なユースケースを享受しながら、有害なユースケースだけを無効化することはできないのです。これは誰かが修正を忘れたバグではなく、この技術の仕組みにおける本質的な特徴なのです。

ターゲットにされているのは有名人ではなく、多くの場合子供たちである

ディープフェイクに対する世間の関心は主に有名人や政治家に集中しており、そのため問題が遠い存在で珍しいもののように感じられがちです。しかし実際の状況ははるかに身近で、はるかに日常的に発生しています。

イングランドの教師を対象とした調査では、同級生の猥褻な偽画像を制作するためにこれらのツールを使っている生徒をすでに把握している教師が一定数存在することが判明しました。また別の研究では、学校内で流通しているディープフェイクポルノの大部分が14歳未満の子供（中には11歳という幼さも）を対象にしていることが示されています。ペンシルベニア州の高校で広く報じられた事例では、1人の生徒がSNSから取得したごく普通の写真を使用し、5人の同級生の猥褻な偽画像を生成しました。より広範な10代への調査でも、アメリカの青少年の相当な割合が、未成年のうちにこのようなターゲットにされた人物を個人的に知っていると回答しています。

児童の安全という側面は、この問題が緊急課題であるかどうかについてのあらゆる議論を終わらせるはずのものです。米国の児童性搾取物に関する主要な通報システムを運営する機関は、AI生成コンテンツに関連する通報件数が前年比で激増したことを記録しています。少なくとも1つの海外の「nudify」サービスから流出したデータには、生成に使用されたプロンプトとともに数万枚の生成画像が保存されていたと報じられています。これはもはや仮説上のリスクではなく、すでに発生している事実として記録されたパターンなのです。

最も受け入れがたい現実は、加害者がいかに一般的であるかという点です。高度な技術を持つ攻撃者ではなく、スマートフォンを持ち、最近まで大手アプリストアで簡単に手に入ったアプリを使う退屈した10代の若者に過ぎません。以前はこれを困難にしていた障壁こそが、まさに消失した障壁なのです。

検知技術は防衛側が負け続けているレースである

ディープフェイクが巧妙になっても検知ツールが追いつくはずだ、という気休めの反論があります。しかし事実はそれを否定しています。これはゴールが存在するレースではなく、終わりなきランニングマシンなのです。

どの検知器も安定した精度記録を長く維持することはできません。条件が変化した瞬間に性能が低下するからです。クリーンなベンチマークデータセットで優れた性能を発揮するモデルであっても、実際の画像（圧縮され、トリミングされ、スクリーンショットされ、再共有される過程で、検知器が頼りとする微細な痕跡が消し去られた画像）では著しく性能が落ちることがよくあります。さらに悪質なことに、これは構造上の敵対的ループとなっています。研究者が検知手法を発表すると、生成モデルを構築する人々がその論文を読み、次世代のモデルはまさにその検知の手がかりとなった特徴を排除するようにチューニングされるのです。

防衛側が常に後手に回る構造的な理由が存在します。生成側は被害を発生させるために検知器をたった1回騙せば十分です。一方、検知側は本物の写真を誤って検出することなく、すべてのモデルとあらゆる画像変更方法に対して、ほぼ常に正解し続けなければなりません。これらは同等の負担ではありません。片方は1回の成功で済み、もう片方はほぼ完璧で継続的な精度を要求されます。この分野に関するあらゆる誠実な評価は同じ結論に達します。検知技術が恒久的に勝利することはなく、次のモデルがリリースされることで消し去られる一時的なリードを保持しているに過ぎないのです。

法律は対象とするレイヤーを誤っている

だからといって、何も対策が講じられていないわけではありません。米国では、2025年に成立した Take It Down Act により、実在の特定可能な人物のAI生成偽画像を含む、同意のない親密な画像の公開が犯罪化され、プラットフォームは正当な要請から48時間以内にフラグが立てられたコンテンツを削除することが義務付けられました。プラットフォームには法に準拠した削除システムを構築するために2026年半ばまでの猶予が与えられ、この法律に基づく初の有罪判決もすでに下されています。米国のほとんどの州でも、アダルトディープフェイクに対処する独自の州法が制定されています。こうした進展は本物であり、評価されるべきものです。

しかし、法律が実際に規制している対象に注目してください。それは公開と流通、つまりコンテンツがデバイスを離れてプラットフォームに到達する瞬間です。プラットフォームは今なお明確なボトルネックであるため、そこに圧力をかけるのは理にかなっています。しかし、法律が触れることができないのは生成そのものです。個人のノートPCに保存されているモデルファイルや、プラットフォームの審査を経ずにメッセージングアプリを通じて個人的に作成・共有された画像、グループチャットで回覧される写真には届きません。削除という救済策は、被害がすでに公になった後にのみ機能します。同級生にすでに捏造画像を見られてしまった生徒にとって、迅速な削除期間は起きてしまった事実を取り戻すものではありません。

法律が無意味だと言っているわけではありません。こうしたコンテンツを流通させるコストを引き上げることは重要です。しかし、削除法規を解決策とみなすことは、規制されている一部のレイヤーと、規制されていないはるかに広大なレイヤーを取り違えています。生成はあらゆる削除体制の手が届かない場所で行われており、まさにそのレイヤーこそがすでに制御不能な規模に拡大しているのです。

なぜ「止めることは不可能」というのが誠実な答えなのか

これは諦めを勧めるものではありません。問題を正確に診断することを求めるものです。間違った診断は間違った対応につながるからです。

すでに何千台ものマシンにコピーされたモデルの公開を取り消すことはできません。写真のようにリアルな画像生成を再び困難にすることも不可能です。永遠に先回りし続ける検知器を作ることも、個人のハードウェア上で非公開で行われる計算に届く法律を書くこともできません。真に役立つあらゆる介入策は、生成そのものの「下流」で機能します。より迅速で一貫した削除、流通に対する実効性のある法的処罰、この目的のために作られたアプリに対するアプリストアのポリシー厳格適用、そしてスクリーンの向こうからやってくる他の危害に対処してきたのと同様に、学校が子供たちとこの問題について誠実に話し合うことです。これらは実行する価値がありますが、それらは「被害軽減」であって、「予防」ではありません。

この技術が危険であると警告するエッセイは、その危険性を正しく捉えています。しかし誤っているのは、まだ治療法が存在すると仮定している点です。ツールはすでに数百万台のデバイスに分散配置されています。かつて人々を守っていた障壁は消失し、二度と戻ってくることはありません。目を背けたくなる真実とは、誰もが防げることを願っていた事態はすでに起きてしまったということです。世間がそれがやって来るのかどうか議論している間に、静かに。