新しい報告書によると、1つのダークウェブフォーラムでたった1か月で20,254件以上のAI生成の児童性的虐待画像が見つかり、「圧倒的な数の」このような忌まわしいコンテンツがインターネットを「壊滅」させる可能性があるという。生成型AI画像生成器はますます高度になり、人間のリアルなレプリカを作り出す能力が飛躍的に向上している。Midjourney、Runway、Stable Diffusion、OpenAIのDall-EなどのAI画像生成器は、リアルな画像を創り出す能力を持つ数々のプラットフォームの一部だ。
一方、これらのクラウドベースのプラットフォームは、悪意のあるアクターが虐待的なコンテンツを作成するのを防ぐため、重要な制限、ルール、制御を導入している。しかし、AI愛好家はこれらの制約を回避する方法を常に探し求めている。「AI性的虐待児童画像の現実を広範囲の観客に伝えることは重要です。なぜなら、この素晴らしい技術の暗い側面についての議論をしなければならないからです」と、IWFのCEOであるスージー・ハーグリーブスは報告書で述べている。
IWFは、「最悪の悪夢」が現実になったと述べ、AI生成の実際の性的虐待の被害者の画像を追跡していると述べた。また、IWFは、有名人が若返りや加工を施され、虐待被害者として扱われたり、有名な子供たちの加工写真が出回っていることにも注意を喚起した。AI生成のリアルな児童性的虐待画像が増えることによる主な問題は、実際の虐待の検出・排除に対する法執行機関のリソースをそらす可能性があるとIWFは述べている。
IWFは、1996年に設立され、特に子供を対象とした性的虐待コンテンツを監視する非営利団体である。IWFは、9月に、児童の不法画像を作成するためにオープンソースのAIモデルを使用する方法についての議論や情報交換を行っていると警告していた。
IWFは、CSAMの撲滅のための国際的な協力を呼びかけており、関連法律の変更、法執行機関の訓練の更新、AIモデルの規制監督の確立など、多層的なアプローチを提案している。AI開発者に対しては、彼らのAIを児童虐待物資の作成に使用することを禁止し、関連するモデルの非索引化、モデルからの児童虐待コンテンツの優先的な削除を推奨している。
ダークウェブフォーラムでの違法なCSAMの削除は、イギリスでは進行中だが、他の国でホスティングされている場合はより困難になる可能性があるとIWFは述べている。AIの乱用に対抗するための数々の努力が行われており、Microsoftのブラッド・スミス社長は、金融機関が採用しているKYCポリシーを使用することを提案して、AIモデルを悪用して偽情報や虐待を広める犯罪者を特定することを示唆した。
ルイジアナ州では、AI生成の児童ポルノの販売および所持に対する罰則を強化する法律が採択され、未成年者を描いた違法なディープフェイク画像の作成、配布、所持に関与した者は、5年から20年の懲役刑、最高10,000ドルの罰金、またはその両方に直面する可能性があると定められている。アメリカ司法省は、8月に公開された市民向けガイドにおいて、児童ポルノ画像は第一修正権の保護対象外であり、連邦法の下では違法であることを強調している。
IWFは、児童虐待コンテンツの撲滅に向けた取り組みが行われているが、ウェブサイトが他の国でホスティングされている場合、削除がより複雑になる可能性があると述べている。
