Microsoftのブログ投稿によると、同社の社長ブラッド・スミスと基本権の技術担当副社長テレサ・ハットソンは、テックジャイアントが政治広告にAIをどのように利用するかについて説明しています。「2024年の世界では、多数の独裁的な国家が選挙プロセスに干渉しようとするかもしれません」とマイクロソフトは述べています。「そして、彼らはAIや他の新しい技術を伝統的な手法と組み合わせて、選挙システムの信頼性を脅かすかもしれません」。
スミスとハットソンは、マイクロソフトの選挙保護の取り組みには、選挙に関する「透明性と権威ある情報」、候補者がキャンペーン資料の出自を確認できる能力、AIが彼らの肖像やコンテンツを歪めた場合の救済策が含まれていると述べています。この取り組みは、政治キャンペーンをサイバー攻撃から保護することにも触れています。
コンテンツを管理するために、マイクロソフトは「コンテンツ・クレデンシャル」をサービスとして提供することを発表しました。これは、Coalition for Content Provenance and Authenticityのデジタルウォーターマーキングを使用し、コンテンツの出自に関する詳細を暗号化する新しいツールです。
マイクロソフトはまた、選挙コミュニケーションハブを立ち上げ、選挙を安全にするための支援を行います。「誰も一人で、一つの機関または一つの企業が選挙が自由で公正であることを保証することはできません」とマイクロソフトは述べています。「しかし、私たちが一緒になって努力することで、全ての人々の選挙における自由と公正な権利を守るための意義ある進展を達成することができます」
マイクロソフトはまだDecryptからのコメントへの回答をしていません。
一方、ソーシャルメディアの巨大企業であるMetaは、さまざまなプラットフォーム上での誤情報や欺瞞的な政治広告に対処することを目指し、水曜日に発表しました。Metaのグローバルアフェアーズ担当社長ニック・クレッグはTwitterで、「新年には、社会問題、選挙、政治に関する広告をMetaで実施する広告主は、イメージまたは音声がデジタル的に作成または変更されているかどうか（AIを含めて）、本来そうではない人が何かを言っていたりしたことを明示する必要があります」と書きました。
クレッグは、広告主は承認プロセスを完了し、広告費を支払った者を明示する免責事項を含めなければならないと説明しました。Metaの新しいポリシーによると、広告主は、社会問題、選挙、政治広告に関連する広告において、写真写りのよいイメージやビデオ、ヒューマンライクな音声が使用されている場合には開示する必要があります。Metaによれば、このポリシーは、AIによって生成された人物の顔や言動を偽ったものも含まれます。
このポリシーは、画像のサイズの調整、トリミング、色の補正、画像のシャープ化には適用されないとMetaは述べています。しかし、それらの変更が広告で主張される事実や問題に対して「重要である場合」には、適用されます。「このポリシーは新年から、世界的に必要とされるものです」とMetaは述べています。
MetaはまだDecryptからのコメントへの回答をしていません。
生成AIの進歩に伴い、政策立案者、企業、法執行機関は追いつこうとしています。しかし、新しいAIツールが毎日現れることにより、ディープフェイクと戦うのは困難な戦いです。
先月、無料のオープンソースモデルを使用して、1人の顔を別の顔にすばやく置き換える「顔のスワッピング」AIであるFaceFusionが登場しました。
サイバー犯罪者も生成AIモデルを利用してフィッシング攻撃を加速させています。7月には、悪意のあるChatGPTのクローンであるWormGPTがダークウェブで発見され、メール攻撃に利用される可能性があることがわかりました。
ChatGPTやその悪質なバリエーションのようなチャットボットは、ユーザーのプロンプトに基づいてテキスト、画像、ビデオを生成するために生成AIを利用しています。サイバー犯罪者が利用する他のダークウェブのAIモデルには、FraudGPT、DarkBert、DarkBartがあります。
サイバーセキュリティ企業SlashNextの10月の報告書によれば、OpenAIのChatGPTの開発以降、メールフィッシング攻撃は1265％増加しています。
テレビでのAIによる生成広告には対処しやすいかもしれませんが、インターネット上でのAIディープフェイクの拡散に対しては、インターネット監視団体が警鐘を鳴らしています。「ですので、何が本物かを信じることができないという継続的な問題もあります」と、Internet Watch FoundationのCTOであるダン・セクストンは以前Decryptに語っています。「事物が本物かどうかを判断するための手がかりは100％ではなく、したがってそれらも信頼できません」。
8月、アメリカ連邦選挙委員会は、非営利団体パブリックシチズンが技術を規制するよう同委員会に請願した後、AIによるディープフェイクに取り組みました。
先月、アメリカの上院議員のバイパーティザングループが、「No Fakes Act」という法案を提案しました。この法案が成立すると、人物の肖像、写真、ビデオを許可なく使用することを違法とし、違反あたり5000ドルの罰金と損害賠償が科されることになります。この法案は、死後70年を含め、任意の個人に適用されます。
編集：ライアン・オザワによる編集。
暗号ニュースについて最新情報を入手し続けるために、毎日の更新が受け取れるようにしてください。
メールアドレス入力
受け取る！
受け取る！
