カリフォルニア州サンノゼのS.地方裁判所には、著作権法と人工知能の話題を利用してFacebookのユーザーを騙す試みに関与したと主張される組織に対して、グーグルが訴訟を提起しました。ロイターがオンラインで公開した裁判所文書によれば、詐欺師はSNSと偽の広告を利用し、Googleのロゴを使用して無知な被害者たちをだまし、Googleのフラッグシップの人工知能プラットフォームであるバードの最新版をダウンロードする口実のもとでマルウェアをダウンロードさせました。
訴状では、特定されていない2人または2つのグループに言及しています。「最初のグループは、マルウェアを広めるために一般の人々の人工知能への熱狂を利用しようとしました」と同社は記事で述べています。「2番目のグループは、デジタル千年著作権法（DMCA）を武器にして、数千件の明らかに詐欺的な著作権通知を提出することで彼らのビジネス競争相手に害を与えようとしました」。
訴状では、グーグルはFacebook上で自らを「Google AI」「AIGoogle」「AiGoogle」「AIGoogle.Plus」「AIGoogle Bard FB」「AIGoogleBard」と名乗って宣伝していたと述べています。偽のGoogleSNS投稿には、偽のメールやドメイン名も含まれており、gbard-ai.infoやgg-bard-ai.comといったものがあります。「混乱を引き起こす可能性を高めるため、被告はグーグルの独自の書体とGoogleのマルチカラーシーケンスに似た色を使用しており、さらに、グーグルのイベントのスピーキングイメージやグーグルのCEOであるサンダル·ピチャイのイメージも使用していました」とグーグルの弁護士は述べています。
グーグルは、この訴訟を提起した理由として、「計画を妨害し、世間の認識を高め、詐欺師がさらなる被害を引き起こすのを止めるためである」と述べています。グーグルは被告に対して陪審裁判を要求しています。「今日の行動は、私たちが続けている法的戦略の一環であり、消費者や中小企業を保護し、新興分野で必要とされる法的先例を確立するためのものです」とグーグルは述べています。
グーグルの広報担当者はこの事件についてコメントすることを辞退し、代わりに企業の訴訟に関する投稿を参照するように回答しました。被害者はバードを実行する代わりに、悪意のあるコードのインストーラを実行することになります。「マルウェアは、被害者のソーシャルメディアのログイン資格情報を入手して被告に送信するために設計されており、それによって被害者のソーシャルメディアアカウントに侵入します」とグーグルの弁護士は訴訟で述べています。「以下で説明するように、被告は主に中小企業である大きなソーシャルメディアプラットフォームのビジネスや広告主のアカウントを有するユーザーを標的にしています」と述べています。
グーグルによると、彼らは関与する個人の正体を知りませんが、詐欺師はベトナムに拠点を置いており、ロサンゼルスにサーバーを持つ「広範かつ一般的な」マルウェアキャンペーンの背後にいます。
人工知能の急速な進歩により、サイバー犯罪者はより洗練されたオンライン詐欺を行うためにこの技術を利用しています。法執行機関は警鐘を鳴らし、AIディープフェイクを使った恐喝の増加について一般に警戒を呼びかけています。先月、セキュリティ会社SlashNextは、ChatGPTの発売以降、フィッシングメールの件数が1265％増加したと報告しました。
「生成AIがサイバー犯罪活動に与える真の影響について議論がある一方で、私たちの調査から、脅威アクターがChatGPTのようなツールを活用して洗練された、特定のビジネスのメールの乗っ取りや他のフィッシングメッセージを書くことを知っています」とSlashNextのCEOパトリック·ハーは以前Decryptに語っていました。
