イベント最終日に告発者であり活動家のチェルシー・マニングは、人間とテクノロジーの衝突と人工知能の発展について懸念を表明しました。「私たちはテクノロジーに囲まれた時代に生きています」とマニングは言いました。「私は数多くの場面で、私たちが人間である一方でテクノロジーとの衝突を経験してきました。テクノロジーが私たちが互いとどのようにやり取りし、制度がそれの一部になっているかを形作っていることについてです」
マニングは、デジタルの世界との関わりから自身の人生が形作られていると述べています。ホームレスになり、軍に入隊し、2010年にウィキリークスに軍の文書をリークしたことで刑務所に入るなどの経験です。「私はそれが私がテクノロジーをどのように統合し、見るか、そしてより大きく、より良い未来を構築するための方法を私に与えることを許した」とマニングは述べました。
マニングは、AI技術の急速な発展の動機、技術が最終的に誰に利益をもたらすのか、そして人工知能への進出が日常生活を商品化しているのかという点に疑問を呈しました。「私たちは単に人間の要素を忘れて、日常的な相互作用を単なる商品に変えているだけではないでしょうか？」マニングは言います。「この商品は、アプリでスワイプすることやかわいいハートアイコンをクリックすることなど、私たちが行う単純な行動です。」
マニングは、人工知能と大規模な言語モデルを当日の流行語とし、これらのモデルがトレーニングに使用される膨大な量のデータ（ウィキペディア、教科書、動画、画像など）を指摘しました。
マニングは、このデータがサーバー上のファイルとは異なり、モデルの重みとバランスに埋め込まれており、単純に削除することができないことを指摘しました。これは、個人がデータ削除を要求できる欧州連合の一般データ保護規制（GDPR）やプライバシー権に対照的です。「プライバシーの一片を持つ必要があるという事実を考慮したツールを開発するのは、私たち技術者の責任だと思います。
コミュニケーションは、抽出や商品化するリソースではないはずです」とマニングは述べました。「私たちが数値の価値として持つ関係性で生きたくありません。」
マニングは大規模な言語モデルについて警告し、個人の個人情報やプライベート情報が組み込まれると、それがモデルの永久的な一部になり、削除が不可能になると述べました。2021年、マニングはスイスのNym Technologies社にセキュリティコンサルタントおよびプライバシーの提唱者として参加しました。
Nym Technologiesは、2020年にCosmosブロックチェーン上でプライバシーに焦点を当てたプロジェクト「Nym」を立ち上げました。「私の焦点は広く、一般的に言って、暗号化や技術的な手段を使っていくつかのプライバシーを持つことの重要性にあります。そして、それを直感的に使用できるようにすることです。
難しくて使いづらいものではないはずです」とマニングは述べました。マニングはAIによって生成されるディープフェイクの増加にも注目しました。「私の注意を引いたことは、ディープフェイクが公開の論争や議論で使用されている事実ではなく、それらが作成され、実在の確認された情報を疑わしいものに使用されているという事実です」とマニングは言いました。「このトレンドはますます人々に自身の現実を疑うことを引き起こしています。」
ディープフェイクが進化するにつれて、政策立案者はそれが今後の選挙に影響を与えたり、オンライン上でのヘイトを助長したりする可能性を懸念しています。マニングが提案した解決策の一つは、暗号化を使用した情報の検証です。マニングは以前、Decryptに対してビットコインが彼女の暗号化に対する情熱、情報の保護、分散型の暗号化ベースのネットワーク構築にアピールしたと語っていました。「自分自身の現実を選べる、自分の好きなものを選べると言えることは魅力的かもしれません」とマニングは述べました。「しかし、現実の物質的な世界がいつかそれに立ち向かうことになるという現実があります。特に気候の問題では、単に無視しているだけでは済まなくなるでしょう。」
