イーサリアムの共同創設者であるヴィタリック・ブテリンは、アンドリーセンの前向きな見解に同意しながらも、AIの開発方法と技術の将来的な方向性の重要性を指摘しました。ブテリンは、人類の絶滅を引き起こす人工知能の存在的なリスクを認識しています。「これは極端な主張です。最悪の場合の気候変動や人工的なパンデミック、核戦争と同等の被害をもたらすかもしれませんが、多くの文明の島々が無傷のまま残り、後始末をすることができるでしょう」と彼は述べています。
しかし、ブテリンは、「AIが私たちに逆襲することを決めた場合、生存者は存在せず、人類は終わりを迎える可能性があります。たとえ火星であっても安全ではないかもしれません」と述べました。ブテリンは、AI Impactsによる2022年の調査を引用し、人類がAIまたはAIの制御に失敗したことによって絶滅の危機に瀕していると認識している参加者の5〜10%が存在すると指摘しました。
この企業は、クローズドおよび所有者の企業やベンチャーキャピタルファンドよりも、セキュリティに焦点を当てたオープンソースの運動がAIの開発をリードするために理想的だと述べています。「超知能も利用者ではなく、実際に世界に対して意味のあるエージェンシーを保持することができる未来を望むのであれば、これが最も自然な選択肢のように感じられます」と彼は述べました。ブテリンは、人間の意図的な選択と結果の選択が必要だと続けました。
「「利益を最大化する」という公式は自動的にそれらを実現しません」と彼は述べました。ブテリンは、手工具からスマートフォンまでのイノベーションの歴史を指摘し、技術が人間の可能性を拡大するために役立つと述べました。「私はこれらのことが非常に良いものであり、人類の届く範囲をさらに広げて惑星と星に到達することは非常に良いものだと信じています。なぜなら、私は人類が非常に良いものだと信じているからです」とブテリンは述べました。
ブテリンは、変革的な技術が人類の明るい未来につながると信じている一方で、今日の世界をそのままにして、ただ欲の少ないものやより公共の医療があるだけの世界にするべきではないという考えには反対しています。「特定の種類の技術は、他の一部の技術よりも確実に世界を良くする」とブテリンは述べました。「開発されれば、他の種類の技術のネガティブな影響を緩和することができる特定の種類の技術が存在します。
」ブテリンは、反体制主義と政府に対する異議や反対をする人々に対して使用されるデジタル権威主義と監視技術の増加について警告しました。彼は、ほとんどの人々が高度に進化したAIを一つのグループに独占されるよりも、それを10年遅らせることを選ぶだろうと述べました。「私の基本的な恐れは、OpenAIが500人の社員で1億人以上の顧客にサービスを提供することを可能にする管理技術が、500人の政治エリートまたは5人の委員会によって、ある国全体に対して鉄のような支配を維持することを許すものだということです」と彼は述べました。
ブテリンは、効果的な加速（または「e/acc」）運動には同感がありますが、軍事技術に対する彼らの熱意には複雑な感情を抱いています。「現代の軍事技術が善良な存在としての役割を果たすためには、現在および将来の衝突のほとんどで、優良な存在であるという信念が必要です」と彼は述べ、軍事技術がアメリカによって建設および制御されているために善であるとする考えを引用しました。「e/accとは、現在と将来の政府の道義的価値観や国家の将来の成功にすべてを賭けることを要求するのでしょうか？」と彼は言いました。
ブテリンは、一部の人々に「極端で不透明な力」を与え、それらを賢明に使うことを望む代わりに、「d/acc」という哲学、つまり防衛、分散化、民主主義、および異質性を重視しています。彼は、これは効果的な利他主義者、リバタリアン、多元主義者、ブロックチェーンの支持者、ソーラーパンクとルナーパンクに適応すると述べ、防衛を重視する世界は多くの理由で良い世界だと説明しました。「もちろん、安全性の直接的な利益が第一です。人々が死ぬことが少なくなり、経済的な価値が破壊されることが少なくなり、紛争に時間が浪費されることが少なくなります」と彼は結論づけました。
