ビタリック・ブテリンはアンドリーセン氏の前向きな見方に同意しつつも、AIの開発方法や技術の将来の方向性も重要だと指摘しました。ブテリン氏は、人工知能が存在の危険をもたらす可能性を認め、人類の絶滅を引き起こす可能性もあると述べました。「これは極端な主張です。最悪のシナリオである気候変動や人工パンデミック、核戦争と同じぐらい多くの被害をもたらすかもしれませんが、文明の島は残っていて、そこから再建することができます」と彼は語りました。
しかし、「しかし、スーパーインテリジェントAIが我々に逆らうことを決定した場合、生存者は一人もいないかもしれず、人類を永久に終わらせてしまうかもしれません。火星でさえも安全ではないかもしれません」とブテリンは述べました。ブテリンは、AI Impactsによる2022年の調査を引用し、5%から10%の参加者がAIによる人間の絶滅、または人間がAIを制御できないことによる絶滅の可能性を信じていると述べました。
彼は、AIの開発においては、閉ざされた専有企業やベンチャーキャピタルファンドではなく、セキュリティに焦点を当てたオープンソースの運動が最適であると指摘しました。「超知能的でありながらも人間中心の未来を望むのであれば、人間が世界に対して意味のある機関を維持することができるような選択肢が最も自然なオプションであると感じます」と彼は述べました。ブテリンは、その方向性と結果を選ぶためには積極的な人間の意図が必要だと続けました。
「利益を最大化する」という公式は自動的にそれを実現するわけではないと彼は述べ、技術が人間の潜在能力を拡大することを愛しているとし、手工具からスマートフォンまでのイノベーションの歴史を指摘しました。「私はこれらのことが非常に良いものであり、人類の到達範囲をさらに広げ、惑星や星にまで届くことが非常に良いと信じています。なぜなら、私は人類自体が非常に良い存在だと信じているからです」とブテリンは述べました。
ブテリンは、変革的な技術が人類の未来に明るい光をもたらすと信じている一方で、現在の世界を今よりも欲望が少なく、公共の医療が充実している状態で維持すべきだという考えには否定的です。「世界をより良くするためには、他の技術よりもはるかに信頼性のある技術があります」とブテリンは言いました。「他の技術のネガティブな影響を軽減することができるような技術もある」と彼は述べました。
ブテリンは、デジタルな権威主義や政府に対する異議や不服に対して使用される監視技術の台頭に警戒し、それを小さな技術者集団が支配している政府に対するものとしました。彼は、多くの人々が高度に発展したAIを1つのグループが独占するよりも10年遅れても良いと考えるだろうと述べました。「私の基本的な恐怖は、OpenAIが500人の従業員で1億人以上の顧客を抱えることができるようにする管理技術と同じ種類の技術が、500人の政治エリート、または5人の取締役会が一国を支配することを可能にすることです」と彼は言いました。
ブテリンは、効果的な加速（または「e/acc」）運動には共感を持っているが、軍事技術への熱狂には複雑な感情を抱いていると述べました。「現代の軍事技術についての熱狂は、大多数の紛争で主導的な技術力がほとんどの場合「善人」であると信じることを要求しているように思われます」と彼は述べ、軍事技術がアメリカによって築かれ、アメリカが善であるために良いとされる考えを引用しました。「e/accであるためには、政府の現在と将来のモラル、および国の将来の成功に全てをかけることが必要ですか？」と彼は言いました。
ブテリンは、少数の人々に「極端で不透明な権力」を与えて、それを賢明に使うことを期待するよりも、「d/acc」という哲学、つまり防衛、分散化、民主主義、および差別化を採用することを提案しました。彼は、この考え方は効果的な利他主義者、リバタリアン、多元主義者、ブロックチェーンの支持者、およびソーラーとルナーのパンクスに適応できると述べました。「防衛を重視する世界は、さまざまな理由でより良い世界です」とブテリンは言いました。「もちろん、安全性に直接的な利益があることは最初にあります。人々が死ぬことが少なくなり、経済的価値が破壊されず、紛争に時間が浪費されることが少なくなります」と彼は結論付けました。彼は加速し、建設する必要性を強調しながらも、社会は定期的に私たちが何を加速しているのかを問い続けるべきだと述べました。
ブテリンは、21世紀が人類の運命を何千年にもわたって決めると言い、それが人類にとって転換期となる可能性があると提案しました。「これらは困難な問題です」とブテリンは言いました。「しかし、私は答えを見つけるための私たちの種の素晴らしい集合的な取り組みを見守り、参加することを楽しみにしています」
