Fetch AIとSingularityNETの提携は、大規模言語モデル（LLM）が不正確または関連性のない出力、または「幻覚」を生み出す傾向に焦点を当てることを目指しています。これらはAIの信頼性と普及における2つの重要な障害と考えられています。SingularityNETのCEO、Ben GoertzelはDecryptに対し、「SingularityNETやFetchなどの分散プラットフォームでは、異なるマシンで実行される異なるコンポーネントのマルチコンポーネントAIシステムを構築することができます。中央コーディネーターなしで」と説明しました。彼はまた、「ニューラルシンボリックシステムなど、マルチコンポーネントAIシステムのさまざまな構成を実験する可能性は、標準の中央集権型AIインフラストラクチャには存在しない柔軟性を提供します」と述べています。
この合意には、2024年に発表予定の一連のまだ名前のない製品を展開する計画も含まれており、この製品は分散化技術を活用してより高度で正確なAIモデルを開発するとされています。この提携により、Fetch.aiのDeltaVインターフェースやSingularityNETのAI APIなどのツールにアクセスし、AI開発者がより分散化し、信頼性の高い、知能のあるモデルを構築することができます。
SingularityNETのChief AGI OfficerであるAlexey Potapovは、「SingularityNETはLLMsにおける幻覚に対処するための多数の手法に取り組んできました。これらすべてのキーテーマはニューラルシンボリック統合です。SingularityNETが2017年に設立されて以来、この問題に焦点を当ててきました」と述べています。
Fetch AIの創業者兼CEOであるHumayun Sheikhは「完全に修正することを期待していませんが、LLMsには幻覚があるのが面白いと思います。それこそがイノベーションが生まれる場所です」とDecryptに語りました。「ある意味では、制限なしに創造力を発揮する必要があります」とも述べています。AIの幻覚は問題ですが、SheikhはAIが生成したディープフェイクと幻覚を組み合わせることがより大きな脅威であると指摘し、AIがより高度になり、幻覚がより説得力を持つ将来においても関心を引く問題であるとしました。
Sheikhは「AIが一部の間違った考えを推測し、それを強化する」と述べ、それを「自己成就的な」問題だと呼びました。「それは、AIが私たちを乗っ取ろうとするという考える前に、近い将来の最大の問題だと思います」とも述べています。AIの幻覚の出現とともに、人工知能が一般化するにつれて、AIの幻覚もニュースになりました。
今年4月、ChatGPTは、法学教授のJonathan Turleyを性的暴行の容疑で非難しましたが、彼はそんな旅行すらしていませんでした。今年10月、元FugeesのメンバーであるPras Michelの弁護士は、彼の元の法律チームが人工知能とAIモデルを使用し、その応答を錯覚させたため、彼らのクライアントが証人妨害の共謀、書類偽造、登録されていない外国エージェントとしての10件の有罪判決を受けたと主張して新たな審理を求める動議を提出しました。「幻想は、特にコンテンツの作成においては二重の刃であります」とFetch AIのCPO、Kamal Vedは述べています。
「多くの人々は、幻想が好きで、LLMが返ってくる内容に興奮します」と彼は説明しました。パートナー企業は「実際に行動を実行する問題に取り組むことを試みており、ある種の決定論を期待しています」と述べています。幻覚を抑えるのにも困難さをもたらすのは、AIモデル開発の透明性の欠如です。スタンフォード大学の研究者は、企業が市場を制覇しようとする中で、AIモデル開発の透明性が減っていると指摘しました。
また、生成的AIの開発者は透明性を求めると言うかもしれませんが、スタンフォード大学のCenter for Research on Foundation Models（CRFM）の10月の報告書によれば、逆のことが真実です。CRFM SocietyのリーダーであるRishi Bommasaniは、ファウンデーションモデルの領域の企業がますます透明性を欠いていると警告し、「透明性がなければ、規制当局は適切な質問さえすることができず、これらの分野で行動を起こすこともできません」と述べました。
OpenAI、Meta、IBMは、AI開発の透明性を高めるグループを設立しています。7月には、OpenAIがAnthropic、Google、およびMicrosoftと提携し、AIモデルの責任ある開発、AI幻覚の取り扱いを含むFrontier Model Forumを立ち上げました。今月初めには、IBMがMetaと提携してAI Allianceを発足させ、50以上の団体が透明かつ責任あるAIモデルの研究・開発・構築に取り組んでいます。「AIの進歩は、クリエーター、科学者、学者、ビジネスリーダーのコミュニティ間のオープンイノベーションと協力の証です」とIBMの議長兼CEO、Arvind Krishnaは声明で述べています。「これはAIの将来を定義する上で重要な瞬間です」。
