アマゾンは、子供向けに開発された「Explore with Alexa」を発表しました。Explore with Alexaは、子供の質問に対してより個人に合わせた回答をすることを目指しています。この機能は、Amazon Kids+の月額サブスクリプションに含まれ、子供のプロファイルを持つ任意のAmazon Echoデバイスで利用できると発表されました。
子供たちが動物や自然に関してAlexaに質問すると、新たなExplore with Alexaは面白い事実やトリビアの質問で応答するとされています。この応答は、World Wildlife FundやA-Z Animalsなどの「信頼できる情報源」から適応されるとのことです。「私たちのLLMスタックは、この審査済みのコンテンツを自然で子供に適した回答に、年齢に適した語彙を使って適応させることができます」とAlexa KidsのSenior Product ManagerであるArjun Venkataswamyは述べています。
Amazonによると、最新版のAlexaでは、子供が目的に応じて学ぶことができるようになります。起動コマンドを言って質問するだけで、そのサービスが促進的な質問をしたり、深く探求することに興味を持つような質問をしたりするとされています。
Venkataswamyは、「Explore with Alexaは、Alexa全体と同じアクセシビリティの重点と機能を備えています」と述べています。「人間とAIのハイブリッドな評価プロセスの一環として、私たちはすべてのExplore with Alexaのコンテンツを見直し、幅広いバックグラウンドの子供たちに対して包括的であることを確認しています」とも述べています。
アマゾンは、他のGoogleやMicrosoftと同様に生成型AI技術に大きな投資を行っており、OpenAIライバルであるClaude AIの作成者であるAnthropicへの40億ドルの投資も行っています。
AIを子供向けに適応させることは一部で議論の的となっており、監視団体や政策立案者たちは、未成年者にアクセス可能なテクノロジーに警戒しています。先週、34の州がFacebookとInstagramの親会社であるMetaを相手取り、彼らのアルゴリズムを使用して子供たちをプラットフォーム上でより多くの時間を費やさせ、思春期のメンタルヘルス問題に寄与しているとして訴訟を起こしました。
Venkataswamyは、「お客様とその家族の信頼を守るための長期的なコミットメントを基に、Explore with Alexaは信頼性と安全性を最優先に考えています」と述べています。「私たちは、セーフティーガードレールを使用しています。まず、動物などの安全で客観的なトピックから始め、信頼できる情報源のコンテンツを適応し、人間とAIの審査を組み合わせています」とも説明しています。
オンラインで子供たちを保護するAI開発者はますます関心が高まっていますが、AIモデルのデータがどのように収集され、どこに格納され、誰がアクセスできるのかという問題は依然として最優先課題です。
AppleやSamsungといったテクノロジー企業、アメリカ合衆国下院、アメリカ宇宙軍は、データリークや知的財産の流出を懸念してChatGPTの使用を禁止または制限しています。先月、報道ではアマゾンが顧客の会話をAIモデルの訓練に使っていると報じられ、2019年にアマゾンが人間の契約業者をAlexaの録音を聞くために利用していたとの報道が再燃しました。
アマゾンのスポークスパーソンは、「[アマゾン]は常に、Alexaを実際のリクエストで訓練することが、正確で個別に適応し、常に向上していく顧客の体験を提供するために不可欠であると考えてきました」と明らかにしました。「ただし、同時に、顧客は自分のAlexaの音声録音がサービスの向上のために使用されるかどうかの選択権を持っており、私たちは顧客の希望が常に尊重されるように、モデルの訓練を行っています」とも述べています。
