ニュージーランドのスーパーマーケットは、アプリで食事のアイデアを提供するために生成 AI を実験しました。問題はまさに作成された推奨事項です。ほとんどは不快なものであり、その他は単に致命的です。
この生成的 (そしてやや退化した) AI の物語は、ガーディアン。この実験は、ニュージーランドの地元のスーパーマーケット チェーンで、顧客にアドバイスする AI をテストするというアイデアを持って行われました。
次のポール・ボキューズはアプリではありません
問題の割引チェーンは Pak'nSave と呼ばれ、残り物を使い切るためのツールとしてそのアプリケーションを提示しました。という名前の「Savey 食事ボット» («食事準備ロボット」）、無駄を制限することも目的としています。アプリケーションは、次の言語モデルに基づいています。OpenAIGPT-3.5、無料版に含まれていますチャットGPT。
利用可能ですインターネット上で食事のアイデアを作成するために使用することもできます。入手可能な材料を入力し、「ボット» 次に、レシピの生成を処理します。明らかに、それはあなたが持っているものに基づいているだけでなく、特に買い物に行くことを奨励するのに十分なものをさらに追加することもできます。
それが期待できれば人工知能成分を追加するほど精度が高くなりますが、逆効果が発生するようです。一部の顧客は (特にソーシャル ネットワーク上で)、ショッピング リストの商品数が増えるにつれて、推奨される内容がますます少なくなっていると述べています。さらに悪いことに、危険なものもあります。
AIが推奨する危険なレシピ
生成されたレシピは「芳香水混合物» 塩素ガスを発生し、「」として表示されます。喉の渇きを潤し、気分をリフレッシュするのに最適なソフトドリンク」。問題は、塩素ガスを吸入すると肺に損傷を与え、場合によっては死に至る可能性があることです。発明された有毒混合物はこれだけではありません。「」のためのノンアルコールカクテルもあります。新鮮な息» ただし、漂白剤を使用したり、抗アリ毒を使用したサンドイッチ、さらにはメタノールを使用したフレンチトーストを使用したりすることもできます。
ただし、アプリケーションは各世代の前に、「ユーザーは 18 歳以上である必要がある」というメッセージでユーザーに警告します。彼は、Savey Meal-bot を「生成人工知能を使用してレシピを作成しますが、人間によって検証されることはありません。»
スーパーマーケットチェーンは自力でクリアする」生成されたレシピの内容の正確性、適合性、または信頼性については、分量が消費に適しているかどうか、レシピが完全な食事またはバランスの取れた食事を構成するかどうか、または摂取に適しているかどうかなどを含みます。» Pak'n'Save では、レシピが食べられるかどうかを判断するためにユーザーの洞察力も求められます。
Cookie やその他のトラッカーを受け入れていないため、このコンテンツはブロックされています。このコンテンツは YouTube によって提供されています。
これを表示するには、YouTube によるお客様のデータの使用を受け入れる必要があります。この使用は、コンテンツの表示とソーシャル メディアでの共有を可能にし、Humanoid とその製品の開発と改善を促進する目的で使用される可能性があります。パートナー、あなたのプロフィールとアクティビティに基づいてパーソナライズされた広告を表示し、パーソナライズされた広告プロファイルを定義し、このサイト上の広告とコンテンツのパフォーマンスを測定し、このサイトの視聴者を測定します（もっと詳しく知る）
「すべてを受け入れる」をクリックすると、Humanoid とそのパートナー。
同意はいつでも撤回できます。詳細については、ぜひお読みください。クッキーポリシー。
Savey Meal ボットに対する批判に直面して、同チェーンの広報担当者は、「少数の人々は、意図された目的ではなく、ツールを不適切に使用しようとしました。» 同チャネルは、その使用条件を思い出し、AIの有用性と信頼性を確保するために引き続きAIを監視したいと明記した。 GPT-3.5 に基づく AI が危険であるのはこれが初めてではありません。Snapchat のアシスタントである私の AI は、たとえば次のように述べました。若者への危険なアドバイス。
Chiyoye