マスク氏、Grok経由のLEGO注文画面を公開　第三者による操作の報告も

イーロン・マスク氏が日曜日、Xへの投稿でGrokを通じてLEGOの「スター・ウォーズ」セットを注文したと明かし、その際に注文確認画面のスクリーンショットを添付した。WIREDによると、画像にはLEGOの10桁の注文番号、購入価格、配送先と請求先の住所、クレジットカード番号の下4桁、注文に使用したメールアドレスが写っていた。

この投稿を受け、XユーザーのEndermanとされるアカウントが、マスク氏のメールアドレスと注文番号を使ってLEGOのカスタマーサービス用チャットボットとの対話を試み、注文のキャンセルを図ったとするスクリーンショットを公開した。マスク氏は数時間以内に返信し、自身の注文はキャンセルされていないと述べた。

さらに別のXユーザーは、同じ情報を使ってLEGOのAIアシスタント「Sophia」を操作し、配送を再開させ、注文数を400セットに増やし、マスク氏の元の支払い方法を使いながら配送先を変更したと主張するスクリーンショットを投稿した。

LEGOは、マスク氏の「スター・ウォーズ」注文でこうした操作が実際に行われたかどうかの確認をWIREDが求めたが、コメントを拒否した。

AIエージェントによる購買をめぐる懸念

マスク氏は土曜日、簡単なプロンプトでGrokがオンライン購入を実行できると示唆し、ユーザーがクレジットカードの写真をアップロードすれば、ボットがお得な商品を探して購入を完了できると述べていた。MetaやOpenAIなどのAI企業も、それぞれのエージェントを買い物に活用する有用性を強調している。

昨年末にはVisaがエージェント型商取引における不正行為について警告し、悪意のある人物がAIエージェントを欺いて偽商品を購入させるために、正規に見えるサイトを構築していると指摘していた。Visaのブログによると、悪意のある加盟店はAIエージェントが購入を完了した後に支払いデータを収集する可能性があり、同社は2025年後半に悪意のあるボットによる取引が25%増加し、米国では40%増加したと観測している。