うっかりで数億円
米Amazon、単純なコーディング作業でClaudeの使い方を誤り予算の8倍超を使ってしまう

米Amazonが、商品リストと商品リストと著者に関する詳細情報を照合ために導入したつもりだったClaude Sonnetの処理ミスにより、180万ドル(約2.8億円)も請求されている。これは、これは割り当てられた予算を860%も上回る額であり、問題が発生してから約5か月後にようやく発覚したとのことだ。
Amazonが使っていたClaude Sonnetの価格は、入力トークン100万個あたり約3ドル、出力トークン100万個あたり約15ドル。単純にこの入力レートだけで考えると、180万ドルの請求は約6000億トークンを使ったことになる。
ほかにも、「2つの小さなミス」により財務監査ツールが約54万1000ドルの予算超過を計上し、配送スピードアップを目的としたシステムが13万4000ドルの費用増を記録した。これらは、もし人間の手によるプログラミング上のミスだったなら、エラーが発生してすぐに修正できたと考えられ、損失もほとんどゼロだったはずだ。
しかし、AIモデルは与えられた処理を実行するだけであるため、プロンプトの説明が間違っていても実行は継続され、その分の料金も発生する。同じプロンプトを再送信するリトライループや、サンプルではなくカタログ全体を対象としたジョブは、クラッシュを引き起こさないため延々と実行され続け、単に請求書の金額が膨れ上がっていくだけとなる。
しかも請求書は月締めで届く上に、トークン単位の価格設定であることも、異常発生時の金額の大きさを気づかせにくくする。そして、チャットボットよりもはるかに多くのトークンを発行するAIエージェントが、この問題にさらに拍車をかける。
Amazonは社内における報告で、「あらゆる新技術と同様に、コスト効率を高める方法を含め、その使用方法について実験、学習、改善を行っています」そして、「チームが互いに学び合っているなかで、小規模かつ単独の事例だけを選び出し、それを全体的な通常の業務であるかのように描写することは、AmazonのチームがAIをどのように使用しているかを正しく伝えていません」と述べたとFinancial Timesは伝えている。
なお、失敗したAIプロジェクトで100万ドル以上を消費してしまったことは、われわれ一般人にはとんでもないことのように思えるものだが、この巨大テクノロジー企業の最新の四半期収益は1810億ドルを超えている。したがってこれらのAI費用は同社の1か月分の収益の0.1%にも満たない。
ちなみにAmazonは、以前は従業員にAIの使用を推奨し、最も多くAIを使った人を示すランキングまで作っていた。ところがAI使用コストが高騰したため、後にランキングは廃止された。
- Source: Financial Times
- via: Tom's Hardware
