AmazonはAIが自社のシステムを壊すことについての強制会議を開催しています。公式な枠組みは「通常の業務の一部」です。ブリーフィングノートでは、「生成AI支援の変更」による「高爆発範囲」のインシデントの傾向が説明されており、「ベストプラクティスや安全対策はまだ十分に確立されていない」とされています。人間の言葉に直訳すると、AIをエンジニアに渡したのに、何度も壊れるのか? 今のところの対応は?ジュニアおよびミッドレベルのエンジニアは、シニアの承認なしにAI支援のコードを推進できません。AWSは自社のAIコーディングツールを変更しようとしましたが、環境を削除して再構築することを決めたため、13時間もかけて復旧しました(これは壁を壊して漏れた蛇口を直すソフトウェア版のことです)。Amazonはこれを「極めて限定的なイベント」と呼びました(影響を受けたツールは中国本土の顧客にサービスを提供していました)。