8月8日、CleanTechnicaが「Waymo CEO: Don't Move Fast & Break Things With Physical AI」と題した記事を公開した。WaymoのCo-CEOであるDmitri Dolgov氏がY CombinatorのインタビューでフィジカルアI業界に向けて発した「速く動いて壊すな」という警告の内容と、その背景にある安全哲学を詳しく紹介している。

「元に戻すボタンはない」——Dolgov氏の核心

ソフトウェア業界に長く根付いてきた"Move fast and break things"（速く動いて壊せ）という開発哲学は、デプロイを繰り返してバグを潰すアジャイル型の進め方を体現している。しかしWaymo co-CEOのDmitri Dolgov氏は、これをフィジカルAI（物理空間で動作するAIシステム）に適用することを明確に否定した。

Dolgov氏はY Combinatorのインタビューで、代替フレーズとして 「Move fast and ship safely（速く動いて、安全に出荷せよ）」 を提示した。

「『元に戻す』ボタンも『やり直す』ボタンも、単純に存在しない」

この一言が本質を突いている。ソフトウェアのバグは最悪サービスダウンで済むが、自動運転車やロボットが現実世界で「壊れる」と、人命に直結する。Dolgov氏は、安全性をモデル・手法・システムアーキテクチャの中核に置くべきだと主張する。

なお、"Move fast and break things"という文句はFacebookが開発文化として広めたとされることが多いが、元記事ではその帰属の明示は確認できていない。※編集部の補足として記載する。

Waymo自身の歩み——20年かけて積み上げた「慎重さ」

Waymoはシリコンバレー生まれの企業だが、同地の文化とは一線を画す軌跡を歩んできた。約20年にわたり、超慎重・低速・安全最優先のアプローチを貫いてきた。現在は完全無人のロボタクシーが数百万マイル規模の走行実績を積んでいるが、それでも拡大は段階的に続けている。

Dolgov氏が語った安全確保の考え方として、記事では以下のような方向性が示されている。安全性はプロジェクト後半で付け足す機能ではなく、モデル設計・システムアーキテクチャ・評価手法のすべてに最初から組み込むべきものだという立場だ。また、走行データの蓄積と段階的な運用エリア拡大を組み合わせることで、想定外の事態への曝露を最小化するアプローチをWaymoは実践してきた。

Dolgov氏がこの発言をした背景には、業界全体の現状への懸念がある。記事では「他のフィジカルAI企業が同じアプローチに耳を傾けるかどうかは、非現実的な期待かもしれない」と指摘されている。Dolgov氏自身も業界内の動向を熟知しており、だからこそ公の場で発信したとみられる。

なぜ今この議論が重要か

フィジカルAIという概念は、自動運転車にとどまらず、産業用ロボット、配送ロボット、ドローンなど、現実世界に物理的に干渉するあらゆるAIシステムを包含する。これらの分野では複数のスタートアップが競争的に開発を加速させており、「速さ」が資金調達や市場獲得の競争優位になりやすい構造がある。

自動運転分野ではすでに深刻な事故が社会問題として取り上げられてきた経緯がある。米国ではNHTSA（道路交通安全局）が自動運転システムに関わる事故報告を義務付けており、規制当局の監視は年々強まっている。こうした状況下で、Waymoのような先行プレイヤーが「慎重さ」を公言することは、業界標準の形成に向けたメッセージとしても機能する。

Waymoが積み上げた慎重さは、ある意味でコストでもあった。しかしDolgov氏の主張は、そのコストこそが参入障壁であり、社会からの信頼の源泉だという立場だ。安全を後から担保しようとすることの難しさ——それは、ソフトウェアと異なり「壊れた結果」を取り消せない物理世界ならではの本質的制約である。

TechFeed編集部の視点

※編集部の考察：自動運転に限らず、人型ロボットや産業用自律機械など「フィジカルAI」全般が急速に市場へ投入されつつある現在、Dolgov氏の発言が持つ意味は大きい。スタートアップ文化が「速さ」を至上とする競争圧力を生みやすい一方で、物理世界での失敗は取り返しがつかない。この構造的矛盾に対し、業界のリーダーが明確に言語化したことは、今後の規制論議や業界自主基準の策定においても参照点となり得る。

詳細はWaymo CEO: Don't Move Fast & Break Things With Physical AIを参照していただきたい。