camelAI、AIエージェントを仮想マシンから Cloudflare エッジへ移行

ユーザーごとに常時稼働マシンと高速ディスク — 想定規模では採算が合わない

これは camelAI の CTO、Miguel Salinas が執筆したアーキテクチャ刷新の振り返りです。同社は独立した仮想マシン上で動いていた AIエージェントを全面的に作り直し、Cloudflare Durable Object 上の軽量アーキテクチャへ移行しました。その結果、コストとレイテンシーは大幅に低下したといいます。刷新は3段階で行われ、コードは 7 月 24 日に全面オープンソース化されました。各機構の実装をリポジトリで確認できます。

多くのチームは、完全な Linux 仮想マシンやコンテナサンドボックスで AIエージェントを動かしています。camelAI も当初は同じでした。

問題はコスト構造です。ユーザーごとに常時稼働するマシンを用意し、ファイル保存用の高速ディスクも接続する必要があります。ユーザーが増えれば、物理マシンとディスクも増設しなければなりません。同社が想定するユーザー規模では、この方法は成り立ちませんでした。

難しいのは、AIエージェントが Linux 上で動くことを前提としている点です。問題にぶつかると bash を呼び出すよう学習されています。camelAI が当初使っていたのは Claude Code のハーネスで、実行には完全な仮想マシンが必要でした。ハーネスとは、モデルの外側を包むプログラムです。対話ループ、ツール、状態を管理します。

そこで同社は、仮想マシンの効率的なスケジューリングを考えるのではなく、「そもそも仮想マシンは不要」という前提で設計をやり直しました。

4カ月余り前、camelAI の CEO、Illiana Reed はブログの冒頭で「camelAI の全ユーザーには、永続的なコンピューター、つまり本物の Linux 環境がある」と述べ、これをプロダクトの中核的な約束としていました。その記事では、Modal、Cloudflare Containers、Fly.io の Sprites を試したものの要件に合わず、最終的に1週間で独自のコンテナサービスを構築した経緯を説明しています。今回 Miguel はこう書いています。「記事は今も公開しているが、そのインフラでは1台も動かしていない」。

仮想マシンの中には、AIエージェント本体、プロジェクトファイル、コマンドラインという3つの要素がありました。3回の刷新では、それらを1つずつ移しています。移すたびに、それまでの役割を誰が担うのかを決めなければなりませんでした。