Overview
Grok Bot is an AI agent you hand work to just by sending messages, and it keeps working after you close your laptop. A terminal agent’s loop of calling tools stops when the terminal closes. Grok Bot moves that loop to a server, gives each user a dedicated cloud computer, and keeps state and memory for months.
Based on a Stanford lecture by Lee Robinson of the development team, this video breaks down how such an agent is built and where it is heading.
Key Points
- Six model advances make it possible, including working for hours, handing tasks to subagents, using tools through MCP, operating screens, and keeping skills and memory in files.
- Nothing runs while the agent is idle. Messages, schedules and other triggers wake it, each user’s Firecracker VM is restored from a snapshot only when a tool needs it, and durable workflows on Temporal let a turn resume from the last finished step after a crash.
- The harness gives the model a single tool for talking to you, SendToUser, and relies on tool search, trying cheap methods first, delegating to subagents, auto-review and safeguards against prompt injection.
- Context engineering keeps the prompt prefix unchanged so the prompt cache keeps hitting, summarizes long conversations while the cache is still warm, and splits memory into four layers: profile, logs, short-term notes and search.
- The product and the model improve through a daily eval loop and a slower training loop, guided by the principle of “delete the product”.
Chapters
- 0:00 Introduction
- 0:33 Chapter 1: What is an always-on agent?
- 2:11 Chapter 2: Six advances in models
- 3:44 Chapter 3: How it keeps running
- 8:09 Chapter 4: The harness
- 11:13 Chapter 5: Context engineering
- 13:41 Chapter 6: What comes next
- 15:30 Summary
概要
Grok Botは、メッセージを送るだけで仕事を進めてくれるAIエージェントで、ノートPCを閉じたあとも動き続けます。ターミナルのエージェントがツールを呼び続けるループは、ターミナルを閉じると止まります。Grok Botはこのループをサーバーに移し、ユーザーごとに専用のクラウドのコンピューターを用意して、状態や記憶を何か月も保ちます。
この動画では、開発チームのLee RobinsonがStanford大学の講義で語った内容をもとに、こうしたエージェントの作りと、これからの方向性を解説します。
ポイント
- 常駐型を支えているのは、何時間も作業を続けられる、サブエージェントに仕事を渡せる、MCP経由でツールを使える、画面を操作できる、スキルや記憶をファイルで持てる、といったモデルの6つの進歩です。
- 何もないときは何も動いていません。メッセージや予定などのきっかけで起き、ユーザーごとのFirecrackerの仮想マシンはツールが必要なときだけスナップショットから戻します。Temporalによる耐久性のあるワークフローのおかげで、サーバーが落ちても終わったステップの続きから再開できます。
- ハーネスでは、あなたと話すためのツールをSendToUserの1つだけにし、ツール検索、安い方法から試す順番、サブエージェントへの分担、オートレビュー、プロンプトインジェクションへの備えを組み合わせています。
- コンテキストエンジニアリングでは、プロンプトの先頭を変えずにプロンプトキャッシュに当て続け、キャッシュが温かいうちに長い会話を要約し、記憶をプロフィール、ログ、短期のメモ、検索の4層に分けています。
- 製品とモデルは、毎日回るEvalのループと、数か月ごとの学習のループで良くなっていきます。その根底には「製品を消せ」という原則があります。