信頼できるAIエージェント：記憶と実行状態を分けて設計する

顧客の好みを覚えているAIエージェントでも、途中の作業を失うことがあります。2026年10月のTokyo AIのイベントでは、「記憶」と一括りにされがちな三つの要素を分けて考えました。推論に使う情報、実際に終えた作業の記録、複数のエージェントが共有する文脈です。

情報の記憶と作業状態を分ける

Yulan Yan氏は、製品によって「記憶」の意味が異なることを示しました。対話型サービスは以前の会話を探し、企業向けエージェントは複数の業務システムに散らばるやり取りをまとめます。ロボティクスでは、過去に遭遇した状況との類似性が重要になる場合があります。いずれも検索の課題ですが、鮮度、アクセス権、関連性の条件は同じではありません。すべての会話を保存するだけでは解決しません。

Melanie Warrick氏が取り上げた実行状態は、別の問題です。どの工程が終わり、外部システムへの操作が保留中で、中断後に何を確認すべきかを残す必要があります。依頼を送った後、確認を受け取る前にエージェントが停止したとします。元の指示を覚えていても、同じ操作を繰り返してよいかは分かりません。永続的な記録と、外部システムの状態を照合する手段が必要です。

共有する文脈にも責任者がいる

Koji Annoura氏は、知識グラフによるエージェント間の永続的な文脈共有を扱いました。複数のエージェントが同じ対象や関係を参照できる一方で、誰が情報を更新し、どの版を正とし、情報源が食い違うときどうするかが問題になります。関係性を扱いやすくしても、出典と権限の管理は残ります。

発注業務のエージェントを例にすると、取引先の書式の好み、請求書の確認済み状態、別の審査エージェントと共有する取引先情報は別物です。それぞれ保存期間、アクセス権、訂正方法を変えるべきです。これは説明用の例です。本番化の審査では、三つの層を分け、中断と矛盾した記録を含めて試します。

信頼できるエージェントの設計は、「残る情報」をすべて記憶と呼ばないところから明確になります。

Tokyo AIは、Foundry Labsが運営する日本の開発者、研究者、ビジネスリーダーのコミュニティです。イベントページもご覧ください。

登壇者の講演資料は、ご希望に応じてご案内できます。お問い合わせフォームからイベント名と登壇者名をお知らせください。

登壇者

• Melanie Warrick：TemporalのAI・開発者向け技術担当。
• Yulan Yan：Zillizのソリューションアーキテクト。
• Koji Annoura：独立コンサルタント、Neo4j Users Group Tokyo共同創設者。

記事一覧