Vercel eveの​メモリ機能とは​ ──AIに​毎回​説明し直さないための​仕組み

eveは、AIに仕事をさせるアプリを開発するためのフレームワークです。フレームワークとは、アプリを組み立てる際の共通の土台のこと。AIへの指示、使わせる道具、WebチャットやSlackなどの窓口を組み合わせて、業務用のAIエージェントを作ります。ReactやNext.jsで作るWebアプリにも組み込めます。^[2]

利用には、AIを呼び出すための設定と、アプリ側の開発が必要です。すでに使っているチャットサービスの設定を一つ変える、という導入方法ではありません。自社用のアシスタントや顧客対応AIを作るときに、開発担当者が選べる部品が増えたと捉えると分かりやすいでしょう。

今回の追加機能では、記憶を入れる場所を「スロット」として定義します。それぞれのスロットに、保存と取り出しを担当する仕組みと、その記憶を共有する範囲を設定します。^[1]

「担当者の文章の好み」と「会社単位で使う情報」を別の場所に分ける、といった構成を考えられます。どちらに何を保存するかを決めておけば、個人の好みをそのまま会社全員のルールにしてしまうことを避けやすくなります。

AIエージェントの記憶を考えるときは、まず「今の会話で使う情報」と「次の会話にも持ち越す情報」を分けます。

「この文章を半分の長さにして」は、その場の作業指示です。一方、「私への週次報告は、結論・理由・次の対応の順にして」は、来週にも役立ちそうな好みです。長期記憶に向いているのは、後者のように別の会話でも参照する意味がある情報です。

eveでは、AIが返答を始める前に、保存先から記憶を取り出し、今回の会話と一緒にモデルへ渡します。会話が進んだ後の保存方法は、選んだ保存方式によって変わります。情報を外部に保存し、必要なときに読み込むことで、会話をまたぐ継続性を作る仕組みです。^[3]

たとえば、社内の報告書作成AIを考えてみます。以下は仕組みを説明するための架空例です。

• 初回に「週次報告は、結論・理由・次の対応の順が読みやすい」と伝える。
• AIがその好みを記憶として保存する。
• 別の日に新しい会話を始め、「今週の報告を作って」と頼む。
• 同じ利用者の記憶が読み込まれ、保存した形式を踏まえた報告を作る。

このとき、先週の報告内容を覚えていることと、今週の売上を知っていることは別です。最新の売上や受注状況は、その都度、確認済みのデータから渡す必要があります。 記憶を使えば新しい業務データも自動で揃う、とは考えないほうがよいでしょう。

「書き方の好みは記憶」「今週の数値は業務データ」という役割分担にすると、導入する側も期待する動作を決めやすくなります。

eveでは、保存と取り出しを担当する部品を「プロバイダー」と呼びます。どの方式を選ぶかによって、AIが保存する内容を選ぶのか、会話の後に自動で情報を取り込むのかが変わります。

公式が案内する選択肢には、次のようなものがあります。^[3]

この表から分かるのは、メモリ機能の導入だけでは、保存される内容やタイミングは一つに決まらないということです。

標準のファイルメモリは、共有範囲ごとに小さな文書を持つ方式です。保存済みの各項目には識別用の番号が付き、AIが後から削除するときにも使われます。会話から情報を自動抽出する処理はなく、AIが保存・削除の道具を使って記憶を維持します。^[4]

そのため、開発時には「今後も使う文章の好みを覚える」「今回だけの指示は残さない」といった方針を与え、実際に保存された内容を確認する必要があります。「覚えておいて」と言った後に、期待した情報が保存され、次の会話で使われるかまでが確認の対象です。

短いメモを継続して使う用途には、仕組みを追いやすい方式です。ただし保存量には上限があり、上限を超える書き込みは拒否されます。古い項目を自動で捨てて新しい情報を入れる動作ではないため、長く使うなら記憶を整理する運用も考えておきます。^[4]

仕事の前提は変わります。先月は「詳しい説明がほしい」だった担当者が、今月からは「要点だけにして」と頼むこともあります。新しい好みを保存するときは、古い内容を残して両方を参照し続けないようにしたいところです。

標準のファイルメモリには保存と削除の道具があり、AIが古い項目を取り除いて、新しい内容を保存する構成にできます。読み込み済みのメモリ文書も、更新後の文書で置き換える仕組みになっています。^[4]

アプリとしては、「何を変更したか」を利用者に伝え、次の会話にも反映されるかを確かめられると扱いやすくなります。記憶の確認画面や、削除を確実に実行する操作を用意することも、開発担当者と相談できる設計です。これらの画面がメモリ機能だけで自動的に用意される、という意味ではありません。

会話のリセットと、保存済みの記憶の削除は別の操作です。 公式によると、セッションをリセットする clear() を呼んでも、プロバイダーが持つ保存データは消えません。次のターンで再び読み込まれることがあります。^[3]

たとえば画面の「会話を最初から」を押した利用者が、「前に伝えた好みも消えた」と受け取ると、アプリの動作との食い違いが生まれます。「会話をリセットする」「保存した記憶を削除する」という操作を分け、その違いが分かる案内にすることを勧めます。

保存期間や期限切れの処理も、選んだプロバイダー側の責任です。独自実装では、自社で保持・削除の方針を実装する必要があります。eveがあらゆる保存先の情報を共通の期限で消してくれるわけではありません。^[6]

最初の用途には、違いが見えやすく、間違っていても直しやすい情報が向いています。報告書の順序、文章の詳しさ、よく使う用語などです。成果物を見た利用者が「その好みで合っている」と判断しやすく、修正も試せます。

一方、最新の契約金額や在庫数は、更新元の業務システムを確認する流れを保ちます。長期記憶には「どの形式で説明すると分かりやすいか」を持たせ、金額や数量の根拠はその都度取得する、と役割を決める方法です。

導入を相談するときは、次の項目を一つずつ具体化すると話が進みます。

• 記憶するもの：継続して使う好みや前提を挙げ、今回だけの指示と区別する。
• 共有する相手：本人、会社、案件のどこまでかを決め、確認済みの権限と結び付ける。
• 訂正・削除の方法：利用者が変更を頼めるようにし、処理結果を確認できる形にする。
• 確認する動作：次の会話で引き継ぐ、別の利用者には混ざらない、訂正後は新しい内容を使う、削除後は保存先から再取得されないことを確かめる。

開発時と本番環境の違いも、確認に含めます。標準の eve dev で使われる保存先はプロセス内のメモリで、そのプロセスが置き換わると内容が失われます。本番のVercelでは、設定済みの非公開Blobストレージを利用します。^[4] 手元の一回の会話で覚えたように見えても、実際に運用する環境で、再起動後や別の会話でも期待どおりに動くかを確かめる必要があります。

eveのメモリ機能によって、こうした仕組みを共通の部品として組み込めるようになりました。自社のAIに持たせたいのが「報告書の好み」なら、まずその一つを保存し、引き継ぎ、訂正し、消すところまで試す。その一巡を確認してから、継続案件や会社内の知識へ広げていくと、使い手と開発担当者が同じ動作を見ながら導入を進められます。