Skip to main content

Zep Memory

Zep是存储、，总结、内嵌、索引和丰富对话AI聊天历史、自治代理历史、文档Q&A历史的记忆服务器，并通过简单、低延迟的API公开它们。

主要功能:

  • 长期存储记忆，无论您的总结策略如何，都可访问历史消息。
  • 基于可配置的消息窗口自动总结记忆消息。一系列的总结被存储，为未来的总结策略提供了灵活性。
  • 对记忆进行向量搜索，消息在创建时自动嵌入。
  • 自动记忆和摘要的令牌计数，允许更细粒度地控制提示组合。
  • Python和JavaScriptSDK。

设置​

请参阅Zep的说明，以在本地或通过自动托管提供程序运行服务器。

用法​

import { ChatOpenAI } from "langchain/chat_models/openai";
import { ConversationChain } from "langchain/chains";
import { ZepMemory } from "langchain/memory/zep";

const sessionId = "TestSession1234";
const zepURL = "http://localhost:8000";

const memory = new ZepMemory({
  sessionId,
  baseURL: zepURL,
});

const model = new ChatOpenAI({
  modelName: "gpt-3.5-turbo",
  temperature: 0,
});

const chain = new ConversationChain({ llm: model, memory });

const res1 = await chain.call({ input: "Hi! I'm Jim." });
console.log({ res1 });
/*
{
  res1: {
    text: "Hello Jim! It's nice to meet you. My name is AI. How may I assist you today?"
  }
}
*/

const res2 = await chain.call({ input: "What did I just say my name was?" });
console.log({ res2 });

/*
{
  res1: {
    text: "You said your name was Jim."
  }
}
*/