记忆压缩机制

AI 

主要设计一个分层记忆管理机制: 第一层是滑动窗口记忆,保留最近5轮对话的完整内容,这部分存在reids,甚至直接放入prompt中,保证对话的连贯性。 第二层是摘要记忆(摘要压缩),当对话轮数超过5轮时,会把第5轮之前的对话进行摘要压缩。摘要会保留关键信息,比如用户提到的核心问题、重要参数、已经解决

Function Call

AI 

1.Function Call的实现流程是什么?   我们的大模型如何下达命令调用工具,就是通过fu

RAG技术

AI 

三个核心点:索引,检索,生成(大模型要做的) 索引 1.切割文档