浅梦的个人博客

置顶Kafka

消息队列

AI

主要设计一个分层记忆管理机制：第一层是滑动窗口记忆，保留最近5轮对话的完整内容，这部分存在reids，甚至直接放入prompt中，保证对话的连贯性。第二层是摘要记忆（摘要压缩），当对话轮数超过5轮时，会把第5轮之前的对话进行摘要压缩。摘要会保留关键信息，比如用户提到的核心问题、重要参数、已经解决

RAG

1.数据源是什么 2.数据清洗

RAG

ragas框架是python的，我基于LLM-as-a-Judge思想开发了 4个评估的llm节点 1.检索层评估

RAG

1.怎么做先删掉旧文档对应的所有 chunk，再重新切割入库