提供编辑和聊关两种模式，编辑模式可以生成和修改代码，直接将生成的代码写入到对应的文件，聊天模式专注于提供开发建议、解答代码问题。

1．分析工具文件系统操作
2．管理命令行集成
3.自动化智能代码编辑和重构

提供编辑和聊关两种模式，编辑模式可以生成和修改代码，直接将生成的代码写入到对应的文件，聊天模式专注于提供开发建议、解答代码问题。

1．分析工具文件系统操作
2．管理命令行集成
3.自动化智能代码编辑和重构

我的 Google search control 出现了很多 备用网页（有适当的规范标记）需要如何处理？比 如 说 之 前 定 义 的 url 结 构 是 末 尾 不 带 / ; 例 如 ：https://boyinthai.com/th/detail/483-Massage 现 在 的 情 况 是 带 有/ , https://boyinthai.com/th/detail/483-Massage/
以及也有一些会提示自动重定向。
这 些 需 要 如 何 处 理 ？

1 目前 主流的开源模型体系 有哪些？

目前 主流的开源模型体系 分三种：

• 第一种：prefix Decoder 系• 介绍：输入双向注意力，输出单向注意力• 代表模型：ChatGLM、ChatGLM2、U-PaLM
• 第二种：causal Decoder 系• 介绍：从左到右的单向注意力• 代表模型：LLaMA-7B、LLaMa 衍生物
• 第三种：Encoder-Decoder• 介绍：输入双向注意力，输出单向注意力• 代表模型：T5、Flan-T5、BART

LLMs 训练经验帖

来自： AiGC面试宝典

扫码 查看更

分布式训练框架选择？

多用 DeepSpeed，少用 Pytorch 原生的 torchrun。在节点数量较少的情况下，使用何种训练框架并不是特别重要；然而，一旦涉及到数百个节点，DeepSpeed显现出其强大之处，其简便的启动和便于性能分析的特点使其成为理想之选。

大模型（LLMs）langchain 面

来自： AiGC面试宝典

扫码 查看更

1. 什么是 LangChain?

LangChain是一个强大的框架，旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口，可简化创建由大型语言模型 (LLM) 和聊天模型提供支持的应用程序的过程。LangChain 可以轻松管理与语言模型的交互，将多个组件链接在一起，并集成额外的资源，例如 API 和数据库。

多轮对话中让AI保持长期记忆的8种优化方式篇

来自： AiGC面试宝典

扫码 查看更

• 多轮对话中让AI保持长期记忆的8种优化方式篇

• 一、前言

• 二、Agent 如何获取上下文对话信息？

• 2.1 获取全量历史对话
• 2.2 滑动窗口获取最近部分对话内容
• 2.3 获取历史对话中实体信息
• 2.4 利用知识图谱获取历史对话中的实体及其联系
• 2.5 对历史对话进行阶段性总结摘要
• 2.6 需要获取最新对话，又要兼顾较早历史对话
• 2.7 回溯最近和最关键的对话信息
• 2.8 基于向量检索对话信息

基于langchain RAG问答应用实战

来自： AiGC面试宝典

扫码 查看更

一、前言

1.1 介绍

本次选用百度百科——藜麦数据（https://baike.baidu.com/item/藜麦/5843874）模拟个人或企业私域数据，并基于langchain开发框架，实现一种简单的RAG问答应用示例。

基于LLM $^+$ 向量库的文档对话 经验面

来自： AiGC面试宝典

一、基于LLM+向量库的文档对话 基础面

1.1 为什么 大模型 需要 外挂(向量)知识库？

何 将 外部知识 注入 大模型，最直接的方法：利用外部知识对大模型进行微调

• RAG（Retrieval-Augmented Generation）面

一、LLMs 已经具备了较强能力了，存在哪些不足点?

• 二、什么是 RAG?

• 2.1 R：检索器模块

• 2.1.1 如何获得准确的语义表示？• 2.1.2 如何协调查询和文档的语义空间？• 2.1.3 如何对齐检索模型的输出和大语言模型的偏好