0.1 摘要

在使用LLM开源模型的过程中,仅仅对 Prompt Engineer提示词工程 上面做功夫必然不能够满足工业领域较为复杂的应用场景。

对于本地开源LLM和本地开源RAG建立向量知识库,本文选择了2024年04月开源的RagFlow。

阅读全文 »


0.1 摘要

在使用LLM开源模型的过程中,提示词Prompt固然重要,但在工作流WorkFlow的开发中需要对运行时(推理时)相关超参数进行一定地经验调整。

本文对LLM推理过程中常见的超参数进行通俗解释,其中不乏由于个人对LLM基础知识不牢所带来的理解错误,您可以在评论中指出。

阅读全文 »