LLM模型技术路线2——知识库视角-对结构化、非结构化数据的向量库构建过程中的 预处理与运行时参数 发表于 2024-10-28 | 分类于 生存之民工 | 阅读量 1067 本文章仅代表个人观点,无涉政、涉黄、涉暴力等违规内容。 文中包含的学术、商业观点仅代表个人立场,无宣传、声明性质。
对RagFlow创建本地Agent的私有化搭建与调优经验 发表于 2024-10-26 | 分类于 游离态 | 阅读量 3279 0.1 摘要 在使用LLM开源模型的过程中,仅仅对 Prompt Engineer 即 提示词工程 上面做功夫必然不能够满足工业领域较为复杂的应用场景。 对于本地开源LLM和本地开源RAG建立向量知识库,本文选择了2024年04月开源的RagFlow。 阅读全文 »
对于LLM推理过程中部分超参数的个人理解 发表于 2024-10-25 | 分类于 游离态 | 阅读量 1293 0.1 摘要 在使用LLM开源模型的过程中,提示词Prompt固然重要,但在工作流WorkFlow的开发中需要对运行时(推理时)相关超参数进行一定地经验调整。 本文对LLM推理过程中常见的超参数进行通俗解释,其中不乏由于个人对LLM基础知识不牢所带来的理解错误,您可以在评论中指出。 阅读全文 »
领域垂直大模型开发-架构设计,Embedding与RAG,WorkFlow推广,以及横向领域拓宽的成本、开发模式 发表于 2024-10-22 | 分类于 生存之民工 | 阅读量 905 本文章仅代表个人观点,无涉政、涉黄、涉暴力等违规内容。 文中包含的学术、商业观点仅代表个人立场,无宣传、声明性质。 本次汇报的工作完成度不高,归咎于个人时间管理有bug。