对RagFlow创建本地Agent的私有化搭建与调优经验 发表于 2024-10-26 | 分类于 游离态 | 阅读量 2645 0.1 摘要 在使用LLM开源模型的过程中,仅仅对 Prompt Engineer 即 提示词工程 上面做功夫必然不能够满足工业领域较为复杂的应用场景。 对于本地开源LLM和本地开源RAG建立向量知识库,本文选择了2024年04月开源的RagFlow。 阅读全文 »
对于LLM推理过程中部分超参数的个人理解 发表于 2024-10-25 | 分类于 游离态 | 阅读量 856 0.1 摘要 在使用LLM开源模型的过程中,提示词Prompt固然重要,但在工作流WorkFlow的开发中需要对运行时(推理时)相关超参数进行一定地经验调整。 本文对LLM推理过程中常见的超参数进行通俗解释,其中不乏由于个人对LLM基础知识不牢所带来的理解错误,您可以在评论中指出。 阅读全文 »
领域垂直大模型开发-架构设计,Embedding与RAG,WorkFlow推广,以及横向领域拓宽的成本、开发模式 发表于 2024-10-22 | 分类于 生存之民工 | 阅读量 602 本文章仅代表个人观点,无涉政、涉黄、涉暴力等违规内容。 文中包含的学术、商业观点仅代表个人立场,无宣传、声明性质。 本次汇报的工作完成度不高,归咎于个人时间管理有bug。
调研与综合研判-当前市场大模型开发(合作)形式、成本与初测成效 发表于 2024-10-15 | 分类于 生存之民工 | 阅读量 727 本文章仅代表个人观点,无涉政、涉黄、涉暴力等违规内容。 文中包含的学术、商业观点仅代表个人立场,无宣传、声明性质。 阅读全文 »