NVIC_Blog - 士兵突击 https://blog.ckh-cn.site/index.php/category/Milestone/ 许三多!!! [工具发布]LLM输出内容所含公式一键适配Anki卡牌 https://blog.ckh-cn.site/index.php/2025/08/02/160.html 2025-08-02T00:51:00+08:00 Anki支持数学公式,使用MathJax语法渲染,与LLM回答输出中包含的Latex通用,但存在包裹符号的使用习惯问题。 LLM输出的公式往往使用$包裹,但Anki Manual指定\(或\[ 标识数学公式。 本工具可将LLM输出的原始Markdown中的公式批量转换为Anki支持语法,且区分了行间公式和行内公式。 工具-MathJax包裹符号转换 Beautiful and accessible math in all browsers-MathJax mhchem for MathJax [工具发布]论文打印成本节省工具 https://blog.ckh-cn.site/index.php/2025/06/06/148.html 2025-06-06T01:34:00+08:00 写了一个小工具,论文打印成本节省工具,把PDF切割黑白彩色页面,且支持双面打印。 具体的调参和分割效果需要自行多次尝试。 论文打印成本节省工具 感谢开源项目Color-BW-Separator-for-PDF [工具发布]PlantUML自动制图服务 https://blog.ckh-cn.site/index.php/2025/05/21/149.html 2025-05-21T00:06:00+08:00 fork了一个PlantUML语言自动绘图服务,生成的SVG能够直接拖入Visio编辑,可以用大模型生成PlantUML代码,直接绘图。 NVIC-PlantUML PlantUML技术文档 [工具发布]Latex公式识别服务 https://blog.ckh-cn.site/index.php/2025/05/20/153.html 2025-05-20T16:21:00+08:00 简单搭建了一个Latex公式识别服务,识别出来的内容可以直接复制到MathType。 LaTeX-OCR 在国产定制化NVIDIA Jetson Orin NX上离线化部署Ollama(GPU)及各类折腾经验 https://blog.ckh-cn.site/index.php/2025/01/04/79.html 2025-01-04T22:29:00+08:00 0.1 摘要 在边缘计算设备上部署大模型是一个新鲜事儿,网上教程多,但实战少,多为按照官网文档直接在线安装,本文主要解决以下几个问题: 根本没有考虑到 特殊的网络环境 。 即使考虑到了 问题1 ,也没考虑到实际的边缘计算设备在工业环境下往往是不联网的,顶多在开发时连接网络,部署上后的运维一直存活在内网。 官方文档仅针对公版设备,国产定制的芯片、驱动、系统均需要特色化,其实际的配置与开发固然不能直接照搬。 折腾来折腾去,这货真的调用GPU了吗? CPU也不差,GPU也不强 ,权衡功耗与性能是得多考虑考虑。 这货的CUDA跟X86 GPU的CUDA到底有什么区别?如何迁移学习? 在此,感谢 图为信息科技(深圳)有限公司 对我赞助的 TWOWIN TW-T806 设备。 本文设备的核心为 NVIDIA Jetson Orin NX ,原则上,本文的相关经验可供同核心或同系列开发板参考。 [...] 私有化RAG框架的设计与实现 https://blog.ckh-cn.site/index.php/2024/11/27/73.html 2024-11-27T21:03:00+08:00 0.1 摘要 在使用LLM开源模型的过程中,仅仅对 Prompt Engineer 即 提示词工程 上面做功夫必然不能够满足工业领域较为复杂的应用场景。因此本人决定重构一套架构,这并不是造轮子,更不是法轮功,而是以 松耦合 的应用视角把组件视为服务。 本文部分引用了2024年04月开源的RagFlow。 [...] GPU算力服务器裸机的容器共享化架构的用户视角 https://blog.ckh-cn.site/index.php/2024/10/31/69.html 2024-10-31T10:26:00+08:00 0.1 摘要 本文对我校A100服务器进行配置,利用 Docker容器 实现多用户的共享使用,同时实现远程运维、硬件资源监控等高权限管理操作。 文中部分敏感信息不予公布,本文仅用作技术日志,不作为服务器维护参考。 [...] 对GPU算力服务器裸机的容器共享化架构设想与实践 https://blog.ckh-cn.site/index.php/2024/10/30/67.html 2024-10-30T18:44:00+08:00 摘要 本文对我校A100服务器进行配置,利用 Docker容器 实现多用户的共享使用,同时实现远程运维、硬件资源监控等高权限管理操作。 文中部分敏感信息不予公布,本文仅用作技术日志,不作为服务器维护参考。 [...]