NVIC_Blog - 士兵突击
https://blog.ckh-cn.site/index.php/category/Milestone/
许三多!!!
-
[工具发布]LLM输出内容所含公式一键适配Anki卡牌
https://blog.ckh-cn.site/index.php/2025/08/02/160.html
2025-08-02T00:51:00+08:00
Anki支持数学公式,使用MathJax语法渲染,与LLM回答输出中包含的Latex通用,但存在包裹符号的使用习惯问题。
LLM输出的公式往往使用$包裹,但Anki Manual指定\(或\[ 标识数学公式。
本工具可将LLM输出的原始Markdown中的公式批量转换为Anki支持语法,且区分了行间公式和行内公式。
工具-MathJax包裹符号转换
Beautiful and accessible math in all browsers-MathJax
mhchem for MathJax
-
[工具发布]论文打印成本节省工具
https://blog.ckh-cn.site/index.php/2025/06/06/148.html
2025-06-06T01:34:00+08:00
写了一个小工具,论文打印成本节省工具,把PDF切割黑白彩色页面,且支持双面打印。
具体的调参和分割效果需要自行多次尝试。
论文打印成本节省工具
感谢开源项目Color-BW-Separator-for-PDF
-
[工具发布]PlantUML自动制图服务
https://blog.ckh-cn.site/index.php/2025/05/21/149.html
2025-05-21T00:06:00+08:00
fork了一个PlantUML语言自动绘图服务,生成的SVG能够直接拖入Visio编辑,可以用大模型生成PlantUML代码,直接绘图。
NVIC-PlantUML
PlantUML技术文档
-
[工具发布]Latex公式识别服务
https://blog.ckh-cn.site/index.php/2025/05/20/153.html
2025-05-20T16:21:00+08:00
简单搭建了一个Latex公式识别服务,识别出来的内容可以直接复制到MathType。
LaTeX-OCR
-
在国产定制化NVIDIA Jetson Orin NX上离线化部署Ollama(GPU)及各类折腾经验
https://blog.ckh-cn.site/index.php/2025/01/04/79.html
2025-01-04T22:29:00+08:00
0.1 摘要
在边缘计算设备上部署大模型是一个新鲜事儿,网上教程多,但实战少,多为按照官网文档直接在线安装,本文主要解决以下几个问题:
根本没有考虑到 特殊的网络环境 。
即使考虑到了 问题1 ,也没考虑到实际的边缘计算设备在工业环境下往往是不联网的,顶多在开发时连接网络,部署上后的运维一直存活在内网。
官方文档仅针对公版设备,国产定制的芯片、驱动、系统均需要特色化,其实际的配置与开发固然不能直接照搬。
折腾来折腾去,这货真的调用GPU了吗?
CPU也不差,GPU也不强 ,权衡功耗与性能是得多考虑考虑。
这货的CUDA跟X86 GPU的CUDA到底有什么区别?如何迁移学习?
在此,感谢 图为信息科技(深圳)有限公司 对我赞助的 TWOWIN TW-T806 设备。
本文设备的核心为 NVIDIA Jetson Orin NX ,原则上,本文的相关经验可供同核心或同系列开发板参考。
[...]
-
私有化RAG框架的设计与实现
https://blog.ckh-cn.site/index.php/2024/11/27/73.html
2024-11-27T21:03:00+08:00
0.1 摘要
在使用LLM开源模型的过程中,仅仅对 Prompt Engineer 即 提示词工程
上面做功夫必然不能够满足工业领域较为复杂的应用场景。因此本人决定重构一套架构,这并不是造轮子,更不是法轮功,而是以 松耦合 的应用视角把组件视为服务。
本文部分引用了2024年04月开源的RagFlow。
[...]
-
GPU算力服务器裸机的容器共享化架构的用户视角
https://blog.ckh-cn.site/index.php/2024/10/31/69.html
2024-10-31T10:26:00+08:00
0.1 摘要
本文对我校A100服务器进行配置,利用 Docker容器 实现多用户的共享使用,同时实现远程运维、硬件资源监控等高权限管理操作。
文中部分敏感信息不予公布,本文仅用作技术日志,不作为服务器维护参考。
[...]
-
对GPU算力服务器裸机的容器共享化架构设想与实践
https://blog.ckh-cn.site/index.php/2024/10/30/67.html
2024-10-30T18:44:00+08:00
摘要
本文对我校A100服务器进行配置,利用 Docker容器 实现多用户的共享使用,同时实现远程运维、硬件资源监控等高权限管理操作。
文中部分敏感信息不予公布,本文仅用作技术日志,不作为服务器维护参考。
[...]