端侧部署
Qwen2.5-1.5B 使用 GGUF Q4 量化，bge-small-zh 使用 INT8。Q4 生成速度为 11.77 tok/s，相较 Q8 提升 79%，模型体积缩小 40%。
01SELECTED WORK
面向智能座舱离线场景的端侧 LLM 助手
在树莓派 5（4GB）上部署 Qwen2.5-1.5B、检索模型和本地语音链路。车主手册问答、车控 NLU、唤醒、识别和播报均离线运行。
4GB树莓派 5 内存
11.77 tok/sQ4 生成速度
82.5%车主手册 Hit@5
94.7%车控意图与槽位全对率
LOCAL PIPELINE / 全离线链路从唤醒到播报
LOCAL ONLY
- 01本地唤醒
sherpa-onnx 唤醒词
- 02语音识别
ASR + 能量 VAD
- 03意图路由
区分问答与车控
- 04本地推理
RAG 或 LoRA NLU
- 05分句播报
本地 TTS 输出
车主手册问答 · 端侧运行画面
RAG / 0140 道有答案题，指标为 Hit@5。
464 页手册，双路检索
将车主手册处理为 1,387 个切片，使用 jieba + FTS5 与 sqlite-vec 分别完成关键词和向量检索，再用 RRF 融合结果。
FINE-TUNING / 02200 条同源测试样本：150 条车控、50 条范围外；范围外误触发率为 6%。
车控 NLU，完整正确率提高 78 个百分点
构造 2,690 条训练样本，完成 LoRA 微调、GGUF Q4 量化和树莓派部署。测试同时检查意图与槽位，二者都正确才计为通过。
车控 NLU · LoRA 微调模型
本地语音
在 USB 麦克风和扬声器上跑通唤醒、识别、路由、回答与播报。现场测试后加入热词偏置、问句保护和逗号分句播报。
评测与回滚
批量评测发现 KV 缓存复用会污染后续回答，随后回滚该方案。语音测试也暴露了领域词误识别造成的级联错误。
02EXPERIENCE
工业文档问答与电梯故障诊断
参与工业文档智能问答 PoC 与电梯故障诊断，负责文档解析、异步任务、RAG 模型调用、图谱入库和离线评测。
分钟级 → 十余秒7 页混合 PDF 处理
1,500+并发评测样本
68.4%排除目标泄漏后的基准
- 01
针对文本页、扫描页和复杂表格混排，按页检测内容并在 pdfplumber 与 PaddleOCR 之间动态路由。7 页混合 PDF 的处理时间由分钟级缩短至十余秒。
- 02
将长文档处理改成 FastAPI + SQLite + Worker 异步任务，提供上传、状态查询、失败记录和重试接口。
- 03
将 LightRAG 模型客户端改为进程级常驻复用。冷启动只发生一次，后续单 Chunk 调用稳定在秒级，并避免多实例加载造成 OOM。
- 04
审查工单、运行日志与维修记录的数据可见时间，发现目标泄漏并建立 68.4% 基准。编写脚本完成 1,500+ 样本并发评测、JSON 清洗和 Bad Case 归因。
PythonFastAPISQLiteWorkerpdfplumberPaddleOCRLightRAGNeo4j
03RESEARCH
面向车联网边缘计算的轻量化在线任务卸载
面向无人机辅助车联网中的在线卸载问题，设计采用冻结随机映射层和可训练 Dueling 输出头的 RF-DQN，并在树莓派 5 上测试推理和在线更新开销。
01
可训练参数
原 DQN34,052
RF-DQN1,024
02
推理延迟
原 DQN0.51 ms
RF-DQN0.14 ms
03
单步更新延迟
原 DQN5.41 ms
RF-DQN2.10 ms
模型文件缩小约 13 倍，在三类移动场景中保持有效卸载性能。
PUBLICATIONS
面向资源受限车载端的轻量化在线任务卸载方法
IEEE Internet of Things Journal
基于 Huber 损失和流形正则化的 SCN 鲁棒半监督分类方法
《计算机工程与应用》
04BACKGROUND
技能与教育
Python 后端
Python · FastAPI · asyncio · REST API · SQL · MySQL · SQLite
AI 应用
RAG / LightRAG · Embedding / FAISS · SQLite FTS5 / sqlite-vec · Neo4j · LoRA
端侧部署
llama.cpp · ONNX Runtime · sherpa-onnx · GGUF 量化 · Raspberry Pi · Linux / systemd · Docker / Git
算法与实验
PyTorch · 强化学习 · 随机配置网络 · 离线评测 · Bad Case 分析
EDUCATION
贵州大学
电子信息 · 硕士
研究方向：边缘计算、强化学习与随机配置网络 · 软件设计师（中级） · 研究生数学建模国家二等奖
防灾科技学院
信息管理与信息系统 · 本科
河北省数据分析竞赛省三等奖 · 校二等奖学金 2 次