论文解读
AI 辅助整理- 方法
- 4比特量化视觉语言模型,边缘设备部署,对话式诊断。
- 发现
- 量化保留98.6%原模型质量,显存降49%,最小仅需2.01GiB。
- 机会点
- 可探索量化模型在田间弱网、低算力设备上的多作物泛化与诊断可靠性评估。
论文摘要
提出可在边缘设备离线运行的量化视觉语言框架,用于作物病害与虫害对话式诊断。4比特量化保留98.6%原模型质量、权重显存降49%;最小形态仅需2.01GiB,首token约0.12秒。属预印本,未经同行评审。
论文原文与出版信息
arXiv核心看点
提出可离线运行的4比特量化视觉语言模型,用于作物病虫害对话式诊断。
4比特量化后保留98.6%原模型质量、权重显存降49%,最小形态仅需2.01GiB、首token约0.12秒,为无网边缘设备离线病害诊断提供可行路径;但属预印本,精度与田间泛化性尚未经同行评审。
提出可在边缘设备离线运行的量化视觉语言框架,用于作物病害与虫害对话式诊断。4比特量化保留98.6%原模型质量、权重显存降49%;最小形态仅需2.01GiB,首token约0.12秒。属预印本,未经同行评审。
论文原文与出版信息
arXiv