深思考发布单片机解密鸿蒙系统TinyDongni&deepseek超小端侧多模态大模型及硬件模组引领端侧多模态大模型的应用创新
TinyDongni作为端侧轻量化大模型,单片机解密以仅1.5B的极简参数规模实现高效能运算,其创新量化方法显著降低首Token延迟,支持32K超长上下文理解,并通过多芯片协同处理与内存优化技术,兼顾低功耗与高响应速度。技术亮点包括:
架构优化:DongniForCausalLM架构,支持1536/768隐藏层维度;
多语言支持:词汇表扩展至183,542,覆盖更广泛的语言及专业领域表达;
灵活适配:兼容OpenHarmony、Linux、Windows、Android等主流操作系统。
deepseek系列则聚焦多模态能力,1B模型通过2048隐藏层维度与32注意力头设计,强化复杂场景下的语义理解,适配智能硬件与边缘计算场景。
国产模组合作:强强联合,打造端侧算力标杆
深思考联合国产模组厂商推出两大解决方案,单片机解密验证轻量化大模型与国产硬件的协同效能:
广和通模组:集成5G与Wi-Fi 7通信技术,依托深思考算法优化,为车载、机器人等场景提供实时AI处理能力;
深开鸿模组:基于国产芯片与OpenHarmony系统,支持8K编解码与多屏交互,赋能工业检测、AI摄像头等高精度场景。
技术突破意义:在国产算力硬件上跑通大模型,充分证明深思考技术的轻量化与高效能——模型体积小但功能完备,无需依赖高算力硬件即可实现复杂任务处理,为端侧AI普惠化提供坚实基础。