热点资讯

你的位置:kaiyun体育最新版 > 新闻资讯 > 开云kaiyun官方网站存在参数目较大、占用内存较多等问题-kaiyun体育最新版

开云kaiyun官方网站存在参数目较大、占用内存较多等问题-kaiyun体育最新版


发布日期:2026-04-05 13:42    点击次数:141


开云kaiyun官方网站存在参数目较大、占用内存较多等问题-kaiyun体育最新版

(原标题:华为开云kaiyun官方网站,AI大音尘!)

【导读】华为AI模子量化关联专利公布,可减少AI模子占用内存

           中国基金报记者 邱德坤            华为布局AI(东说念主工智能)界限迎来遑急发达。            天眼查线路,近日,华为时间有限公司(以下统称华为)请求的“东说念主工智能模子的量化措施、处理系统和量化单位”专利公布,不错减少AI模子占用的内存。 本年以来,华为公开的AI界限专利已达26项。2月5日,华为董事长梁华在广东省高质料发展大会上发言称,刻下,AI时间正处于加快发展阶段,在千行百业的应用也迎来关节时刻,收拢新机遇的关节是革命。            记者顾惜到,华为近期加大与DeepSeek的合营力度,包含华为ModelEngine辅助DeepSeek全系列土产货部署,DeepSeek系列新模子崇敬上线昇腾社区等。            华为遑急AI专利公布            专利摘要线路,华为这次请求的专利触及AI界限,尤其触及一种AI模子的量化措施、AI模子的处理系统、量化单位和规画修复。            AI模子是行使数据和算法,对某一界限或任务中的问题进行建模和处置。现在,部分AI模子如故应用在机器翻译、问答系统、语音识别和文本生成等界限。            2月6日,华为中国发文称,在宇宙AI时间速即发展的布景下,模子的快速迭代与高效部署成为各大科技企业竞相追赶的焦点。            不外,跟着AI时间发展,关联AI模子的范围越来越大,存在参数目较大、占用内存较多等问题,导致规画复杂度不停升迁。            为了处置上述问题,华为这次请求的专利提供了一种AI模子的量化措施。            专利摘要线路,量化单位不错基于运转AI模子的规画修复中各个规画单位的处理粒度,将量化矩阵分割成多个适用于各个规画单位处理粒度的分块量化矩阵。            量化单位不错对分块量化矩阵进行量化处理,从而得到量化后的分块量化矩阵,并存储在存储器中以减少AI模子占用的内存。            量化矩阵不错是权重矩阵,也不错是激活矩阵。量化单位在量化历程中,是基于运转AI模子的规画修复中各个规画单位的处理粒度进行量化,不需要基于张量级别进行离群值的统计,散伙AI模子对权重矩阵和激活矩阵齐不错进行及时量化。

           华为与DeepSeek合营不停潜入            2月6日,华为中国布告,华为DCS AI全栈处置决议中的遑急产物—ModelEngine,全面辅助DeepSeek大模子R1&V3和蒸馏系列模子的土产货部署与优化,加快客户AI应用快速落地。

据悉,ModelEngine手脚大模子磨练、推理和应用开拓的AI平台,提供从数据预处理到模子磨练、优化及部署的一站式管事。            华为中国先容,用户通过ModelEngine不错体验DeepSeek的高效推理能力;开拓者通过ModelEngine可散伙对DeepSeek系列模子的“一键部署”,省去硬件选型、兼容性考证和环境树立等要领,大幅缩短企业AI应用门槛。            现在,华为旗下多个业务接踵与DeepSeek开展合营。            2月5日,基于原生鸿蒙操作系统的小艺助手App接入DeepSeek-R1 Beta(公测)版。升级至原生鸿蒙的华为用户,不错通过“小艺助手App-发现-智能体广场”与DeepSeek对话。            2月4日,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro崇敬上线昇腾社区,辅助一键取得DeepSeek系列模子,辅助昇腾硬件平台上开箱即用,推理快速部署,带来更快、更高效、更方便的AI开拓和应用体验。            公开贵寓线路,DeepSeek最新发布的多模态大模子Janus-Pro,以及之前发布的大型谈话模子DeepSeek-R1、DeepSeek-V3及DeepSeek-V2,在AI界限引起厉害反响,多项时间升迁了模子性能与后果。

剪辑:晨光 校对:王玥 制作:舰长 审核:木鱼

版权声明

《中国基金报》对本平台所刊载的原创骨子享有文章权,未经授权回绝转载,不然将根究法律职守。

授权转载合营关系东说念主:于先生(电话:0755-82468670)开云kaiyun官方网站