英特尔助力百度文心大模型 4.5,实现端侧部署

6 月 30 日,百度正式了其最新的文心大模型 4.5 系列,包含了多达 10 款模型,其中包括 47B 和 3B 激活参数的混合专家模型 (MoE) 以及 0.3B 参数的稠密型模型。这次开源不仅让开发者能够免费使用这些强大的模型,还提供了预训练权重和推理代码,方便开发者进行各种应用。

而在此次发布中,英特尔也展现了其强大的技术支持。借助 OpenVINO 工具套件,英特尔在文心的发布当天就完成了对这些端侧模型的适配,并成功在其酷睿 Ultra 平台上进行了端侧部署。OpenVINO 是英特尔自主研发的开源工具,旨在优化和加速模型的推理性能,实现跨平台部署,并充分利用英特尔的硬件资源。

值得一提的是,自 2021 年以来,百度的飞桨团队与英特尔的 OpenVINO 团队进行了深入合作,双方针对多个模型进行了适配工作,包括 PaddleOCR、PaddleSeg 和 PaddleDetection 等。这样的合作使得开发者可以直接利用飞桨模型,通过 OpenVINO 进行推理和部署,甚至可以通过 OpenVINO 的模型优化器将模型转换为 IR 格式,进一步提升部署效果。

文心大模型 4.5 的发布标志着百度在多模态理解、文本生成和逻辑推理等领域的又一次重大突破。这一系列模型的性能甚至在多项测试中超越了 GPT4.5,并且 API 调用的成本仅为后者的 1%。这无疑为希望将 应用于各类产品和服务的开发者提供了一个具有吸引力的选择。

英特尔和百度的这次合作,不仅展示了技术的前沿进展,也为 的未来应用开辟了更广阔的道路。随着更多开发者参与到这些开源模型的使用中,我们可以期待在不久的将来,会有更多令人兴奋的创新和应用诞生。

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

给 TA 打赏
共 {{data.count}} 人
人已打赏
AI 资讯

Cursor 手机版震撼发布!随时随地编码,开发者迎来新自由

2025-7-2 1:22:41

AI 资讯

谷歌全新 「Gemini 教育项目」 助力校园 AI 应用,教师学生皆受益!

2025-7-2 1:23:02

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索