高通AI Hub向中国开发者开放 提供超230个预优化模型

Antutu •

•

阅读 47

高通宣布,旗下AI Hub现已面向中国开发者开放,合作伙伴与开发者可借助该平台打造终端侧生成式AI和智能体AI应用,中国版集成Models模型库、Workbench模型工作台、Apps示例应用及GenieX端侧推理框架,覆盖模型选择、优化和应用集成等环节。

图片

据高通介绍,AI Hub Models提供超过230个预优化模型,模型库还在持续扩展,开发者也可上传自有模型,进行量化和格式转换;Workbench则支持在真实的云托管设备上开展模型调优。

完成模型准备后,AI Hub Apps提供示例应用和参考代码,帮助开发者将模型集成到应用中,GenieX则负责端侧生成式AI推理。

根据高通官网介绍,该工具可在Hexagon NPU、Adreno GPU或CPU上本地运行语言模型和视觉语言模型,目前标注为开发者预览版。

中国版的云端服务由亚马逊云科技中国(宁夏)区域提供,该区域由宁夏西云数据科技有限公司运营。亚马逊云科技已在10月21日的公告中宣布中国版正式开放,当时公布的模型规模为近230个,开发者还可借助高通设备云在中国的真实设备集群,远程验证模型部署情况并分析端侧运行性能。

图片

高通AI Hub最初于2024年2月26日在MWC巴塞罗那期间发布,当时提供超过75个AI及生成式AI模型,此次面向中国开发者提供的资源还包括官网、高通终端云中国设备农场及开发者论坛。

图片

原创文章,作者:HyperZ-Ton,如若转载,请注明出处:https://www.antutu.com/doc/138253.htm

相关推荐

返回
顶部