Arm携手阿里巴巴，加速端侧多模态AI体验

Arm控股有限公司和阿里巴巴淘天集团近日宣布了一项重大合作，通过集成Arm的KleidiAI和阿里巴巴的通义千问模型，成功实现了在搭载Arm CPU的移动设备上运行多模态AI工作负载。这一合作显著提升了端侧多模态AI的性能，为用户带来了全新的体验。

随着AI技术的不断发展，多模态AI模型在处理文本、图像、音频、视频及传感器数据等方面展现了巨大的潜力。然而，由于硬件限制和内存约束，以及在端侧设备上同时处理多种数据类型的复杂性，部署这些先进的多模态模型面临着挑战。

Arm的KleidiAI成为解决这些挑战的理想方案。它是一套轻量级且高性能的开源Arm例程，专为AI加速而设计。通过集成KleidiAI，Arm和MNN团队成功让通义千问模型运行在搭载Arm CPU的移动设备上，实现了图像理解、文本到图像的推理，以及跨多种语言的多模态生成。

此次合作带来了显著的性能提升。模型预填充性能提升了57%，解码性能提升了28%。这些提升使得应用程序的响应速度更快，用户体验更佳。此外，集成KleidiAI还可以通过降低多模态工作负载的总体计算成本，进一步促进端侧设备上AI工作负载的高效处理。

阿里云通义大模型业务总经理徐栋表示，这次合作验证了大模型在移动终端的实用潜力，开启了端侧智能的新篇章。MNN团队负责人姜霄棠也表示，通过联合优化底层架构，他们实现了端侧大模型推理效率的大幅提升，跨越了受限算力与复杂AI能力的技术鸿沟。

总的来说，Arm和阿里巴巴的合作将为开发者提供更多机会，使他们能够在边缘侧设备上运行高效、流畅的AI应用程序。这一合作不仅展示了AI技术的潜力，也展示了跨界协作的力量。随着这一合作的继续深化，我们可以期待看到更多创新的AI解决方案，为用户提供更自然、更高效的体验。