混合AI-零帕网

高通公司研究报告:混合AI从云到端,规模化推进AIGC

高通公司研究报告:混合AI从云到端,规模化推进AIGC

2023年终端设备低需求叠加未来 AIGC催化 AI新硬件需求,高通凭借在终端侧混合AI 的引领者优势,预计 24 年高通将迎来芯片出货量高增双击时刻。生成式 AI 引发计算架构演进需求,混合 AI 实现终端云端协同。模型推理成本较高阻碍 AI 应用的规模化扩展,推动混合 AI 应运而生。混合 AI 能在不同场景和时间下动态分配终端和云端的工作负载,在成本、能耗、性能、隐私、安全和个性化五大维度和云端相比具备优势。高通凭借终端侧 AI 技术和全栈优化引领混合AI发展,独具规模化拓展优势。新一代高
混合AI是AI的未来

混合AI是AI的未来

混合 AI 是 AI 的未来。随着生成式 AI 正以前所未有的速度发展以及计算需求的日益增长,AI 处理必须分布在云端和终端进行,才能实现 AI 的规模化扩展并发挥其最大潜能——正如传统计算从大型主机和瘦客户端演变为当前云端和边缘终端相结合的模式。与仅在云端进行处理不同,混合 AI 架构在云端和边缘终端之间分配并协调 AI 工作负载。云端和边缘终端如智能手机、汽车、个人电脑和物联网终端协同工作,能够实现更强大、更高效且高度优化的 AI。节省成本是主要推动因素。举例来说,据估计,每一次基于生成式
加载更多