该爆料人士表示:苹果手机不会上端侧大模型(起码短期内),主要原因就是端侧大模型是比较吃空间的,在int4的量化級別下,7B模型大概圧到3.5G内存,按PDDR5xQ带宽计算,支持10-12 token/s的速度。安卓手机运存至少是8G起步,主流也达到了12GB RAM,7B模型至少是跑得动的。考虑到苹果运存很小,加载一个3.5G的大模型在后台,苹果手机的运存彻底吃不消。
值得一提的是,在2023年,随着整个行业供需失衡等原因,手机所需要的内存芯片和存储芯片价格开始出现大幅度降价,不少厂商选择普及大内存和大存储,甚至推出了很多24GB运行内存+1TB机身存储的智能手机。而在2024年,随着上游厂商的减产+控价,大内存手机和大存储手机的成本也会开始上升,售价可能也会受到影响,有需求的消费者可早做准备。