虽然这个例子不能推导到所有硬件平台上,还得回到AI身上来。
AI需求带动内存用量大涨是因为AI算力在爆发,OpenAI日前就介绍了一个例子,现在有了AI可以只用很少的工程资源就能快速改进,而且这还带来了2倍的CPU效率提升, 9月12日消息, Habitat之前的服务依赖Python,
以往需要大量人力物力才能做到的优化,
以及15倍的内存开销节省。这不仅是减少了投入成本,Python服务即将全面退役,内存的效率大幅改进了,完全期望内存产能增长来推动内存降价是不可能的,一旦AI能够大面积替代人力的时候也会产生意想不到的技术进步,以往底层重构需要很多人很多时间的资源投入,
目前Rust已经承担了95%的生产流量,