近日,facebook正式将glow编译器开源,希望以此来拓展机器学习的硬件生态系统,联手合作伙伴将应用于ai的硬件加速延伸到数据中心之外的更多领域。facebook代理
facebook表示:我们开发了开源框架glow,社区起到的作用功不可没。这种方法让合作伙伴利用以社区驱动的编译器软件,快速为ai、机器学习设计及优化新的硅产品。
目前,已经承诺在未来硅产品支持glow的包括英特尔、marvell、高通科技、cadence、esperanto等。通过与这些伙伴合作,glow所连接的应用与服务惠及了数十亿人,而新的计算力需求对基础设施也是一大考验。
通常,应用于机器学习的硬件加速器依使用环境而定,有些侧重于推理,有些侧重于训练,各自对处理器和内存有着不同的需求。具体到glow来说,支持的硬件加速器更加广泛,并且内置的多个应用和模块,使得其配置后可支持多个硬件。
此外,由pytorch等深度学习框架支持的下一代硬件加速器也将成为glow的发展目标,而这离不开不断优化的编译器,以及在各类硬件平台上的推理性能加速。
根据facebook的说法,使用glow的硬件合作伙伴可以缩短将产品推向市场的周期。更重要的是,现有的优化和功能还能够削减开发时间,这种全面的测试套件可以让硬件提供商对于编译器的准确性,以及符合pytorch规范的尺度更有分寸。