您的位置:首页 人工智能

Meta推出CATransformers框架 助力AI行业实现减排目标

来源:大半导体产业网    2025-05-16
CATransformers框架通过多目标贝叶斯优化引擎,综合评估模型架构和硬件加速器的性能,以实现延迟、能耗、精度和总碳足迹之间的平衡。

5月16日消息,据报道,Meta AI旗下FAIR团队携手佐治亚理工学院,合作开发CATransformers框架,该框架以降低碳排放为核心设计理念,旨在通过优化模型架构与硬件性能,显著减少AI技术在运营中的碳足迹,为可持续的AI发展奠定基础。

随着全球各行业加速采用AI技术,解决运营与隐含碳的双重来源成为迫切需求。CATransformers框架通过多目标贝叶斯优化引擎,综合评估模型架构和硬件加速器的性能,以实现延迟、能耗、精度和总碳足迹之间的平衡。

特别针对边缘推理设备,CATransformers通过剪枝大型CLIP模型生成变体,并结合硬件估算工具分析碳排放与性能。其成果CarbonCLIP-S与TinyCLIP-39M精度相当,但碳排放降低17%,延迟控制在15毫秒内;CarbonCLIP-XS则比TinyCLIP-8M精度提升 8%,碳排放减少3%,延迟低于10毫秒。

研究显示,单纯优化延迟的设计可能导致隐含碳增加高达2.4倍,而综合优化碳排放与延迟的策略可实现19-20% 的总排放削减,且延迟损失极小。