基于多面体模型的矩阵乘法自动混合精度优化

摘要： 混合精度是计算机中的一种数值计算技术，通过将计算中的部分数据类型从高精度转换成低精度来提高计算效率。矩阵乘法在计算机科学和数学中有着重要而广泛的应用，在矩阵乘法中使用混合精度技术来加速计算过程是一项很有挑战性的工作。现有的混合精度优化存在一些问题，例如存储开销大，必须在特定的硬件单元上实现，限制了模型或算法的部署选项并降低了其可移植性。针对上述问题，提出并实现了基于多面体模型的... （共10页）