引入
Kahan 求和 算法,又名补偿求和或进位求和算法,是一个用来 降低有限精度浮点数序列累加值误差 的算法。它主要通过保持一个单独变量用来累积误差(常用变量名为 )来完成的。
该算法主要由 William Kahan 于 1960s 发现。因为 Ivo Babuška 也曾独立提出了一个类似的算法,Kahan 求和算法又名为 Kahan-Babuška 求和算法。
舍入误差
在计算机程序中,因为电脑的内存不是无限的,无限实数实际上并不能用无限内存表示。很多时候我们需要将无限实数压缩为有限位数做近似表示。大多数程序最多存储 位或 位计算值。例如在一个 位的程序,常见的数字存储方式是在第 位表示正负, 到 位表示整数位值, 起到结尾表示浮点位值。但对于无限数字,例如常见的 ,我们不能在有限位数内对它进行精准表示,因此在使用前文提到的存储办法时,必须四舍五入一部分数值(truncate)。这种 舍入误差(Rounding off error)是浮点计算的一个特征。
在浮点加法计算中,交换律(commutativity)成立,但结合律(associativity)不成立。也就是说, 但 。因此在浮点序列加法计算中,我们可以从左到右一个个累加,也可以在原有顺序上,将他们两两分成一对。第二种算法会相对较慢并需要更多内存,也常被一些语言的特定求和函数使用,但相对结果更准确。
为了得到更准确的浮点累加结果,我们需要使用 Kahan 求和算法。
在计算 ( 为浮点序列的一个数值)时,定义实际计算加入 的值为 , 如果 比 大,则证明有向上舍入误差;如果 比 小,则证明有向下舍入误差。则舍入误差定义为 。那么用来纠正这部分舍入误差的值就为 , 即 的负值。定义 是对丢失的低位进行运算补偿的变量,就可以得到 。
过程
Kahan 求和算法主要通过一个单独变量用来累积误差。如下方参考代码所示, 为最终返回的累加结果。 是对丢失的低位进行运算补偿的变量(其被舍去的部分),也是 Kahan 求和算法中的必要变量。
因为 大, 小,所以 的低位数丢失。 抵消了 的高阶部分,减去 则会恢复负值( 的低价部分)。因此代数值中 始终为零。在下一轮迭代中,丢失的低位部分会被更新添加到 。
实现
习题
在 OI 中,Kahan 求和主要作为辅助工具存在,为计算结果提供误差更小的值。
有 个同时使用的设备。第 个设备每秒使用 单位的功率。这种用法是连续的。也就是说,在 秒内,设备将使用 单位的功率。第 个设备当前存储了 单位的电力。所有设备都可以存储任意数量的电量。有一个可以插入任何单个设备的充电器。充电器每秒会为设备增加 个单位的电量。这种充电是连续的。也就是说,如果将设备插入 秒,它将获得 单位的功率。我们可以在任意时间单位内(包括实数)切换哪个设备正在充电(切换所需时间忽略不计)。求其中一个设备达到 单位功率前,可以使用这些设备的最长时间。
定义数字 的两个排列 和 的和为 ,其中 是数字 的第 个字典排列(从零开始计数), 是字典序排列 的个数。例如,,。Misha 有两个排列 和 ,找到它们的总和。
编程语言的求和
Python 的标准库指定了精确舍入求和的 fsum 函数可用于返回可迭代对象中值的准确浮点总和,它通过使用 Shewchuk 算法跟踪多个中间部分和来避免精度损失。
Julia 语言中,sum 函数的默认实现是成对求和,以获得高精度和良好的性能。同时外部库函数 sum_kbn 为需要更高精度的情况提供了 Neumaier 变体的实现,具体可见 KahanSummation.jl。
参考资料与注释
- Kahan_summation_algorithm - Wikipedia
- Kahan summation - Rosetta Code
- VK Cup Round 2 + Codeforces Round 409 Announcement
- Rounding off errors in Java - GeeksforGeeks