数值计算 机器学习算法通常需要大量的数值计算.这通常是指通过迭代过程更新解的估计值来解决数学问题的算法,而不是通过解析过程推导出公式来提供正确解的方法.常见的操作包括优化(找到最小化或最大化函数值的参数)和线性方程组的求解. 上溢和下溢 连续数学在数字计算机上的根本困难是,我们需要通过有限数量的位模式来表示无限多的实数.这意味着我们在计算机中表示实数时,几乎总会引入一些近似误差.在许多情况下,这仅仅是舍入误差.舍入误差会导致一些问题,特别是当许多操作复合时,即使是理论上可行的算法,如果在设计时没…