SQLServer 数据库 Money 和 Float 类型运算的奇怪显现

SQLServer 数据库 Money和 Float类型运算的奇怪显现

• 1.1 背景
• 1.2 场景描述
• 1.3 原因及解决办法

1.1 背景

最近在做一个优化的项目

1.2 场景描述

DECLARE @rate FLOAT = 0.03
DECLARE @tax MONEY = 7.5

SELECT @tax*@rate                        -- 0.225
SELECT @tax*CONVERT(MONEY,@rate)         -- 0.225

SELECT ROUND(@tax*@rate,2)                   -- 0.22
SELECT ROUND(@tax*CONVERT(MONEY,@rate),2)    -- 0.23
SELECT ROUND(CONVERT(FLOAT,@tax)*@rate,2)    -- 0.22

DECLARE @result FLOAT =0.225
DECLARE @resultM MONEY = 0.225

SELECT ROUND(@result,2)             --0.23
SELECT ROUND(@resultM,2)            --0.23

1.3 原因及解决办法

链接

表达式

数据类型优先级

SQL server和C#,VB.net中Round方法的差异