数据结构
网络
RDBMS
操作系统
Java
MS Excel
iOS
HTML
CSS
Android
Python
C 编程
C++
C#
MongoDB
MySQL
Javascript
PHP
物理学
化学
生物学
数学
英语
经济学
心理学
社会学
时尚研究
法律研究如何在 Ruby 中使用 BigDecimal？
使用BigDecimal，你可以执行任意精度的浮点数十进制运算。让我们用一个示例来理解BigDecimal 的用例。我们将举两个示例，第一个示例将不使用BigDecimal，第二个示例中，我们将会使用BigDecimal。
考虑下面显示的代码，我们在其中不使用BigDecimal，并多次向一个数字中添加一些十进制值。
示例 1
# without using bigInteger def calculateSum() sumOfNumbers = 0 10_000.times do sumOfNumbers = sumOfNumbers + 0.0001 end return sumOfNumbers end puts calculateSum()
输出
0.9999999999999062
现在，让我们对上面显示的示例使用BigDecimal，看看它会产生什么差异。
考虑下面显示的代码，其中使用了BigDecimal。
示例 2
require 'bigdecimal'
# with using bigInteger
def calculateSum()
sumOfNumbers = BigDecimal("0")
10_000.times do
sumOfNumbers = sumOfNumbers + BigDecimal("0.0001")
end
return sumOfNumbers
end
puts calculateSum()输出
0.1e1
示例 3
BigDecimal 有时在除零时需返回无穷大。考虑下面显示的代码。
require 'bigdecimal'
puts BigDecimal("2.0") / BigDecimal("0.0")
puts BigDecimal("-2.0") / BigDecimal("0.0")输出
Infinity -Infinity
更新于： 2022 年 1 月 25 日
1K+ 浏览
广告