Golang浮點(diǎn)數(shù)比較和運(yùn)算會(huì)出現(xiàn)誤差。
浮點(diǎn)數(shù)儲(chǔ)存至內(nèi)存中時(shí)，2的-1、-2……-n次方不能精確的表示小數(shù)部分，所以再把這個(gè)數(shù)從地址中取出來(lái)進(jìn)行計(jì)算就出現(xiàn)了偏差。
package main
import (
"errors"
"fmt"
"github.com/shopspring/decimal"
)
func FloatCompare(f1, f2 interface{}) (n int, err error) {
var f1Dec, f2Dec decimal.Decimal
switch f1.(type) {
case float64:
f1Dec = decimal.NewFromFloat(f1.(float64))
switch f2.(type) {
case float64:
f2Dec = decimal.NewFromFloat(f2.(float64))
case string:
f2Dec, err = decimal.NewFromString(f2.(string))
if err != nil {
return 2, err
}
default:
return 2, errors.New("FloatCompare() expecting to receive float64 or string")
}
case string:
f1Dec, err = decimal.NewFromString(f1.(string))
if err != nil {
return 2, err
}
switch f2.(type) {
case float64:
f2Dec = decimal.NewFromFloat(f2.(float64))
case string:
f2Dec, err = decimal.NewFromString(f2.(string))
if err != nil {
return 2, err
}
default:
return 2, errors.New("FloatCompare() expecting to receive float64 or string")
}
default:
return 2, errors.New("FloatCompare() expecting to receive float64 or string")
}
return f1Dec.Cmp(f2Dec), nil
}
func main() {
a:=4.0
b:="4"
fmt.Println(FloatCompare(a,b))
}
補(bǔ)充：golang 判斷2個(gè)浮點(diǎn)型數(shù)字是否相同
判斷2個(gè)浮點(diǎn)型數(shù)字是否相同的方法（假定整數(shù)部分+小數(shù)點(diǎn)后3位相同，則視為相同）
首先將2個(gè)浮點(diǎn)型數(shù)字轉(zhuǎn)換為string數(shù)據(jù)
將float類型的數(shù)據(jù)轉(zhuǎn)換成string
func Decimal(value float32) string {
value1 := fmt.Sprintf("%.6f", value)
return value1
}
比較兩個(gè)由float型數(shù)據(jù)轉(zhuǎn)化成string的數(shù)據(jù)是否相同是否相同
func Compare(val1,val2 string) bool {
indexf :=strings.Index(val1,".") + 4
indexs :=strings.Index(val2,".") + 4
if indexs != indexf {
return false
}else {
if val1[0:indexf] == val2[0:indexs]{
return true
}else {
return false
}
}
}
補(bǔ)充：golang 浮點(diǎn)數(shù)操作
數(shù)據(jù)庫(kù)中金額元存儲(chǔ)的數(shù)據(jù)結(jié)構(gòu)使用的是decimal(15,2)，golang中使用float64保存變量?jī)?nèi)容。通過轉(zhuǎn)換將 float64 -> int64
最簡(jiǎn)單的方式：int64(float64 * 100)，但是由于浮點(diǎn)數(shù)在計(jì)算機(jī)內(nèi)的表示方式問題導(dǎo)致有一部分?jǐn)?shù)據(jù)會(huì)出現(xiàn)問題，
例如：
var v = 67.6
fmt.Println(int64(v *100)) 輸出結(jié)果為：6759
解決方法：
使用"github.com/shopspring/decimal"包，將對(duì)浮點(diǎn)數(shù)進(jìn)行精確計(jì)算，例如：
f1 := decimal.NewFromFloat(v)
f2 := decimal.NewFromFloat(100)
fmt.Println(f1.Mul(f2).IntPart()) 輸出結(jié)果為6760
以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教。
您可能感興趣的文章:- golang實(shí)現(xiàn)對(duì)docker容器心跳監(jiān)控功能
- 淺談golang 中time.After釋放的問題
- golang 定時(shí)任務(wù)方面time.Sleep和time.Tick的優(yōu)劣對(duì)比分析
- golang日志包logger的用法詳解
- golang elasticsearch Client的使用詳解
- Golang的func參數(shù)及返回值操作
- golang協(xié)程池模擬實(shí)現(xiàn)群發(fā)郵件功能
- Golang: 內(nèi)建容器的用法
