FPN论文解读 和 代码详解

go判定整数溢出

go 语言的内置包

math库中包含go中各种数值最大值

import math
math.MaxINT 
math.MaxINT32
math.MinINT32
...

maxint 不是32位整型的最大值

判断整形溢出的问题

package main

func main() {
	var a int32 = 345678903
	var b int32 = 0
	b = a * 100000000
	print(b)
}

output:636966656

可以看到整形在溢出后输出的结果与我们期待的目标值是不一致的

这在实际业务中可能会产生问题

在面对整形溢出的处理的时候通常通过采取逆运算来避免溢出的问题

例如这段代码中

b = a*100000000

采取逆运算也就是当a>math.MaxInt32/1000000的时候认为运算会产生溢出的问题