Как работать с вещественными числами в Go?
Например:
(627.71/640.26)^(1/30) = 0.999340349 --> correct result
но с Go:
fmt.Print(math.Pow((627.71 / 640.26), (1 / 30))) = 1 --> wrong
Как работать с вещественными числами в Go?
Например:
(627.71/640.26)^(1/30) = 0.999340349 --> correct result
но с Go:
fmt.Print(math.Pow((627.71 / 640.26), (1 / 30))) = 1 --> wrong
1 / 30
, дающему вам ноль. 31.10.2018 Используйте деление с плавающей запятой (вещественное), а не целочисленное. Например,
package main
import (
"fmt"
"math"
)
func main() {
fmt.Print(math.Pow((627.71 / 640.26), (1.0 / 30.0)))
}
Игровая площадка: https://play.golang.org/p/o7uVw9doaMu
Выход:
0.999340348749526
package main
import "fmt"
func main() {
fmt.Println(1 / 30) // integer division
fmt.Println(1.0 / 30.0) // floating-point division
}
Игровая площадка: https://play.golang.org/p/VW9vilCC9M8
Выход:
0
0.03333333333333333
Спецификация языка программирования Go
Целочисленные операторы
Для двух целых значений x и y целочисленное частное q = x / y и остаток r = x % y удовлетворяют следующим соотношениям:
x = q*y + r and |r| < |y|
с усечением x/y в сторону нуля («усеченное деление»).