Библиотека Go для собеса | вопросы с собеседований

💬Какие подводные камни необходимо учитывать при работе с числами с плавающей точкой в Go?



📌В Go существует два типа чисел с плавающей точкой (если не учитывать комплексные числа): float32 и float64. Концепция числа с плавающей точкой была изобретена для решения основной проблемы целых чисел: их неспособности представлять дробные значения.



📌Чтобы избежать неприятных сюрпризов, нам нужно помнить, что арифметика с плавающей точкой является приближением к реальной арифметике.



📌Для примера посмотрим на умножение:

var n float32 = 1.0001

fmt.Println(n * n)

◾️Мы могли бы ожидать, что этот код выведет результат умножения 1.0001 * 1.0001 = 1.00020001. Однако, если запустить его на большинстве процессоров x86, он выведет 1.0002.



◾️Поскольку типы float32 и float64 в Go являются приближениями, нам нужно помнить несколько правил:



* При сравнении двух чисел с плавающей точкой проверяйте, что их разница находится в приемлемом диапазоне.

* При выполнении сложений или вычитаний группируйте операции с похожим порядком величины для большей точности.

* Чтобы повысить точность, если последовательность операций требует сложения, вычитания, умножения или деления, сначала выполняйте операции умножения и деления.