Точность () в информатике — мера детализации, обычно измеряется в битах, но иногда в десятичных цифрах. Это связано со в математике, что являет собой количество цифр, которые используются для значения числового выражения.
Некоторые из стандартных форматов точности: Число половинной точности Число одинарной точности Число двойной точности Число четверной точности Число восьмеричной точности
Из них формат с восьмеричной точностью пока используется редко. Форматы одинарной и двойной точности наиболее широко используются и поддерживаются практически на всех платформах. Использование формата половинной точности расширяется, особенно в области машинного обучения, поскольку многие алгоритмы машинного обучения устойчивы к ошибкам.
См. также Расширенная точность Computer number format Точность (информационный поиск)
Примечания
Ссылки Computer Numbers and their Precision, I Number Storage What’s the Difference Between Single-, Double-, Multi- and Mixed-Precision Computing?
Категория:Арифметика с плавающей запятой Категория:Компьютерная арифметика