3 отношения: Число с фиксированной запятой, Число с плавающей запятой, Число обусловленности.
Число с фиксированной запятой
Число с фиксированной запятой (fixed-point number) — формат представления вещественного числа в памяти ЭВМ в виде целого числа.
Новый!!: Вычислительная устойчивость и Число с фиксированной запятой · Узнать больше »
Число с плавающей запятой
Число с плавающей запятой (или число с плавающей точкой) — форма представления вещественных (действительных) чисел, в которой число хранится в форме мантиссы и показателя степени.
Новый!!: Вычислительная устойчивость и Число с плавающей запятой · Узнать больше »
Число обусловленности
В численных методах число обусловленности характеризует точность решения задачи.
Новый!!: Вычислительная устойчивость и Число обусловленности · Узнать больше »