Где можно найти информацию об этом, какие запросы вводить в гугле?

Question

[Dragon1]

1) База целых (дробных) чисел определяет точность вычислений? Каким образом база(я так понимаю, система счисления) может влиять на точность вычислений, разные методы преобразования из одной системы счислений в другую? Разве давно не научились с бесконечной точностью преобразовывать числа?
2) Если сложить два бинарных 8-битных значения целых чисел со знаком 1110 1001 и 1100 0010 в результате получим overflow?
В чём отличие сложения без знака тех же бинарных чисел?
3) Для сложения данных кодированных в IEEE754 формате нужно использовать специальные дробные команды? (такие есть?, может я неправильно перевёл)

Comments

[Рональд Макдональд]

Разве давно не научились с бесконечной точностью преобразовывать числа?

Точность бесконечна, ОЗУ и ПЗУ нет.
Более того, точность - это всегда некий eps.

Answer 1

[15432]

1) База целых (дробных) чисел определяет точность вычислений?

целых - нет, с плавающей точкой - может.

Каким образом база(я так понимаю, система счисления) может влиять на точность вычислений

выбор базы для формата чисел с плавающей точкой примерно эквивалентен изменению количества бит под мантиссу и степень. Чем больше база - тем меньше информации о мантиссе и больше диапазон возможных значений. Соответственно, падает точность.

разные методы преобразования из одной системы счислений в другую

система счисления любого числа только на конечный вид числа на экране влияет

Разве давно не научились с бесконечной точностью преобразовывать числа?

Смотря что вы имеете в виду. А если число иррациональное? как вы корень из 2 запишете с бесконечной точностью?

2) Если сложить два бинарных 8-битных значения целых чисел со знаком 1110 1001 и 1100 0010 в результате получим overflow?

да, будет выход за пределы 8 бит, в результате получится положительное число

В чём отличие сложения без знака тех же бинарных чисел?

в разных командах процессору и, соответственно, разных результатах в некоторых случаях

3) Для сложения данных кодированных в IEEE754 формате нужно использовать специальные дробные команды? (такие есть?, может я неправильно перевёл)

ну да, у современных процессоров есть модуль для вычислений с плавающей точкой, там отдельный набор команд. если это ЦПУ без поддержки дробных вычислений, всё вычисляется программно.

Comments

[Dragon1]

Спасибо за ответы, получается, если со значениями 1110 1001 и 1100 0010 произвести сложение без знака, то переполнения не будет?

[15432]

Dragon1, тоже будет переполнение