2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




 
 форматы представления данных
Сообщение17.02.2011, 02:07 
Собственно вопрос касается АОВТ (арифм основы вычислительной техники). Как правильно представить 0.00y в формате с плавающей точкой, в частности формат представления данных в ЭВМ "E". вида "знак","порядок","мантисса".
Например, имеется $\[1{E_{16}} = 0.1{E_{16}}*{10_{16}} = 421E{0000_E}\]$
А вот как быть с $\[0.004CAD{58_{16}}\]$?

 
 
 [ 1 сообщение ] 


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group