OSDev
http://osdev.su/

Беседа о создании математической библиотеки для ЯП
http://osdev.su/viewtopic.php?f=18&t=1057		 Страница 5 из 5
Автор:  Freeman [ 02 авг 2016, 21:12 ]
Заголовок сообщения:  Re: Беседа о создании математической библиотеки для ЯП
SII писал(а):
Вообще, у меня впечатление, что Интел продолжает идти идиотским путём, добавляя всё новые и новые узкоспециализированные команды, которые почти никому и ничему не нужны.

Intel добавляет команды, которые проще реализовать в кремнии, а не те, которые нужны. Им просто некуда девать транзисторы, как мне кажется.

SII писал(а):
На мэйнфреймах экономические расчёты сильно упрощались наличием двоично-десятичной арифметики с числами переменной длины (до 16 байтов, т.е. до 31 десятичной цифры + знак). Поэтому в принципе не возникало проблем с точным представлением очень больших чисел вроде госдолга США :)

В последнее время вплотную столкнулся с банковским ПО. На сервере используются 22-байтные целые Oracle, разрядность которых задается десятично -- number(18,2). На клиенте такие числа не могут быть преобразованы в double без потерь, поэтому используется строковое представление и специальная библиотека для работы со строковыми числами, своего рода длинная арифметика.
Автор:  SII [ 03 авг 2016, 02:02 ]
Заголовок сообщения:  Re: Беседа о создании математической библиотеки для ЯП
Freeman писал(а):
SII писал(а):
На мэйнфреймах экономические расчёты сильно упрощались наличием двоично-десятичной арифметики с числами переменной длины (до 16 байтов, т.е. до 31 десятичной цифры + знак). Поэтому в принципе не возникало проблем с точным представлением очень больших чисел вроде госдолга США :)

Да-да. Похоже, что в Oracle что-то из того же или схожего наследия. Максимальная разрядность целой части number -- number(38), то есть 10^38, поскольку разрядность и точность встроенного типа number -- десятичные


На самом деле, мэйнфреймовские 31 десятичная цифра плюс знак не означают, что это непременно десятичные целые числа -- десятичная запятая там просто подразумевается, причём в произвольном месте -- всё зависит от того, как программист интерпретирует число. Например, если имеем два исходных числа с 2 дробными разрядами каждое и умножаем их, то мы должны помнить, что в результате будет уже 4 дробных разряда -- и, если нам нужны только 2, надо выкинуть два лишних разряда.
Автор:  Ученик [ 03 авг 2016, 04:35 ]
Заголовок сообщения:  Re: Беседа о создании математической библиотеки для ЯП
В графических процессорах "настоящая" фиксированная точка не используется?
Автор:  SII [ 03 авг 2016, 11:51 ]
Заголовок сообщения:  Re: Беседа о создании математической библиотеки для ЯП
Ученик писал(а):
В графических процессорах "настоящая" фиксированная точка не используется?


Там есть обычные двоичные целые числа (которые программист может рассматривать как числа с фиксированной точкой, если оно ему надо) и обычные вещественные числа, причём насчёт последних я не уверен, что поддерживаются все дополнительные вещи стандарта вроде бесконечностей и т.п. -- хотя, наверное, в последних ГП поддерживаются, поскольку их широко используют в научных расчётах, где это может быть необходимо. В общем, по представлению данных ГП не отличаются от подавляющего большинства обычных процессоров.
Страница 5 из 5 Часовой пояс: UTC + 3 часа
Powered by phpBB® Forum Software © phpBB Group
http://www.phpbb.com/