SAP R/3 форум ABAP консультантов

[err]

Столкнулся с след. ситуацией. При передаче из типа в тип, можно получить разные данные.

Но нигде не могу найти описание этого момента.

Пример:

[Кодер]

Посмотрите курс BC402 там подробно расписывается что и как конвертируется
А еще, можно почитать вот это

[Shvetz]

Нет там trunc. Везде идет round.
Напишите WRITE l_value2 для наглядности.

Для понимания float читайте курс, который вам посоветовали. А международный совет - вообще float не используйте. Вроде уже с NW 7.01 SAP сделал новые float типы, например, DECFLOAT34, которые себя нормально ведут и не требуют заведомого определения длины.

[err]

Курс почитал... особенно порядовала строка

Внимание: Для вычислений в арифметике с плавающей запятой
используются операции с плавающей запятой соответствующих
процессоров. Поскольку алгоритмы выполняются над двоичными
числами, могут возникать погрешности. Степень и эффект таких
погрешностей не поддаются оценке.

По поводу round\trunc тоже разобрался... round правда, странный ИМХО.

l_value1 TYPE p DECIMALS 5 value '1.755'
0.0 1.8
0.00 1.76
0.000 1.755
0.0000 1.7550

l_value2 TYPE f value '1.755'
0.0 1.8
0.00 1.75
0.000 1.755
0.0000 1.7550

получается, что округление, делается с учетом размерности приемника + 1.
И при float 1,755 которая во представляется внутри как 0.7549999999999999E+00 при преобразовании к 0.00 преобразуют по факту 1.754, а не 1.755

[Armann]

[err]

Согласен.

Я сообственно, отписал, из-за специфичного алгоритма округления. Вдруг кому то поможет...