Правда подтверждения от Гислера не последовало. Действительно тотал именно так округляет? И что именно он делает - округляет или отбрасывает незначащие цифры?It seems that the rule is: if number<1 then 2 significant digits; if 1<=number<10 then 1 significant digit; if number>=10 then no significant digits
Проблемы округления типа ft_numeric_floating в Тотале
Модераторы: d-view, Моторокер, Avada, CaptainFlint, Nik
Проблемы округления типа ft_numeric_floating в Тотале
Вылизываю я тут свою библиотеку работы с wdx, и сталкиваюсь с разными проблемами. Часть я конечно решил, но встречаются различные ньюансы, об одном из которых я бы хотел поговорить. Это тип данных ft_numeric_floating (64-bit floating point variable (ISO standard double precision)). Плагин (в данном случае wdx4i.wdx) возвращает 1.25 , но тотал показывает 1.3 (то есть видимо радикально округляет). На английском форуме я нашел обсуждение этой проблемы (которое началось еще в 2005 году!). Короче судя по ответам (в том числе самого Гислера) так и было задумано. Но тогда непонятно, как должна возвращать значение моя утилита - так же округляя, как и тотал (в целях совместимости)? Но как именно тотал округляет? Один пользователь высказал предположение
wdx4i и округление обсуждалось здесь
Так в том то и фишка, что плагин не округляет!
Это самодеятельность Гислера, плагин тут ни при чем. Единственная вина плага в том, что он возвращает данные типа ft_numeric_floating, в то время как ImgSize возвращает значение "Aspect Ratio" в виде ft_string (то есть простой строкой).Притом, похоже, это чья-то самодеятельность
Да я в принципе разобрался (буду округлять как тотал), просто в процессе работы выплывает столько глюков как в плагах, так и в тотале (хотя Гислер такое странное округление глюком не считает), что я вообще удивляюсь, как это всё работает (не иначе как на честном слове). Как говорится, всё держится на сплошных соплях 
(я имею в виду некоторые плагины). Я себе пока не представляю, как моя утиль будет работать с этими глюковатыми поделками 
(так что поддержку всех wdx плагов я не гарантирую). Я стараюсь работать с плагами в строгом соответствии с СДК.
(я имею в виду некоторые плагины). Я себе пока не представляю, как моя утиль будет работать с этими глюковатыми поделками (так что поддержку всех wdx плагов я не гарантирую). Я стараюсь работать с плагами в строгом соответствии с СДК.