35
голосов
4ответов
48872 просмотров

Почему Java Double.compare (double, double) реализован именно так?

Я искал реализацию compare (double, double) в стандартной библиотеке Java (6).Он гласит: public static int compare(double d1, double d2) { if (d1 < d2) return -1; // Neither val is NaN, thisVal is smaller if (d1 > d2) return 1; // Neither val is Na...

48
голосов
9ответов
69667 просмотров

Как выполнять побитовые операции с числами с плавающей запятой

Я пробовал это: float a = 1.4123; a = a & (1 << 3); Я получаю сообщение об ошибке компилятора, говорящее, что операнд & не может быть типа float. Когда я: float a = 1.4123; a = (int)a & (1 << 3); Я запускаю программу.Единственное, что побитовая операция в...

7
голосов
4ответов
911 просмотров

Эйлер № 26, как преобразовать рациональное число в строку с большей точностью?

Я хочу получить 1/7 с большей точностью, но оно было усечено.Как повысить точность преобразования рационального числа? >>> str(1.0/7)[:50] '0.142857142857'

2
голосов
7ответов
1098 просмотров

Нижние границы для плавающих точек

Есть ли в C нижние границы для типов с плавающей запятой?Например, есть нижние границы для целочисленных типов (int не менее 16 бит)?

1
голосов
2ответов
365 просмотров

Преобразование представления из десятичного в числа с плавающей запятой - подводные камни

Я работаю над некоторыми функциями финансового приложения.Все числа представлены в виде десятичных знаков без ошибок округления как в коде, так и в базе данных.Однако у меня проблемы с производительностью, и я рассматриваю возможность перехода на числа с плавающей запятой (float / double) в свои...

56
голосов
11ответов
28698 просмотров

Какая максимальная длина в символах необходима для представления любого двойного значения?

Когда я конвертирую 8-битное int без знака в строку, я знаю, что результат всегда будет не более 3 символов (для 255), а для 8-битного int со знаком нам нужно 4 символа, например,«-128». Меня интересует то же самое и для значений с плавающей запятой.Какое максимальное количество символов треб...

2
голосов
5ответов
2040 просмотров

Как мне реализовать .Equals () в моей структуре Vector3?

У меня неизменная структура Vector3, и мне интересно, как лучше всего реализовать метод .Equals (), чтобы он был полезен и по-прежнему удовлетворял Рекомендации по перегрузке Equals () . Вот частичная реализация моей структуры: public struct Vector3 { private float _x; private floa...

5
голосов
9ответов
12558 просмотров

Как распечатать каждый бит числа с плавающей запятой?

Я пытаюсь распечатать каждый бит числа с плавающей запятой в C. Я могу сделать это для целых чисел следующим образом: int bit_return(int a, int loc) // Bit returned at location { int buf = a & 1<<loc; if (buf == 0) return 0; else return 1; } Компилятор не буде...

11
голосов
5ответов
35483 просмотров

Случайное число с плавающей запятой

Я написал эту функцию для получения псевдослучайного числа с плавающей запятой между 0… 1 включительно: float randomFloat() { float r = (float)rand()/(float)RAND_MAX; return r; } Однако он всегда возвращает 0,563585.Одно и то же число независимо от того, сколько раз я запускаю...

3
голосов
6ответов
323 просмотров

Снова с плавающей точкой

Вчера я задал вопрос с плавающей запятой, и у меня есть еще один.Я делаю некоторые вычисления, в которых использую результаты функций синуса, косинуса и тангенса math.h (язык C). Один из разработчиков пробормотал, что вы должны быть осторожны с возвращаемыми значениями этих функций, и что я н...

0
голосов
4ответов
1060 просмотров

парсинг поплавка в строку

У меня такой номер: 4.47778E + 11 Может ли кто-нибудь дать мне способ легко преобразовать это в числовое представление в C #? Спасибо

2
голосов
7ответов
3566 просмотров

Как обойти проблему с десятичной дробью в JavaScript?

Возможные дубликаты: Странная проблема при сравнении чисел с плавающей точкой в объекте C Не работает ли математика JavaScript? 1,265 * 10000 = 126499.99999999999 ????? После просмотра этого я обнаружил, чтов JavaScript: 0.1 + 0.2 === 0.3 принимает значение false...

0
голосов
5ответов
211 просмотров

Какое наименьшее точное представление 1 / (2 ^ x) может быть представлено на языке программирования C?

Какое наименьшее точное представление 1 / (2 ^ x) может быть представлено в языке программирования C?

0
голосов
2ответов
948 просмотров

Чтение значения с плавающей запятой из строки с точностью до 6

Мне нужно прочитать значение с плавающей запятой из строки с точностью до 6, текущий код считывает только первые 6 цифр.Заранее спасибо> template <class T> bool from_string(T& t, const std::string& s, std::ios_base& (*f)(std::ios_base&)) { std::is...

7
голосов
2ответов
2176 просмотров

Найдите минимальное / максимальное значение числа с плавающей запятой / двойной точности, которое имеет такое же внутреннее представление

Обновление с плавающей запятой (также PDF ), IEEE-754 и участие в этом обсуждении округления с плавающей запятой при преобразовании в строки заставило меня поработать: как я могу получить максимальное и минимальное значение для данного плавающего номер точки, двоичные представления которого...

5
голосов
7ответов
955 просмотров

Как справиться с тем фактом, что большинство десятичных дробей не могут быть точно представлены в двоичном формате?

Итак, мы знаем, что дроби, такие как 0,1, не могут быть точно представлены в двоичной базе, что вызывает определенные проблемы (например, упомянутые здесь: Форматирование двойников для вывода на C # ). И мы знаем, что у нас есть десятичный тип для десятичного представления чисел ... но пробл...

33
голосов
7ответов
30414 просмотров

Арифметика с плавающей запятой не дает точных результатов

Мне нужно выполнить арифметические операции с плавающей запятой на Java, как показано в приведенном ниже коде: public class TestMain { private static Map<Integer, Double> ccc = new HashMap<Integer, Double>() { { put(1, 0.01); put(2, 0.02); put(3, 0.05); put(4, 0.1); put(...

4
голосов
6ответов
1885 просмотров

У меня проблема с переполнением с плавающей запятой

Что ж, я новичок, это мой год по специальности информатика. Я пытаюсь сделать упражнение из моего учебника, в котором я использую структуру с именем MovieData, которая имеет конструктор, который позволяет мне инициализировать переменные-члены, когда MovieData структура создана. Вот как выглядит ...

3
голосов
6ответов
4380 просмотров

Как преобразовать число с плавающей запятой в ближайшую дробь, представленную числителем и знаменателем байтов?

Как я могу написать алгоритм, который дает число с плавающей запятой и пытается представить как можно точнее, используя числитель и знаменатель, оба ограничены диапазоном байта Java? Причина в том, что устройству I2C требуются числитель и знаменатель, тогда как имеет смысл дать ему число с пл...

5
голосов
2ответов
4410 просмотров

Почему Perl sprintf неправильно округляет числа с плавающей запятой?

Я искал соглашение об округлении, используемое встроенной функцией Perl sprintf . Я думал, что он выполняет обычное округление (например, ROUND_HALF_UP, как в соглашение о режиме округления в Java ), но дальнейшие исследования показали, что это неверно: > /usr/local/bin/perl5.10.1 -e ...

26
голосов
5ответов
113845 просмотров

Что такое включающий диапазон значений float и double в Java?

Каков включающий диапазон значений float и double в Java? Почему не рекомендуется использовать float или double для всего, что имеет решающее значение?

5
голосов
3ответов
4033 просмотров

Класс Python с целочисленной эмуляцией

Приведен следующий пример: class Foo(object): def __init__(self, value=0): self.value=value def __int__(self): return self.value Я хочу иметь класс Foo , который действует как целое число (или число с плавающей запятой). Итак, я хочу сделать следующее: f=Foo(3...

36
голосов
9ответов
61101 просмотров

Самый быстрый способ обнулить низкие значения в массиве?

Итак, допустим, у меня есть 100 000 массивов с плавающей запятой по 100 элементов в каждом.Мне нужно максимальное количество значений X, НО только если они больше Y. Любой элемент, не соответствующий этому, должен быть установлен в 0. Каким будет самый быстрый способ сделать это в Python?Порядок...

47
голосов
3ответов
11994 просмотров

Double vs float на iPhone

Я только что слышал, что iphone не может выполнять двойную функцию изначально, что делает их намного медленнее, чем обычные плавающие. Это правда?Доказательства? Меня очень интересует эта проблема, потому что моей программе требуются высокоточные вычисления, и мне придется пойти на компром...

24
голосов
7ответов
26616 просмотров

Странная проблема при сравнении чисел с плавающей запятой в объекте C

В какой-то момент алгоритма мне нужно сравнить значение с плавающей запятой свойства класса с плавающей точкой.Итак, я делаю это: if (self.scroller.currentValue <= 0.1) { } где currentValue - это свойство с плавающей запятой. Однако, когда у меня есть равенство и self.scroller.curre...

2
голосов
3ответов
431 просмотров

Почему у чисел с плавающей запятой в конце есть .0, когда это точно целое число?

Прочтите этот вопрос внимательно, потому что я не спрашиваю , как избавиться от завершающих нулей, это просто. Я спрашиваю, почему 123d становится "123.0"? 64-битное число с плавающей запятой IEEE может точно представлять целые числа от 0 до 2 ^ 52, так что это не потеря точности, а решен...

3
голосов
6ответов
3882 просмотров

cosf (M_PI_2) не возвращает ноль

Это началось внезапно сегодня утром. Исходные строки были такими float angle = (x+90)*(M_PI/180.0); float xx = cosf(angle); float yy = sinf(angle); После установки точки останова и наведения курсора .. Я получаю правильный ответ для yy как 1. но xx НЕ равен нулю. Я пробовал с cosf(M...

25
голосов
7ответов
74197 просмотров

php расчет числа с плавающей запятой 2 десятичная точка

Возникла проблема с математическим расчетом. $a = 34.56 $b = 34.55 $a выполните некоторые вычисления, чтобы получить эту цифру $b округляет до ближайшего 0,05, чтобы получить это число происходит то, что $c = $b - $a предположительно -0,01, но я повторяю $c, который показыва...

1
голосов
4ответов
1015 просмотров

Why am I seeing inexact floating-point results in ECMAScript / ActionScript 3?

Hey all, let's jump straight to a code sample to show how ECMAScript/JavaScript/AS3 can't do simple math right (AS3 uses a 'IEEE-754 double-precision floating-point number' for the Number class which is supposedly identical to that used in JavaScript)... trace(1.1); //'1.1': Ok, fine, lo...

75
голосов
6ответов
26803 просмотров

When I divide numbers in clojure I get a fraction , how do I get the decimal?

When I do (/ 411 125) , I don't get it in terms of decimal. How do I do that?