11
голосов
9ответов
1811 просмотров

How to use TDD correctly to implement a numerical method?

I am trying to use Test Driven Development to implement my signal processing library. But I have a little doubt: Assume I am trying to implement a sine method (I'm not): Write the test (pseudo-code) assertEqual(0, sine(0)) Write the first implementation function sine(radians) return 0...

10
голосов
8ответов
7687 просмотров

Ruby implementation is_numeric? for Strings, need better alternatives

I wanted to validate 'numericality' of a string (its not an attribute in an active-record model). I just need it to be a valid base 10, positive integer string. I am doing this: class String def numeric? # Check if every character is a digit !!self.match(/\A[0-9]+\Z/) end end class ...

4
голосов
4ответов
3687 просмотров

What's the smallest non-zero, positive floating-point number in Perl?

I have a program in Perl that works with probabilities that can occasionally be very small. Because of rounding error, sometimes one of the probabilities comes out to be zero. I'd like to do a check for the following: use constant TINY_FLOAT => 1e-200; my $prob = calculate_prob(); if ( $prob ...

6
голосов
8ответов
921 просмотров

Has arbitrary-precision arithmetic affected numerical analysis software?

Has arbitrary-precision arithmetic affected numerical analysis software? I feel that most numerical analysis software keeps on using the same floats and doubles. If I'm right, I'd love to know the reason, as in my opinion there are some calculations that can benefit from the use of arbitrary-pr...

9
голосов
10ответов
12926 просмотров

Why do these division equations result in zero?

The result of all of the division equations in the below for loop is 0. How can I get it to give me a decimal e.g.: 297 / 315 = 0.30793650793650793650793650793651 Code: using System; namespace TestDivide { class Program { static void Main(string[] args) { ...

7
голосов
7ответов
4035 просмотров

Identifying common periodic waveforms (square, sine, sawtooth, ...)

Without any user interaction, how would a program identify what type of waveform is present in a recording from an ADC? For the sake of this question: triangle, square, sine, half-sine, or sawtooth waves of constant frequency. Level and frequency are arbitrary, and they will have noise, small...

1
голосов
2ответов
186 просмотров

Существуют ли какие-либо библиотеки .NET Graphics Calculate?

Я хочу найти библиотеку вычислений, а не библиотеку чертежей, чтобы помочь мне выполнить некоторые графические вычисления, такие как длина Безье, точка на Безье или другие метаданные. Есть ли такая библиотека?

6
голосов
2ответов
6659 просмотров

Решатель QP для Java

Мне нужен хороший, простой в использовании решатель квадратичного программирования (QP) на основе Java. Погуглив, я наткнулся на ojAlgo ( http://ojalgo.org ). Однако мне было интересно, есть ли другие / лучшие альтернативы.

4
голосов
2ответов
513 просмотров

GCC дает разные численные результаты с -O0 и -O2

Я использую 4.1.2. Есть ли у кого-нибудь идеи, какие места в моем коде лучше всего искать? Опыт работы с общими причинами? Я работаю над устранением некоторых уродливых приведений указателей (например, d = (double) (* (float *) p), где p - указатель на int), но пока безуспешно. Как бы то ни был...

5
голосов
3ответов
1706 просмотров

64-битный числовой тип Haskell

Я пишу функцию на Haskell, которая работает с числами, превышающими длину 32-битного int. Я не могу найти подходящего типа и, похоже, ищу неправильные термины. Он должен иметь возможность хранить числа длиной около 2 ^ 40 без потери точности Пример: addTwo :: Int -> Int -> Int add...

4
голосов
2ответов
595 просмотров

Что делать с «Предполагаемый тип менее полиморфен, чем ожидалось»?

Мне нужна библиотека Numeric.FAD, хотя экзистенциальные типы все еще меня озадачивают. Это код: error_diffs :: [Double] -> NetworkState [(Int, Int, Double)] error_diffs desired_outputs = do diff_error <- (diff_op $ error' $ map FAD.lift desired_outputs)::(NetworkState ([FAD.Dual tag ...

0
голосов
2ответов
716 просмотров

Точность ЖЕЕВ и ЖЕЕВД

Я использую LAPACK для диагонализации сложных эрмитовых матриц. Могу выбирать между ЖЕЕВ и ЖЕЕВД. Какая из этих процедур более точна для матриц размера 40 и диапазона собственных значений от 1E-2 до 1E1?

5
голосов
8ответов
1442 просмотров

Наиболее точное вычисление ординат пересечения линий с поплавками?

Я вычисляю ординату y точки на прямой с заданной абсциссой x. Линия определяется координатами двух конечных точек (x0, y0) (x1, y1). Координаты конечных точек являются числами с плавающей запятой, и для использования в графическом процессоре вычисления должны выполняться с точностью до чисел с п...

46
голосов
12ответов
43196 просмотров

Как определить стандартное отклонение (stddev) набора значений?

Мне нужно знать, находится ли число по сравнению с набором чисел за пределами 1 стандартного отклонения от среднего и т. д.

76
голосов
7ответов
79034 просмотров

Какой диапазон чисел может быть представлен в 16-, 32- и 64-битных системах IEEE-754?

Я немного знаю о том, как представлены числа с плавающей запятой, но, боюсь, недостаточно. Общий вопрос: Для заданной точности (для моих целей количество точных десятичных знаков в базе 10), какой диапазон чисел может быть представлен для 16-, 32- и 64-разрядных систем IEEE-754? В ч...

0
голосов
1ответов
3915 просмотров

Дробь Matlab с плавающей запятой

После использования функции «решить» для уравнения с одной переменной кажется, что Matlab не любит использовать плавающую точку. Итак, мой ответ: ans = -2515439103678008769411809280/29019457930552314063110978530889-1/232155663444418512504887828247112*134794659757223847947978500905942386311445...

0
голосов
2ответов
338 просмотров

Сортировка числовых данных по алфавиту

Есть ли ситуации, когда полезно сортировать числовые данные по алфавиту? например, для 111 12 2 при сортировке по возрастанию укажите: 111 12 2

7
голосов
2ответов
3770 просмотров

Есть ли способ уменьшить точность scipy / numpy, чтобы уменьшить потребление памяти?

В моей 64-битной системе Debian / Lenny (4 ГБ ОЗУ + 4 ГБ раздел подкачки) я могу успешно: v=array(10000*random([512,512,512]),dtype=np.int16) f=fftn(v) но с f, равным np.complex128, потребление памяти шокирует, и я не могу ничего сделать с результатом (например, модулировать коэффициенты,...

7
голосов
6ответов
3248 просмотров

Как выполнить численное интегрирование с волновой функцией квантового гармонического осциллятора?

Как выполнить численное интегрирование (какой численный метод и какие приемы использовать) для одномерного интегрирования в бесконечном диапазоне, когда одна или несколько функций в подынтегральном выражении являются 1d квантовый гармонический осциллятор волновые функции. Среди прочего я хоч...

11
голосов
5ответов
9666 просмотров

Численное решение нелинейных уравнений

Мне нужно решить проблемы нелинейной минимизации (наименьших квадратов остатка N неизвестных) в моей программе на Java. Обычным способом решения этих проблем является алгоритм Левенберга-Марквардта . У меня есть пара вопросов Есть ли у кого-нибудь опыт работы с различными доступными реализ...

1
голосов
7ответов
1028 просмотров

Ищу интегратора / решателя ODE со спокойным отношением к производной точности

У меня есть система ODE (первого порядка) с довольно дорогими для вычисления производными. Однако производные могут быть вычислены значительно дешевле с точностью до заданных границ погрешности, либо потому, что производные вычисляются из сходящегося ряда и границы могут быть установлены на м...

38
голосов
5ответов
79019 просмотров

Числовые символы SQL ORDER

У меня есть столбец чисел, сохраненный как символы. Когда я делаю ORDER BY для этого столбца, я получаю следующее: 100 131 200 21 30 31000 и т. д. Как я могу заказать эти символы по цифрам? Мне нужно что-то преобразовать или для этого уже есть команда или функция SQL? Спасибо.

6
голосов
2ответов
1721 просмотров

Эффективная оценка гипергеометрических функций

Есть ли у кого-нибудь опыт работы с алгоритмами оценки гипергеометрических функций? Мне были бы интересны общие ссылки, но я опишу свою конкретную проблему на случай, если кто-то с ней справился. Моя конкретная проблема заключается в оценке функции вида 3F2 (a, b, 1; c, d; 1), где a, b, c и d...

21
голосов
11ответов
30891 просмотров

Производные на C / C ++?

У меня есть несколько выражений, например x^2+y^2, которые я хотел бы использовать для некоторых математических вычислений. Одна из вещей, которые я хотел бы сделать, - это взять частные производные от выражений. Итак, если f(x,y) = x^2 + y^2, то частичное значение f по отношению к x будет 2x...

1
голосов
2ответов
2216 просмотров

MATLAB: Использование решателей ODE?

Это действительно простой вопрос, но я впервые использовал MATLAB и застрял. Мне нужно смоделировать простую последовательную RC-сеть, используя 3 различных метода численного интегрирования. Думаю, я понимаю, как использовать решатели од, но понятия не имею, как ввести дифференциальное уравнение...

-2
голосов
8ответов
1508 просмотров

Кто-нибудь знает, где живет хороший постоянный список окон

Я пытаюсь установить недопустимое значение на -1 .. Но мне не нравятся магические числа ... Кто угодно знает, где найти набор общих констант. Я работаю в VS6 (иш). Я пытаюсь прочитать файл по сети, и мне нужно неверное значение для общего размера файла, поэтому я знаю, есть ли у меня достовер...

17
голосов
4ответов
23918 просмотров

Библиотека наименьших квадратов C #

Я хочу выполнить полиномиальную регрессию методом наименьших квадратов и ищу библиотеку C # для выполнения расчетов за меня. Я передаю точки данных и степень полинома (2-го порядка, 3-го порядка и т. д.), и он возвращает либо значения констант C0, C1, C2 и т. д., либо «прогнозы» вычисленных з...

1
голосов
3ответов
1070 просмотров

Использование GNU Scientific "multimin" для поиска всех локальных минимумов

В научной библиотеке GNU есть многомерная функция минимизации. рамки. Однако в его предостережениях прямо говорится, что при использовании функции с несколькими разными локальными минимумами она просто возвращает одно произвольное решение. Кто-нибудь знает, как можно адаптировать его, чтобы он...

3
голосов
2ответов
2658 просмотров

Библиотека C для поиска локальных максимумов?

Я пытаюсь написать приложение для анализа звука, и мне нужно определить локальные максимумы в 2D-массиве, представляющем спектрограмму. У меня уже есть библиотека с открытым исходным кодом, которая может генерировать спектрограмму с помощью быстрых преобразований Фурье, но мне было интересно, зн...

23
голосов
7ответов
3667 просмотров

Когда использовать фиксированную точку в наши дни

Для интенсивной обработки чисел я рассматриваю возможность использования фиксированной точки вместо плавающей. Конечно, будет иметь значение, сколько байтов имеет размер типа с фиксированной точкой, на каком процессоре он будет работать, могу ли я использовать (для Intel) MMX или SSE или какие-т...