# Все вопросы: [numerical]

36 вопросов

9ответов
1811 просмотров

### How to use TDD correctly to implement a numerical method?

I am trying to use Test Driven Development to implement my signal processing library. But I have a little doubt: Assume I am trying to implement a sine method (I'm not): Write the test (pseudo-code) assertEqual(0, sine(0)) Write the first implementation function sine(radians) return 0...

8ответов
7687 просмотров

### Ruby implementation is_numeric? for Strings, need better alternatives

I wanted to validate 'numericality' of a string (its not an attribute in an active-record model). I just need it to be a valid base 10, positive integer string. I am doing this: class String def numeric? # Check if every character is a digit !!self.match(/\A[0-9]+\Z/) end end class ...

4ответов
3687 просмотров

### What's the smallest non-zero, positive floating-point number in Perl?

I have a program in Perl that works with probabilities that can occasionally be very small. Because of rounding error, sometimes one of the probabilities comes out to be zero. I'd like to do a check for the following: use constant TINY_FLOAT =&gt; 1e-200; my \$prob = calculate_prob(); if ( \$prob ...

8ответов
921 просмотров

### Has arbitrary-precision arithmetic affected numerical analysis software?

Has arbitrary-precision arithmetic affected numerical analysis software? I feel that most numerical analysis software keeps on using the same floats and doubles. If I'm right, I'd love to know the reason, as in my opinion there are some calculations that can benefit from the use of arbitrary-pr...

10ответов
12926 просмотров

### Why do these division equations result in zero?

The result of all of the division equations in the below for loop is 0. How can I get it to give me a decimal e.g.: 297 / 315 = 0.30793650793650793650793650793651 Code: using System; namespace TestDivide { class Program { static void Main(string[] args) { ...

7ответов
4035 просмотров

### Identifying common periodic waveforms (square, sine, sawtooth, ...)

Without any user interaction, how would a program identify what type of waveform is present in a recording from an ADC? For the sake of this question: triangle, square, sine, half-sine, or sawtooth waves of constant frequency. Level and frequency are arbitrary, and they will have noise, small...

2ответов
186 просмотров

### Существуют ли какие-либо библиотеки .NET Graphics Calculate?

Я хочу найти библиотеку вычислений, а не библиотеку чертежей, чтобы помочь мне выполнить некоторые графические вычисления, такие как длина Безье, точка на Безье или другие метаданные. Есть ли такая библиотека?

2ответов
6659 просмотров

### Решатель QP для Java

Мне нужен хороший, простой в использовании решатель квадратичного программирования (QP) на основе Java. Погуглив, я наткнулся на ojAlgo ( http://ojalgo.org ). Однако мне было интересно, есть ли другие / лучшие альтернативы.

2ответов
513 просмотров

### GCC дает разные численные результаты с -O0 и -O2

Я использую 4.1.2. Есть ли у кого-нибудь идеи, какие места в моем коде лучше всего искать? Опыт работы с общими причинами? Я работаю над устранением некоторых уродливых приведений указателей (например, d = (double) (* (float *) p), где p - указатель на int), но пока безуспешно. Как бы то ни был...

3ответов
1706 просмотров

Я пишу функцию на Haskell, которая работает с числами, превышающими длину 32-битного int. Я не могу найти подходящего типа и, похоже, ищу неправильные термины. Он должен иметь возможность хранить числа длиной около 2 ^ 40 без потери точности Пример: addTwo :: Int -&gt; Int -&gt; Int add...

2ответов
595 просмотров

### Что делать с «Предполагаемый тип менее полиморфен, чем ожидалось»?

Мне нужна библиотека Numeric.FAD, хотя экзистенциальные типы все еще меня озадачивают. Это код: error_diffs :: [Double] -&gt; NetworkState [(Int, Int, Double)] error_diffs desired_outputs = do diff_error &lt;- (diff_op \$ error' \$ map FAD.lift desired_outputs)::(NetworkState ([FAD.Dual tag ...

2ответов
716 просмотров

### Точность ЖЕЕВ и ЖЕЕВД

Я использую LAPACK для диагонализации сложных эрмитовых матриц. Могу выбирать между ЖЕЕВ и ЖЕЕВД. Какая из этих процедур более точна для матриц размера 40 и диапазона собственных значений от 1E-2 до 1E1?

8ответов
1442 просмотров

### Наиболее точное вычисление ординат пересечения линий с поплавками?

Я вычисляю ординату y точки на прямой с заданной абсциссой x. Линия определяется координатами двух конечных точек (x0, y0) (x1, y1). Координаты конечных точек являются числами с плавающей запятой, и для использования в графическом процессоре вычисления должны выполняться с точностью до чисел с п...

12ответов
43196 просмотров

### Как определить стандартное отклонение (stddev) набора значений?

Мне нужно знать, находится ли число по сравнению с набором чисел за пределами 1 стандартного отклонения от среднего и т. д.

7ответов
79034 просмотров

### Какой диапазон чисел может быть представлен в 16-, 32- и 64-битных системах IEEE-754?

Я немного знаю о том, как представлены числа с плавающей запятой, но, боюсь, недостаточно. Общий вопрос: Для заданной точности (для моих целей количество точных десятичных знаков в базе 10), какой диапазон чисел может быть представлен для 16-, 32- и 64-разрядных систем IEEE-754? В ч...

1ответов
3915 просмотров

### Дробь Matlab с плавающей запятой

После использования функции «решить» для уравнения с одной переменной кажется, что Matlab не любит использовать плавающую точку. Итак, мой ответ: ans = -2515439103678008769411809280/29019457930552314063110978530889-1/232155663444418512504887828247112*134794659757223847947978500905942386311445...

2ответов
338 просмотров

### Сортировка числовых данных по алфавиту

Есть ли ситуации, когда полезно сортировать числовые данные по алфавиту? например, для 111 12 2 при сортировке по возрастанию укажите: 111 12 2

2ответов
3770 просмотров

### Есть ли способ уменьшить точность scipy / numpy, чтобы уменьшить потребление памяти?

В моей 64-битной системе Debian / Lenny (4 ГБ ОЗУ + 4 ГБ раздел подкачки) я могу успешно: v=array(10000*random([512,512,512]),dtype=np.int16) f=fftn(v) но с f, равным np.complex128, потребление памяти шокирует, и я не могу ничего сделать с результатом (например, модулировать коэффициенты,...

6ответов
3248 просмотров

### Как выполнить численное интегрирование с волновой функцией квантового гармонического осциллятора?

Как выполнить численное интегрирование (какой численный метод и какие приемы использовать) для одномерного интегрирования в бесконечном диапазоне, когда одна или несколько функций в подынтегральном выражении являются 1d квантовый гармонический осциллятор волновые функции. Среди прочего я хоч...

5ответов
9666 просмотров

### Численное решение нелинейных уравнений

Мне нужно решить проблемы нелинейной минимизации (наименьших квадратов остатка N неизвестных) в моей программе на Java. Обычным способом решения этих проблем является алгоритм Левенберга-Марквардта . У меня есть пара вопросов Есть ли у кого-нибудь опыт работы с различными доступными реализ...

7ответов
1028 просмотров

### Ищу интегратора / решателя ODE со спокойным отношением к производной точности

У меня есть система ODE (первого порядка) с довольно дорогими для вычисления производными. Однако производные могут быть вычислены значительно дешевле с точностью до заданных границ погрешности, либо потому, что производные вычисляются из сходящегося ряда и границы могут быть установлены на м...

5ответов
79019 просмотров

### Числовые символы SQL ORDER

У меня есть столбец чисел, сохраненный как символы. Когда я делаю ORDER BY для этого столбца, я получаю следующее: 100 131 200 21 30 31000 и т. д. Как я могу заказать эти символы по цифрам? Мне нужно что-то преобразовать или для этого уже есть команда или функция SQL? Спасибо.

2ответов
1721 просмотров

### Эффективная оценка гипергеометрических функций

Есть ли у кого-нибудь опыт работы с алгоритмами оценки гипергеометрических функций? Мне были бы интересны общие ссылки, но я опишу свою конкретную проблему на случай, если кто-то с ней справился. Моя конкретная проблема заключается в оценке функции вида 3F2 (a, b, 1; c, d; 1), где a, b, c и d...

11ответов
30891 просмотров

### Производные на C / C ++?

У меня есть несколько выражений, например x^2+y^2, которые я хотел бы использовать для некоторых математических вычислений. Одна из вещей, которые я хотел бы сделать, - это взять частные производные от выражений. Итак, если f(x,y) = x^2 + y^2, то частичное значение f по отношению к x будет 2x...

2ответов
2216 просмотров

### MATLAB: Использование решателей ODE?

Это действительно простой вопрос, но я впервые использовал MATLAB и застрял. Мне нужно смоделировать простую последовательную RC-сеть, используя 3 различных метода численного интегрирования. Думаю, я понимаю, как использовать решатели од, но понятия не имею, как ввести дифференциальное уравнение...

8ответов
1508 просмотров

### Кто-нибудь знает, где живет хороший постоянный список окон

Я пытаюсь установить недопустимое значение на -1 .. Но мне не нравятся магические числа ... Кто угодно знает, где найти набор общих констант. Я работаю в VS6 (иш). Я пытаюсь прочитать файл по сети, и мне нужно неверное значение для общего размера файла, поэтому я знаю, есть ли у меня достовер...

4ответов
23918 просмотров

### Библиотека наименьших квадратов C #

Я хочу выполнить полиномиальную регрессию методом наименьших квадратов и ищу библиотеку C # для выполнения расчетов за меня. Я передаю точки данных и степень полинома (2-го порядка, 3-го порядка и т. д.), и он возвращает либо значения констант C0, C1, C2 и т. д., либо «прогнозы» вычисленных з...

3ответов
1070 просмотров

### Использование GNU Scientific "multimin" для поиска всех локальных минимумов

В научной библиотеке GNU есть многомерная функция минимизации. рамки. Однако в его предостережениях прямо говорится, что при использовании функции с несколькими разными локальными минимумами она просто возвращает одно произвольное решение. Кто-нибудь знает, как можно адаптировать его, чтобы он...

2ответов
2658 просмотров

### Библиотека C для поиска локальных максимумов?

Я пытаюсь написать приложение для анализа звука, и мне нужно определить локальные максимумы в 2D-массиве, представляющем спектрограмму. У меня уже есть библиотека с открытым исходным кодом, которая может генерировать спектрограмму с помощью быстрых преобразований Фурье, но мне было интересно, зн...

7ответов
3667 просмотров

### Когда использовать фиксированную точку в наши дни

Для интенсивной обработки чисел я рассматриваю возможность использования фиксированной точки вместо плавающей. Конечно, будет иметь значение, сколько байтов имеет размер типа с фиксированной точкой, на каком процессоре он будет работать, могу ли я использовать (для Intel) MMX или SSE или какие-т...