Вопросы по теме 'floating-point'
Арифметика действительных чисел на языке общего назначения?
Как (надеюсь) большинство из вас знает, арифметика с плавающей запятой отличается от арифметики с вещественными числами. Это для начала неточно. Многие числа, особенно десятичные (0,1, 0,3), не могут быть представлены, что приводит к таким...
16.12.2023
_ftol2_sse, есть более быстрые варианты?
У меня есть код, который вызывает много
int myNumber = (int)(floatNumber);
который занимает в общей сложности около 10% моего процессорного времени (согласно профилировщику). Хотя я мог бы оставить все как есть, мне интересно, есть ли более...
03.10.2023
x*x != x*x в автопеременной?
Как изменить x * x , сохранив его в «переменной auto »? Я думаю, что он должен оставаться прежним, и мои тесты показывают, что типы, размеры и значения, по-видимому, одинаковы .
Но даже x * x == (xx = x * x) ложно. Что за черт?...
16.10.2023
Округление Excel VBA с двойными числами
Я пытаюсь выполнить очень точный расчет, используя двойные числа, относящиеся к ячейкам на моем листе. Во время тестирования я написал следующий код:
Sub MacroTest()
Dim opt As Worksheet
Set opt = Sheets("Optimisation")
Dim test As Double
test...
12.12.2023
Быстрый способ получить близкое число степени двойки (с плавающей запятой)
В численных вычислениях часто необходимо масштабировать числа, чтобы они находились в безопасном диапазоне.
Например, вычисление евклидова расстояния: sqrt(a^2+b^2) . Здесь, если величина a или b слишком мала/велика, может произойти...
18.10.2023
Преобразование MySQL DECIMAL в шестнадцатеричное представление IEEE с плавающей запятой
Я пытаюсь добавить шестнадцатеричные данные в шестнадцатеричную строку, и мне нужно добавить в эту строку числа с плавающей запятой, используя их представление IEEE. Для целых чисел это достаточно просто:
SET params = CONCAT(params,
CASE...
13.10.2023
Новые материалы
Коллекции публикаций по глубокому обучению
Последние пару месяцев я создавал коллекции последних академических публикаций по различным подполям глубокого обучения в моем блоге https://amundtveit.com - эта публикация дает обзор 25..
Представляем: Pepita
Фреймворк JavaScript с открытым исходным кодом
Я знаю, что недостатка в фреймворках JavaScript нет. Но я просто не мог остановиться. Я хотел написать что-то сам, со своими собственными..
Советы по коду Laravel #2
1-) Найти
// You can specify the columns you need
// in when you use the find method on a model
User::find(‘id’, [‘email’,’name’]);
// You can increment or decrement
// a field in..
Работа с временными рядами спутниковых изображений, часть 3 (аналитика данных)
Анализ временных рядов спутниковых изображений для данных наблюдений за большой Землей (arXiv)
Автор: Рольф Симоэс , Жильберто Камара , Жильберто Кейрос , Фелипе Соуза , Педро Р. Андраде ,..
3 способа решить квадратное уравнение (3-й мой любимый) -
1. Методом факторизации —
2. Используя квадратичную формулу —
3. Заполнив квадрат —
Давайте поймем это, решив это простое уравнение:
Мы пытаемся сделать LHS,..
Создание VR-миров с A-Frame
Виртуальная реальность (и дополненная реальность) стали главными модными терминами в образовательных технологиях. С недорогими VR-гарнитурами, такими как Google Cardboard , и использованием..
Демистификация рекурсии
КОДЕКС
Демистификация рекурсии
Упрощенная концепция ошеломляющей
О чем весь этот шум?
Рекурсия, кажется, единственная тема, от которой у каждого начинающего студента-информатика..