如何在C ++中同时使用32位和64位浮点数
How to have both 32bit and 64bit float in C++

我有一个文件规范(此处:http://www.septentrio.com/secure/asterx1v_2_1/SBF%20Reference%20Guide.pdf),其字段标记为32位和64位浮点数(请参阅第8页)。 如何在...中使用两个宽度?

替换数学表达式中的整数
Replacing integers in a mathematical expression

我在txt文件中有一个很大的数学表达式,看起来像这样,Z3N = -24 * y [1] * r * pow(EXP,-2.0 * phi)* y [5] * y [5] +(32 * r-44 * y [1] * r + 32 * r * y [4])仅更长。 我想做的是......

python 2.7强制向上舍入2位小数
python 2.7 force round up 2 decimal places

我试图强制浮点数向上舍入到小数点后2位。 我知道这不是最好的做法,但这正是我正在努力的程序所需要的。 例如:100.00 = 100.00 100.001 = ...

setprecision不显示数字
setprecision does not show digits

我有以下函数片段:bool A_AbstractTester_Actor :: Equals(int lineNumber,T_String valueText,double value,T_String expectedText,double expected,double accuracy){......

在64位(并使用浮动代替)处理器上不使用double有什么好处吗?
Is there any benefit of not using double on a 64bit (and using, say, float instead) processor?

我总是使用double来进行计算,但是double提供了比我需要的更好的精度(或者有意义,考虑到我做的大部分计算都是接近开始的)。 但是由于 ...

浮点问题:C ++到C#迁移
Floating point issue: C++ to C# migration

我正在开发一个C ++到C#的迁移项目。 我遇到了一个涉及浮点运算的问题。 在C ++中,有一个函数int doubleToInt(double d){return(int)(d> = ...

32位IEEE单精度计算机编号
32-bit IEEE single precision computer number

32位IEEE单精度计算机编号10111000111001100110011001100110的十进制值是多少? 我明白我必须拆分二进制文件:1 01110001和11001100110011001100110 ......

对不同大小的浮点值执行算术运算
Performing arithmetic on floating point values of different sizes

如果一个浮点变量有5位数,其他浮点数有4位,并且对它们执行算术运算,我的代码就不会像我预期的那样运行。 例如:def capacity(self):mmax = self.mmax ....

如何在TCL中创造价值“长双”?
How do I make value "long double" in TCL?

如何在TCL中创造价值“长双”? C / C ++后缀“L”不起作用:%expr pow(2.0L,63)表达式“pow(2.0 _ @ _ L,63)”中的无效字“L”; 应为“$ L”或“{L}”或“L(...)”或......

is_numeric错误地标识浮点(这是一个随机字符串)
is_numeric incorrectly identifies a float (which is a random string)

我正在寻找变量中的数字,如果没有找到我引用字符串 - 否则它是不加引号。 示例:$ x ='000916846E38516'; if(is_numeric($ x)){echo'Numeric!'; } else {echo'...

pandas:类型转换返回不正确的值
pandas: type conversion returning incorrect value

我有一个如下所示的DataFrame:值总值cbase 2019这里有一个更好的值:>>> df.values [[2019.]] >>> df.dtypes值总计......

C中的多个动态浮点格式说明符
Multiple dynamic float format specifier in C

碰巧我多次使用浮点变量,必须将它们打印出来,并使用一定数量的小数位进行格式化。 我知道在C中你可以很容易地格式化浮动......

VS2013:浮点数和/ EHa + / fp的编译器错误:严格?
VS2013 : compiler bug with float and /EHa + /fp:strict?

我们刚刚从VS2010迁移到VS2013,我发现了一个奇怪的错误,我想知道它可能是由于编译器造成的。 使用命令行cl ConsoleApplication1.cpp / EHa / fp:strict / O2编译以下内容......

如何处理高位数的计算?
How to process calculations with a high digit numbers?

当我想处理大小数字时,我必须对C中的值进行求和/比较吗? #include <stdio.h> #include <math.h> int main(void){if(1.0 +(1 / pow(10,50))== 1.0)...

iOS:float16_t在模拟器上不起作用
iOS: float16_t does not work on simulator

我尝试在我的iOS应用程序中使用float16_t类型来节省内存空间。 它似乎在设备上完美运行,但它不是在模拟器上构建的。 在模拟器构建中,它以未知类型失败...

将float转换为hex会导致C#中的数字超过预期?
Converting float to hex results in more digits than expected in C#?

我要将C#浮点数转换为2个字节,例如我的数字为12.4544,它应该是0x4147,或者是0x41474539,我使用了bitconverter.doubletoInt64,但它给了我一些东西......

浮点计算和舍入
Floating point computations and rounding

我想我在某处读到了cpu的“以50位进行一些浮点计算,以便它们可以正确地向下舍入到32位”。 我认为这意味着计算的中间值......

两个十进制浮点数在单元格中变为多个小数
Two decimal float changing to many decimals in cell

我在NameValueCollection中有一个值为.22的值。 该值被加载到float fValue中。 将其写入Excel时,调试中的值为fValue = 0.22。 InvoiceWs.Cells [“I”+ iRow.ToString()...

方法java.util.ArrayList.add(int,java.lang.Float)不适用
method java.util.ArrayList.add(int,java.lang.Float) is not applicable

我想通过.add()方法向float ArrayList添加一个浮点值。 但是,我收到此错误...没有为add(double)方法找到合适的方法java.util.ArrayList.add(int,java.lang ....

将浮点数保存到C#中的二进制文件并在C中打开
Saving a float to a binary file in C# and opening in C

我目前正在创建一个应用程序,需要将一个浮点值数组保存到C#中的二进制文件,然后打开相同的二进制文件并检索C程序中的值。 我正在使用......

将十六进制转换为IEEE-754单精度浮点二进制科学计数法
Convert hexadecimal to IEEE-754 single precision floating point binary scientific notation

我试图将这些数字转换为二进制科学符号,但我无法弄清楚这个过程。 有人可以请求解决这个问题的过程吗? 对于IEEE 754单精度......

Android中浮动增量的问题
issue with float increment in Android

我试图每次增加浮点值0.1。 但是有一段时间我得到了非常奇怪的结果。 float kmVal = 0.0f; EditText kms =(EditText)findViewById(R.id.km); kmVal = Float ....

Javascript在添加时添加额外的精度[重复]
Javascript adding extra precision when doing additions

可能重复:JavaScript的数学是否被破坏? 任何想法为什么:(872.23 + 2315.66 + 4361.16)== 7549.05在Javascript控制台(例如Chrome Developer控制台)中返回false? 如果我试试......

在C#中浮动到十进制转换
Float to Decimal Conversion in C#

int i = 1; // -2,147,483,648到2,147,483,647 float f = 2.1f; // -3.402823e38至3.402823e38 long l = 3; // -922337203685477508至922337203685477507 double dbl = 4.5; // -1 ....

MIPS浮点添加
MIPS floating point add

我正在尝试创建一个简单的函数,添加到MIPS中作为参数传递的浮点数。 以前我做了一个简单的代码添加整数:移动v0,a0添加v0,v0,a1 j ra复制...

PHP中的MySQL插入在float(3,1)中总是得到“0”作为十进制
PHP MySQL insert in float(3,1) always get "0" as decimal

我想在我的数据库的FLOAT(3,1)列中插入此值:$ sec ['votos_rating'] = 5 +($ sec ['votos_pos'] *(5 / $ sec ['votos_total'])) - ($ sec ['votos_neg'] *(5 / $ sec ['votos_total'])); 但是我 ...

无法将IEEEReal.rounding_mode统一为真实
Can't unify IEEEReal.rounding_mode with real

当我尝试将real转换为这样的int时,为什么会出现错误? 有趣的东西a = Real.toInt一个错误:错误 - 无法统一IEEEReal.rounding_mode与真实(不同类型构造函数)发现...

更改关联性时,答案略有不同
Slightly different answers when changing associativity

通过以下简单的C ++练习#include <iostream> using namespace std; int main(){int euro,cents_v1,cents_v2,do_again; 双倍价格; do_again = 1; 而(...

为什么Math类中的nextUp方法会跳过某些值?
Why does nextUp method in Math class skips some values?

我只是搞乱这个方法来看看它做了什么。 我创建了一个值为3.14的变量,因为它在那个实例中出现了。 双n = 3.14; 的System.out.println(数学​​....

我不能从PHP的圆形()得到我需要的结果
I can't get the result I need from PHP's round()

我无法使round()函数正常工作。 这是我目前正在做的事情:if($ con2 ==“sf”){$ formula = $ num * 0.00694444; $ formula = round($ formula); $ result = $ num。 $ si。 ...

python float division不起作用
python float division does not work

我有一个python代码,我希望从矩阵的两个元素的浮点划分。 我尝试了float()和未来的导入部门,但没有一个能够工作。 这是我的代码。 来自__future__进口部门......

圆形的带有小数的浮点数
Rounded of a float with a decimal

有人知道是否有一种方法,以便在纪念之后围绕一个浮动两个数字。 示例:10.28000 - > 10.3 13.97000 - > 14.0 5.41000 - > 5.4非常感谢! 此致,塞巴斯蒂安;)......

将IEEE-754双精度和单精度转换为十进制Java错误
Converting IEEE-754 double and single precision to decimal Java bug

所以我目前正在研究一种程序,它将IEEE-754单精度和双精度浮点数转换为十进制数。 该程序抛出了java.lang.NumberFormatException。 一世 ...

如何在MASM中找到浮点数组的平均值?
How do i find the average of a floating point array in MASM?

我明天有一个作业,我需要找到一个数组中浮点值的平均值。 我似乎无法在书中或关于转换的笔记中找到任何相对有用的东西......

确定浮点数是否是另一个浮点数的倍数?
Determine if a floating point number is a multiple of another floating point number?

我需要使用JavaScript确定浮点数是否是另一个浮点数的倍数。 我已经阅读了一些关于浮点数的其他问题,我已经了解到它们......

将float转换为PHP中的字节数组
Convert float to array of bytes in PHP

我需要将浮点值转换为4个字节。 在javascript中我通常使用以下代码:var farr = new Float32Array(1); farr [0] = 26.75; var barr = new Int8Array(farr.buffer); 安慰....

C语言中十进制数的计算错误
Wrong calculation for decimal amount in C language

我正在尝试计算浮点数中的小数,但如果输入为“0.01”则不会计算。 但是,它将计算输入是否为“0.02”但计算错误。 这是代码:#...

如何检查double的小数部分是否包含特定数字?
How do I check whether a double's decimal part contains a specific number?

在Java中是否可以获得小数点后的double值? 如果小数部分为6(如双数= 1.6,或2.6或98.6),我希望我的代码产生错误消息。 如果是 ...

为什么这两个片段会产生不同的价值?
Why these two snippets generate different value?

当我运行以下代码时:#include <stdio.h> int main(){int i = 0; volatile long double sum = 0; for(i = 1; i <50; ++ i)/ * first snippet * / {sum + =(long ...

两个数字之间的随机浮动百分比机会?
Random float between two numbers with percentage chances?

我知道标题不是很清楚我想要实现什么,所以我将更深入地解释我想要实现的目标。 我有一个方法可以在两个数字之间返回一个浮点数看起来......

用hasrsine和float计算距离...有点工作
distance calculation with haversine and float... kinda working

我正在使用一个半字查询来提取离移动应用程序提供的最靠近纬度/经度的位置。 查询如下所示:SELECT *,(((acos(sin(($ latitude * pi()/ 180))* sin((`lat` * pi()/ 180))+ cos((...

无法从长时间转换浮动
Can not able to convert float from long

我有代码可以从无符号字节流转换签名值。 我能够做到这一点。 但是,当我试图将它转换为浮动时,它不能简单地转换,但它被四舍五入到下一个...

如何在32位ARMv7上将浮点寄存器推送(和弹出)到堆栈?
How to push (and pop) floating-point registers to the stack on ARMv7 32-bit?

如何在现代ARMv7 32位上将一系列浮点寄存器推送(然后弹出)到堆栈? 特别是,我有兴趣保存然后恢复临时(易失性)浮点数...

C#JSONConvert更改浮点值?
C# JSONConvert Changing float value?

我正在使用JSON使用Web API,其中我带回的对象的一个​​属性是FLOAT类型。 将数据插入数据库后,我开始注意到一些奇怪的结果......

浮点问题。
Floating point issue. JavaScript

基本上我的问题是:为什么我得到130.00000000000003而不是130.0的价值? 我只输出了引擎盖下的所有内容,并希望它足够清晰。 我知道这很有可能......

如何检查浮子是否有两个有效数字?
How can I check if a float has two significant figures?

我正在编写一个单元测试来确定字符串值是否出现2个有效数字,即。 “N.NN”strokeValue = [NSString stringWithFormat:@“%。2f”,someFloatValue]; 我怎么写测试......

如何将浮点数舍入为缩放整数?
How to round floats to scaled integers?

进一步解释我的标题:我有一个浮点数组,我想要舍入,但是,我想将数字四舍五入到一个不是最接近整数的数字。 例如,假设我想要数字......

将带有浮点的txt文件读入二维矩阵
Reading txt file with floats into a 2-D Matrix

我正在尝试阅读“chol.txt”文件,内容为:6 3 4 8 3 6 5 1 4 5 10 7 8 1 7 25使用函数:(其中* ROW和* COL都具有值4)void ReadFile (float *** MATRIX,int * ROW,int * COL)...

预期Float但值是java.lang.Double
Expected Float but value was a java.lang.Double

Activity_A:Intent intent = new Intent(Activity_A.this,Activity_B.class); intent.putExtra(“user_lat”,getSharedPreferences(...

Randrange依赖于变量 - Python
Randrange dependent on variable - Python

我试图为在画布上产生的对象制作随机合作(画布是用户屏幕的大小,因此范围不断变化。)random.randrange(12.5,int(resX-12.5))这就是。 ..
1 2 3 4 5 6 7 101 102