Tag: 浮点

浮点除法器硬件实现细节

我试图在硬件中实现一个32位浮点硬件分频器,我想知道是否可以得到任何关于不同algorithm之间权衡的build议? 我的浮点单元当前支持乘法和加法/减法,但是我不打算将它切换到融合的乘加(FMA)浮点体系结构,因为这是一个embedded式平台,我试图最小化面积使用。

范围值pseudocolor

我有一个浮点数(在Python中),可能范围从0到100.我想创build一个伪彩色图像,以便颜色从绿色(对应于0)到红色(100)不等。 这与matplotlib中的pcolor类似。 但是,我不想使用pcolor。 是否有像pseudocolorForValue(val,(minval,maxval))这样的函数返回与“val”的伪色值对应的RGB三元组? 另外,这个function是否有灵活性来select从绿到红还是从红到绿的颜色? 谢谢,Nik

与bash中的variables浮点比较

我想比较一个浮点variables到一个整数。 我知道这不是最好的与bash,但我的整个脚本已经写在bash中。 $数字可以是任何整数。 如果它低于或等于50,我想输出1,对于所有其他我想用另一个variablesk输出。 这是我迄今为止: number=43 test=$(echo "scale=2; $number/50" | bc -l) echo "$test" for k in {1..5} do if ["$test" -le 1] then echo "output" elif ["$test" -gt $k] then echo "output$k" fi done 如果我尝试testing= 0.43,第一个循环甚至不工作。 我认为它必须做一个整数和浮点比较,但不能使其工作。 我错过了什么? PS:这个[0.43: command not found是terminal输出的。

如何正确和标准地比较花车?

每当我开始一个新的项目,当我需要比较一些浮点或双variables,我写这样的代码: if (fabs(prev.min[i] – cur->min[i]) < 0.000001 && fabs(prev.max[i] – cur->max[i]) < 0.000001) { continue; } 然后我想摆脱这些魔术variables0.000001(和0.00000000001为双)和晶圆厂,所以我写了一个内联函数和一些定义: #define FLOAT_TOL 0.000001 所以我想知道有没有这样做的标准方法? 可能是一些标准的头文件? 有浮动和双重限制(最小值和最大值)

在python漂浮容易漂亮的打印?

我有一个花车列表。 如果我只是简单地print它,就会显示如下: [9.0, 0.052999999999999999, 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006] 我可以使用print "%.2f" ,这将需要一个for循环遍历列表,但是然后它不适用于更复杂的数据结构。 我想喜欢的东西(我完全是这样) >>> import print_options >>> print_options.set_float_precision(2) >>> print [9.0, 0.052999999999999999, 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006] [9.0, 0.05, 0.03, 0.01, 0.06, 0.08]

如何在JavaScript中舍入数字?

在一个项目上工作的时候,我碰到了一个由前员工创build的JS脚本,它基本上以。的forms创build了一个报告 Name : Value Name2 : Value2 等等 这个标志是这个值有时候可能是漂浮的(不同的精度),整数,甚至是2.20011E+17的forms。 我想要输出的是纯粹的整数。 不过,我不太了解JavaScript。 我将如何去写一个方法,使这些有时浮动,使他们整数?

如何检查一个浮点值是否是一个整数

我正试图find最大的立方体根,是一个整数,即不到12000。 processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not 我不知道如何检查是否是一个整数或通过! 我可以将它转换为一个string,然后使用索引来检查最终值,看看他们是否为零,这似乎相当繁琐,但。 有一个更简单的方法吗?

浮点除法与浮点乘法

编码是否有任何(非微型优化)性能增益? float f1 = 200f / 2 与…相比 float f2 = 200f * 0.5 几年前我的一位教授告诉我,浮点数的分割比浮点数的乘法要慢,但没有详细说明原因。 这个声明是否适用于现代PC架构? UPDATE1 关于评论,请也考虑这种情况: float f1; float f2 = 2 float f3 = 3; for( i =0 ; i < 1e8; i++) { f1 = (i * f2 + i / f3) * 0.5; //or divide by 2.0f, respectively } 更新2从评论引用: […]

提取尾数和指数从双c#

有没有什么简单的方法来获得尾数和指数从双c#(或一般的.NET)? 我发现这个例子使用谷歌,但我不知道它将是多么强大。 在一些未来的框架版本中,是否可以使用二进制表示来改变? 我发现的另一种select是使用System.Decimal而不是double,并使用Decimal.GetBits()方法来提取它们。 有什么build议么?

将string转换为浮动在苹果的Swift中

我试图转换从UITextField,我认为,实际上是string采取的数字,并将其转换为浮动,所以我可以乘以它们。 我有两个UITextfield ,声明如下: @IBOutlet var wage: UITextField @IBOutlet var hour: UITextField 当用户按下UIButton时,我想计算用户挣的工资,但是我不能,因为我需要先将它们转换为浮动,然后才能使用它们。 我知道如何通过这样做将它们转换为一个整数: var wageConversion:Int = 0 wageConversion = wage.text.toInt()! 但是,我不知道如何将它们转换为浮动。