倍精度浮動小数点の英語

単精度あるいは倍精度の 浮動小数点型('float' および 'double') true/false のいずれかの値をとる 論理型('boolean')例文帳に追加

Floating-point decimals of single or double precision ('float' and 'double') Booleans for true/false values ('boolean')発音を聞く  - PEAR

この型は、計算機レベルで倍精度とされている浮動小数点を 2 つ一組にして複素数を表現します。例文帳に追加

These represent complex numbers as a pair of machine-level double precision floating point numbers. - Python

単精度浮動小数点データおよび倍精度浮動小数点データを扱うプロセサにおいて、新しい単精度浮動小数点データの格納方式を提案し、バイパス機能のための依存関係検出回路を構成するハードウェア量を可能な限り低減すること。例文帳に追加

To reduce as much as possible a hardware volume constituting a dependence detecting circuit for a bypass function by proposing a new single-precision floating-point data storing method concerning a processor treating the single-precision floating-point data and double-precision floating-point data. - 特許庁

浮動小数点コウプロセッサとメモリとの間で、倍精度ワード及び／又は複数対の単精度ワードをロードすると共に記憶し、その上にＣＰＵ（２０１）内の整数レジスタ内で浮動小数点ユニット（２６５）における２つの浮動小数点数を比較したブール結果を記憶する例が与えられている。例文帳に追加

Then, double precision words and/or plural pairs of single precision words are loaded and stored between a floating point co-processor and a memory, and a Boolean result obtained by comparing two floating points in a floating point unit 265 is stored in an integer register in a CPU 201. - 特許庁

浮動小数点演算における単精度演算と倍精度演算の精度保証を効率的に行い、オーバーヘッドや解析処理の無駄の発生を回避する。例文帳に追加

To avoid the waste of overhead and analytic processing by efficiently performing the precision assurance of a single precision operation and a double precision operation in a floating-point operation. - 特許庁

Double コンバータを「パレット」から「テキストフィールド」コンポーネントにドラッグします。 このコンバータは、「テキストフィールド」コンバータが文字列よりも倍精度浮動小数点オブジェクトを返すように指定します。例文帳に追加

Drag the Double Converter from the Palette onto the Text Field component.This converter specifies that the Text Field component returns a Double object rather than a String.発音を聞く  - NetBeans

倍精度浮動小数点数で構成した場合よりも装置規模が小さく、かつ十分な演算精度で演算可能な画像再生処理手段を備えた合成開口レーダ装置を得る。例文帳に追加

To provide a synthetic aperture radar system which has a smaller system size than one constructed by double-precision floating point numbers and has an image reproduction processing means which can perform calculations with sufficient calculation accuracy. - 特許庁

例えば、Python の浮動小数点型がIEEE754 倍精度数型になっているプラットフォームを仮定すると、-1e-100 % 1e100 は 1e100 と同じ符号になるはずなのに、計算結果は -1e-100 + 1e100 となります。 これは数値計算的には厳密に 1e100 と等価です。例文帳に追加

For example, and assuming a platform on which a Python float is an IEEE 754 double-precision number, in order that -1e-100 % 1e100have the same sign as 1e100, the computed result is -1e-100 + 1e100, which is numerically exactly equal to 1e100. - Python