floating-point calculationとは 意味・読み方・使い方

Floating point data are composed of these mantissa part, exponent part and code part and a floating point computing element 14 performs the calculation of Taylor expansion.例文帳に追加

これら仮数部と指数部と符号部とによって浮動小数点データを構成し、浮動小数点演算器１４でテーラー展開の計算がなされる。 - 特許庁

To improve the performance of a processing unit which performs one minus dot product vector floating point calculation.例文帳に追加

１マイナス・ドット積ベクトル浮動小数点計算を行う処理ユニットの性能を向上させる。 - 特許庁

A method includes a calculation step in which a floating-point estimated value relating to a targeted effective value in a set is calculated.例文帳に追加

方法は、セットの対象実効値に関連した浮動小数点予測値を計算するステップを含む。 - 特許庁

In a DSP handling with a floating point arithmetic operation, a calculation instruction, a memory access instruction and a floating point conversion instruction are optimally combined by considering that it is possible to simultaneously execute calculation and floating point conversion, and the floating point conversion processing which has been independently performed just after input in a conventional manner is simultaneously executed by the following filter arithmetic operation.例文帳に追加

ここで、浮動小数点演算を扱えるＤＳＰでは、計算と浮動小数点変換を同時に実行することが可能であることに着目し、計算命令、メモリアクセス命令、浮動小数点変換命令を最適に組み合わせ、従来、入力直後に独立して行っていた浮動小数点変換処理をその後のフィルタ演算で同時に実行する。 - 特許庁

Based on this operation result and a result of calculation of m-root of the power portion of the floating-point numerical value that is the arithmetic object, m-root (m≥2; m is an integer) of the floating-point numerical value is calculated.例文帳に追加

そして、その演算結果と、演算対象である浮動小数点数値の指数部のｍ乗根を演算した結果とに基づいて、浮動小数点数値のｍ乗根（ｍ≧２：ｍは整数）を演算する。 - 特許庁

For an eye accustomed to normalized floating point representations, itis not immediately obvious that the following calculation returns a value equal to zero:例文帳に追加

正規化浮動小数点表現に目が慣れてしまうと、以下の計算でゼロに等しい値が返っているとは即座に分かりません: - Python

To check non-number by reducing a logic dedicated for non-number check processing as much as possible in a control program performing a floating point calculation.例文帳に追加

浮動小数点演算を行う制御プログラムにおいて、非数チェック処理専用のロジックを極力少なくして、非数チェックを可能とする - 特許庁

To shorten the time needed for normalization by accurately detecting a head non-zero position from input of carry propagation addition in a floating-point calculation.例文帳に追加

浮動小数点演算において、キャリー伝播加算の入力から正確に先頭非ゼロ位置を検出し、正規化に要する時間を短くする。 - 特許庁