floating point additionとは 意味・読み方・使い方

To provide an equalize circuit realizing high speed performance by reducing the number of steps of an arithmetic circuit for performing the addition/subtraction of floating point data.例文帳に追加

本発明は、浮動小数点データ加減算を行う演算回路のステップ数を削減し、高速化を実現するイコライズ回路を提供する。 - 特許庁

To realize an arithmetic operation unit having sufficient arithmetic operation accuracy on a floating point number product sum arithmetic operation by an addition of a few circuit scale.例文帳に追加

浮動小数点数積和演算について十分な演算精度を有する演算装置を少ない回路規模の増加で実現する。 - 特許庁

The formed floating-point addition instruction is emulated only with a fixed-point command and processed using only a fixed-point computing element of a processor to form an expectation value (S4).例文帳に追加

作成した浮動小数点加算命令を固定小数点命令のみでエミュレートしプロセッサの固定小数点演算器のみを使用して処理し期待値を作成する(S4)。 - 特許庁

To provide a floating decimal arithmetic unit and a DDA arithmetic processing for achieving floating decimal point DDA processing with high accuracy without canceling significant digits in addition.例文帳に追加

本発明は加算時に桁落ちが発生せず、精度の高い計算が可能な浮動小数点ＤＤＡ処理を実現することが出来る浮動小数点演算器及びＤＤＡ演算処理を提供することを課題とする。 - 特許庁

To provide a floating point remainder computing element, an information processing device, and a computer program, capable of executing floating point remainder computation with addition of small quantity of circuits only by effectively using a floating point adder and an aligner (shifter) which are normally provided on an information processing device such as a processor in a computer.例文帳に追加

本発明は、浮動小数点剰余演算器、情報処理装置及びコンピュータプログラムに関し、計算機のプロセッサ等の情報処理装置に標準で具備されている浮動小数点加算器やアライナ（シフタ）を効果的に流用し、少量の回路を付加するだけで浮動小数点剰余演算を実現可能とすることを目的とする。 - 特許庁

The floating-point converter acquires the exponent part by performing addition and subtraction of the decimal point position data (ESP2) and the shift amount of the fraction part to the integer data.例文帳に追加

前記浮動小数点変換器は、前記整数データに対する仮数部のシフト量と前記小数点位置データ（ＥＸＰ２）との加減算により指数部を取得する。 - 特許庁

Knuthprovides two instructive examples where rounded floating point arithmetic withinsufficient precision causes the breakdown of the associative anddistributive properties of addition:発音を聞く 例文帳に追加

Knuth は、十分でない計算精度の下で値丸めを伴う浮動小数点演算を行った結果、加算の結合則や分配則における恒等性が崩れてしまう例を二つ示しています: - Python

The floating-point adder which performs addition and subtraction of two pieces of given floating-point data codes the large/small relation between data corresponding to clip coordinates and the other given data according to the results of exponent comparison and mantissa comparison between the two pieces of data which are made before the digit matching process of the mantissa parts and the signs of the two pieces of data.例文帳に追加

与えられる２つの浮動小数点データの加算および減算を行なう浮動小数点加算器において、仮数部の桁合わせ処理の前処理で行なわれる２データの指数比較および仮数比較の結果と２データの符号とに基づいて、クリップ座標に対応するデータと与えられた他方のデータとの大小関係をそれぞれコード化する。 - 特許庁