floating-point coefficientとは 意味・読み方・使い方

METHOD AND DEVICE FOR FLOATING-POINT NUMERICAL COEFFICIENT POLYNOMIAL OPERATION, AND RECORDING MEDIUM例文帳に追加

浮動小数点数係数多項式演算方法、その装置および記録媒体 - 特許庁

The fuel correction coefficient CLRN is defined by a floating decimal point type 4-bite length.例文帳に追加

燃料補正係数ＣＬＲＮは浮動小数点型の４バイト長で定義されている。 - 特許庁

An obtained pixel is converted into a floating-point format (520), and the pixel is multiplied by a gain coefficient (530).例文帳に追加

得られたピクセルは、浮動小数点フォーマットに変換され(520)、そのピクセルにゲイン係数が掛けられる(530)。 - 特許庁

A coefficient holding part 135 holds first as a coefficient the value obtained by dividing a floating-pint maximum value Dmax as the maximum value of floating-point data by the maximum difference value DFmax of the whole input file 101 detected by a maximum difference value detection part 106.例文帳に追加

係数保持部１３５は始めに、最大差分値検出部１０６が検出した入力ファイル１０１全体における最大差分値ＤＦｍａｘで浮動小数点データの最大値である浮動小数点最大値Ｄｍａｘ を除算した値を係数として保持する。 - 特許庁

The floating point sum of product arithmetic unit 1050 executes a sum of product arithmetic operation by using the coefficient data, and calculates the value of the optional mathematical function by the Taylor series arithmetic operation.例文帳に追加

浮動小数点積和演算器１０５０は、該係数データを用いて積和演算を実行し、任意の数学関数の値をテーラー級数演算により求める。 - 特許庁

In the calculation of the value of the mathematical function by the Taylor series arithmetic operation, desired coefficient data are acquired from a coefficient table set 10 by using an order number 21 of Taylor series and a set number 22 of the coefficient table, and supplied through a multiplexer 27 to a floating point sum of product arithmetic unit 1050.例文帳に追加

ある数学関数の値をテーラー級数演算で求める際には、テーラー級数の次数番号２１、係数テーブルのセット番号２２を用いて、係数テーブルセット１０から所望の係数データを取得し、それを、マルチプレクサ２７を介して浮動小数点積和演算器１０５０に供給する。 - 特許庁

At an automatic gain control part 13, the scanning cycle is controlled so that the maximum value of the wave height of a digital image signal reaches a target operation point and a floating threshold is determined by multiplying the maximum value of the wave height of the digital image signal by a coefficient.例文帳に追加

自動利得制御部１３では、デジタル映像信号の波高最大値が目標動作点となるよう走査周期が制御され、またデジタル映像信号の波高最大値を係数倍した浮動閾値が求められる。 - 特許庁