fixed- point numberとは 意味・読み方・使い方

To provide a data processing apparatus and method for converting a number between fixed-point and floating-point representations.例文帳に追加

固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法を提供する。 - 特許庁

To adjust the position of bit width in accordance with a signal value in converting a multicarrier signal from a floating point number to a fixed point number.例文帳に追加

マルチキャリア信号に対して、浮動小数点数から固定小数点数への変換を実行する場合に、信号の値に応じてビット幅の位置を調節したい。 - 特許庁

The bit conversion part 34 converts the multicarrier signal from a floating point number to a fixed point number while using the determined position of the bit width.例文帳に追加

また、ビット変換部３４は、決定したビット幅の位置を使用しながら、浮動小数点数から固定小数点数へマルチキャリア信号を変換する。 - 特許庁

To provide a data processing device and method converting a number between a fixed point display and a floating point display.例文帳に追加

固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法を提供する。 - 特許庁

To provide a vector operation method for a floating-point number which is reduced in processing required for vector product operation of floating-point number and enables applying of arithmetic operation by a fixed-point type DSP.例文帳に追加

浮動小数点数のベクトル積演算に必要な処理が軽減され、固定小数点型ＤＳＰによる演算処理が適用できるようにした浮動小数点数のベクトル演算方法を提供すること。 - 特許庁

The apparatus determines candidate points by repeating processing to each image of a predetermined number of frames, adds one to the candidate number count if the coordinates are the same as those of the stored candidate points, and determines the candidate point, as the fixed feature point, of which the candidate number count becomes not smaller than a predetermined value to eliminate the fixed feature point from the feature point extracted from the latest image.例文帳に追加

所定フレーム分の各画像に対して処理を繰り返して候補点を判定し、記憶した候補点と座標が同一であれば候補数カウントに１を加算し、候補数カウントが所定値以上となった候補点を固定特徴点として決定し、最新の画像から抽出された特徴点から固定特徴点を除去する。 - 特許庁

Consequently, a driver part 122 supplies a fixed number of >1 electronic shutter output pulses 122a to an image pickup part 104 and the exposure is started at a fixed point of time.例文帳に追加

これによりドライバ部122は１回以上の固定された回数の電子シャッタ出力パルス122aを撮像部104に与え、固定された時点からの露光を開始する。 - 特許庁

The constant is expressed by a binary fixed- point number and a plurality of high order bits are consecutively zero.例文帳に追加

定数は２進数の固定小数点数で表されるとともに複数の上位ビットが連続して０になっている。 - 特許庁