floating point number typeとは 意味・読み方・使い方

The floating point divider is a binary number subtraction shifting type.例文帳に追加

浮動小数点除算器は、２進数の減算シフト型である。 - 特許庁

To provide a vector operation method for a floating-point number which is reduced in processing required for vector product operation of floating-point number and enables applying of arithmetic operation by a fixed-point type DSP.例文帳に追加

浮動小数点数のベクトル積演算に必要な処理が軽減され、固定小数点型ＤＳＰによる演算処理が適用できるようにした浮動小数点数のベクトル演算方法を提供すること。 - 特許庁

Evaluation of a literal yields an object of the given type (string,integer, long integer, floating point number, complex number) with the given value.例文帳に追加

リテラルを評価すると、指定した型 (文字列、整数、長整数、浮動小数点数、複素数) の指定した値を持つオブジェクトになります。 - Python

When an area of a memory 11, in which the value of the variables var3 are written, is regarded as single precision floating point type data and accessed, the value can be used as a result of the shift operation of the floating point number x.例文帳に追加

ｖａｒ３の値を書き込んだメモリ１１の領域を単精度浮動小数点型データとみなしてアクセスすれば、浮動小数点数ｘのシフト演算の結果として値を利用できる。 - 特許庁

TYPE is made up of one or more of these specifications: a named character c ASCII character or backslash escape d[SIZE] signed decimal, SIZE bytes per integer f[SIZE] floating point, SIZE bytes per integer o[SIZE] octal, SIZE bytes per integer u[SIZE] unsigned decimal, SIZE bytes per integer x[SIZE] hexadecimal, SIZE bytes per integer SIZE is a number.発音を聞く 例文帳に追加

またはサイズを C コンパイラの組み込みデータタイプによっても指定できる。 - JM

The RAM 13 is provided with a storage area for storing fixed point type hot water data, intake air content data, and number of rotation data and a storage area for storing floating point type hot water data, intake air content data, and number of rotation data.例文帳に追加

ＲＡＭ１３は、各々固定小数点型の水温データ、吸入空気量データ、回転数データを格納する記憶領域と、各々浮動小数点型の水温データ、吸入空気量データ、回転数データを格納する記憶領域とを持つ。 - 特許庁

Then, an integer computing unit 13 carries out integer computing for turning a part matching a sign bit of the floating point type data in the integer type data into a positive number.例文帳に追加

次に、整数演算器１３により、その整数型データにおける、浮動小数点型データの符号ビットに対応する部分を正の数にするための整数演算を行う。 - 特許庁