floating point formatとは 意味・読み方・使い方

Two kinds of data are, namely, integer format data and fixed-point data formed by excluding a floating-point device.例文帳に追加

すなわち、整数フォーマットデータと、浮動小数点装置を除外した、固定小数点データである。 - 特許庁

The values are in the standard floating point format used for times throughoutPython.例文帳に追加

各々の値は Python が時刻の表現に使っている標準の浮動小数点型です。 - Python

According to the embedded control system, when discrete data in the floating-point format is stored in a read-only memory, the discrete data in the floating-point format is converted into data in a significand-reduced floating-point format before being stored.例文帳に追加

本発明による組込み制御装置によると、浮動小数点数形式の離散的データを読み取り専用記憶装置に格納するとき、浮動小数点数形式の離散的データを、仮数部短縮型浮動小数点数形式のデータに変換してから格納する。 - 特許庁

To shorten the processing time of a whole filter arithmetic operation even when it is necessary to convert the format of data to be processed from a fixed point format to a floating point format.例文帳に追加

処理対象データが固定小数点フォーマットで浮動小数点フォーマットに変換する必要があってもフィルタ演算全体の処理時間を短縮可能とする。 - 特許庁

After a centering processing is performed, D_θ is converted from the floating-point format to the fixed-point format by an output format conversion circuit 48, and outputted from the gyro-filter 24.例文帳に追加

Ｄ_θはセンタリング処理後、出力形式変換回路４８によって浮動小数点形式から固定小数点形式へ変換され、ジャイロフィルタ２４から出力される。 - 特許庁

An input data format converter 40 converts the shifting speed detected by a variation speed detector 12 from a fixed-point format into a floating-point format, and also converts the detected position of a focus member into a floating-point format.例文帳に追加

入力データ形式変換器４０は変位速度検出器１２において検出された変位速度について固定小数点形式から浮動小数点形式に変換するとともに、検出された合焦部材の位置を浮動小数点データに変換する。 - 特許庁

Formats a floating point number using the same format as the built-in function str(float), but takes the decimal point into account.例文帳に追加

浮動小数点数を str(float) と同じように書式化しますが、ロケールに配慮した小数点が使われます。 - Python

The floating-point processor having selectable low-order precision includes a register configured to accumulate a plurality of bits of a floating-point format, a controller, and a floating-point mathematical operator.例文帳に追加

選択可能な下位精度を有する浮動小数点プロセッサは浮動小数点フォーマット内の複数のビットを蓄積するように構成されたレジスタ、コントローラ、および浮動小数点数学演算子を含む。 - 特許庁