意味 | 例文 (6件) |
fixed-point number representationとは 意味・読み方・使い方
追加できません
(登録数上限)
意味・対訳 固定小数点表現
「fixed-point number representation」の部分一致の例文検索結果
該当件数 : 6件
The floating-point representation of the number 0.00123 is 1.23e−3, where 1.23 is the fixed-point part and −3 is the exponent.発音を聞く 例文帳に追加
0.00123 の浮動小数点表示は 1.23e−3 となる. ここで, 1.23 が小数部, −3 が指数部である《cf. fixed-point part, exponent》 - 研究社 英和コンピューター用語辞典
The floating point number is converted to a fixed point representation having the previously selected number of bits.例文帳に追加
浮動小数点数は、予め選択されたビット数を有する固定小数点表示へ変換される。 - 特許庁
The data processing apparatus comprises a data processing unit operable to execute instructions, with the data processing unit being responsive to a format conversion instruction to apply a format conversion operation to a number to perform a conversion between the fixed-point representation of the number and the floating-point representation of the number.例文帳に追加
データ処理装置は、インストラクションを実行するよう動作可能なデータ処理ユニットを備え、そのデータ処理ユニットは、フォーマット変換インストラクションに応答し、数にフォーマット変換演算を適用してその数の固定小数点表示と浮動小数点表示との間で変換を行う。 - 特許庁
To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.例文帳に追加
固定精度浮動小数点数の組を多倍長や可変長の1つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁
This bit number is selected according to a prescribed bit number required for a frame buffer and in order to keep precision within the bit numbers of individual values, the representation in a fixed point engine contains additional bits in comparison with the bit number of a color value to be sent to the frame buffer.例文帳に追加
このビット数は、フレーム・バッファによって必要とされる所定のビット数に従って選択され、各々の値のビット数内で精密度を維持するため、固定小数点エンジンの中の表示は、フレーム・バッファへ送られるカラー値のビット数と比較して追加のビットを含む。 - 特許庁
Furthermore, a control field is provided which is arranged to provide a programmable value specifying a decimal point location within the fixed-point representation of the number, and the data processing unit is operable to reference the control field and to control the formal conversion operation in accordance with the programmable value.例文帳に追加
更には、その数の固定小数点表示内の小数点位置を特定するプログラム可能な値を提供する制御フィールドが配置され、データ処理ユニットは、その制御フィールドを参照し、かつプログラム可能な値に従ってフォーマット変換演算を制御する。 - 特許庁
-
履歴機能過去に調べた
単語を確認! -
語彙力診断診断回数が
増える! -
マイ単語帳便利な
学習機能付き! -
マイ例文帳文章で
単語を理解!
|
意味 | 例文 (6件) |
|
ピン留めアイコンをクリックすると単語とその意味を画面の右側に残しておくことができます。 |
ログイン |
Weblio会員(無料)になると 検索履歴を保存できる! 語彙力診断の実施回数増加! |
-
1unmet
-
2prowl
-
3destiny
-
4consider
-
5present
-
6while
-
7appreciate
-
8provide
-
9experience
-
10through
「fixed-point number representation」のお隣キーワード |
fixed-point number representation
weblioのその他のサービス
ログイン |
Weblio会員(無料)になると 検索履歴を保存できる! 語彙力診断の実施回数増加! |