「floating point binary」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

In contrast, numbers like1.1 do not have an exact representation in binary floating point.End users typically would not expect 1.1 to display as1.1000000000000001 as it does with binary floating point. 例文帳に追加

1.1 のような数は、2 進数の浮動小数点型では正しく表現できません。 エンドユーザは普通、2 進数における1.1 の近似値が1.1000000000000001 だからといって、そのように表示してほしいとは考えないものです。 - Python

In a step 4 for chaos filtering, the chaos digital signal C in floating point type is converted into an integer, and then converted into a binary.例文帳に追加

ステップ４のカオスフィルタリングでは、浮動小数点形式のデジタルカオス信号Ｃを整数化し、更に２値符号化する。 - 特許庁

The return value is ``approximate'' because binary floating point numbers are approximate; it is not possible to represent all real numbers in base two.例文帳に追加

全ての実数を 2 を基数として表現するのは不可能なため、二進の浮動小数点数は``近似値'' しか表現できません。 このため、戻り値も近似になります。 - Python

Unlike hardware based binary floating point, the decimal module has a user settable precision (defaulting to 28 places) which can be as large as needed for a given problem:例文帳に追加

ハードウェアによる 2 進浮動小数点表現と違い、decimal モジュールでは計算精度をユーザが指定できます(デフォルトでは 28 桁です)。 この桁数はほとんどの問題解決に十分な大きさです: - Python

Python fully supports mixed arithmetic: when a binary arithmetic operator has operands of different numeric types, the operand with the``narrower'' type is widened to that of the other, where plain integer is narrower than long integer is narrower than floating point is narrower than complex.Comparisons between numbers of mixed type use the same rule.例文帳に追加

Python は型混合の演算を完全にサポートします: ある 2 項演算子が互いに異なる数値型の被演算子を持つ場合、より ``制限された'' 型の被演算子は他方の型に合わせて広げられます。 - Python

For performing a product sum arithmetic operation for adding third data to the product of first data and second data, the first data and the second data are multiplied by a floating point multiplier 114, and a binary digit string for expressing a mantissa part in a multiplication result is divided into a string for expressing a superordinate digit in the mantissa part and a string for expressing a subordinate digit in the mantissa part.例文帳に追加

第一のデータと第二のデータとの積へ第三のデータを加算する積和演算を実行するために、浮動小数点乗算器１１４に第一のデータと第二のデータとの乗算を行なわせ、その乗算結果における仮数部を表現するビット列を該仮数部における上位の桁を表現するものと該仮数部における下位の桁を表現するものとに分割する。 - 特許庁