「floating-point decimal」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

The float data type may store floating point decimal numbers. 例文帳に追加

float 型は、浮動小数点数を格納します。 - PEAR

Here is a smalldecimal floating point flying circus: 例文帳に追加

Decimal 浮動小数点小劇場 (flying circus) を示しましょう: - Python

The processor receives at least one decimal floating point operand, executes a decimal floating point operation on at least one decimal floating point operand and generates a decimal floating point result.例文帳に追加

プロセッサは、少なくとも１つの１０進浮動小数点オペランドを受け取り、少なくとも１つの１０進浮動小数点オペランドに対して１０進浮動小数点演算を実施して１０進浮動小数点結果を生成する。 - 特許庁

Return the floating point value x rounded to n digits after the decimal point.例文帳に追加

x を小数点以下 n 桁で丸めた浮動小数点数の値を返します。 - Python

To provide a vector scaling system for block floating decimal point representation.例文帳に追加

ブロック浮動小数点表示用のベクトルスケーリングシステムの提供。 - 特許庁

For floating point values, the decimal point is modified if appropriate.例文帳に追加

浮動小数点数については、必要に応じて浮動小数点が変更されます。 - Python

TYPE is made up of one or more of these specifications: a named character c ASCII character or backslash escape d[SIZE] signed decimal, SIZE bytes per integer f[SIZE] floating point, SIZE bytes per integer o[SIZE] octal, SIZE bytes per integer u[SIZE] unsigned decimal, SIZE bytes per integer x[SIZE] hexadecimal, SIZE bytes per integer SIZE is a number. 例文帳に追加

またはサイズを C コンパイラの組み込みデータタイプによっても指定できる。 - JM

In decimal floating point,"0.1 + 0.1 + 0.1 - 0.3" is exactly equal to zero. 例文帳に追加

10 進の浮動小数点による計算では、"0.1 + 0.1 + 0.1 - 0.3" は厳密にゼロに等しくなります。 - Python

Both binary and decimal floating point are implemented in terms of publishedstandards. 例文帳に追加

2 進と 10 進の浮動小数点は、いずれも広く公開されている標準仕様のもとに実装されています。 - Python

The fuel correction coefficient CLRN is defined by a floating decimal point type 4-bite length.例文帳に追加

燃料補正係数ＣＬＲＮは浮動小数点型の４バイト長で定義されている。 - 特許庁

To provide a system and method for detecting an exception to decimal floating point data processing.例文帳に追加

１０進浮動小数点データ処理例外を検出するためのシステム及び方法を提供する。 - 特許庁

It is determined whether the decimal floating point result can sustain a recommended quantum.例文帳に追加

１０進浮動小数点結果が推奨量子を維持することができるかどうかについて判定がなされる。 - 特許庁

This logarithmic arithmetic device 10 finds the logarithm of a value expressed by floating decimal point data.例文帳に追加

対数演算装置10は、浮動小数点データで表現される値の対数を求める。 - 特許庁

To provide a floating decimal arithmetic unit and a DDA arithmetic processing for achieving floating decimal point DDA processing with high accuracy without canceling significant digits in addition.例文帳に追加

本発明は加算時に桁落ちが発生せず、精度の高い計算が可能な浮動小数点ＤＤＡ処理を実現することが出来る浮動小数点演算器及びＤＤＡ演算処理を提供することを課題とする。 - 特許庁

Formats a floating point number using the same format as the built-in function str(float), but takes the decimal point into account.例文帳に追加

浮動小数点数を str(float) と同じように書式化しますが、ロケールに配慮した小数点が使われます。 - Python

Numeric literals containing a decimal point or an exponentsign yield floating point numbers. 例文帳に追加

というのは"1l" は 11 と非常に紛らわしいからです！) 小数点または指数表記のある数値リテラルは浮動小数点数を表します。 - Python

To provide an improved converting method from a floating point algorithm code into fixed decimal point algorithm mounting.例文帳に追加

浮動小数点アルゴリズムコードから固定小数点アルゴリズム実装への改良された変換方法を提供することが本発明の課題である。 - 特許庁

The hardware resource is, in particular, an execution unit such as a fixed decimal point unit 56, a load/store unit 58, a floating decimal point unit 60 or a branch processing unit 61.例文帳に追加

ハードウェア・リソースは、特に、固定小数点ユニット、ロード／ストア・ユニット、浮動小数点ユニット、または分岐処理ユニットなどの、実行ユニットである。 - 特許庁

Input floating decimal point format data are divided into a code part, exponent part and a mantissa part by a data separation part 11.例文帳に追加

入力された浮動小数点形式のデータをデータ分離部１１で符号部、指数部、及び仮数部に分離する。 - 特許庁

In response to a determination that the decimal floating point result cannot sustain the recommended quantum, an output is provided and generation of a quantum exception is shown.例文帳に追加

１０進浮動小数点結果が推奨量子を保持できないとの判定に応答して出力が提供され、量子例外の発生を示す。 - 特許庁

The recommended quantum represents a value indicated by the least significant digit of the effective number of the decimal floating point result.例文帳に追加

推奨量子は、１０進浮動小数点結果の有効数字の最下位桁によって表される値を示す。 - 特許庁

Unlike hardware based binary floating point, the decimal module has a user settable precision (defaulting to 28 places) which can be as large as needed for a given problem:例文帳に追加

ハードウェアによる 2 進浮動小数点表現と違い、decimal モジュールでは計算精度をユーザが指定できます(デフォルトでは 28 桁です)。 この桁数はほとんどの問題解決に十分な大きさです: - Python

By an amplifying ratio (attenuating ratio) corresponding to the characteristic, an analog signal which is an original input signal is amplified (attenuated), and a value converted by an A/D converter for a decimal part to be outputted is made a decimal part of the floating-point digital data.例文帳に追加

その指数部に見合った増幅率（減衰率）で、元の入力信号であるアナログ信号を増幅（減衰）し、小数部用Ａ／Ｄコンバーターにて変換出力された値を浮動小数点ディジタルデータの小数部とする。 - 特許庁

The Z-sorting processing circuit 24 includes a floating decimal point comparison device 130 which compares an average depth value of a semitransparent polygon with a minimum pooling depth value; a plurality of AND gates 110-1 to 110-23 and 120-1 to 120-23, which are connected to the input stage of the floating decimal point comparison device 130; and a decimal part mask value 140 for controlling precision.例文帳に追加

本発明に係るＺソート処理回路２４は、半透明ポリゴンのデプス平均値と最小保持デプス値とを比較する浮動小数点比較器１３０と、浮動小数点比較器１３０の入力段に接続された複数のＡＮＤゲート１１０−１〜１１０−２３、１２０−１〜１２０−２３と、精度制御用小数部マスク値１４０とを含む。 - 特許庁

After that, a shift register 30 shifts the mantissa part of the inputted floating decimal point data by as much as the difference calculated by the subtracter 20, and a bit extracting part 40 extracts the prescribed number of bits in the shifted mantissa part as fixed decimal point data.例文帳に追加

その後、シフトレジスタ３０において、入力された浮動小数点データの仮数部を指数部減算器２０にて求められた差分だけシフトさせ、ビット抽出部４０において、シフトした仮数部のうち所定のビット数を固定小数点データとして抽出する。 - 特許庁

This enables a single instruction to be used to directly convert between fixed-point formats where the position of the decimal point may be programmable varied and floating-point representations.例文帳に追加

これによって、単一インストラクションを用いて、小数点の位置がプログラム可能である固定小数点フォーマットと浮動小数点表示との間で直接変換することが可能となる。 - 特許庁

This method can directly convert the position of the decimal point between the programmable fixed point format and the floating point display using the single instruction.例文帳に追加

これによって、単一インストラクションを用いて、小数点の位置がプログラム可能である固定小数点フォーマットと浮動小数点表示との間で直接変換することが可能となる。 - 特許庁

The floating-point converter acquires the exponent part by performing addition and subtraction of the decimal point position data (ESP2) and the shift amount of the fraction part to the integer data.例文帳に追加

前記浮動小数点変換器は、前記整数データに対する仮数部のシフト量と前記小数点位置データ（ＥＸＰ２）との加減算により指数部を取得する。 - 特許庁

At least two D/A converters are used, an exponent portion in floating point digital data is defined as a current for signal amplification, and its decimal portion is defined as a signal to be amplified, and conversion into an analog signal is accomplished.例文帳に追加

少なくとも２つのＤ／Ａコンバーターを使用し、浮動小数点ディジタルデータにおける指数部は信号の増幅用の電流、小数部は増幅する信号とし、アナログ信号へと変換することを実現する。 - 特許庁

To detect a maximum collation region in an image having the maximum correlation with a region defined in another image, with higher accuracy at higher speed, without performing any floating decimal point arithmetic operation including square root arithmetic operation or fraction arithmetic operation, in image collation.例文帳に追加

画像の照合に際し、画像に定義した領域と相関関係が最大となる他の画像上の最大相関領域を検出する際に、平方根演算や分数演算を含む浮動小数点演算を行うことなく、より高速かつ正確に検出する。 - 特許庁

In an image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire a mean pixel value by an integer arithmetic operation without calculating decimal numbers generated according to the reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁

In this image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire mean pixel values by an integer arithmetic operation without calculating decimal numbers to be generated according to a reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁