「decimal arithmetic」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

The decimal module provides support for decimal floating point arithmetic.例文帳に追加

decimal モジュールは10 進の浮動小数点算術をサポートします。 - Python

IBM's General Decimal Arithmetic Specification, 例文帳に追加

IBM による汎用 10 進演算仕様、 - Python

This is a standard context defined by the General Decimal ArithmeticSpecification. 例文帳に追加

General Decimal Arithmetic Specification で定義されている標準コンテキストの一つです。 - Python

storage-to-storage decimal arithmetic operations 例文帳に追加

記憶域間の10進算術演算 - コンピューター用語辞典

FLOATING DECIMAL ARITHMETIC UNIT AND DDA ARITHMETIC PROCESSING METHOD例文帳に追加

浮動小数演算器及びＤＤＡ演算処理方法 - 特許庁

FLOATING DECIMAL POINT ARITHMETIC CIRCUIT, FLOATING DECIMAL POINT ARITHMETIC METHOD, AND SERVO-CONTROLLED SYSTEM例文帳に追加

浮動小数点数演算回路と浮動小数点演算方法及びサーボ制御装置 - 特許庁

DECIMAL CALCULATION DEVICE, ELECTRONIC-APPARATUS-CONNECTED DECIMAL CALCULATION DEVICE, AND ARITHMETIC DEVICE例文帳に追加

十進計算装置、電子機器接続型十進計算装置及び演算装置 - 特許庁

The module design is centered around three concepts: the decimal number, the context for arithmetic, and signals.A decimal number is immutable.例文帳に追加

このモジュールは、 10 進数型、算術コンテキスト (context for arithmetic)、そしてシグナル (signal) という三つの概念を中心に設計されています、10 進数型は変更不可能な型です。 - Python

DYNAMIC DECIMAL POINT SYSTEM, DYNAMIC DECIMAL POINT ARITHMETIC METHOD, AND APPARATUS AND METHOD FOR 2 DIMENSIONAL INVERSE DISCRETE COSINE TRANSFORM例文帳に追加

動的小数点方式、動的小数点演算方法、並びに２次元逆離散コサイン変換方法及びその装置 - 特許庁

This logarithmic arithmetic device 10 finds the logarithm of a value expressed by floating decimal point data.例文帳に追加

対数演算装置10は、浮動小数点データで表現される値の対数を求める。 - 特許庁

As a result, the arithmetic result of the second place of decimal is acquired (the second unit division operation).例文帳に追加

これにより小数第二位の演算結果が得られる（２回目の単位除算動作）。 - 特許庁

The usual approach to working with decimals is to create Decimal instances and then apply arithmetic operations which take place within the current context for the active thread.例文帳に追加

Decimal を使った処理を行う場合、通常は Decimal インスタンスを生成して、算術演算を適用するというアプローチをとります。 演算はアクティブなスレッドにおける現在のコンテキストの下で行われます。 - Python

Otherwise, numbers take the form [base#]n, where base is a decimal number between 2 and 64 representing the arithmetic base, and n is a number in that base. 例文帳に追加

ここで base は 2 から 64 の間の10 進数であり、算術的な意味での基数を表します。 - JM

A processor has: an arithmetic and logic unit 13 performing at least one of the four arithmetic operations and a shift operation; a decimal point position register 14 holding decimal point position data of the fixed-point arithmetic; and a rounding/saturation processor 20 performing prescribed rounding and saturation processing to output of the arithmetic and logic unit 13 based on the decimal point position data held in the decimal point position register 14.例文帳に追加

四則演算とシフト演算の少なくとも一方を行う算術論理演算ユニット１３と、固定小数点演算の小数点位置データを保持する小数点位置レジスタ１４と、小数点位置レジスタ１４に保持される小数点位置データに基づいて、算術論理演算ユニット１３の出力に対して所定の丸め及び飽和処理を行う丸め／飽和処理器２０とを有する。 - 特許庁

To provide a floating decimal arithmetic unit and a DDA arithmetic processing for achieving floating decimal point DDA processing with high accuracy without canceling significant digits in addition.例文帳に追加

本発明は加算時に桁落ちが発生せず、精度の高い計算が可能な浮動小数点ＤＤＡ処理を実現することが出来る浮動小数点演算器及びＤＤＡ演算処理を提供することを課題とする。 - 特許庁

To attain the display of the arithmetic result, on which the destination of the number of decimal digits and fraction processing is reflected and the display of the arithmetic result in a state where a fraction processing is not conducted.例文帳に追加

演算結果について、小数桁数の指定および端数処理を反映した表示と、端数処理を行わない状態の表示とを可能にする。 - 特許庁

After the cumulative addition arithmetic operation is repeated n times, the value in the addition result storage register 14 is converted into the data in the floating decimal format, so that the arithmetic result can be obtained.例文帳に追加

前記累積加算演算をｎ回繰り返した後、加算結果保持レジスタ１４内の値を浮動小数形式のデータに変換することにより演算結果が得られる。 - 特許庁

Further, data generated by inverting the output of the decimal 4-multiple generating circuit 16 inputting the arithmetic result are inputted to the other input of the decimal adder and 1 is always inputted to the carry input of the decimal adder 13 to generate a complement of 2 to the decimal 4-multiple.例文帳に追加

また、前演算結果を入力とする前記１０進４倍数生成回路１６の出力を反転したデータを前記１０進加算器のもうひとつの入力に入力し、１０進加算器１３のキャリ入力には常に１を入力することで１０進４倍数の２の補数を生成する。 - 特許庁

An arithmetic result is displayed in the first line display area 1a, according to the set number of decimal digits and fraction processing.例文帳に追加

第１行表示領域２ａには、演算結果を、設定されている小数桁数と端数処理とに従って表示する。 - 特許庁

To detect a maximum collation region in an image having the maximum correlation with a region defined in another image, with higher accuracy at higher speed, without performing any floating decimal point arithmetic operation including square root arithmetic operation or fraction arithmetic operation, in image collation.例文帳に追加

画像の照合に際し、画像に定義した領域と相関関係が最大となる他の画像上の最大相関領域を検出する際に、平方根演算や分数演算を含む浮動小数点演算を行うことなく、より高速かつ正確に検出する。 - 特許庁

The divided exponent part is converted into fixed decimal point format data, and the cumulative addition arithmetic operation of a value in an addition result storage register 14 and the converted data in the fixed decimal point format is repeated n times, and the result is stored in an addition result storage register 14.例文帳に追加

分離した指数部を固定小数点形式のデータに変換し、加算結果保持レジスタ１４内の値と固定小数点形式の変換したデータとの累積加算演算をｎ回繰り返して結果を加算結果保持レジスタ１４に保持する。 - 特許庁

In a graph function electronic calculator 1A, a decimal arithmetic unit 70 performs calculation of a calculation expression inputted through an input part 30 by calculation digit numbers n, n+m.例文帳に追加

グラフ関数電卓１Ａにおいて、十進演算器７０は、入力部３０を介して入力された計算式の計算を、計算桁数ｎ，ｎ＋ｍでそれぞれ行う。 - 特許庁

The inter-line correction circuit 15 is provided with an integer part correction part for performing the correction of a 1 line unit and a decimal part correction part for performing the correction of less than 1 line by arithmetic interpolation, and when a 1-dot width black thin line detection part 23 detects a 1-dot width black thin line, the decimal part correction part is made inoperative.例文帳に追加

ライン間補正回路１５は、１ライン単位の補正を行う整数部補正部と、１ライン未満の補正を補間演算によって行う小数部補正部とを含み、１ドット幅黒細線検出部２３が１ドット幅黒細線を検出したときは小数部補正部を非作動にする。 - 特許庁

On the basis of a value in the index part of a cell generating interval T recorded in a memory 101, a decimal part digit number arithmetic circuit 111 changes the assignment of digits in a decimal part and an integral part in a first floating/fixed converting circuit 103 and a digit-matching circuit 107.例文帳に追加

メモリ１０１に記録されたセル発生間隔Ｔの指数部の値に基づいて、小数部桁数演算回路１１１によって、第１の浮動／固定変換回路１０３及び桁あわせ回路１０７の、小数部の桁数と整数部の桁数の割り当てを変更する。 - 特許庁

Despite this, applications may use arithmetic expressions and functions with the values stored on decimal type fields as long as any constant values that are used in the expressions are also converted with the respective MDB2 conversion functions. 例文帳に追加

しかし、アプリケーション側では decimail 型のフィールドの値を用いて算術演算や関数の使用が可能です。 式の中で使用される値は、対応する MDB2 の変換関数で変換されます。 - PEAR

In setting an integer, which the arithmetic value y2 of a remainder calculation means 105 can range, to be (p), a storing means 103 holds the value of 2 (p/c) as G (P) with respect to P of 0 to 3 to store by the fixed decimal point format.例文帳に追加

記憶手段１０３は、剰余算手段１０５の演算値ｙ２に対し、とり得る範囲の整数をｐとすると０〜３のＰに対し、２∧（ｐ／ｃ）の値をＧ（Ｐ）として保持し、固定小数点フォーマットで格納する。 - 特許庁

Then, when the discount sum as the arithmetic result becomes a negligible small sum, for example, "zero" by rounding it off by a decimal point or less, the initially set purchase desired sum is defined as a purchase sum including a tax.例文帳に追加

次いで、この演算結果の値引き額が無視可能な小額以下、例えば小数点以下で四捨五入して「ゼロ」の金額となった際に、最初に設定した購入希望金額を税込みの購入金額とする。 - 特許庁

Thus, even when the adaptive filter 1 comprises a fixed decimal point arithmetic operation processor and the gain of the feedback path HAB reaches 1 or over, no overflow takes place in the arithmetic operation of the adaptive filter 1 and a desired (e.g. the same degree when the gain is less than 1) echo suppression amount can be obtained.例文帳に追加

このため、適応フィルタ１が固定小数点演算型のプロセッサで構成されている場合において帰還経路Ｈ_ABの利得が１倍以上となっても、適応フィルタ１の演算においてオーバーフローを生じることなく、所望（例えば、利得が１倍未満の場合と同程度）のエコー抑圧量を得ることができる。 - 特許庁

In an image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire a mean pixel value by an integer arithmetic operation without calculating decimal numbers generated according to the reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁

In this image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire mean pixel values by an integer arithmetic operation without calculating decimal numbers to be generated according to a reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁