「小数の桁数」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

"scale ( expression )"expression の小数点以下の有効桁数を返します。例文帳に追加

"scale ( expression )" The value of the scale function is the number of digits after the decimal point in the expression.  - JM

精度値は、結果の小数の桁数を指定します。例文帳に追加

The precision value specifies the number of fraction digits in the result.  - JM

その数を切り捨てて,小数点以下n桁にする例文帳に追加

The number is truncated to n decimal places  - コンピューター用語辞典

つまり小数点以下の桁数を指定します。例文帳に追加

The optional p is a digit specifying the precision, the number of fractional digits after a decimal point.  - JM

小数の桁数は、精度値によって指定されます。例文帳に追加

The number of fraction digits is specified by the precision value.  - JM

そして小数点と 0 桁以上の数字 (なくても良い) からなる。例文帳に追加

more digits.  - JM

彼はその答を小数点4桁まで計算した例文帳に追加

he computed the result to four decimal places  - 日本語WordNet

小数点以降のシャープの数で、表示される小数の最大の桁数を指定します。例文帳に追加

The amount of sharp signs after the decimal dot specifies the maximum amount of decimal digits that will be shown  - PEAR

この関数は,その数の整数部分と小数点以下n桁を返す例文帳に追加

This function returns the integer part of number, and n decimal places  - コンピューター用語辞典

小数点以降のゼロの数で、表示される小数の桁数を指定します。例文帳に追加

The amount of zeros after the decimal dot specifies the amount of decimal digits that will be shown  - PEAR

length は 10 進での有効桁数で、scale は小数点以下の 10 進での有効桁数です。例文帳に追加

The length is the total number of significant decimal digits in a number and the scale is the total number of decimal digits after the decimal point.  - JM

結果の小数の桁数は、現在の精度値 (以下参照) と 2 つの引数の小数の桁数に依存します。例文帳に追加

The number of fraction digits in the result depends on the current precision value and the number of fraction digits in the two arguments.  - JM

従って、最大で 3 桁までの数字が基数の小数部に現れます。例文帳に追加

For example, convertsDecimal('123E+1') to Decimal("1.23E+3")  - Python

小数点を表示する際には、小数点の前に少なくとも一桁は数字が表示される。例文帳に追加

If a decimal point appears, at least one digit appears before it.  - JM

変換では、小数点以下に表示される数字の桁数を指定する。例文帳に追加

conversions, the number of digits to appear after the radix character for a ,  - JM

小数点の前には 1桁の16進数が置かれ、小数点の後ろの桁数は精度で指定された値となる。例文帳に追加

There is one hexadecimal digit before the decimal point, and the number of digits after it is equal to the precision.  - JM

10進データは,小数点の前後の複数桁からなる例文帳に追加

Decimal data is made up of a number of digits before and after a decimal point  - コンピューター用語辞典

scale で計算時の小数点以下の有効桁数を指定します。例文帳に追加

scale defines how some operations use digits after the decimal point.  - JM

小数点の後の桁数は、精度で指定された値となる。例文帳に追加

where the number of digits after the decimal-point character is equal to the precision specification.  - JM

金額を地域的な方法で表現する際の小数点以下の桁数です。例文帳に追加

Number of fractional digits used in local formatting of monetary values. - Python

金額を国際的な方法で表現する際の小数点以下の桁数です。例文帳に追加

Number of fractional digits used in internationalformatting of monetary values.  - Python

割算に使われる小数の桁数は、精度値によって指定されます。例文帳に追加

The number of fraction digits used in the division is specified by the precision value.  - JM

小数部に使用できる桁数の制限は、DBMS によって異なります。例文帳に追加

The number of places available to the right of the decimal point depend on the DBMS.  - PEAR

また、固定小数点表示の小数部の桁数を、精度保証される最少の桁数とし、小数部抽出（１０６）の際に、精度保証される最少のビット数のマスク処理により小数部を抽出する。例文帳に追加

Also, the number of digits of the fixed point display decimal part is defined as the precisely guaranteed minimum number of digits, and when the decimal point is extracted (106), the decimal part is extracted by mask processing with the precisely guaranteed minimum number of bits. - 特許庁

vardigs = 0 の場合、1桁だけ残され、小数点以下は切り捨てられます。例文帳に追加

digs = 0, one digit is kept and the point is suppressed.  - Python

この駆動時間を整数桁と小数点以下の桁に分割し、上位桁を各発光ラインＬ１〜Ｌ４の駆動時間として割り当てる。例文帳に追加

The driving time is divided into an integer digit and digits after the decimal point, and the upper digits are assigned as the driving time of the respective light emitting lines L1-L4. - 特許庁

メモリ１０１に記録されたセル発生間隔Ｔの指数部の値に基づいて、小数部桁数演算回路１１１によって、第１の浮動／固定変換回路１０３及び桁あわせ回路１０７の、小数部の桁数と整数部の桁数の割り当てを変更する。例文帳に追加

On the basis of a value in the index part of a cell generating interval T recorded in a memory 101, a decimal part digit number arithmetic circuit 111 changes the assignment of digits in a decimal part and an integral part in a first floating/fixed converting circuit 103 and a digit-matching circuit 107. - 特許庁

精度は、ほとんどの算術操作の結果で保存される小数の桁数を指定します。例文帳に追加

The precision specifies the number of fraction digits to keep in the result of most arithmetic operations.  - JM

Xスタックから値を取り出し、その小数点以下の桁数を計算し、その値をスタックに積みます。例文帳に追加

X Pops a value off the stack, calculates the number of fraction digits it has, and pushes that number.  - JM

構造化文書中の各属性値の小数点以下の桁数ｃ’を取得する（Ｓ４０４）。例文帳に追加

Digit counts c' beyond the decimal point of attribute values in a structured document are acquired (S404). - 特許庁

また、'decimal' 型の場合は 'scope' 要素も必須です。 これは、小数点以下の桁数を表します。例文帳に追加

The 'decimal' type also requires a 'scope' element, which is the number of digits after the decimal point.  - PEAR

ファイルシステムがサポートしていれば、秒の小数点以下の桁も含めて返されます。例文帳に追加

Fractions of a second may be reported if the system supports that. - Python

取得したそれぞれの桁数のうち最大桁数に応じて各属性値の小数点位置を操作することで、検出した各属性値を整数値を表す数値文字列に変換する（Ｓ４０６）。例文帳に追加

The detected attribute values are transformed into numeric character strings representing integers, by manipulating the decimal point positions of the attribute values, according to the maximum number of acquired digits (S406). - 特許庁

デフォルトでは、MDB2 は小数部の桁数を 2 としています。 しかしこれは、データベースへの接続時に変更することができます。例文帳に追加

By default, MDB2 uses 2 places to the right of the decimal point, but this may be changed when setting the database connection.  - PEAR

推奨量子は、１０進浮動小数点結果の有効数字の最下位桁によって表される値を示す。例文帳に追加

The recommended quantum represents a value indicated by the least significant digit of the effective number of the decimal floating point result. - 特許庁

分析データの大きさに応じた小数桁数で出力できる自動分析装置及びその出力方法を提供する。例文帳に追加

To provide an automatic analyzer allowing an output with a decimal digit number in response to a size of an analytical data. - 特許庁

この結果、金額情報の小数点以下の桁数が異なる種類の貨幣識別手段であっても、桁数を修正することで主制御部での入金処理に変動が生じる事態を防ぐことができる。例文帳に追加

As a result, even if the identifying means is one for the types of money that differ in digits following the decimal point of the money information, the vending machine can prevent the situation where there are fluctuations in the money receipt processing at the control unit by correcting the digits. - 特許庁

高速に演算処理を実行可能な不動小数点演算装置において、桁落ち予測回路（６０）は、セレクタ（２、３）を通る前の被演算数を直接取り込み、前記被演算数の減算器（５）による減算結果の桁落ちを予測する。例文帳に追加

In a floating-point arithmetic unit capable of quickly executing the arithmetic processing, a canceling prediction circuit 6 directly takes in operands before they pass selectors 2 and 3 and predicts canceling of the subtraction result in a subtractor 5 of operands. - 特許庁

また、小数点以下で指定できるのは 3 桁までです。 つまり、p の値が 3 より大きければ 3 に変更されます。例文帳に追加

At most three places after the decimal point may be specified; values of p greater than 3 are changed to 3.  - JM

ここで、正規化対象となる注目区間内に、注目する小数の桁を決定するための閾値が存在するか否かを判定する。例文帳に追加

It is herein judged whether or not there is a threshold value for determining the digit of a noted decimal number within a noted interval that is an object to be normalized. - 特許庁

絶対的な距離を保持する場合に比べて，値の変化する範囲が小さくなり、固定小数点方式でも、小数点の有効桁数を増加でき、計算精度が改善できる。例文帳に追加

A variation range of a value gets narrow compared with that when holding an absolute value, the effective number of figures in a decimal point is increased even in a fixed point system, and the calculation precision is improved thereby. - 特許庁

液密度を小数点以下４桁まで短時間で調整できるので塗布厚みや濃度を小数点以下３桁目までコントロールすることができ、塗布液の固形分濃度の経時的な変化に由来する塗布ムラを発生させないで安定的な薄膜塗布を行うことができる。例文帳に追加

To control coating thickness or concentration to the three decimal places, since liquid density can be adjusted to the fourth decimal places in a short time, and to stably coat thin film without causing coating unevenness caused by a change with time of the solid matter concentration of a coating liquid. - 特許庁

ハードウェアによる 2 進浮動小数点表現と違い、decimal モジュールでは計算精度をユーザが指定できます(デフォルトでは 28 桁です)。 この桁数はほとんどの問題解決に十分な大きさです:例文帳に追加

Unlike hardware based binary floating point, the decimal module has a user settable precision (defaulting to 28 places) which can be as large as needed for a given problem: - Python

本発明は加算時に桁落ちが発生せず、精度の高い計算が可能な浮動小数点ＤＤＡ処理を実現することが出来る浮動小数点演算器及びＤＤＡ演算処理を提供することを課題とする。例文帳に追加

To provide a floating decimal arithmetic unit and a DDA arithmetic processing for achieving floating decimal point DDA processing with high accuracy without canceling significant digits in addition. - 特許庁

そして、拡大エリアＥＡ内で入力ペン４をスライドすると、このスライド（方向及び量）に応じて、概数値に変換された座標値が変更され（ｃ）、更にタップ位置Ｐ２でのタップを所定時間以上継続すると、概数値の小数点以下の桁数が１桁増加される（ｄ）。例文帳に追加

When the input pen 4 is slid in the extended area EA (c), the coordinate value converted to the rough number value is changed according to the slide (direction and quantity), and when the tapping in a tap position P2 is further continued for a predetermined time or more (d), the decimal place of the rough number value is increased by one. - 特許庁