意味 | 例文 (15件) |
数値の丸めの英語
追加できません
(登録数上限)
英訳・英語 rounding number
「数値の丸め」の部分一致の例文検索結果
該当件数 : 15件
これらの関数は x を最も近い整数値に丸める。例文帳に追加
These functions round x to the nearest integer, but round halfway cases away from zero (regardless of the current rounding direction, see fenv (3)),発音を聞く - JM
整形される数値は、整形前にこの桁数に丸められる。例文帳に追加
The amount being formatted is rounded to the specified number of digits prior to formatting.発音を聞く - JM
これらの関数は絶対値が x より小さい一番近い整数値に x を丸める。例文帳に追加
These functions round x to the nearest integer not larger in absolute value.発音を聞く - JM
シグナルをトラップしない場合、演算結果は値丸めのモードにより、表現可能な最大の数値になるように内側へ引き込んで丸めを行った値か、Infinity になるように外側に丸めた値のいずれかになります。例文帳に追加
If not trapped, the result depends on the rounding mode, eitherpulling inward to the largest representable finite number or roundingoutward to Infinity.発音を聞く - Python
丸め誤差の大きさと演算結果との大小関係を、丸め誤差として作成することができ、さらに丸め誤差を浮動小数点フォーマットに変換し、引き続き行われる演算にスムーズに利用可能な数値演算プロセッサの丸め処理装置を提供する。例文帳に追加
To provide a rounding processing device for a numerical coprocessor capable of creating the magnitude relation between the magnitude of a rounding error and an operation result as a rounding error, further converting the rounding error to a floating point format so as to be smoothly usable for an operation to be successively performed. - 特許庁
数値オーバフローを示すシグナルです。 このシグナルは、値丸めを行った後の指数部が Emax より大きいことを示します。例文帳に追加
Numerical overflow.Indicates the exponent is larger than Emax after rounding has occurred. - Python
-
履歴機能過去に調べた
単語を確認! -
語彙力診断診断回数が
増える! -
マイ単語帳便利な
学習機能付き! -
マイ例文帳文章で
単語を理解!
「数値の丸め」の部分一致の例文検索結果
該当件数 : 15件
判定部103は、所定の判定基準に基づいて演算部102から入力された値を整数に丸め、整数値Nx,Nyを得る。例文帳に追加
The judgment part 103 rounds a value inputted form the operation part 102 into an integer based on a prescribed judgment reference and integer values Nx and Ny are obtained. - 特許庁
細線を描画する場合における数値丸め誤差の影響で発生する掠れを防止する画像形成装置を提供すること。例文帳に追加
To provide an imaging apparatus which prevents shading brought about by effects of a rounding error of numeric values when thin lines are plotted. - 特許庁
本発明は、IIRフィルタで有限長精度の数値演算を行った場合であっても、入力が0になれば丸め誤差によって0に収束する丸め処理方法及びプログラムの提供を目的とする。例文帳に追加
To provide a rounding method and a program ensuring convergence of an input signal to 0 by rounding error when the input signal goes 0, even when numerical operation is carried out with accuracy of finite length by an IIR filter. - 特許庁
Decimal コンストラクタと違い、数値を変換する際にコンテキストの精度、値丸め方法、フラグ、トラップを適用します。 定数値はしばしばアプリケーションの要求よりも高い精度を持っているため、このメソッドが役に立ちます。例文帳に追加
Unlike the Decimal constructor, the context precision,rounding method, flags, and traps are applied to the conversion.This is useful because constants are often given to a greater precision than is needed by the application. - Python
本発明の周波数シンセサイザ1は、整数分周値を変化させて分数分周値を生成する場合に、乱数発生回路7が発生した乱数を丸め込み回路6が丸め込み、その結果生成された整数値に基づき、分周値制御回路5が整数分周値を生成している。例文帳に追加
In the frequency synthesizer 1 of this invention, when an integer frequency division value is changed to generate a fraction frequency division value, a round-off circuit 6 rounds off a random number generated by a random number generating circuit 7 and a frequency division control circuit 5 generates an integer frequency division value based on an integer generated as a result. - 特許庁
同様に、 Overflow シグナルをトラップしなければ、表現可能な最大の数値の制限を越えた値を丸めたときに出てきます。 無限大には符号があり (アフィン: affine であり)、算術演算に使用でき、非常に巨大で不確定の(indeterminate)値として扱われます。例文帳に追加
Likewise, when the Overflow signal is not trapped, infinity can result from rounding beyond the limits of the largest representable number.The infinities are signed (affine) and can be used in arithmetic operationswhere they get treated as very large, indeterminate numbers. - Python
量子化部12は、許容ノイズ量を超えない最大の係数(量子化係数)で各領域の周波数係数を除算し、最も近い整数値に丸めた量子化周波数係数を可逆圧縮部13に供給する。例文帳に追加
A quantization section 12 divides the frequency coefficients of the respective regions by the maximum coefficient (quantization coefficient) not to exceed the amount of the permissible noises and supplies the quantization frequency coefficient rounded to the nearest numerical value to a reversible compression section 13. - 特許庁
すなわち、アダマール変換後の小数点以下は、0.0、0.25、0.5、0.75があるが、単純な四捨五入では、数値の絶対値が大きくなる方向に偏る確率が高くなるので、0.5になった場合の整数化の丸め処理をブロックごとに変更する。例文帳に追加
That is, there exist fractions 0.0, 0.25, 0.5, 0.75 after the Hadamard transform, but since the fractions are biased in a direction of increasing their absolute value in the simple rounding with high probability, the rounding processing for the integer processing when the fraction reaches 0.5 is changed for each block. - 特許庁
|
意味 | 例文 (15件) |
ピン留めアイコンをクリックすると単語とその意味を画面の右側に残しておくことができます。 |
ログイン |
Weblio会員(無料)になると 検索履歴を保存できる! 語彙力診断の実施回数増加! |
「数値の丸め」のお隣キーワード |
weblioのその他のサービス
ログイン |
Weblio会員(無料)になると 検索履歴を保存できる! 語彙力診断の実施回数増加! |