「丸めの誤差」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

丸め誤差の影響を受けない画像校正方法を提供する。例文帳に追加

To provide a picture calibration method free from influence of rounding error. - 特許庁

丸め方向判定部１７は，誤差の符号から，第１の精度で丸めた結果における丸めの方向が指定された丸めモードに従った丸めの方向であるかを判定する。例文帳に追加

A rounding direction determination part 17 determines whether or not a direction of rounding in the result of rounding with the first accuracy is equal to a direction of rounding in accordance with a specified rounding mode, based on a mark of the difference. - 特許庁

このように、丸め誤差が第２階層から第１階層に分散される。例文帳に追加

The rounding error is distributed from the 2nd layer to the 1st layer in this way. - 特許庁

丸め誤差は、丸めの結果が偶数であるか奇数であるかで切り上げと切り捨てを決定するので、同じ個所で丸め誤差が重畳する現象を回避することができる。例文帳に追加

As for rounding errors, since round up and round down are determined depending on whether a rounding result is even or odd, a phenomenon where rounding errors accumulate at the same part can be avoided. - 特許庁

誤差算出部１５は，第１の精度で丸めた結果と，第２の精度で基数変換した結果との誤差を算出する。例文帳に追加

A difference calculation part 15 calculates a difference in the results between the rounding with the first accuracy and the radix conversion with the second accuracy. - 特許庁

丸め誤差の大きさと演算結果との大小関係を、丸め誤差として作成することができ、さらに丸め誤差を浮動小数点フォーマットに変換し、引き続き行われる演算にスムーズに利用可能な数値演算プロセッサの丸め処理装置を提供する。例文帳に追加

To provide a rounding processing device for a numerical coprocessor capable of creating the magnitude relation between the magnitude of a rounding error and an operation result as a rounding error, further converting the rounding error to a floating point format so as to be smoothly usable for an operation to be successively performed. - 特許庁

丸め結果補正部１８は，第１の精度で丸めた結果における丸めの方向が指定された丸めモードに従った丸めの方向でない場合に，誤差の符号と第１の精度で丸めた結果の符号との関係から，第１の精度で丸めた結果を補正する。例文帳に追加

A rounding result correction part 18, when the direction of rounding in the result of rounding with the first accuracy is not equal to the direction of rounding in accordance with the specified rounding mode, corrects the result of rounding with the first accuracy, based on a relationship between the mark of the difference and a mark of the result of rounding with the first accuracy. - 特許庁

このことによって、基数8 (radix-8)のバタフライ演算8p中の丸め誤差を無くすることができる。例文帳に追加

Thus, it is possible to eliminate any rounding error during the butterfly arithmetic operation (8p) of a radix 8(radix-8). - 特許庁

内挿処理における丸め誤差が累積されることを抑制して、画質の向上を図る。例文帳に追加

To improve image quality by suppressing accumulation of round-off errors at interpolation processing. - 特許庁

簡単な構成でもって、４つのベクトルデータの丸め誤差の少ないロスレス４点直交変換を行う。例文帳に追加

To perform lossless four point orthogonal conversion with less rounding errors of four vector data by simple structure. - 特許庁

入力画像データは、ウォータマーク付加器１の丸め誤差見積器８に送られ、この丸め誤差見積器８からの出力が画素値の修正手段である付随情報付加器９に送られる。例文帳に追加

The inputted picture data is transmitted to a rounding error estimating device 8 of a watermark adder 1 and output from the rounding error estimating device 8 is transmitted to a subordinate information adder 9 as a correcting means of a pixel value. - 特許庁

小数画素精度の動きベクトルに対する予測誤差の下限値を，既に計算済みの丸め誤差を用いて算出し（Ｓ３），この下限値と予測誤差の最小値として格納された値との大小を比較する（Ｓ４）。例文帳に追加

A lower limit of prediction error for a motion vector of decimal pixel precision is calculated using an already calculated rounding error (S3), and this lower limit is compared with a value stored as the minimum value of the prediction error (S4). - 特許庁

これにより、絶対値の小さいもの同士の加算で生じた丸め誤差はBIGに対して1度だけ作用する。例文帳に追加

In this case, a rounding error to be generated due to the addition of those whose absolute values are small is made to act on BIG only once. - 特許庁

有誤差金額算出部１７ｃは、演算部１７ａから出力される剰余に玉の税込単価を乗算して、剰余分の玉数に相当し、丸め誤差を含む有誤差金額を算出する。例文帳に追加

The error amount calculation part 17c multiplies a before-tax unit price by the remainder output from the computing part 17a and calculates an error amount equivalent to the number of remainder balls and including the rounding errors. - 特許庁

有誤差金額算出部３０６は、演算部３０５から出力される剰余に玉の税込単価を乗算して、剰余分の玉数に相当し、丸め誤差を含む有誤差金額を算出する。例文帳に追加

The error amount computing part 306 multiplies the remainder output from the arithmetic operating part 305 by the unit price of the ball including tax to compute the error amount including the rounding error, equivalent to the number of remainder balls. - 特許庁

正規化誤差，丸め誤差に起因する直流分の変動を防止することができ、妨害のない品位のよい映像とすることができるフィルタ演算装置を提供する。例文帳に追加

To provide a filter arithmetic unit which can prevent the variance of a DC component that is caused by a normalization error or a rounding error and can obtain a non-disturbed image of high quality. - 特許庁

これにより、量子化による丸め誤差を補正できるため、復号画像の歪みを抑制することが可能となる。例文帳に追加

By the method, it becomes possible to suppress distortion of the decoded image since rounding error by quantization can be corrected. - 特許庁

Ｙ２’の下位２ビットに００を付加した値−Ｔ２＝Ｄ＝−１によって丸め誤差Ｄが演算される。例文帳に追加

A rounding error D is calculated by using a value -T2=D=-1 resulting from adding '00' to the low-order 2-bits of the value Y2'. - 特許庁

ハードウエアの規模を増大させることなく信号の丸め誤差を低減することができ、かつ、ダイナミックレンジを拡大すること。例文帳に追加

To enable a rounding error of a signal to be reduced without increasing a size of hardware, and to enlarge a dynamic range. - 特許庁

x が y の整数倍に非常に近い場合、丸め誤差によって floor(x/y) は (x-x%y)/y よりも大きな値になる可能性があります。例文帳に追加

If x is very close to an exact integer multiple of y, it'spossible for floor(x/y) to be one larger than(x-x%y)/y due to rounding.  - Python

また，コストの下限値を算出する際に，四捨五入演算により発生する丸め誤差を予めルックアップテーブルに格納しておき，そのルックアップテーブルを参照することにより丸め誤差の補正値を算出する演算を省略できるようにする（Ｓ４）。例文帳に追加

Also, in calculating the lower limit value of the cost, a rounded error to be generated by rounding calculation is previously stored in a lookup table, so that the calculation a correction value of the rounded error can be omitted by referring to the lookup table (S4). - 特許庁

無誤差金額算出部１７ｂは、演算部１７ａから出力される商に基準金額を乗算して、交換玉総数から剰余分を除いた玉数に相当し、丸め誤差を含まない無誤差金額を算出する。例文帳に追加

The errorless amount calculation part 17b multiplies the criterion amount to the quotient output from the computing part 17a and calculates the errorless amount being equivalent to the number of balls excluding the remainder from the total number of exchanged balls, and non-including rounding errors. - 特許庁

無誤差金額算出部３０７は、演算部３０５から出力される商に基準金額を乗算して、交換玉数から剰余分を除いた玉数に相当し、丸め誤差を含まない無誤差金額を算出する。例文帳に追加

The error-free amount computing part 307 multiplies the quotient output from the arithmetic operating part 305 by a reference amount, and computes the error-free amount without including the rounding error, equivalent to the number of balls obtained by subtracting the remainder from the number of balls to be exchanged. - 特許庁

あるいは、量子化マトリックスのＤＣ成分に相当する要素の値を、１６に代えて１５を使用することで、８／１６丸めを行なう場合であっても最大誤差の丸めを起こらないようにする。例文帳に追加

Alternatively, 15 is used for a value of an element equivalent to a DC component of a quantization matrix instead of 16, and thereby rounding of a maximum error is prevented from occurring even when 8/16 rounding is performed. - 特許庁

細線を描画する場合における数値丸め誤差の影響で発生する掠れを防止する画像形成装置を提供すること。例文帳に追加

To provide an imaging apparatus which prevents shading brought about by effects of a rounding error of numeric values when thin lines are plotted. - 特許庁

バッファメモリ（１００）には丸め回路（１０４）の出力画素データが格納されるが、フィードバックバイパス経路を転送される画素データの演算処理時においては、丸め演算誤差が累積されるのを防止することができる。例文帳に追加

The output pixel data of a rounding circuit 104 are stored in the buffer memory 100, and at the time of the arithmetic processing of the pixel data transferred through the feedback bypass route, the rounding arithmetic errors are prevented from being accumulated. - 特許庁

貸出単位金額に対して貸し出される遊技媒体数が調整される場合に、遊技媒体の単価の丸め誤差による影響を低減すること。例文帳に追加

To reduce the effect of a rounding error of a unit price of a game medium in adjusting the number of game media dispensed for the unit amount for dispensation. - 特許庁

本発明は、ＩＩＲフィルタで有限長精度の数値演算を行った場合であっても、入力が０になれば丸め誤差によって０に収束する丸め処理方法及びプログラムの提供を目的とする。例文帳に追加

To provide a rounding method and a program ensuring convergence of an input signal to 0 by rounding error when the input signal goes 0, even when numerical operation is carried out with accuracy of finite length by an IIR filter. - 特許庁

丸め込み誤差の蓄積を抑え、再生画像品質の向上、再生画像を参照画像として利用する画像の予測効率の向上及び主観性能の向上を実現する。例文帳に追加

To achieve improvements in subjective performance, image prediction efficiency in utilization of reproduced images as reference images, and reproduced image quality, by preventing generation of accumulated rounding errors. - 特許庁

ディジタル無線受信装置が乗算器を用いて音声データのゲインを調節する場合に、丸め誤差を少なくし、且つ、小数点を意識せずにゲインを調節できるようにする。例文帳に追加

To reduce rounding errors and to adjust gain without regard to the decimal point when a digital radio receiving device adjusts the gain of voice data using a multiplier. - 特許庁

輝度または色差の強度値が整数に量子化される画像符号化方法において、動き補償において行われる共１次内挿の処理によって発生する丸め込み誤差の蓄積を防ぐ方法を提供する。例文帳に追加

To provide a picture encoding method, wherein intensity values of luminance or color difference are quantized into integers, capable of preventing accumulation of rounding errors caused by collinear interpolation processing conducted for motion compensation. - 特許庁

輝度または色差の強度値が整数に量子化される画像符号化方法において、動き補償において行われる共１次内挿の処理によって発生する丸め込み誤差の蓄積を防ぐ方法を提供する。例文帳に追加

To provide a method for preventing accumulation of rounding errors caused by bilinear interpolation processing performed in motion compensation, in an image encoding method in which intensity values of luminance or color difference are quantized as integers. - 特許庁

輝度または色差の強度値が整数に量子化される画像符号化方法において、動き補償において行われる共１次内挿の処理によって発生する丸め込み誤差の蓄積を防ぐ方法を提供する。例文帳に追加

To provide a method of preventing accumulation of rounding errors caused by a bilinear interpolation processing performed in motion compensation, in a method of encoding an image, wherein the intensity values of luminance or color difference are quantized as integers. - 特許庁

輝度または色差の強度値が整数に量子化される画像符号化方法において、動き補償において行われる共１次内挿の処理によって発生する丸め込み誤差の蓄積を防ぐ方法を提供する。例文帳に追加

To provide a picture encoding method, wherein intensity values of luminance or color difference are quantized into integers, capable of preventing accumulation of rounding errors caused by bilinear interpolation processing in motion compensation. - 特許庁

輝度または色差の強度値が整数に量子化される画像符号化方法において、動き補償において行われる共１次内挿の処理によって発生する丸め込み誤差の蓄積を防ぐ方法を提供する。例文帳に追加

To provide a method for preventing rounding errors, caused by coprimary interpolation processing carried out for motion compensation, from being accumulated in an image-encoding method which quantizes luminance or the intensity value of color difference into an integer. - 特許庁

重加算平均化処理は、前ラインのデータを用いるが、丸め誤差を含まない（小数点以下の値を復元）データを用いて行い、入力信号の変動への追従性を改善し、正確な黒シェーディング補正を可能とする。例文帳に追加

The heavy addition averaging process is performed by using data (restoration of the value below the decimal point) having no rounding error although data of a last line is used, and follow-up ability to variation of an input signal is improved to enable accurate black shading corrections. - 特許庁

評価精度が高く、かつ丸め誤差が少ない露光装置評価用フォトマスクの製造方法、露光装置評価用フォトマスク、およびこの露光装置評価用フォトマスクを用いた収差評価方法を提供する。例文帳に追加

To provide method of manufacturing a photomask for evaluating an aligner which assures higher evaluation accuracy and less rounding error, and also to provide the same photomask and a method of evaluating aberration using the same photomask. - 特許庁

輝度または色差の強度値が整数に量子化される画像符号化方法において、動き補償において行われる共１次内挿の処理によって発生する丸め込み誤差の蓄積を防ぐ方法を提供する。例文帳に追加

To provide a method for preventing accumulation of round errors caused by processing of complement primary interpolation conducted for motion compensation in an image coding method where the strength of a luminance signal or a color difference signal is quantized to be an integer. - 特許庁

高精細画像データ圧縮処理の際に、通常原画像の１０ビットデータを８ビットに変換を行う際に、変換の丸め誤差などにより疑似輪郭など画質劣化の影響がでてしまうことを回避し、かつ処理効率を悪化させないようにする。例文帳に追加

To avoid influences of picture quality degradation, such as a pseudo-outline, by rounding error of conversion in converting 10 bit data of a normal original image into 8 bit when performing high definition image data compression processing, and to prevent processing efficiency from decreasing. - 特許庁

各ステージにおいて内部表現内の１ＭＳＢビットを除去し最下位（ＬＳＢ）２ビットを打ち切り８タップＦＩＲフィルタ１００の各ステージにおいて第３のＬＳＢを丸めることにより、出力ＬＳＢの分数よりも小さい誤差でハードウェアの著しい低減が達成される。例文帳に追加

The hardware can remarkably be reduced with an error smaller than a fraction of an output LSB by eliminating a MSB bit in an internal expression, truncating two least significant bits(LSB) and rounding of a 3rd LSB in each stage of an 8-tap FIR filter 100. - 特許庁

予測モードのコスト算出に先立ち，被予測画素値和と参照画素値和と丸め誤差に対する補正値とから同コストの下限値を算出し（Ｓ５），各予測モードのコスト計算において下限値を利用した枝刈りを行い（Ｓ６），コストを最小化する予測モードを探索する。例文帳に追加

Prior to cost calculation of a prediction mode, the lower limit value of the cost is computed from the sum of pixel values to be predicted, the sum of reference pixel values and a correction value for a rounded error (S5), pruning utilizing the lower limit is executed in the cost calculation in each prediction mode (S6), and a prediction mode maximizing the cost is searched. - 特許庁

光学機器の最適な機械構造を光路解析及び機械系解析の手法を用いて、使用する光学部品の変形を考慮しつつ光学機器を設計支援する際、位置決めに要求される精度、振動解析工程での計算時間、コンピュータで計算する際の丸め誤差を減らす。例文帳に追加

To reduce precision requested for positioning, a calculation time in a vibration analysis process and a rounding error in confirming calculation by a computer in supporting the design of optical equipment in consideration of the deformation of optical components to be used by using a method for analyzing the optimal mechanical structure of the optical equipment by optical path analysis and mechanical system analysis. - 特許庁

簡易的で効果的かつ効率的に丸め誤差による影響を軽減させる為に、入力信号の圧縮処理のために１０ビットデータを８ビットに変換する処理に於いて「切り捨て」と「切り上げ」を交互に施し、時間軸方向で相関性が出ないようにする。例文帳に追加

In order to simply, effectively, and efficiently reduce influences by rounding error, in processing for converting 10 bit data into 8 bit for compression processing of an input signal, "round-down" and "round-up" are performed by turns to prevent correlation from occurring in a time axis direction. - 特許庁

低域通過デジタルフィルタ１のフィルタ係数を簡単な正整数とし、フィルタ係数の総和を後段のマルチレベルＤ／Ａ変換器２のレベル数以下として演算丸め誤差をなくし、再量子化雑音をゼロとすることにより、優れたＳＮ比やダイナミック・レンジ、全高調波ひずみ率を得る。例文帳に追加

The filter coefficient of the filter 1 is set to a simple positive integer, the sum of the filter coefficients is set equal to or lower than a level number of a multi- level D/A converter 2 in a latter stage, to eliminate arithmetic rounding errors, and by setting the re-quantized noise to be zero, superior S/N ratio, the dynamic range or total harmonics distortion rate. - 特許庁