「rounding error」を含む例文一覧(46)
- A rounding error in the case of quantization is estimated and rounding error information err is transmitted to the subordinate information adder 9 by the rounding error estimating device 8.
丸め誤差見積器８では、量子化の際の丸め誤差を見積もり、丸め誤差情報err を付随情報付加器９に送る。 - 特許庁 - the error in the calculation was attributable to rounding
計算の誤りは、丸めが原因であった - 日本語WordNet - To reduce quantization rounding error in the case of data compression.
データー圧縮の際の量子化丸め誤差の低減。 - 特許庁 - (however, due to calculation error and rounding error, they do not always coincide.)
（ただし、計算上の誤差や四捨五入の関係から必ずしも一致はしない）。 - 厚生労働省 - To reduce the rounding error of a high speed Fourier transformation (FFT) arithmetic operation.
高速フーリエ変換(FFT)演算の丸め誤差を軽減させること。 - 特許庁 - To provide a picture calibration method free from influence of rounding error.
丸め誤差の影響を受けない画像校正方法を提供する。 - 特許庁 - The rounding error is distributed from the 2nd layer to the 1st layer in this way.
このように、丸め誤差が第２階層から第１階層に分散される。 - 特許庁 - To provide a rounding processing device for a numerical coprocessor capable of creating the magnitude relation between the magnitude of a rounding error and an operation result as a rounding error, further converting the rounding error to a floating point format so as to be smoothly usable for an operation to be successively performed.
丸め誤差の大きさと演算結果との大小関係を、丸め誤差として作成することができ、さらに丸め誤差を浮動小数点フォーマットに変換し、引き続き行われる演算にスムーズに利用可能な数値演算プロセッサの丸め処理装置を提供する。 - 特許庁 - taxes are rounded off to the nearest dollar but the rounding error is surprisingly small
税は最も近いドルまで四捨五入されるが、概数の誤差は驚くほど小さい - 日本語WordNet - An error computing means 52 computes the error resulting from the rounding of the part having the superior angle caused by the exposure.
誤差算出手段５２は、優角を有する部分が露光の際に丸まることにより生ずる誤差を算出する。 - 特許庁 - Thus, it is possible to eliminate any rounding error during the butterfly arithmetic operation (8p) of a radix 8(radix-8).
このことによって、基数8 (radix-8)のバタフライ演算8p中の丸め誤差を無くすることができる。 - 特許庁 - The inputted picture data is transmitted to a rounding error estimating device 8 of a watermark adder 1 and output from the rounding error estimating device 8 is transmitted to a subordinate information adder 9 as a correcting means of a pixel value.
入力画像データは、ウォータマーク付加器１の丸め誤差見積器８に送られ、この丸め誤差見積器８からの出力が画素値の修正手段である付随情報付加器９に送られる。 - 特許庁 - In this case, a rounding error to be generated due to the addition of those whose absolute values are small is made to act on BIG only once.
これにより、絶対値の小さいもの同士の加算で生じた丸め誤差はBIGに対して1度だけ作用する。 - 特許庁 - A rounding error D is calculated by using a value -T2=D=-1 resulting from adding '00' to the low-order 2-bits of the value Y2'.
Ｙ２’の下位２ビットに００を付加した値−Ｔ２＝Ｄ＝−１によって丸め誤差Ｄが演算される。 - 特許庁 - By the method, it becomes possible to suppress distortion of the decoded image since rounding error by quantization can be corrected.
これにより、量子化による丸め誤差を補正できるため、復号画像の歪みを抑制することが可能となる。 - 特許庁 - To find an error of an element value resulting from the rounding of a superior angle caused by exposure in the production of a semiconductor.
半導体装置を製造する際に露光により発生する優角の丸まりに起因する素子値の誤差を求める。 - 特許庁 - To enable a rounding error of a signal to be reduced without increasing a size of hardware, and to enlarge a dynamic range.
ハードウエアの規模を増大させることなく信号の丸め誤差を低減することができ、かつ、ダイナミックレンジを拡大すること。 - 特許庁 - The error amount computing part 306 multiplies the remainder output from the arithmetic operating part 305 by the unit price of the ball including tax to compute the error amount including the rounding error, equivalent to the number of remainder balls.
有誤差金額算出部３０６は、演算部３０５から出力される剰余に玉の税込単価を乗算して、剰余分の玉数に相当し、丸め誤差を含む有誤差金額を算出する。 - 特許庁 - To provide a filter arithmetic unit which can prevent the variance of a DC component that is caused by a normalization error or a rounding error and can obtain a non-disturbed image of high quality.
正規化誤差，丸め誤差に起因する直流分の変動を防止することができ、妨害のない品位のよい映像とすることができるフィルタ演算装置を提供する。 - 特許庁 - On the assumption that a specification error is generated at the time of selecting a target hot spot to be selected, a pointer 4 having an area is used for rounding the specification error.
選択対象であるターゲット・ホットスポットを選択する際に指定誤差が生じることを前提にして、前記指定誤差を丸めるために、面積を有するポインター４を用いる。 - 特許庁 - Alternatively, 15 is used for a value of an element equivalent to a DC component of a quantization matrix instead of 16, and thereby rounding of a maximum error is prevented from occurring even when 8/16 rounding is performed.
あるいは、量子化マトリックスのＤＣ成分に相当する要素の値を、１６に代えて１５を使用することで、８／１６丸めを行なう場合であっても最大誤差の丸めを起こらないようにする。 - 特許庁 - A lower limit of prediction error for a motion vector of decimal pixel precision is calculated using an already calculated rounding error (S3), and this lower limit is compared with a value stored as the minimum value of the prediction error (S4).
小数画素精度の動きベクトルに対する予測誤差の下限値を，既に計算済みの丸め誤差を用いて算出し（Ｓ３），この下限値と予測誤差の最小値として格納された値との大小を比較する（Ｓ４）。 - 特許庁 - To provide an imaging apparatus which prevents shading brought about by effects of a rounding error of numeric values when thin lines are plotted.
細線を描画する場合における数値丸め誤差の影響で発生する掠れを防止する画像形成装置を提供すること。 - 特許庁 - To provide a rounding method and a program ensuring convergence of an input signal to 0 by rounding error when the input signal goes 0, even when numerical operation is carried out with accuracy of finite length by an IIR filter.
本発明は、ＩＩＲフィルタで有限長精度の数値演算を行った場合であっても、入力が０になれば丸め誤差によって０に収束する丸め処理方法及びプログラムの提供を目的とする。 - 特許庁 - The error-free amount computing part 307 multiplies the quotient output from the arithmetic operating part 305 by a reference amount, and computes the error-free amount without including the rounding error, equivalent to the number of balls obtained by subtracting the remainder from the number of balls to be exchanged.
無誤差金額算出部３０７は、演算部３０５から出力される商に基準金額を乗算して、交換玉数から剰余分を除いた玉数に相当し、丸め誤差を含まない無誤差金額を算出する。 - 特許庁 - The error amount calculation part 17c multiplies a before-tax unit price by the remainder output from the computing part 17a and calculates an error amount equivalent to the number of remainder balls and including the rounding errors.
有誤差金額算出部１７ｃは、演算部１７ａから出力される剰余に玉の税込単価を乗算して、剰余分の玉数に相当し、丸め誤差を含む有誤差金額を算出する。 - 特許庁 - To reduce the effect of a rounding error of a unit price of a game medium in adjusting the number of game media dispensed for the unit amount for dispensation.
貸出単位金額に対して貸し出される遊技媒体数が調整される場合に、遊技媒体の単価の丸め誤差による影響を低減すること。 - 特許庁 - To provide a pre-emphasis circuit for reducing an error rate in transmitting/receiving data by enlarging the amplitude of an output signal in the transition of an input signal and suppressing rounding of an edge part.
入力信号の遷移時における出力信号の振幅を大きくして、エッジ部のなまりを抑え、データ送受信の際のエラー率を低減するプリエンファシス回路を得る。 - 特許庁 - Through output load verification processing 23 for the waveform rounding, the load capacity Cl of an output part of the hardware macro is extracted and when it is larger than Cmax, an error is decided.
波形鈍りに対する出力負荷検証処理２３において、ハードマクロの出力部の負荷容量Ｃｌを抽出し、Ｃｍａｘより大であるときにエラーとする。 - 特許庁 - To improve the estimate precision of a frequency error, that is, the accuracy of automatic frequency control by rounding off only reception information clearly low in reliability.
明らかに信頼度の低い受信情報だけを切り捨てることにより、周波数誤差の推定精度すなわち自動周波数制御の精度を向上できるようにすることを課題とする。 - 特許庁 - To provide a pattern layout that can prevent changes in transistor characteristics caused by rounding which generates inside a corner of a diffusive region or a gate wiring and by an alignment error of a mask.
拡散領域あるいはゲート配線の角部内側に発生する丸まりとマスクの位置合わせ誤差とに起因するトランジスタ特性の変動を防止し得るパターンレイアウトを提供する。 - 特許庁 - Also, in calculating the lower limit value of the cost, a rounded error to be generated by rounding calculation is previously stored in a lookup table, so that the calculation a correction value of the rounded error can be omitted by referring to the lookup table (S4).
また，コストの下限値を算出する際に，四捨五入演算により発生する丸め誤差を予めルックアップテーブルに格納しておき，そのルックアップテーブルを参照することにより丸め誤差の補正値を算出する演算を省略できるようにする（Ｓ４）。 - 特許庁 - Based on the error between the circuit simulation result 1012 and cell delay information 1013 of gate level calculated by the approximate function thereof, delay error correction information 1015 depending on the input signal waveform rounding and output load capacity of a cell is calculated.
回路シミュレーション結果１０１２とその近似関数により算出したゲートレベルのセル遅延情報１０１３との誤差を元にして、セルの入力信号波形なまりと出力負荷容量とに依存した遅延誤差補正情報１０１５を算出しておく。 - 特許庁 - To provide a proportional division calculation balance adjusting device, a method and a program for adjusting a balance for not causing a rounding error in proportional division calculation.
按分計算にて丸め誤差を発生させないように差額を調整する按分計算差額調整装置、按分計算差額調整方法及び按分計算差額調整プログラムを提供する。 - 特許庁 - To provide a power cycle life prediction method, a life prediction device, and a semiconductor device including the life prediction device for predicting a life with high accuracy by eliminating a rounding error factor.
丸めによる誤差要因を無くし高精度な寿命予測を行うことができるパワーサイクル寿命予測方法、寿命予測装置及び該寿命予測装置を備えた半導体装置を提供する。 - 特許庁 - To solve such problem that a large error is likely to be included in coordinate values caused by rounding the coordinate values after the transformation obtained by using only the coordinate values of an outline font before the transformation.
アウトラインフォントの変換前の座標値のみに基づいて得られた変換後の座標値をまるめることにより、その座標値が大きな誤差を含むおそれがあるという問題を解決する。 - 特許庁 - To provide method of manufacturing a photomask for evaluating an aligner which assures higher evaluation accuracy and less rounding error, and also to provide the same photomask and a method of evaluating aberration using the same photomask.
評価精度が高く、かつ丸め誤差が少ない露光装置評価用フォトマスクの製造方法、露光装置評価用フォトマスク、およびこの露光装置評価用フォトマスクを用いた収差評価方法を提供する。 - 特許庁 - To provide an image display device which can suppress waveform rounding both when a driving voltage waveform leads and when trails with a small cost increase and prevent error writing without shortening an effective writing time.
少ないコストアップで、且つ、駆動電圧波形の立ち上がり時および立ち下がり時の双方の波形鈍りを抑制し、実効書込時間を減少させることなく、エラー書込みを防止できる画像表示装置を提供する。 - 特許庁 - The heavy addition averaging process is performed by using data (restoration of the value below the decimal point) having no rounding error although data of a last line is used, and follow-up ability to variation of an input signal is improved to enable accurate black shading corrections.
重加算平均化処理は、前ラインのデータを用いるが、丸め誤差を含まない（小数点以下の値を復元）データを用いて行い、入力信号の変動への追従性を改善し、正確な黒シェーディング補正を可能とする。 - 特許庁 - Further, calculating ψ=Ψ-π×round (Ψ/π) (round stands for the operation of rounding off) for the component Ψ to remove the random component (π component), and detecting the sampling error component.
さらに、位相成分Ψに対してモジュラス演算部２１６においてψ＝Ψ−π×ｒｏｕｎｄ（Ψ／π）（ｒｏｕｎｄは四捨五入演算）なる演算を行いランダム成分（π成分）を除去しサンプリング誤差成分を検出する。 - 特許庁 - While referring to the said delay error correction information 1015 from the input signal waveform rounding and output load capacity found at the time of delay value calculation for back annotation using layout information 1014, a delay value for back annotation is corrected.
レイアウト情報１０１４を用いたバックアノテーション用遅延値算出時に求まる入力信号波形なまり及び出力負荷容量から前記遅延誤差補正情報１０１５を参照することにより、バックアノテーション用遅延値を補正する。 - 特許庁 - To avoid influences of picture quality degradation, such as a pseudo-outline, by rounding error of conversion in converting 10 bit data of a normal original image into 8 bit when performing high definition image data compression processing, and to prevent processing efficiency from decreasing.
高精細画像データ圧縮処理の際に、通常原画像の１０ビットデータを８ビットに変換を行う際に、変換の丸め誤差などにより疑似輪郭など画質劣化の影響がでてしまうことを回避し、かつ処理効率を悪化させないようにする。 - 特許庁 - To provide an image processor and image processing method for eliminating such inconveniences that pixels are not projected to a converted image with a blank left due to a rounding error when performing conversion into an integer by affine transformation and performing image processing of high quality in a short period of time.
アフィン変換における整数化処理時のまるめ（整数化）誤差によって、変換画像に空白のまま画素の投影が行われない不都合を解消し、短い処理時間で高品質の画像処理を行う画像処理装置及び画像処理方法を提供すること。 - 特許庁 - In order to simply, effectively, and efficiently reduce influences by rounding error, in processing for converting 10 bit data into 8 bit for compression processing of an input signal, "round-down" and "round-up" are performed by turns to prevent correlation from occurring in a time axis direction.
簡易的で効果的かつ効率的に丸め誤差による影響を軽減させる為に、入力信号の圧縮処理のために１０ビットデータを８ビットに変換する処理に於いて「切り捨て」と「切り上げ」を交互に施し、時間軸方向で相関性が出ないようにする。 - 特許庁 - The hardware can remarkably be reduced with an error smaller than a fraction of an output LSB by eliminating a MSB bit in an internal expression, truncating two least significant bits(LSB) and rounding of a 3rd LSB in each stage of an 8-tap FIR filter 100.
各ステージにおいて内部表現内の１ＭＳＢビットを除去し最下位（ＬＳＢ）２ビットを打ち切り８タップＦＩＲフィルタ１００の各ステージにおいて第３のＬＳＢを丸めることにより、出力ＬＳＢの分数よりも小さい誤差でハードウェアの著しい低減が達成される。 - 特許庁 - To reduce precision requested for positioning, a calculation time in a vibration analysis process and a rounding error in confirming calculation by a computer in supporting the design of optical equipment in consideration of the deformation of optical components to be used by using a method for analyzing the optimal mechanical structure of the optical equipment by optical path analysis and mechanical system analysis.
光学機器の最適な機械構造を光路解析及び機械系解析の手法を用いて、使用する光学部品の変形を考慮しつつ光学機器を設計支援する際、位置決めに要求される精度、振動解析工程での計算時間、コンピュータで計算する際の丸め誤差を減らす。 - 特許庁
