「square error」に関連した英語例文の一覧と使い方(3ページ目) - Weblio英語例文検索

In accordance with a means square error minimizing method with a mass spectrum determined from a non-passing time-of-flight spectrum of which the peak strength is approximately accurate, a regularized general inverse matrix with respect to the coefficient matrix A is calculated (S4), and a peak strength in each m/z is calculated using this matrix (S5).例文帳に追加

ピーク強度がほぼ正確である非追い越し飛行時間スペクトルから求まるマススペクトルを制約とした平均自乗誤差最小化法により、係数行列Ａに対する正則化一般逆行列を計算し（Ｓ４）、この行列を用いて各m/zにおけるピーク強度を計算する（Ｓ５）。 - 特許庁

Camera calibration is actually performed, and the result is that a square error between an optimum value of a camera parameter found by the optimization convergence computation and a known ideal value of a camera parameter value is small in almost all trials, and it is actually proved that the convergence to the global solution is improved.例文帳に追加

実際にカメラキャリブレーションを行った結果、最適化収束計算により求められたカメラパラメータの最適値と、既知であるカメラパラメータの理想値との２乗誤差が、ほぼ全ての試行において小さくなり、大域解への収束性が向上されることが実証された。 - 特許庁

To provide a device for monitoring the quality of a picture in transmission for executing remote monitoring, by extracting feature values from a transmission side and reception side capable of validly assessing an MSE(mean square error) with a small extracted amount (therefore, leading to a low speed operation of a line of a central monitoring unit).例文帳に追加

送信側と受信側から特徴量を抽出することにより遠隔監視を行う伝送画質監視において、少ない抽出量(したがって中央監視室への回線がより低速ですむ)で有効にMSEを推定する伝送画質監視装置を提供することにある。 - 特許庁

A correction equation for linearly correcting the nonlinear output of a photoelectric current sensor 2 and a correction equation for correcting the temperature error characteristic of the photoelectric current sensor 2 are stored in a memory 10 connected to a CPU 9 calculating a root- mean-square value from the output of the photoelectric current sensor 2.例文帳に追加

光電流センサ２の出力から実効値を算出するＣＰＵ９に接続されたメモリ１０に、光電流センサ２の非直線性を持つ出力を直線補正する補正式と、光電流センサ２の温度誤差特性を補正する補正式とを記憶させておく。 - 特許庁

A characteristic curve is defined on a coordinate plane where a visually equal scale (by normalizing 1/3 square of any one of three stimulus values of an object color) is used as a first axis and a gradation value of original data is used as a second axis, the boundary value of a level of error diffusion is decided through the characteristic curve.例文帳に追加

視覚的に均等な尺度（物体色の三刺激値のいずれかの１／３乗を正規化したもの）を第１の軸とし、元データの階調値を第２の軸とする座標平面上に特性曲線を定義し、当該特性曲線を通じて誤差拡散のレベルの境界値を定める。 - 特許庁

In step S4, ellipso-parameters Δand Ψof the sample are calculated using the dielectric function, and fitting is performed by regression analysis so that the average square error, between the calculated values of the elipso-parameters Δ and Ψ and the measured values by the spectral ellipsometer, is minimized or lies within an allowable range to estimate an optimum dielectric function.例文帳に追加

ステップＳ４で前記誘電関数を用いて試料のエリプソパラメータΔ，ψを計算し、前記エリプソパラメータΔ，ψの計算値と分光エリプソメータによる測定値との平均２乗誤差が最小又は許容範囲内になるように回帰解析法でフィッティングを行い最適な誘電関数を推定する。 - 特許庁

So that a square error of the difference between the characteristic and the cross spectrum characteristics becomes minimum, reflecting the difference, Wavelet transform nuclear is utilized.例文帳に追加

圧縮前の原画像と圧縮再生後の復元画像の間のクロススペクトル解析を行い画像の主成分が存在する低周波数領域について、目標周波数特性として所定のローパスフィルタ特性を設定し、この特性とクロススペクトル特性の差分の二乗誤差が最小となるように、差分を反映して独自のウェーブレット変換核を発明した。 - 特許庁

A propagation path characteristic calculation circuit 18 calculates a parameter estimation value of the propagation path by using the detected peak amplitude value and estimates the characteristics of the propagation path by calculating a propagation path parameter minimizing a square error between a copy of a pilot signal prepared from the estimation value and the pilot signal.例文帳に追加

伝搬路特性計算回路１８は、検出されたピーク振幅値を用いて伝搬路のパラメータの推定値を計算し、その推定値から作成したパイロット信号の複製とパイロット信号との２乗誤差が最小となる伝搬路のパラメータを計算することによって、伝搬路の特性を推定する。 - 特許庁

A sum signal of respective detecting voltages of two groups of the photodetecting elements which are arranged in the direction of diagonal lines of the quandripartite photodetector arranged in the matrix state with a cross in square shape, is corrected by a signal of the difference in respective detection signals, then the focus error signal is detected by taking difference the sum signal of corrected respective detection voltages.例文帳に追加

田字状に配置された４分割光検出器の対角線方向に配置された２組の光検出素子のそれぞれの検出電圧の和の信号を、それぞれの検出電圧の差の信号によって補正し、補正されたそれぞれの検出電圧の和の信号を差分して、フォーカス誤差信号を検出するようにする。 - 特許庁

A weighting factor control part 21 multiplies a predetermined pilot signal by a channel response, uses a time domain signal obtained by an IFFT (Inverse Fast Fourier Transform) part 213 as a reference signal, and obtains a weighting factor to be used for the array synthesis by optimization according to a rule of a square error so as to minimize difference between the array synthesis signal and the reference signal.例文帳に追加

重み係数制御部２１は、予め定められたパイロット信号にチャネル応答を乗算し、ＩＦＦＴ部２１３によって得られる時間領域信号を参照信号とし、前記アレー合成のために用いる重み係数を、アレー合成信号と参照信号との間の誤差が最小となるように、自乗誤差の規範により最適化によって求める。 - 特許庁

In determining a prediction mode on the basis of Lagrange's cost function composed of distortion quantity, a code amount and an undetermined multiplier, a weighted distortion quantity calculation part 105 calculates weighted distortion quantity obtained by multiplying a square error by a sensitivity coefficient determined on the basis of visual sensitivity, sets a cost function by using the weighted distortion quantity and selects a prediction mode for minimizing the cost function.例文帳に追加

歪み量，符号量，未定乗数からなるラグランジェのコスト関数に基づき予測モードを決定する際に，重み付き歪み量算出部１０５により，視覚感度に基づき定められる感度係数を二乗誤差に乗じて得られる重み付き歪み量を算出し，この重み付き歪み量を用いてコスト関数を設定し，該コスト関数を最小化する予測モードを選択する。 - 特許庁

Signals transmitted through a single carrier are converted into a frequency domain signals through a FFT unit 204, a difference between array output signals and reference signals in a frequency domain is obtained for each frequency through an adder 209, an LMS (Least Mean Square Error) weight control unit 206 updates the weight of the antennas for each frequency using the difference obtained through the adder 209 and resting on the basis of the normalized LMS.例文帳に追加

シングルキャリア伝送された信号をＦＦＴ部２０４が周波数領域信号に変換し、周波数領域においてアレー出力信号と参照信号との差分を加算器２０９において周波数毎に求め、ＬＭＳウェイト制御部２０６では、加算器２０９によって求めた差分を用いて、正規化ＬＭＳに基づいて、周波数毎にアンテナ重みを更新する。 - 特許庁