integer absolute valueとは 意味・読み方・使い方

In a numerical expression of (Nsp/Ntr)=(N+ε)/J, J: an integer of 1-20, N: a positive integer, ε: a decimal less than 1 in an absolute value, N/J: an irreducible improper fraction or proper fraction by a combination of mutually prime integers and a value of becoming minimum in an absolute value of ε/J.例文帳に追加

（Ｎｓｐ／Ｎｔｒ）＝（Ｎ＋ε）／Ｊ数式中Ｊ：１〜２０の整数、Ｎ：正の整数、ε：絶対値が１未満の小数であり、Ｎ／Ｊは互いに素な整数の組合せによる既約の仮分数または真分数であり、ε／Ｊの絶対値が最小となる値である。 - 特許庁

Next, the processing block 110 calculates an absolute value of difference between the first and second relative data, finds an error value ε, which is the total sum of m-power value (m is an integer ≥1) of the absolute value, and outputs it to a timing detecting part 112.例文帳に追加

次に、処理ブロック１１０は、第１および第２の相対データ相互の差分を求めて絶対値をとり、当該絶対値のｍ乗値（ｍは、１以上の整数）の総和である誤差値εを求めてタイミング検出部１１２に出力する。 - 特許庁

A control means 15 temporarily converts the floating type data, of which an absolute value is to be found, into unsigned integer type data to load them from a memory 11 to a register 12.例文帳に追加

制御手段１５は、絶対値を求めたい浮動小数点型データを符号なし整数型データに一時的に型変換し、メモリ１１からレジスタ１２にロードする。 - 特許庁

If the output data type is an integer type, the block output is the maximum value representable by the output type or the converted output, whichever is smaller in the absolute sense.発音を聞く 例文帳に追加

出力データ型が整数型である場合, ブロック出力は, どちらか絶対値として小さい方の, 出力型または変換出力によって表される最大値となる. - コンピューター用語辞典

θ is determined from the expression θ=Φp/P+360×M/P relative to the integer value M satisfying the prescribed condition from the rotation angle Φp of the resolver 1 acquired by measurement, and used as the absolute angle θ.例文帳に追加

又、測定して得られたレゾルバ１の回転角度Φｐから、前記所定の条件を満足する整数値Ｍに対してθ＝Φｐ／Ｐ＋３６０＊Ｍ／Ｐを求めて絶対角度θとする。 - 特許庁

A decoder 23 outputs data of m bits using an index part n of n power (n is a negative integer) of 2 for indicating an inclination A of a straight line of linearly approximating log (1+e-|a-b|) as a positive integer, and data of a section B by using input data x with this absolute value as the input data x.例文帳に追加

これを入力データｘとし、デコーダ２３は、入力データｘを用いて、ｌｏｇ（１＋ｅ^-|a-b|）を直線近似した直線の傾きＡを示す２のｎ乗（ｎは負の整数）の指数部ｎを正の整数としたｍビットのデータと、切片Ｂのデータを出力する。 - 特許庁

The failure detection circuit 30 is connected across the diode 11 in the diode logical sum connection circuit 10, for example, and outputs a detection signal 32A when a detection voltage V1 is a positive integer and its absolute value is smaller than a set value e.例文帳に追加

故障検知回路３０は、例えば、ダイオード論理和接続回路１０内のダイオード１１の両端に接続されており、検出電圧Ｖ１が正の整数の場合であって、検出電圧Ｖ１の絶対値が設定値ｅよりも小さいとき、検知信号３２Ａを出力するようになっている。 - 特許庁

That is, there exist fractions 0.0, 0.25, 0.5, 0.75 after the Hadamard transform, but since the fractions are biased in a direction of increasing their absolute value in the simple rounding with high probability, the rounding processing for the integer processing when the fraction reaches 0.5 is changed for each block.例文帳に追加

すなわち、アダマール変換後の小数点以下は、０．０、０．２５、０．５、０．７５があるが、単純な四捨五入では、数値の絶対値が大きくなる方向に偏る確率が高くなるので、０．５になった場合の整数化の丸め処理をブロックごとに変更する。 - 特許庁