「integer absolute value」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

In an external compressing device 2, for example, a compression rate is calculated by dividing the maximum value of the absolute value of original data in a 32 bit floating point system by the maximum value of the absolute value of an integer value whose bits are smaller than 32 bits.例文帳に追加

外部圧縮装置２で例えば３２ビット浮動小数点方式の元データの絶対値の最大値を３２ビットより小さいビットの整数値の絶対値の最大値で割って圧縮率を求める。 - 特許庁

Of the key generating device, an arbitrary value generating section 116 generates n (n is a positive integer) arbitrary values λ_i (i=0, ..., n-1) whose absolute value is equal to or larger than a prescribed value.例文帳に追加

任意値生成部１１６が、絶対値が所定値以上となるｎ個（ｎは正の整数）の任意値λ_ｉ（ｉ＝０，．．，ｎ−１）を生成する。 - 特許庁

In a numerical expression of (Nsp/Ntr)=(N+ε)/J, J: an integer of 1-20, N: a positive integer, ε: a decimal less than 1 in an absolute value, N/J: an irreducible improper fraction or proper fraction by a combination of mutually prime integers and a value of becoming minimum in an absolute value of ε/J.例文帳に追加

（Ｎｓｐ／Ｎｔｒ）＝（Ｎ＋ε）／Ｊ数式中Ｊ：１〜２０の整数、Ｎ：正の整数、ε：絶対値が１未満の小数であり、Ｎ／Ｊは互いに素な整数の組合せによる既約の仮分数または真分数であり、ε／Ｊの絶対値が最小となる値である。 - 特許庁

Next, the processing block 110 calculates an absolute value of difference between the first and second relative data, finds an error value ε, which is the total sum of m-power value (m is an integer ≥1) of the absolute value, and outputs it to a timing detecting part 112.例文帳に追加

次に、処理ブロック１１０は、第１および第２の相対データ相互の差分を求めて絶対値をとり、当該絶対値のｍ乗値（ｍは、１以上の整数）の総和である誤差値εを求めてタイミング検出部１１２に出力する。 - 特許庁

A control means 15 temporarily converts the floating type data, of which an absolute value is to be found, into unsigned integer type data to load them from a memory 11 to a register 12.例文帳に追加

制御手段１５は、絶対値を求めたい浮動小数点型データを符号なし整数型データに一時的に型変換し、メモリ１１からレジスタ１２にロードする。 - 特許庁

If the output data type is an integer type, the block output is the maximum value representable by the output type or the converted output, whichever is smaller in the absolute sense. 例文帳に追加

出力データ型が整数型である場合, ブロック出力は, どちらか絶対値として小さい方の, 出力型または変換出力によって表される最大値となる. - コンピューター用語辞典

θ is determined from the expression θ=Φp/P+360×M/P relative to the integer value M satisfying the prescribed condition from the rotation angle Φp of the resolver 1 acquired by measurement, and used as the absolute angle θ.例文帳に追加

又、測定して得られたレゾルバ１の回転角度Φｐから、前記所定の条件を満足する整数値Ｍに対してθ＝Φｐ／Ｐ＋３６０＊Ｍ／Ｐを求めて絶対角度θとする。 - 特許庁

A decoder 23 outputs data of m bits using an index part n of n power (n is a negative integer) of 2 for indicating an inclination A of a straight line of linearly approximating log (1+e-|a-b|) as a positive integer, and data of a section B by using input data x with this absolute value as the input data x.例文帳に追加

これを入力データｘとし、デコーダ２３は、入力データｘを用いて、ｌｏｇ（１＋ｅ^-|a-b|）を直線近似した直線の傾きＡを示す２のｎ乗（ｎは負の整数）の指数部ｎを正の整数としたｍビットのデータと、切片Ｂのデータを出力する。 - 特許庁

The failure detection circuit 30 is connected across the diode 11 in the diode logical sum connection circuit 10, for example, and outputs a detection signal 32A when a detection voltage V1 is a positive integer and its absolute value is smaller than a set value e.例文帳に追加

故障検知回路３０は、例えば、ダイオード論理和接続回路１０内のダイオード１１の両端に接続されており、検出電圧Ｖ１が正の整数の場合であって、検出電圧Ｖ１の絶対値が設定値ｅよりも小さいとき、検知信号３２Ａを出力するようになっている。 - 特許庁

That is, there exist fractions 0.0, 0.25, 0.5, 0.75 after the Hadamard transform, but since the fractions are biased in a direction of increasing their absolute value in the simple rounding with high probability, the rounding processing for the integer processing when the fraction reaches 0.5 is changed for each block.例文帳に追加

すなわち、アダマール変換後の小数点以下は、０．０、０．２５、０．５、０．７５があるが、単純な四捨五入では、数値の絶対値が大きくなる方向に偏る確率が高くなるので、０．５になった場合の整数化の丸め処理をブロックごとに変更する。 - 特許庁

The absolute rotational angle within ±L rotations from the original point of the rotator 1 is calculated from the number of rotations of integer obtained from the output signal S2 of the multi-rotational detector 4, the result of discrimination of plus and minus, and the value of output signal S1 detected by the one rotation detector 2.例文帳に追加

多回転検出部４の出力信号Ｓ２から求められる回転数の整数値、前記正負の判別結果、および１回転検出部２で検出される出力信号Ｓ１の値から、回転体１の原点位置から±Ｌ回転以内の回転絶対角度を算出する。 - 特許庁

When re-quantization is performed after quantization based on predetermined dead zone and quantizing step, first re-quantizing means 73 defines dz+h×qs where h is an integer larger than zero, dz is the predetermined dead zone and qs is the predetermined quantizing step as a new dead zone and quantizes the value of image data whose absolute value is less than the new dead zone to zero.例文帳に追加

所定のデッドゾーンおよび量子化ステップに基づく量子化を行った後に再量子化を行うときに、第１の再量子化手段７３は、ｈを０以上の整数とし、所定のデッドゾーンをｄｚとし、所定の量子化ステップをｑｓとすると、ｄｚ＋ｈ・ｑｓを新たなデッドゾーンに定め、絶対値がその新たなデッドゾーン以下である画像データの値を０に量子化する。 - 特許庁