「mantissa」に関連した英語例文の一覧と使い方(2ページ目) - Weblio英語例文検索

This method comprises: supplying the coefficient K; supplying a quantization parameter (QP); and forming a quantization value (L) from the coefficient K using a mantissa portion (Am(QP)) and an exponential portion (x^Ae(QP)).例文帳に追加

この方法は、係数Ｋを供給することと、量子化パラメータ（ＱＰ）を供給することと、仮数部分（Ａｍ（ＱＰ））及び指数部分（ｘ^Ａｅ（ＱＰ））を使って係数Ｋから量子化値（Ｌ）を形成することとを備える。 - 特許庁

The logarithmic value corresponding to the mantissa data and the logarithmic value corresponding to the exponent data are added up to obtain an output logarithmic value corresponding to the amplitude of the input signal.例文帳に追加

該仮数データに対応した対数値及び該指数データに対応した対数値を合算して、前記入力信号の振幅に対応した出力対数値を得る。 - 特許庁

In particular, the method comprises: supplying a coefficient K; supplying a quantization parameter (QP); forming a quantization value (L) from the coefficient K using a mantissa portion (Am(QP)) and an exponential portion (x^Ae(QP)).例文帳に追加

具体的には、パラメータ係数Ｋを供給することと、量子化パラメータ（ＱＰ）を供給することと、仮数部分（Ａｍ（ＱＰ））及び指数部分（ｘ^Ａｅ（ＱＰ））を使って係数Ｋから量子化値（Ｌ）を形成する。 - 特許庁

To maintain the arithmetic accuracy and to reduce the circuit scale of a digital integration device performing the cumulative processing of multiplied results with a multiplicand and a multiplier as a mantissa part and an exponent part.例文帳に追加

被乗数と乗数とを仮数部と指数部として乗算結果の累積処理を行うディジタル積分装置に関し、演算精度を維持して回路規模の縮小を図る。 - 特許庁

By contriving the division of the divisor, the calculation of the mantissa part is performed by making the divisor be in common as much as possible in a division ROM 1 and a linear arithmetic interpolation circuit 2 as well.例文帳に追加

さらに除数の区分けを工夫することにより、仮数部の計算も除算ＲＯＭ１と線形補間演算回路２とで、徐数をできるだけ共通化して行う。 - 特許庁

A mantissa matrix element Bm is represented using 6×3 matrix elements S, so that the transform coefficient subjected to the inverse integer transform is normalized by shift arithmetic operation using 2^N (N is a natural number).例文帳に追加

仮数部行列要素Ｂｍを、６×３の行列要素Ｓを用いて表すことで、逆整数変換された変換係数を２のＮ乗（Ｎは自然数）を用いてシフト演算により正規化する。 - 特許庁

Floating point data is composed of, e.g. four bytes and has a one-bit coding part, an eight-bit exponent part and a twenty-three-bit mantissa part as its breakdown.例文帳に追加

浮動小数点データは例えば４バイトで構成され、その内訳として１ビットの符号部と、８ビットの指数部と、２３ビットの仮数部とを有する。 - 特許庁

Consequently, it becomes possible to obtain a result of the floating multiplication at high speed because a sticky bit can be generated without using the result which is from the multiplication array 1 and a mantissa part adder 2.例文帳に追加

これにより、乗算アレイ１と仮数部加算器２を経由した結果を用いずにスティッキービットを生成できるため浮動小数点乗算の結果を高速に求めることができる。 - 特許庁

The arithmetic units, etc., 214, 216 perform arithmetic operations of pieces of the data from the buffers 300, 350 so that the mantissa part data and the corresponding scale factor become readable from the ROMs 210, 212.例文帳に追加

演算器等２１４，２１６は、仮数部データおよび対応するスケールファクタをＲＯＭ２１０，２１２から読出可能となるように、バッファ３００，３５０からのデータを演算する。 - 特許庁

Different values are used as elements in the mantissa portion matrix according to a base, and thereby, the transform coefficient obtained by the inverse integer transformation is normalized with a shift operation using 2N (N is a natural number) in the normalization step.例文帳に追加

仮数部行列要素として基底により異なる値を用いることで、正規化ステップは、逆整数変換された変換係数を、２Ｎ（Ｎは自然数）を用いてシフト演算により正規化する。 - 特許庁

The transform coefficient is calculated, by using a mantissa portion (Bm(QP)) and an exponential portion (Be(QP)) which are functions of a quantization parameter QP, as follows: K=L×Bm(QP)<<Be(QP) (<< represents a left shift operation).例文帳に追加

変換係数は、量子化パラメータＱＰの関数である仮数部分（Ｂｍ（ＱＰ））及び指数部分（Ｂｅ（ＱＰ））を用いて、Ｋ＝Ｌ×Ｂｍ（ＱＰ）＜＜Ｂｅ（ＱＰ）により求められる（＜＜は左シフト演算を表す。）。 - 特許庁

In this case, the matrix of the integer transform coefficients is obtained by multiplying the mantissa part (Bm(QP)[i][j]) of an inverse quantization parameter and the exponent part (2^Be(QP)[i][j]) of the inverse quantization parameter by the matrix of the quantization value.例文帳に追加

ここで、整数変換係数のマトリックスは、量子化値のマトリックスに逆量子化パラメータの仮数部（Ｂｍ（ＱＰ）［ｉ］［ｊ］）と、逆量子化パラメータの指数部（２^Ｂｅ（ＱＰ）［ｉ］［ｊ］）を乗じて求められる。 - 特許庁

A source type conversion part 0(1) and a source type conversion part 1(2) convert a floating point numerical format including a variable-length exponent part and a mantissa part into the IEEE 754 standard floating point numerical format.例文帳に追加

ソース型変換部０（１）およびソース型変換部１（２）は、可変長の指数部および仮数部を含んだ浮動小数点の数値形式を、ＩＥＥＥ７５４規格の浮動小数点の数値形式に変換する。 - 特許庁

And by assuming output of the asymmetric segment linear function as a double variable, lower 3 bits of the mantissa part are truncated and numbers upper than the lower 3 bits are taken out.例文帳に追加

また、その非対称区分線形関数の出力をダブル型変数として、その仮数部の下位３ビットを切り捨てて下位４ビットから上位の数を取り出す。 - 特許庁

The calculation step includes an operation execution step in which an operation is executed for an integer associated with a sign, an exponent, and/or a mantissa of an effective value in a subset of the set.例文帳に追加

計算するステップは、上記セットのサブセットの実効値の符号、指数、及び／又は仮数に対応する整数に対して演算を実行するステップを含む。 - 特許庁

Brightness of each color of RGB is represented in a floating-point format of a mantissa part of 6 bits and an exponent part of log_2(24) bits (about 4,585 bits), and a range of m*2^n-m*2^n+23 can be represented in the exponent part of log_2(24) bits.例文帳に追加

ＲＧＢの各色の明度を、仮数部６ビット、指数部ｌｏｇ_２（２４）ビット（約４．５８５ビット）の浮動小数点形式で表現し、ｌｏｇ_２（２４）ビットの指数部では、ｍ＊２^ｎ〜ｍ＊２^ｎ＋２３の範囲を表現できるようにする。 - 特許庁

The mantissa part is a function periodical at a period P (P is a constant), the exponent part includes a structure of Be(QP)[i][j]=Be+QP/P by the constant P and the constant Be, and the value of the inverse quantization parameter is doubled in each period P.例文帳に追加

仮数部は周期Ｐ（Ｐは定数）で周期的な関数であり、指数部は、定数Ｐと定数ＢｅによりＢｅ（ＱＰ）［ｉ］［ｊ］＝Ｂｅ＋ＱＰ／Ｐなる構造を有し、逆量子化パラメータは周期Ｐ毎に値が二倍となる。 - 特許庁

The matrix element of the mantissa part includes B(m)[i][j]=S_m, 0 (when (i, j) are both even numbers), =S_m, 1 (when (i, j) are both odd numbers), and =S_m, 2 (when (i, j) are others) with the quantization parameter QP as m.例文帳に追加

仮数部分の行列要素は、量子化パラメータＱＰをｍとして、Ｂ（ｍ）［ｉ］［ｊ］＝Ｓ_ｍ，０（（ｉ，ｊ）が共に偶数の場合）、＝Ｓ_ｍ，１（（ｉ，ｊ）は共に奇数の場合）、＝Ｓ_ｍ，２（上記以外の（ｉ，ｊ）の場合）を有する。 - 特許庁

An inverse quantization circuit 200 is provided with a ROM 210 storing the mantissa part data, a ROM 212 storing the scale factor, and arithmetic units, etc., 214, 216 that perform arithmetic operations of pieces of data from buffers 300, 350.例文帳に追加

逆量子化回路２００は、仮数部データを記憶したＲＯＭ２１０と、スケールファクタを記憶したＲＯＭ２１２と、バッファ３００，３５０からのデータを演算する演算器等２１４，２１６とを備える。 - 特許庁

With the maximum value (r) as a common index part, a mantissa part is shifted by an ALU 60 so that the index part of all data in the block can be equal to the common index part (r).例文帳に追加

そして、最大値ｒを共通の指数部として、ブロック内の全データの指数部が共通の指数部ｒと等しくなるように仮数部をＡＬＵ６０によりシフトする。 - 特許庁

In an index part of the calculation result r, a fixed value to define the result in a specified range is outputted to its high-order bits and an inversion result of low-order bits of a mantissa part of a floating point multiplication result y is outputted to its low-order bits.例文帳に追加

計算結果ｒの指数部は、その上位ビットには結果を特定の範囲にするための固定値を出力し、その下位ビットには、浮動小数点乗算結果ｙの仮数部の下位ビットの反転結果を出力する。 - 特許庁

An exponential computing part 105 finds a computation value P=X^Y=(1+X_1/2^23)^Y×(2^X_amari)×(2^X_int), based on the mantissa X_1, the integer X_int and the decimal X_amari.例文帳に追加

べき乗演算部１０５は、仮数Ｘ_1、整数Ｘ_int、および小数Ｘ_amariから、演算値Ｐ＝Ｘ^Y＝（１＋Ｘ_1／２^23）^Y×（２＾Ｘ_amari）×（２＾Ｘ_int）を求める。 - 特許庁

In the dequantization step, the transform coefficient K is calculated, by using elements Bm in a mantissa portion matrix and an exponential portion Be which are functions of a quantization parameter QP, as follows: K[i][j]=[L[i][j]×Bm(QP)[i][j]]<<Be(QP) (wherein << represents a left shift operation).例文帳に追加

逆量子化ステップは、量子化パラメータＱＰの関数である仮数部行列要素Ｂｍと指数部Ｂｅを用いて、Ｋ［ｉ］［ｊ］＝［Ｌ［ｉ］［ｊ］×Ｂｍ（ＱＰ）［ｉ］［ｊ］］＜＜Ｂｅ（ＱＰ）（“＜＜”は左シフト演算）を実行する。 - 特許庁

In Big Endian form 424, the least significant byte s0 of the mantissa is stored in the highest memory address of the same memory field.例文帳に追加

エンディアン制御ビットの第１状態に応じて、浮動小数点数は、符号および指数が完全に第１メモリワードに含まれ、仮数が完全に第２メモリワードに含まれるよう、ビッグ・エンディアン形式で第１および第２の連続するメモリワードに記憶される。 - 特許庁

At this time, the mantissa in the Little Endian form is stored in a 1st memory word between word borders 430 and 432 and the exponent and sign are stored in a 2nd memory word between word borders 432 and 434.例文帳に追加

エンディアン制御ビットの第２状態に応じて、浮動小数点数は、仮数が完全に第１メモリワードに含まれ、符号および指数が完全に第２メモリワードに含まれるよう、リトル・エンディアン形式で第１および第２の連続するメモリワードに記憶される。 - 特許庁

Then, the first binary word is transformed into a second binary word approximately showing a value of an exponential function in which the first value is a variable by using the preceding bit group BGV as exponential information (S) of the exponential function and also by using the subordinate bit group BGL as mantissa information [{1+(M/2L)}] of the exponential function.例文帳に追加

次に、上位ビット・グループＢＧ_Uを指数関数の指数情報（Ｓ）として使用し、かつ下位ビット・グループＢＧ_Lを指数関数の仮数情報（｛１＋（Ｍ／２^L）｝）として使用することにより、第１二進ワードを、第１の値を変数とする指数関数値を近似的に表す第２の二進ワードに変換する。 - 特許庁

A clip code is generated not by using the zero flag of addition/subtraction results and an addition/subtraction result sign, but by using the comparison results of the exponent and mantissa comparison parts found by the preprocessing, so the clip code can be generated fast without increasing the circuit scale.例文帳に追加

加減算結果による零フラグおよび加減算結果符号を用いてクリップコードを生成せず、前処理で求められる指数および仮数比較部の比較結果を用いて、クリップコードを生成するので、回路規模を増大させることなく、高速にクリップコードを生成することが可能である。 - 特許庁

To obtain an average over a plurality of samples of amplifier output values converted digitally in the logarithmic expression, a down-counter 4, a mantissa register 7 and a shift resistor 5 convert them to logarithmically expressed values, a cumulative adder 8 and a shift resistor 9 add and subtract them.例文帳に追加

アンプ出力値を対数表現でディジタル変換した値を複数サンプルし、平均を求めるために、ダウンカウンタ４と仮数レジスタ７、及びシフトレジスタ５によって指数表現の値へ変換し、累積加算器８とシフトレジスタ９によって加算及び除算をおこなう。 - 特許庁

A data format is adopted in this system where the number of lower- order bits of the mantissa of the apex coordinate data is made smaller than that of a data format in the floating point representation processible by a computer reading polygon data, and a data format into which the above apex normal data are integrated is applied to the room created by reducing the lower- order bits.例文帳に追加

頂点座標データのビット数は、ポリゴンデータを読取るコンピュータが処理可能な浮動小数点数のデータフォーマットに対して仮数の下位側ビット数が少なくされ、その少なくされた部分に前記頂点法線データを組込んだデータフォーマットを採用する。 - 特許庁

A rounding digit matching circuit 17 outputs the multiplied result H of this floating point multiplier from the output D0 and D1 of an exponent part adder 13 and the output C0 and C1 of the mantissa part adder 12 with the sticky bit S, the post- rounding normalization signal G and the carry X as control signals.例文帳に追加

丸め桁合わせ回路１７は、スティッキービットＳ、および、丸め後正規化信号Ｇ、桁上がりＸを制御信号として指数部加算器１３の出力Ｄ０、および、Ｄ１と、仮数部加算器１２の出力Ｃ０、および、Ｃ１とから浮動小数点乗算器の乗算結果Ｈを出力する。 - 特許庁

The transform coefficient K is obtained by K[i][j]=L[i][j]×B(QP mod P)[i][j]×2^(B+QP/P) (in this case, P and B are integers) using the quantization value L, a quantization parameter QP and the matrix element B(QP) of a mantissa part which is the function of the quantization parameter QP.例文帳に追加

変換係数Ｋは、量子化値Ｌと、量子化パラメータＱＰと、量子化パラメータＱＰの関数である仮数部分の行列要素Ｂ（ＱＰ）を用いて、Ｋ［ｉ］［ｊ］＝Ｌ［ｉ］［ｊ］×Ｂ（ＱＰ ｍｏｄ Ｐ）［ｉ］［ｊ］×２^（Ｂ＋ＱＰ／Ｐ）（ここでＰおよびＢは整数である）により求められる。 - 特許庁

The mantissa repeat processing part 250 reduces a subtraction shift processing frequency by performing quotient generation respectively twice the number of bits of a quotient generated in one subtraction shift processing and the number of left shift bits of the partial residue and the left shift processing of the partial residue based on the determination result of the operation execution control part 200.例文帳に追加

仮数繰り返し処理部２５０は、演算実行制御部２００の判定結果に基づいて、減算シフト処理の１回につき生成される商のビット数と部分剰余の左シフトビット数に対して、それぞれ２倍の商生成及び部分剰余の左シフト処理を行うことで、減算シフト処理回数を削減する。 - 特許庁

In the case that a floating point arithmetic operation is a subtraction operation and an exponent difference between two operands is 0, or in the case that the floating point arithmetic operation is the subtraction operation, the exponent difference is 1 and the mantissa of the operand having a larger exponent is within the range of a predetermined number, the short path is used so as to generate the result of the floating point arithmetic operation.例文帳に追加

浮動小数点演算が減算演算であり、かつ、２つのオペランドの間の指数差が０である場合に、または、浮動小数点演算が減算演算であり、指数差が１であり、かつ、より大きい指数を有するオペランドの仮数が予め決められた数の範囲内である場合に、浮動小数点演算の結果を生じさせるためにショートパスが使用される。 - 特許庁

The parameter calculation means has: a circuit for calculating the rise time of the input signal; a circuit for averaging the rise time calculated from each of a plurality of input signals; and a circuit for setting the average value to the amount of delay and calculating a digital filter coefficient from the mantissa part and the amount of delay.例文帳に追加

パラメータ算出手段は、入力信号の立ち上がり時間を計算する回路と、複数の入力信号の各々から計算した立ち上がり時間の平均値を取る回路とを有し、前記平均値を遅延量とするとともに、前記仮数部及び前記遅延量からデジタルフィルタ係数を算出する回路を有する。 - 特許庁