「mantissa」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

A mantissa part coefficient acquisition part 12 is configured to find a mantissa part coefficient (k) from an expression found according to the relation between the exponent part data (n) and mantissa part data for each mantissa part address A.例文帳に追加

仮数部係数取得部１２は、仮数部アドレスＡ毎に指数部データｎと仮数部データとの関係に従って求められた式に基づいて仮数部係数ｋを求めるように構成されている。 - 特許庁

Then the mantissa part address acquisition part 21a and a mantissa part data acquisition part 21b generates a coefficient (a) and data d1 respectively based upon the mantissa part address A to precisely find a mantissa part coefficient (k) of each mantissa address A for the exponent part data (n) for .例文帳に追加

そして、係数データ取得部２１ａ、仮数部データ２１ｂは、それぞれ、仮数部アドレスＡに基づいて係数ａ、データｄ１を生成することにより、仮数部アドレスＡ毎に、指数部データｎに対して仮数部係数ｋを精度よく求めることができる。 - 特許庁

A mantissa/exponent separation means 4 receives the converted image data to separate the converted image data into exponent part image data and mantissa part image data.例文帳に追加

仮数・指数分離手段４は、変換画像データを受けて、これを指数部画像データと仮数部画像データに分離する。 - 特許庁

The mantissa repeat processing part 250 generates a quotient and a partial residue by subtraction shift processing of a mantissa of a dividend in an input operand.例文帳に追加

仮数繰り返し処理部２５０は、入力オペランドにおける被除数の仮数の減算シフト処理により商と部分剰余とを生成する。 - 特許庁

The mantissa part address A is set based upon precision of the specified gain GT.例文帳に追加

仮数部アドレスＡは、指定ゲインＧＴの精度に基づいて設定される。 - 特許庁

The low-order x bits of a mantissa part are taken out of the register 130.例文帳に追加

レジスタ１３０から、仮数部の下位のｘビットを取り出す。 - 特許庁

A mantissa value calculation table 220 is accessed by the mantissa data to output a logarithmic value corresponding to the mantissa data, and an exponent value calculation table 230 is accessed by the exponent data to output a logarithmic value corresponding to the exponent data.例文帳に追加

仮数値算出テーブル２２０は、仮数データでアクセスされて該仮数データ対応した対数値を出力し、指数値算出テーブル２３０は指数データでアクセスされて指数データに対応した対数値を出力する。 - 特許庁

A mantissa/exponent separation part 101 separates an input value X=(1+X_1/2^23)×(2^X_2) into a mantissa X_1 in a mantissa of a floating point, and an exponent X_2 in an exponential part.例文帳に追加

仮数／指数分離部１０１は、入力値Ｘ＝（１＋Ｘ_1／２^23）×（２＾Ｘ_2）を浮動小数点数の仮数部の仮数Ｘ_1と、指数部の指数Ｘ_2とに分離する。 - 特許庁

A data converting section 100 converts an input signal into digital detection data at a predetermined period clock, and an exponent/mantissa separator 210 outputs the digital detection data while separating into mantissa data representative of the mantissa part of the detection data and exponent data representative of the exponent part of the detection data.例文帳に追加

入力信号をデータ変換部１００により所定周期クロックでデジタルの検波データに変換し、指数・仮数分離器２１０により検波データの仮数部を表す仮数データと指数部を表す指数データに分離して出力する。 - 特許庁

In a mantissa part of the calculation result r, low-order-bits of the mantissa part of the floating point multiplication result y are outputted to its high-order bits and high-order bits of the mantissa part of the floating point multiplication result are outputted to its low-order bits by shifting them to right.例文帳に追加

計算結果ｒの仮数部は、その上位ビットには浮動小数点乗算結果ｙの仮数部の下位ビットを出力し、その下位ビットには該浮動小数点乗算結果の仮数部の上位ビットを右にシフトして出力する。 - 特許庁

A transmission means 10 transmits the compressed mantissa part image data and the compressed exponent part image data.例文帳に追加

送信手段１０は、指数部圧縮画像データおよび仮数部圧縮画像データを送信する。 - 特許庁

Then μ='log2((1,qm))-qm' which corresponds to mantissa qm data in a table 203 is outputted.例文帳に追加

テーブル２０３において、仮数ｑｍデータに対応するμ＝「ｌｏｇ_2 （｛１，ｑｍ｝）−ｑｍ」を出力する。 - 特許庁

The floating point divider includes a mantissa repeat processing part 250 and an operation execution control part 200.例文帳に追加

この浮動小数点除算器は、仮数繰り返し処理部２５０と、演算実行制御部２００とを具備する。 - 特許庁

Namely, the least significant byte s0 of a mantissa is stored in the lowest memory address of a 128-bit memory field in Little Endian form 420.例文帳に追加

レジスタ形式の浮動小数点数は、メモリの１ワードより多くのバイトをもつ。 - 特許庁

A divisor is divided into a mantissa part and an exponent part, division is performed at the mantissa part and then only the bit shift of a power of two is performed by a bit shift circuit 5 for the calculation of the exponent part.例文帳に追加

除数を仮数部と指数部に分け、その仮数部で除算を行い、そのあとで指数部の計算を、ビットシフト回路５により２の羃乗のビットシフトのみ行う。 - 特許庁

A mantissa truncation part 3 truncates the low order bits of a mantissa part in accordance with the magnitude of the exponent part concerning the respective components α, β, and γ of a difference vector d'n subjected to the local transformation.例文帳に追加

仮数切捨部３は、局所変換された差分ベクトルｄ'nのそれぞれの成分α，β，γに関して、指数部の大きさに応じて仮数部の下位ビットを可変に切り捨てる。 - 特許庁

A destination type conversion part 4 converts a computing result by the exponent/mantissa fixed-length floating point computing unit 3 into the floating point numerical format including the variable-length exponent part and mantissa part.例文帳に追加

デスティネーション型変換部４は、指数・仮数固定長形式浮動小数点演算器３による演算結果を可変長の指数部および仮数部を含んだ浮動小数点の数値形式に変換する。 - 特許庁

An exponent/mantissa fixed-length floating point computing unit 3 performs floating point operation by using the fixed-length exponent part and the mantissa part converted by the source type conversion part 0(1) and the source type conversion part 1(2).例文帳に追加

指数・仮数固定長形式浮動小数点演算器３は、ソース型変換部０（１）およびソース型変換部１（２）によって変換された固定長の指数部および仮数部を用いて浮動小数点演算を行なう。 - 特許庁

When the mantissa is transformed, figures on and after 8 digits of the mantissa may be set to "xxx xxxx 1000 0000 0000 0000" while matching the figures up to an upper digit, e.g., 7 digits to those of the input value x_i.例文帳に追加

前記仮数部の変形としてはその上位の例えば７桁までは入力値ｘ_ｉ のそれと一致させ、８桁目以降を“ｘｘｘ ｘｘｘｘ １０００ ００００ ００００ ００００”としてもよい。 - 特許庁

A mantissa part adder 12 and a post-rounding normalization judgment circuit 16 input the high-order m+1 [bits] of A and the high-order m [bits] of B and respectively output mantissa part added results C0 and C1 (=C0+1), carry X and a post- rounding normalization signal G.例文帳に追加

仮数部加算器１２、丸め後正規化判定回路１６は、Ａの上位ｍ＋１［ビット］、Ｂの上位ｍ［ビット］を入力し、それぞれ、仮数部加算結果Ｃ０，Ｃ１（＝Ｃ０＋１），桁上がりＸ、丸め後正規化信号Ｇを出力する。 - 特許庁

The computer for division decomposes a sign and a mantissa, and an exponent from each other and calculates them separately from each other, the computer includes a computing unit for taking out the sign and the mantissa and a computing unit for taking out a difference between exponents of two numbers.例文帳に追加

符号および仮数と、指数とを分解し、２者を別々に計算する除算用の計算機において、符号および仮数を取り出す演算器と、２つの数の指数の差を取り出す演算器を設ける。 - 特許庁

The exponential computing part 105 acquires therein an exponential value (1+X_1/2^23)^Y of the mantissa of the input value X, and an exponential value (2^X_amari) of a base of the input value, from a table, using the mantissa X_1 and the decimal X_amari.例文帳に追加

その際、べき乗演算部１０５は、入力値Ｘの仮数のべき乗値（１＋Ｘ_1／２^23）^Yと、入力値Ｘの底のべき乗値（２＾Ｘ_amari）とを、仮数Ｘ_1および小数Ｘ_amariを用いてテーブルから取得する。 - 特許庁

The zero counting means 4-1 and 4-2 count the number of zero during the period until 1 appears for the first time from the least significant digit bits of the mantissa part M0 and M1 and an adder 5 sums up their zero count results of the mantissa parts M0 and M1.例文帳に追加

零計数手段４−１及び４−２にて、仮数部Ｍ０及びＭ１の最下位ビットから１が現れるまでの０の個数をカウントし、仮数部Ｍ０及びＭ１の零計数結果を加算器５にて加算する。 - 特許庁

For performing a product sum arithmetic operation for adding third data to the product of first data and second data, the first data and the second data are multiplied by a floating point multiplier 114, and a binary digit string for expressing a mantissa part in a multiplication result is divided into a string for expressing a superordinate digit in the mantissa part and a string for expressing a subordinate digit in the mantissa part.例文帳に追加

第一のデータと第二のデータとの積へ第三のデータを加算する積和演算を実行するために、浮動小数点乗算器１１４に第一のデータと第二のデータとの乗算を行なわせ、その乗算結果における仮数部を表現するビット列を該仮数部における上位の桁を表現するものと該仮数部における下位の桁を表現するものとに分割する。 - 特許庁

(More precisely, overflow can happen only when the maximum value of the exponent is smaller than the number of mantissa bits. 例文帳に追加

(より正確に言うと、オーバーフローは指数部の最大値が仮数部を表すビットの数より小さい場合にしか起こらない。 - JM

For the IEEE-754 standard 32-bit and 64-bit floating-point numbers the maximum value of the exponent is 128 (respectively, 1024), and the number of mantissa bits is 24 (respectively, 53). ) 例文帳に追加

IEEE-754 規格の 32 ビットと 64 ビットの浮動小数では、指数部の最大値はそれぞれ 128 と 1024 であり、仮数部のビット数はそれぞれ 24 と 53 である。 - JM

The floating point number includes a sign bit, a plurality of exponent bits, and a mantissa having an implied bit and multiple fraction bits.例文帳に追加

浮動小数点数は、符号ビット、複数の指数ビット、および暗黙の１ビットと複数の小数ビットとを有する仮数を含む。 - 特許庁

Forming the recursive quantization factors includes forming recursive mantissa factors, where Am(QP)=Am(QP mod P).例文帳に追加

再帰的量子化ファクタの組を形成することは、再帰的仮数ファクタ（ここでＡｍ（ＱＰ）＝Ａｍ（ＱＰ ｍｏｄ Ｐ）である）を形成することを含む。 - 特許庁

A multiplication array 11 inputs the mantissa parts M0 and M1 of m [bits] and outputs the partial products A and B of 2m-1.例文帳に追加

乗算アレイ１１は、ｍ［ビット］の仮数部Ｍ０、Ｍ１を入力し、２ｍ−１の部分積Ａ、Ｂを出力する。 - 特許庁

An MDCT counting analyzer 115 acquires a scale factor number and a mantissa number from an MDCT coefficient being an output of the MDCT converter 110.例文帳に追加

MDCT計数分析器１１５は、MDCT変換器１１０の出力であるMDCT係数から倍率番号及び仮数番号を取得する。 - 特許庁

An address generation part 11 is supplied with the specified gain GT and generates exponent part data (n) and a mantissa part address A.例文帳に追加

アドレス生成部１１は、指定ゲインＧＴが供給されて指数部データｎと仮数部アドレスＡとを生成する。 - 特許庁

A data group is constituted by including a plurality of pieces of mantissa part data and characteristic part data representing the data group is defined as a scale factor.例文帳に追加

複数の仮数部データを含んでデータグループを構成し、データグループを代表する指数部データをスケールファクタとして定義する。 - 特許庁

Input floating decimal point format data are divided into a code part, exponent part and a mantissa part by a data separation part 11.例文帳に追加

入力された浮動小数点形式のデータをデータ分離部１１で符号部、指数部、及び仮数部に分離する。 - 特許庁

The shift circuit 201 shifts the bit-combined data of an exponent qe and a mantissa qm by L toward the MSB.例文帳に追加

シフト回路２０１において、指数ｑｅと仮数ｑｍとをビット結合したデータを、ＬだけＭＳＢに向けてシフトする。 - 特許庁

After shift processing, the mantissa part is handled as data of the fixed point form and prescribed operation is performed by using the ALU 60.例文帳に追加

そして、シフト処理後の仮数部を固定小数点形式のデータとして扱い、ＡＬＵ６０を使って、所定の演算を行う。 - 特許庁

Floating point data are composed of these mantissa part, exponent part and code part and a floating point computing element 14 performs the calculation of Taylor expansion.例文帳に追加

これら仮数部と指数部と符号部とによって浮動小数点データを構成し、浮動小数点演算器１４でテーラー展開の計算がなされる。 - 特許庁

A second converting part 2 outputs a value of a function Y (f) to define output f of the mantissa part extracting part as input.例文帳に追加

第２の変換部は仮数部抽出部の出力ｆを入力とする関数Ｙ（ｆ）の値を出力する。 - 特許庁

In this case, the transmission means 10 transmits the compressed exponent part image data preferentially to the compressed mantissa part image data.例文帳に追加

この際、送信手段１０は、仮数部圧縮画像データよりも指数部圧縮画像データを優先して送信する。 - 特許庁

An arithmetic stop means 84 stops the calculation of the mantissa arithmetic means 82 when the arithmetic exception detection means 83 detects the arithmetic exception.例文帳に追加

演算停止手段８４は、演算例外検知手段８３が演算例外を検知したときに、仮数演算手段８２の演算を停止させる。 - 特許庁

An addition part 90 adds the acquired basic number value BASE and the acquired mantissa value TEMP1, as the result a logarithmic transformation value G is acquired.例文帳に追加

そして、取得された基数値ＢＡＳＥおよび仮数値ＴＥＭＰ１が加算部９０において加算され、対数変換値Ｇが得られる。 - 特許庁

In response to a floating point instruction, the mantissa is partitioned into an integer part and a fraction part, based on the value of the exponent bits.例文帳に追加

浮動小数点命令に応答して、仮数を指数ビットに基づいて整数部と小数部に分割する。 - 特許庁

The structures of the functions of the mantissa portion and the exponential portion are defined by using constants (P and B) as follows: Bm(QP)=Bm(QP_mod_P) and Be(QP)=B+QP/P.例文帳に追加

仮数部分及び指数部分の関数の構造は、定数（Ｐ及びＢ）を用いて、Ｂｍ（ＱＰ）＝Ｂｍ（ＱＰ＿ｍｏｄ＿Ｐ）、Ｂｅ（ＱＰ）＝Ｂ＋ＱＰ／Ｐとする。 - 特許庁

After that, a shift register 30 shifts the mantissa part of the inputted floating decimal point data by as much as the difference calculated by the subtracter 20, and a bit extracting part 40 extracts the prescribed number of bits in the shifted mantissa part as fixed decimal point data.例文帳に追加

その後、シフトレジスタ３０において、入力された浮動小数点データの仮数部を指数部減算器２０にて求められた差分だけシフトさせ、ビット抽出部４０において、シフトした仮数部のうち所定のビット数を固定小数点データとして抽出する。 - 特許庁

A selector 3 regards a part of the bit string of the basic coefficient Cf specified by the coefficient determination part 6 as a mantissa part Y and another part as an exponent part E, and outputs a coefficient Cx for calculation obtained by converting the mantissa part Y and the exponent part E.例文帳に追加

セレクタ３は、係数決定部６によって特定された基礎係数Ｃｆのビット列の一部を仮数部Ｙとする一方、他の一部を指数部Ｅとし、仮数部Ｙを変換して得られる演算用係数Ｃｘと指数部Ｅとを出力する。 - 特許庁

A second digit detection part 20 detects a digit s1 of non-zero with the second largest weight next to the digit s0, and a mantissa value acquiring part 40 acquires a mantissa value TEMP1 according to the data pattern of the input data X in a range of digit from the digit s0 to the digit s1.例文帳に追加

また、入力データＸの各桁のうち、桁ｓ０の次に重みの大きい非ゼロの桁ｓ１が第２の桁検出部２０において検出され、仮数値取得部４０では、桁ｓ０から桁ｓ１までの桁範囲における入力データＸのデータパターンに応じた仮数値ＴＥＭＰ１が取得される。 - 特許庁