「floating point calculation」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

BLOCK FLOATING POINT EXECUTION METHOD FOR RECURSIVE CALCULATION IN DUAL DATA PATH DSP例文帳に追加

複式データパスＤＳＰにおける再帰的計算のブロック浮動小数点実施方法 - 特許庁

To solve the problem that when the arithmetic bit of a floating-point arithmetic unit is smaller than that of a fixed point arithmetic unit, calculation accuracy of floating point numerical value is reduced.例文帳に追加

浮動小数点演算ユニットの演算ビットが固定小数点演算ユニットの演算ビットよりも多いときには、浮動小数点数値の演算精度が低くなってしまう。 - 特許庁

Floating point data are composed of these mantissa part, exponent part and code part and a floating point computing element 14 performs the calculation of Taylor expansion.例文帳に追加

これら仮数部と指数部と符号部とによって浮動小数点データを構成し、浮動小数点演算器１４でテーラー展開の計算がなされる。 - 特許庁

To improve the performance of a processing unit which performs one minus dot product vector floating point calculation.例文帳に追加

１マイナス・ドット積ベクトル浮動小数点計算を行う処理ユニットの性能を向上させる。 - 特許庁

A method includes a calculation step in which a floating-point estimated value relating to a targeted effective value in a set is calculated.例文帳に追加

方法は、セットの対象実効値に関連した浮動小数点予測値を計算するステップを含む。 - 特許庁

In a DSP handling with a floating point arithmetic operation, a calculation instruction, a memory access instruction and a floating point conversion instruction are optimally combined by considering that it is possible to simultaneously execute calculation and floating point conversion, and the floating point conversion processing which has been independently performed just after input in a conventional manner is simultaneously executed by the following filter arithmetic operation.例文帳に追加

ここで、浮動小数点演算を扱えるＤＳＰでは、計算と浮動小数点変換を同時に実行することが可能であることに着目し、計算命令、メモリアクセス命令、浮動小数点変換命令を最適に組み合わせ、従来、入力直後に独立して行っていた浮動小数点変換処理をその後のフィルタ演算で同時に実行する。 - 特許庁

Based on this operation result and a result of calculation of m-root of the power portion of the floating-point numerical value that is the arithmetic object, m-root (m≥2; m is an integer) of the floating-point numerical value is calculated.例文帳に追加

そして、その演算結果と、演算対象である浮動小数点数値の指数部のｍ乗根を演算した結果とに基づいて、浮動小数点数値のｍ乗根（ｍ≧２：ｍは整数）を演算する。 - 特許庁

For an eye accustomed to normalized floating point representations, itis not immediately obvious that the following calculation returns a value equal to zero:例文帳に追加

正規化浮動小数点表現に目が慣れてしまうと、以下の計算でゼロに等しい値が返っているとは即座に分かりません: - Python

To check non-number by reducing a logic dedicated for non-number check processing as much as possible in a control program performing a floating point calculation.例文帳に追加

浮動小数点演算を行う制御プログラムにおいて、非数チェック処理専用のロジックを極力少なくして、非数チェックを可能とする - 特許庁

To shorten the time needed for normalization by accurately detecting a head non-zero position from input of carry propagation addition in a floating-point calculation.例文帳に追加

浮動小数点演算において、キャリー伝播加算の入力から正確に先頭非ゼロ位置を検出し、正規化に要する時間を短くする。 - 特許庁

To provide an arithmetic unit allowing suppression of power consumption when an underflow exception or an overflow exception occurs in floating-point calculation.例文帳に追加

浮動小数点演算でアンダーフロー例外及びオーバーフロー例外が発生した場合に消費電力を抑えることができる演算装置を提供する。 - 特許庁

In a mantissa part of the calculation result r, low-order-bits of the mantissa part of the floating point multiplication result y are outputted to its high-order bits and high-order bits of the mantissa part of the floating point multiplication result are outputted to its low-order bits by shifting them to right.例文帳に追加

計算結果ｒの仮数部は、その上位ビットには浮動小数点乗算結果ｙの仮数部の下位ビットを出力し、その下位ビットには該浮動小数点乗算結果の仮数部の上位ビットを右にシフトして出力する。 - 特許庁

To make an operation with high calculation accuracy performable even when data are extremely large or small in the case of arithmetically processing the data of a floating point form in the arithmetic processing part of a fixed point form.例文帳に追加

浮動小数点形式のデータを固定小数点形式の演算処理部で演算処理する際、データが極端に大きい場合や小さい場合でも、計算精度高く、演算が行えるようにする。 - 特許庁

To precisely realize an arithmetic operation of inputted values of functions given in a floating point form while controlling the capacity of a look-up table used for an interpolation approximate calculation.例文帳に追加

補間近似計算に用いるルックアップテーブルの容量を抑えつつ、浮動小数点形式として与えられる関数入力値の演算を高精度に実現する。 - 特許庁

Engine control ECU 10 is provided with a microcomputer 11 and the microcomputer 11 is provided with a CPU 12, a RAM 13, a ROM 14, an FPU(floating point calculation processor) 15 and I/O 16.例文帳に追加

エンジン制御ＥＣＵ１０はマイコン１１を備え、同マイコン１１はＣＰＵ１２、ＲＡＭ１３、ＲＯＭ１４、ＦＰＵ（浮動小数点演算プロセッサ）１５、Ｉ／Ｏ１６を備える。 - 特許庁

To provide a floating-point adder/subtractor of three-term input allowing acquisition of the same result as the case of performing rounding after calculation with infinite accuracy in an arithmetic process.例文帳に追加

演算過程で無限の精度をもって演算した後丸めを行った場合と同一の結果を得ることができる３項入力の浮動小数点加減算器を提供する。 - 特許庁

Also the computer, when preparing an instruction string for test use, designates for inputting of any instruction that may give rise to exception interrupt, such as floating point calculation or fixed point division, the input-dedicated register into which execution results are not written.例文帳に追加

また、コンピュータは、試験用命令列の作成時に、浮動小数点演算や固定小数点除算など例外割り込みが発生する可能性のある命令の入力に実行結果が書き込まれない入力専用レジスタを指定する。 - 特許庁

To provide a technique capable of performing prediction of overflow with a reduced calculation load in execution of an operation including sum of squares of a numeric sequence consisting of numerical values described in a floating-point form.例文帳に追加

浮動小数点形式で記述された数値から構成される数列の自乗和を含む演算を実行する際に、オーバーフローの予測を低い計算負荷で行うことが可能な技術を提供する。 - 特許庁

To provide a behavior synthesis device appropriate to generate a hardware description for achieving an operation by the operation including floating point calculation described by a high-order language such as a C/C++ language program.例文帳に追加

Ｃ／Ｃ＋＋言語プログラム等の高位言語で記述された浮動小数点演算を含む動作から、その動作を実現するハードウェア記述を生成するのに好適な動作合成装置等を提供する。 - 特許庁

To provide a synthetic aperture radar system which has a smaller system size than one constructed by double-precision floating point numbers and has an image reproduction processing means which can perform calculations with sufficient calculation accuracy.例文帳に追加

倍精度浮動小数点数で構成した場合よりも装置規模が小さく、かつ十分な演算精度で演算可能な画像再生処理手段を備えた合成開口レーダ装置を得る。 - 特許庁

The amount of shift calculation part 205 calculates the amount of shift at which the amount of floating from the specific view point becomes an amount same as the depth value in the z axis direction, according to the position of a pixel identified by the position identification part 204.例文帳に追加

ずらし量算出部２０５は、特定の視点からの浮かび上がり量がｚ軸方向の奥行き値と同じ量となるずらし量を、位置特定部２０４により特定された画素の位置により算出する。 - 特許庁

This data processing device is provided with a data processing unit operating to execute an instruction, the data processing unit responds to a format conversion instruction, applies a format conversion calculation to the number and converts it between its fixed point display and the floating point display.例文帳に追加

データ処理装置は、インストラクションを実行するよう動作可能なデータ処理ユニットを備え、そのデータ処理ユニットは、フォーマット変換インストラクションに応答し、数にフォーマット変換演算を適用してその数の固定小数点表示と浮動小数点表示との間で変換を行う。 - 特許庁

Calculation of pth power of v (vp) can be performed to the data v in the floating point format with the small circuit structure, at high speed and with the excellent operation accuracy by presetting proper tables in the first and second converting parts.例文帳に追加

第１, 第２の変換部にあらかじめ適宜のテーブルを設定しておくことにより浮動小数点フォーマットのデータｖに対し、ｖのｐ乗（ｖ＾ｐ）を計算を、少ない回路構成で、高速に、演算精度良く行うことができる。 - 特許庁

In an index part of the calculation result r, a fixed value to define the result in a specified range is outputted to its high-order bits and an inversion result of low-order bits of a mantissa part of a floating point multiplication result y is outputted to its low-order bits.例文帳に追加

計算結果ｒの指数部は、その上位ビットには結果を特定の範囲にするための固定値を出力し、その下位ビットには、浮動小数点乗算結果ｙの仮数部の下位ビットの反転結果を出力する。 - 特許庁

This floating point unit ordinarily has plural pipeline stages for arithmetic calculation, one normalizing stage and one rounding stage and each pipeline stage can include individual instructions in the processing of an instruction stream.例文帳に追加

この浮動小数点ユニットは、通常、算術計算用の複数のパイプライン・ステージと、１つの正規化ステージと、１つの丸めステージとを有し、それぞれのパイプライン・ステージは命令ストリームの処理中に個別の命令を含むことができる。 - 特許庁

In the calculation of the value of the mathematical function by the Taylor series arithmetic operation, desired coefficient data are acquired from a coefficient table set 10 by using an order number 21 of Taylor series and a set number 22 of the coefficient table, and supplied through a multiplexer 27 to a floating point sum of product arithmetic unit 1050.例文帳に追加

ある数学関数の値をテーラー級数演算で求める際には、テーラー級数の次数番号２１、係数テーブルのセット番号２２を用いて、係数テーブルセット１０から所望の係数データを取得し、それを、マルチプレクサ２７を介して浮動小数点積和演算器１０５０に供給する。 - 特許庁