「Floating Point Arithmetic」に関連した英語例文の一覧と使い方(2ページ目) - Weblio英語例文検索

Based on this operation result and a result of calculation of m-root of the power portion of the floating-point numerical value that is the arithmetic object, m-root (m≥2; m is an integer) of the floating-point numerical value is calculated.例文帳に追加

そして、その演算結果と、演算対象である浮動小数点数値の指数部のｍ乗根を演算した結果とに基づいて、浮動小数点数値のｍ乗根（ｍ≧２：ｍは整数）を演算する。 - 特許庁

In the case that a floating point arithmetic operation is a subtraction operation and an exponent difference between two operands is 0, or in the case that the floating point arithmetic operation is the subtraction operation, the exponent difference is 1 and the mantissa of the operand having a larger exponent is within the range of a predetermined number, the short path is used so as to generate the result of the floating point arithmetic operation.例文帳に追加

浮動小数点演算が減算演算であり、かつ、２つのオペランドの間の指数差が０である場合に、または、浮動小数点演算が減算演算であり、指数差が１であり、かつ、より大きい指数を有するオペランドの仮数が予め決められた数の範囲内である場合に、浮動小数点演算の結果を生じさせるためにショートパスが使用される。 - 特許庁

To provide a floating decimal arithmetic unit and a DDA arithmetic processing for achieving floating decimal point DDA processing with high accuracy without canceling significant digits in addition.例文帳に追加

本発明は加算時に桁落ちが発生せず、精度の高い計算が可能な浮動小数点ＤＤＡ処理を実現することが出来る浮動小数点演算器及びＤＤＡ演算処理を提供することを課題とする。 - 特許庁

In this floating point number arithmetic circuit, an instruction with a W bit width is supplied from a memory 200 through a load store unit 110 to an instruction decoder 120.例文帳に追加

Ｗビット幅の命令はメモリ２００からロードストアユニット１１０を介して命令デコーダ１２０に供給される。 - 特許庁

To shorten the processing time of a whole filter arithmetic operation even when it is necessary to convert the format of data to be processed from a fixed point format to a floating point format.例文帳に追加

処理対象データが固定小数点フォーマットで浮動小数点フォーマットに変換する必要があってもフィルタ演算全体の処理時間を短縮可能とする。 - 特許庁

To provide an arithmetic system for efficiently performing a rounding operation when fixed-precision floating-point number groups are to be rounding targets.例文帳に追加

固定精度浮動小数点数の組を丸め対象とした場合に、丸め演算を効率的に実現する演算方式を提供する。 - 特許庁

To provide a floating point arithmetic circuit for efficiently detecting an error having a numerically large error by smaller circuit quantity.例文帳に追加

より少ない回路量で数値的に大きな誤差をもつエラーを効率的に検出する浮動小数点演算回路を提供する。 - 特許庁

To provide an equalize circuit realizing high speed performance by reducing the number of steps of an arithmetic circuit for performing the addition/subtraction of floating point data.例文帳に追加

本発明は、浮動小数点データ加減算を行う演算回路のステップ数を削減し、高速化を実現するイコライズ回路を提供する。 - 特許庁

The PC 16 reads out the stored data, runs the same control program as the control programs of the respective CPUs, performs floating point arithmetic and writes the arithmetic result in the DPRAMs 14a-14d.例文帳に追加

パソコン１６は、格納されたデータを読み出し、各ＣＰＵの制御プログラムと同一の制御プログラムを実行し、浮動小数点演算を行ってその演算結果をＤＰＲＡＭ１４ａ〜１４ｄに書き込む。 - 特許庁

To provide a function operation arithmetic processing method causing no great difference of operation results before and after generation of a nonnumeric value in an arithmetic operation such as a floating point operation while reducing a memory working capacity.例文帳に追加

メモリの使用容量を抑えつつ浮動小数点演算等の演算において非数が発生する前後の演算結果が大きく食い違うことがない関数の演算処理方法を提供する。 - 特許庁

A microcomputer 11 in an engine control ECU 10 is provided with a CPU 12, an RAM 13, an ROM 14, an FPU(floating point arithmetic processor) 15, and an I/O 16.例文帳に追加

エンジン制御ＥＣＵ１０内のマイコン１１はＣＰＵ１２、ＲＡＭ１３、ＲＯＭ１４、ＦＰＵ（浮動小数点演算プロセッサ）１５、Ｉ／Ｏ１６を備える。 - 特許庁

To reduce the number of computing elements constituting a square multiplier for floating-point numbers and also to increase the processing speed by circuit techniques for an arithmetic unit.例文帳に追加

演算装置の回路技術により、浮動小数点数の２乗算器を構成する演算器の数を減少させると共に、処理速度を向上させる。 - 特許庁

To provide an arithmetic unit allowing suppression of power consumption when an underflow exception or an overflow exception occurs in floating-point calculation.例文帳に追加

浮動小数点演算でアンダーフロー例外及びオーバーフロー例外が発生した場合に消費電力を抑えることができる演算装置を提供する。 - 特許庁

A processor is equipped with an instruction unit 1, a load/store unit 2, a register unit including a floating-point register 4, and an arithmetic logic unit(ALU) 5 which is a floating-point unit(FPU) type.例文帳に追加

非数（ＮａＮ）標準をサポートし、ロード／ストア・ユニット、レジスタ・ユニット、演算論理ユニットを備える種類のプロセッサであり、エラーを生じたロードの後でロード／ストア・ユニットにロードされたデータにマーク付けするエラー・フラグを有するＲＩＳＣ又はＣＩＳＣプロセッサである。 - 特許庁

To make an operation with high calculation accuracy performable even when data are extremely large or small in the case of arithmetically processing the data of a floating point form in the arithmetic processing part of a fixed point form.例文帳に追加

浮動小数点形式のデータを固定小数点形式の演算処理部で演算処理する際、データが極端に大きい場合や小さい場合でも、計算精度高く、演算が行えるようにする。 - 特許庁

To provide an information processing apparatus for simultaneously outputting multiplied results using the same data in a fixed point format and a floating point format, and to provide an arithmetic processing method and an electronic apparatus or the like.例文帳に追加

同一データを用いた乗算結果を固定小数点フォーマット及び浮動小数点フォーマットで同時に出力できる情報処理装置、演算処理方法及び電子機器等を提供する。 - 特許庁

Python fully supports mixed arithmetic: when a binary arithmetic operator has operands of different numeric types, the operand with the``narrower'' type is widened to that of the other, where plain integer is narrower than long integer is narrower than floating point is narrower than complex.Comparisons between numbers of mixed type use the same rule.例文帳に追加

Python は型混合の演算を完全にサポートします: ある 2 項演算子が互いに異なる数値型の被演算子を持つ場合、より ``制限された'' 型の被演算子は他方の型に合わせて広げられます。 - Python

To detect a maximum collation region in an image having the maximum correlation with a region defined in another image, with higher accuracy at higher speed, without performing any floating decimal point arithmetic operation including square root arithmetic operation or fraction arithmetic operation, in image collation.例文帳に追加

画像の照合に際し、画像に定義した領域と相関関係が最大となる他の画像上の最大相関領域を検出する際に、平方根演算や分数演算を含む浮動小数点演算を行うことなく、より高速かつ正確に検出する。 - 特許庁

To provide an embedded control system capable of ensuring precision in arithmetic with data in the floating-point format and also avoiding a shortage of the storage area of a memory.例文帳に追加

浮動小数点数形式のデータによる演算精度を確保し、且つ、記憶装置の記憶領域の不足を回避することができる組み込み制御装置を提供する。 - 特許庁

To precisely realize an arithmetic operation of inputted values of functions given in a floating point form while controlling the capacity of a look-up table used for an interpolation approximate calculation.例文帳に追加

補間近似計算に用いるルックアップテーブルの容量を抑えつつ、浮動小数点形式として与えられる関数入力値の演算を高精度に実現する。 - 特許庁

In the data extending processing, the compressed data are read in a memory 4, and processed by an arithmetic operation reverse to the compression so as to be developed into original data with a 32 bit floating point.例文帳に追加

データ伸長処理ではメモリ部４に圧縮データを読み込み上記圧縮とは逆の演算を行うことにより３２ビット浮動少数点の元データに展開する。 - 特許庁

To provide a floating-point adder/subtractor of three-term input allowing acquisition of the same result as the case of performing rounding after calculation with infinite accuracy in an arithmetic process.例文帳に追加

演算過程で無限の精度をもって演算した後丸めを行った場合と同一の結果を得ることができる３項入力の浮動小数点加減算器を提供する。 - 特許庁

To provide a built-in controller for executing the determination and initialization of presence/no presence of nonnumeric character of data of a floating point number format stored in a backup memory without increasing an arithmetic load.例文帳に追加

バックアップメモリに格納する浮動小数点数形式のデータの非数の有無の判定及び初期化を、演算負荷を増加させることなく実行できる組込み制御装置を提供する。 - 特許庁

Knuthprovides two instructive examples where rounded floating point arithmetic withinsufficient precision causes the breakdown of the associative anddistributive properties of addition: 例文帳に追加

Knuth は、十分でない計算精度の下で値丸めを伴う浮動小数点演算を行った結果、加算の結合則や分配則における恒等性が崩れてしまう例を二つ示しています: - Python

In a floating-point arithmetic unit capable of quickly executing the arithmetic processing, a canceling prediction circuit 6 directly takes in operands before they pass selectors 2 and 3 and predicts canceling of the subtraction result in a subtractor 5 of operands.例文帳に追加

高速に演算処理を実行可能な不動小数点演算装置において、桁落ち予測回路（６０）は、セレクタ（２、３）を通る前の被演算数を直接取り込み、前記被演算数の減算器（５）による減算結果の桁落ちを予測する。 - 特許庁

To provide a control device for an internal combustion engine capable of securing accuracy of various operations by floating point arithmetic and of reducing storage capacity occupied by a data map used for the operations.例文帳に追加

浮動小数点演算による各種演算の精度を確保するとともに、演算に用いるデータマップの占有する記憶容量の軽減が可能な内燃機関の制御装置を提供する。 - 特許庁

The transmitter decides the second control parameter by analyzing the effect of arithmetic computation in partial decoding processing to specify where the floating point expression loses normalization.例文帳に追加

この伝送器は、どこで浮動小数点表現が正規化を失ったのかを特定するために、部分的なデコーディング処理における算術演算の効果を分析することで第２の制御パラメータを決定する。 - 特許庁

To provide a data processor and a data processing method for executing floating point multiplication and cumulative arithmetic operation to first, second and third operands, and for applying a result based on an IEEE754-1985 specification.例文帳に追加

第１、第２、第３のオペランドに浮動小数点乗算・累加演算を実行し、ＩＥＥＥ７５４−１９８５規格に準拠する結果を与えるデータ処理装置およびデータ処理方法を提供する。 - 特許庁

In the calculation of the value of the mathematical function by the Taylor series arithmetic operation, desired coefficient data are acquired from a coefficient table set 10 by using an order number 21 of Taylor series and a set number 22 of the coefficient table, and supplied through a multiplexer 27 to a floating point sum of product arithmetic unit 1050.例文帳に追加

ある数学関数の値をテーラー級数演算で求める際には、テーラー級数の次数番号２１、係数テーブルのセット番号２２を用いて、係数テーブルセット１０から所望の係数データを取得し、それを、マルチプレクサ２７を介して浮動小数点積和演算器１０５０に供給する。 - 特許庁

To provide a compile apparatus suitable for reducing bugs by making it easy to describe arithmetic operations in source programs to make it simple to write source programs, when performing block floating-point operations with software.例文帳に追加

ブロックフローティング方式による演算をソフトウェアで行う場合において、ソースプログラムにおける演算の記述を容易とし、ソースプログラムの記述を簡素化してバグの発生を低減するのに好適なコンパイル装置を提供する。 - 特許庁

This floating point unit ordinarily has plural pipeline stages for arithmetic calculation, one normalizing stage and one rounding stage and each pipeline stage can include individual instructions in the processing of an instruction stream.例文帳に追加

この浮動小数点ユニットは、通常、算術計算用の複数のパイプライン・ステージと、１つの正規化ステージと、１つの丸めステージとを有し、それぞれのパイプライン・ステージは命令ストリームの処理中に個別の命令を含むことができる。 - 特許庁

To provide an arithmetic unit and an operation controlling method capable of efficiently transferring data between plural computing elements in respect to an arithmetic unit including plural computing elements such as an integer computing element, a floating point computing element and a graphics computing element arranged in parallel in its inside and its operation controlling method.例文帳に追加

整数演算器および浮動小数点演算器あるいはグラフィックス演算器などの演算器が並列に内蔵された演算装置及び演算制御方法に関し、複数の演算器間でのデータのやり取りを効率よく行える演算装置及び演算制御方法を提供することを目的とする。 - 特許庁

To provide a data converter, with which a processing speed is prevented from being decelerated without using an arithmetic processor having a data conversion table or floating point processor, and a conversion error in the case of analog/digital(A/D) conversion is reduced while suppressing costs.例文帳に追加

データ変換テーブルや浮動小数点処理装置などを有する演算処理装置を用いることなく、処理速度の低下を防ぐとともに、コストを抑えてアナログ−ディジタル変換を行う際の変換誤差の少ないデータ変換装置を提供する。 - 特許庁

To realize an arithmetic unit suitably usable for, for example, scaling processing or the like, and capable of providing the remainder when dividing a dividend given as a floating point number by a divisor and the quotient (integral quotient), if necessary, in a shorter time.例文帳に追加

例えば、スケーリング処理などに好適に用いられ、それぞれ浮動小数点数として与えられる被除数を、除数で割ったときの余りと、必要に応じて商（整商）とを、より短い時間で得ることができる演算装置を実現する。 - 特許庁

In a detailed example, the central processing unit discriminates whether the data stored in a register corresponds to a store command stored in a memory or to a floating point arithmetic command, as a kind of command, and selects the preceding subthread by selecting a command having no correspondence.例文帳に追加

さらに詳細な一例をあげると、中央処理装置は、命令種別として、レジスタに格納されるデータをメモリに格納するストア命令または浮動小数点演算命令に該当するかを判別し、該当しない命令を選択することで、先行サブスレッドを選択する。 - 特許庁

In an image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire a mean pixel value by an integer arithmetic operation without calculating decimal numbers generated according to the reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁

In this image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire mean pixel values by an integer arithmetic operation without calculating decimal numbers to be generated according to a reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁

For performing a product sum arithmetic operation for adding third data to the product of first data and second data, the first data and the second data are multiplied by a floating point multiplier 114, and a binary digit string for expressing a mantissa part in a multiplication result is divided into a string for expressing a superordinate digit in the mantissa part and a string for expressing a subordinate digit in the mantissa part.例文帳に追加

第一のデータと第二のデータとの積へ第三のデータを加算する積和演算を実行するために、浮動小数点乗算器１１４に第一のデータと第二のデータとの乗算を行なわせ、その乗算結果における仮数部を表現するビット列を該仮数部における上位の桁を表現するものと該仮数部における下位の桁を表現するものとに分割する。 - 特許庁