「floating point processing」に関連した英語例文の一覧と使い方(2ページ目) - Weblio英語例文検索

To provide a data processor and a data processing method for executing floating point multiplication and cumulative arithmetic operation to first, second and third operands, and for applying a result based on an IEEE754-1985 specification.例文帳に追加

第１、第２、第３のオペランドに浮動小数点乗算・累加演算を実行し、ＩＥＥＥ７５４−１９８５規格に準拠する結果を与えるデータ処理装置およびデータ処理方法を提供する。 - 特許庁

To guarantee identity of a physical quantity conversion value between the same data and simplify processing of a procedure for guaranteeing the identity, in an electronic control device handling the same data constituted of two types of a fixed-point type and a floating-point type.例文帳に追加

固定小数点と浮動小数点型の２つの型式からなる同一データを扱う電子制御装置において、同一データ間の物理量換算値の同一性が保証され、かつ同一性保証を行う手順の処理の簡素化を図ることを目的とする。 - 特許庁

To shorten the wait time of a microprocessor and to improve throughput concerning an information processor which can perform parallel processing by employing a microprocessor typically exemplified by a CPU and a dedicated processor typically exemplified by a floating-point processing unit (FPU).例文帳に追加

ＣＰＵを代表例とするマイクロプロセッサとＦＰＵ（浮動小数点演算処理装置）を代表例とする専用プロセッサとの並行処理を可能とした情報処理装置において、マイクロプロセッサの待ち時間を短縮し処理能力を向上する。 - 特許庁

This floating point unit ordinarily has plural pipeline stages for arithmetic calculation, one normalizing stage and one rounding stage and each pipeline stage can include individual instructions in the processing of an instruction stream.例文帳に追加

この浮動小数点ユニットは、通常、算術計算用の複数のパイプライン・ステージと、１つの正規化ステージと、１つの丸めステージとを有し、それぞれのパイプライン・ステージは命令ストリームの処理中に個別の命令を含むことができる。 - 特許庁

To realize an arithmetic unit suitably usable for, for example, scaling processing or the like, and capable of providing the remainder when dividing a dividend given as a floating point number by a divisor and the quotient (integral quotient), if necessary, in a shorter time.例文帳に追加

例えば、スケーリング処理などに好適に用いられ、それぞれ浮動小数点数として与えられる被除数を、除数で割ったときの余りと、必要に応じて商（整商）とを、より短い時間で得ることができる演算装置を実現する。 - 特許庁

In a detailed example, the central processing unit discriminates whether the data stored in a register corresponds to a store command stored in a memory or to a floating point arithmetic command, as a kind of command, and selects the preceding subthread by selecting a command having no correspondence.例文帳に追加

さらに詳細な一例をあげると、中央処理装置は、命令種別として、レジスタに格納されるデータをメモリに格納するストア命令または浮動小数点演算命令に該当するかを判別し、該当しない命令を選択することで、先行サブスレッドを選択する。 - 特許庁

For instance, a processing circuit such as a floating point unit or a data cache operates at one of a high-power mode and a low-power mode based on the number of threads currently operated by the simultaneous multi-threading processor.例文帳に追加

例えば、フローティングポイントユニットまたはデータキャッシュのようなプロセッシング回路が同時多重スレッディングプロセッサによって現在動作しているスレッドの数に基づいて高電力モードまたは低電力モードの一つで動作する。 - 特許庁

To provide a data converter, with which a processing speed is prevented from being decelerated without using an arithmetic processor having a data conversion table or floating point processor, and a conversion error in the case of analog/digital(A/D) conversion is reduced while suppressing costs.例文帳に追加

データ変換テーブルや浮動小数点処理装置などを有する演算処理装置を用いることなく、処理速度の低下を防ぐとともに、コストを抑えてアナログ−ディジタル変換を行う際の変換誤差の少ないデータ変換装置を提供する。 - 特許庁

To provide a rounding processing device for a numerical coprocessor capable of creating the magnitude relation between the magnitude of a rounding error and an operation result as a rounding error, further converting the rounding error to a floating point format so as to be smoothly usable for an operation to be successively performed.例文帳に追加

丸め誤差の大きさと演算結果との大小関係を、丸め誤差として作成することができ、さらに丸め誤差を浮動小数点フォーマットに変換し、引き続き行われる演算にスムーズに利用可能な数値演算プロセッサの丸め処理装置を提供する。 - 特許庁

In an image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire a mean pixel value by an integer arithmetic operation without calculating decimal numbers generated according to the reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁

In this image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire mean pixel values by an integer arithmetic operation without calculating decimal numbers to be generated according to a reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁

In a compiler 100 mounted on a computer, an object code of a method is generated in a double precision mode in the floating-point operation and a second code of the method is generated in a single precision mode when the method is frequently called in the single precision mode and processing costs can be reduced by implementing the method in the single precision mode.例文帳に追加

コンピュータに搭載されたコンパイラ１００において、浮動小数点演算における倍精度モードでメソッドのオブジェクトコードを生成すると共に、このメソッドが単精度モードで頻繁に呼び出され、かつ単精度モードで実行することにより処理コストを削減できる場合に、単精度モードでメソッドの第２のコードを生成する。 - 特許庁