「Floating Point Arithmetic」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

FLOATING DECIMAL POINT ARITHMETIC CIRCUIT, FLOATING DECIMAL POINT ARITHMETIC METHOD, AND SERVO-CONTROLLED SYSTEM例文帳に追加

浮動小数点数演算回路と浮動小数点演算方法及びサーボ制御装置 - 特許庁

Floating Point Arithmetic: Issues and Limitations 例文帳に追加

B. 浮動小数点演算、その問題と制限 - Python

5.6 decimal -- Decimal floating point arithmetic 例文帳に追加

5.5 decimal -- 10進浮動小数点数の算術演算 - Python

an arithmetic operation performed on floating-point numbers 例文帳に追加

浮動小数点数で行われる算術演算 - 日本語WordNet

FLOATING POINT ARITHMETIC CIRCUIT, COMPUTER WITH FLOATING POINT ARITHMETIC CIRCUIT, AND ARITHMETIC CONTROL METHOD AND ARITHMETIC CONTROL PROGRAM FOR THE SAME例文帳に追加

浮動小数点演算回路、浮動小数点演算回路を備えたコンピュータ及びその演算制御方法と演算制御プログラム - 特許庁

FLOATING POINT ARITHMETIC DEVICE, FLOATING POINT ARITHMETIC UNIT, SPECIAL NUMBER DECISION CIRCUIT FAILURE DETECTION METHOD, AND PROGRAM例文帳に追加

浮動小数点演算装置、浮動小数点演算器、特殊数判定回路故障検出方法及びプログラム - 特許庁

The decimal module provides support for decimal floating point arithmetic.例文帳に追加

decimal モジュールは10 進の浮動小数点算術をサポートします。 - Python

FLOATING POINT ARITHMETIC DEVICE AND COMPUTER PROGRAM FOR OPERATING M-ROOT OF FLOATING-POINT VALUE例文帳に追加

浮動小数点数値のｍ乗根を演算する浮動小数点演算装置及びコンピュータプログラム - 特許庁

All floating-point arithmetic in C is done in double precision. 例文帳に追加

C のすべての浮動小数点演算は, 倍精度で行なわれる - 研究社 英和コンピューター用語辞典

To solve the problem that when the arithmetic bit of a floating-point arithmetic unit is smaller than that of a fixed point arithmetic unit, calculation accuracy of floating point numerical value is reduced.例文帳に追加

浮動小数点演算ユニットの演算ビットが固定小数点演算ユニットの演算ビットよりも多いときには、浮動小数点数値の演算精度が低くなってしまう。 - 特許庁

To efficiently provide arithmetic object data in a floating point number arithmetic circuit.例文帳に追加

浮動小数点数演算回路において効率的に演算対象データを供給する。 - 特許庁

The FPU 15 executes an arithmetic operation in a floating point format, and the CPU 12 executes an arithmetic operation in a format other than the floating point format.例文帳に追加

ＦＰＵ１５は浮動小数点形式の演算を実施し、ＣＰＵ１２は浮動小数点形式以外の演算を実施する。 - 特許庁

When judging that floating point type data to be used for the floating point arithmetic are non-numbers, the CPU 12 performs backup processing substituted for the floating point arithmetic.例文帳に追加

ＣＰＵ１２は、浮動小数点演算に用いられる浮動小数点型データが非数である旨を判定したとき、同浮動小数点演算に代わるバックアップ処理を実施する。 - 特許庁

To execute the arithmetic instruction of a long clock cycle such as a floating point arithmetic instruction at a high speed.例文帳に追加

浮動小数点演算命令等のクロックサイクルが長い演算命令を高速に実行する。 - 特許庁

CONVERGENCY DECIDING METHOD FOR AVERAGING ARITHMETIC OPERATION BY FLOATING POINT ARITHMETIC OPERATION AND ELECTRONIC CONTROLLER例文帳に追加

浮動小数点演算によるなまし計算の収束判定方法及び電子制御装置 - 特許庁

A filter arithmetic operation just after input is executed by a fixed point arithmetic operation, and the arithmetic result is converted to a floating point format.例文帳に追加

入力直後のフィルタ演算を固定小数点演算で実施し、その演算結果を浮動小数点フォーマットに変換する構成とする。 - 特許庁

FLOATING POINT ARITHMETIC DEVICE AND RADAR SIGNAL PROCESSOR USING THE SAME DEVICE例文帳に追加

浮動小数点演算装置とこの装置を用いたレーダ信号処理装置 - 特許庁

LOGIC CIRCUIT, AND FLOATING-POINT ARITHMETIC CIRCUIT AND MICROPROCESSOR USING SAME例文帳に追加

論理回路、および、それを使用した浮動小数点演算回路とマイクロプロセッサ - 特許庁

To perform a floating point product sum arithmetic operation based on IEEE754 specifications.例文帳に追加

ＩＥＥＥ７５４Ｒ規格に準拠した浮動小数点積和演算を行う。 - 特許庁

ARITHMETIC PROCESSING UNIT WITH FLOATING POINT NUMBER COMPUTING FUNCTION FOR CONTROLLING SERVO MOTOR例文帳に追加

サーボモータ制御用の浮動少数点数演算機能付き演算処理装置 - 特許庁

An exponential arithmetic means 81 performs calculation to an exponent of a floating-point number.例文帳に追加

指数演算手段８１は、浮動小数点数の指数に対して演算を行う。 - 特許庁

To provide a technology for detecting the abnormality of a floating point arithmetic processor.例文帳に追加

浮動小数点演算プロセッサの異常を検出するための技術を提供する。 - 特許庁

A mantissa arithmetic means 82 performs calculation to a mantissa of the floating-point number.例文帳に追加

仮数演算手段８２は、浮動小数点数の仮数に対して演算を行う。 - 特許庁

To realize an arithmetic operation unit having sufficient arithmetic operation accuracy on a floating point number product sum arithmetic operation by an addition of a few circuit scale.例文帳に追加

浮動小数点数積和演算について十分な演算精度を有する演算装置を少ない回路規模の増加で実現する。 - 特許庁

This logarithmic arithmetic device 10 finds the logarithm of a value expressed by floating decimal point data.例文帳に追加

対数演算装置10は、浮動小数点データで表現される値の対数を求める。 - 特許庁

A power portion of a floating-point numerical value that is an arithmetic object is replaced by a 0-power value, and m-root of the replaced floating-point numerical value is calculated.例文帳に追加

演算対象である浮動小数点数値の指数部を０乗値に置き換え、その置き換えた浮動小数点数値のｍ乗根を演算する。 - 特許庁

To configure an arithmetic library for achieving scheduling and sharing in the operation composition of an arithmetic unit which executes the complicate arithmetic operation of a floating point or trigonometric function and a simple arithmetic unit.例文帳に追加

浮動小数点や三角関数などの複雑な演算を実行する演算器と、単純な演算器との動作合成におけるスケジューリング、共有化が可能演算ライブラリを構成する。 - 特許庁

To provide an arithmetic program conversion device, an arithmetic program conversion program and an arithmetic program conversion method, for converting floating-point operation in an arithmetic program to fixed-point operation while ensuring desired accuracy.例文帳に追加

演算プログラムにおける浮動小数点演算を、所望精度を確保しながら固定小数点演算に変換する演算プログラム変換装置、演算プログラム変換プログラム、演算プログラム変換方法を提供する。 - 特許庁

To provide the system and unit for floating-point arithmetic operation which can make floating-point data into an integer by rounding or discarding its part below the floating-point.例文帳に追加

浮動小数点データについて小数点以下部分の切捨てや切上げによる整数化を高速かつ効率的に行なうことが可能な浮動小数点演算方式および浮動小数点装置を提供する。 - 特許庁

METHOD, PROGRAM, AND DEVICE FOR FLOATING POINT ARITHMETIC OPERATION例文帳に追加

浮動小数点演算の方法および浮動小数点演算プログラム、ならびに浮動小数点演算装置 - 特許庁

To provide an arithmetic system for rapidly performing precise addition of fixed-precision floating-point numbers.例文帳に追加

固定精度の浮動小数点数同士の正確な和を高速に実現する演算方式を提供する。 - 特許庁

DEVICE AND METHOD FOR PROCESSING DATA FOR APPLYING FLOATING POINT ARITHMETIC TO FIRST, SECOND AND THIRD OPERAND例文帳に追加

第１、第２、第３オペランドに浮動小数点演算を適用するためのデータ処理装置および方法 - 特許庁

The floating point sum of product arithmetic unit 1050 executes a sum of product arithmetic operation by using the coefficient data, and calculates the value of the optional mathematical function by the Taylor series arithmetic operation.例文帳に追加

浮動小数点積和演算器１０５０は、該係数データを用いて積和演算を実行し、任意の数学関数の値をテーラー級数演算により求める。 - 特許庁

To reduce the number of cycles required for arithmetic operation in comparison with that required for conventional arithmetic operation for speed-up of predetermined arithmetic operation on floating point type data.例文帳に追加

従来に比べて演算に要するサイクル数を削減し、浮動小数点型データにおける所定の演算を、従来に比べて高速に行うことができるようする。 - 特許庁

In an instruction sequence supplied from an instruction cache 108, an instruction invalidating circuit 109 replaces an instruction not using the floating-point arithmetic unit with an invalid instruction, then the invalid instruction is held by a floating-point instruction register 111 and supplied to a floating-point decoder 119 in the floating-point arithmetic unit.例文帳に追加

命令キャッシュ１０８から供給される命令列において、命令無効化回路１０９で浮動小数点演算ユニットを使用しない命令を無効命令に置き換え、その無効命令を浮動小数点命令レジスタ１１１に保持し、浮動小数点演算ユニット内の浮動小数点デコーダ１１９に供給するように構成される。 - 特許庁

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.例文帳に追加

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁

A division arithmetic circuit 1 turns a Y operand to a dividend and a Z operand to a divisor and executes a floating point arithmetic operation in the case that an instruction code inputted from the outside indicates a floating point division instruction.例文帳に追加

除算演算回路１は、外部から入力された命令コードが浮動小数点除算命令を示す場合に、Ｙオペランドを被除数、Ｚオペランドを除数として浮動小数点演算を実行する。 - 特許庁

Data with a N bit width embedded in an instruction as an immediate are converted into a floating point number with a F bit width by a converting circuit 130, and defined as an arithmetic object by an arithmetic unit 140 of the floating point number.例文帳に追加

命令中に即値として埋め込まれたＮビット幅のデータは変換回路１３０によりＦビット幅の浮動小数点数に変換され、浮動小数点数の演算器１４０による演算対象となる。 - 特許庁

To suppress an increase in code amount by a program code for performing floating-point arithmetic, especially by its variable, and to reduce a processing overhead for converting fixed-point data into floating-point data.例文帳に追加

浮動小数点演算を行うためのプログラムコード、特にその変数によるコード量の増加を抑制し、また、固定小数点データを浮動小数点データに変換するための処理オーバヘッドを軽減する。 - 特許庁

An integer arithmetic unit 15 operates independently from floating-point arithmetic units 16 and 17, and performs an integer operation to the data transferred to the integer arithmetic memory 11.例文帳に追加

整数演算ユニット１５は、浮動小数点演算ユニット１６および１７と独立して動作し、整数演算用メモリ１１に転送されたデータに対して整数演算を行なう。 - 特許庁

Data necessary for geometric operation are transferred from an input memory 10 to an integer arithmetic memory 11 and floating-point arithmetic memories 12 and 13.例文帳に追加

整数演算用メモリ１１、浮動小数点演算用メモリ１２および１３は、入力メモリ１０から幾何学演算に必要なデータが転送される。 - 特許庁

In a DSP handling with a floating point arithmetic operation, a calculation instruction, a memory access instruction and a floating point conversion instruction are optimally combined by considering that it is possible to simultaneously execute calculation and floating point conversion, and the floating point conversion processing which has been independently performed just after input in a conventional manner is simultaneously executed by the following filter arithmetic operation.例文帳に追加

ここで、浮動小数点演算を扱えるＤＳＰでは、計算と浮動小数点変換を同時に実行することが可能であることに着目し、計算命令、メモリアクセス命令、浮動小数点変換命令を最適に組み合わせ、従来、入力直後に独立して行っていた浮動小数点変換処理をその後のフィルタ演算で同時に実行する。 - 特許庁

To provide a vector operation method for a floating-point number which is reduced in processing required for vector product operation of floating-point number and enables applying of arithmetic operation by a fixed-point type DSP.例文帳に追加

浮動小数点数のベクトル積演算に必要な処理が軽減され、固定小数点型ＤＳＰによる演算処理が適用できるようにした浮動小数点数のベクトル演算方法を提供すること。 - 特許庁

SYSTEM AND UNIT FOR FLOATING-POINT ARITHMETIC AND SEMICONDUCTOR INTEGRATED CIRCUIT DEVICE EQUIPPED WITH SAME例文帳に追加

浮動小数点演算方式ならびに浮動小数点演算装置およびそれを備える半導体集積回路装置 - 特許庁

To perform speedup of absolute value arithmetic operation on floating point type data in comparison with that by a conventional method.例文帳に追加

浮動小数点型データの絶対値演算を、従来の手法に比べて高速に行うことができるようにする。 - 特許庁