A common potential point of the floating amplifier is buffered by another floating amplifier connected in the successive stage of the filter. フローティングアンプの共通電位点は、フィルタの後段に接続された他のフローティングアンプでバッファされている。 - 特許庁
Two kinds of data are, namely, integer format data and fixed-point data formed by excluding a floating-point device. すなわち、整数フォーマットデータと、浮動小数点装置を除外した、固定小数点データである。 - 特許庁
An echo canceler 1 includes a floatingpoint DSP unit 10 and a fixed point DSP unit 20. エコーキャンセラ1は、浮動小数点DSP部10、固定小数点DSP部20を備える。 - 特許庁
To solve the problem that when the arithmetic bit of a floating-point arithmetic unit is smaller than that of a fixed point arithmetic unit, calculation accuracy of floatingpoint numerical value is reduced. 浮動小数点演算ユニットの演算ビットが固定小数点演算ユニットの演算ビットよりも多いときには、浮動小数点数値の演算精度が低くなってしまう。 - 特許庁
In floatingpoint remainder computation of a floatingpoint method, floatingpoint product sum computation (dividend -integer quotient ×divisor) necessary for determining a remainder is executed by using advantages of floatingpoint remainder computation to determine the remainder in simpler circuits than in conventional methods. 浮動小数点形式の浮動小数点剰余演算において、剰余を求める際に必要な(被除数−整数商×除数)なる浮動小数点積和演算を、浮動小数点剰余演算の特徴を利用して従来の手法に比べて簡単な回路で剰余を求めるように構成する。 - 特許庁
VERIFICATION PROGRAM AND VERIFICATION METHOD OF FLOATINGPOINT OPERATION PROGRAM 浮動小数点演算プログラム用の検証方法及び検証プログラム - 特許庁
To provide the system and unit for floating-point arithmetic operation which can make floating-point data into an integer by rounding or discarding its part below the floating-point. 浮動小数点データについて小数点以下部分の切捨てや切上げによる整数化を高速かつ効率的に行なうことが可能な浮動小数点演算方式および浮動小数点装置を提供する。 - 特許庁
Shift operation of a floatingpoint is carried out by using only an integer computing unit 13 using no floatingpoint computing unit as a computing device. 演算装置として浮動小数点演算器を使用しないで整数演算器13のみ使用し、浮動小数点のシフト演算を実現する。 - 特許庁
To provide a floating-point processor having selectable low-order precision. 選択可能な下位精度を有する浮動小数点プロセッサを実現する。 - 特許庁
A floating-point addition instruction that is a verification object is formed (S2). 検証対象である浮動小数点加算命令を作成する(S2)。 - 特許庁
The floating-point environment is reset to the default (see fenv (3)).
浮動小数点関連の環境はデフォルトにリセットされる( fenv (3) 参照)。 - JM
function returns the result of multiplying the floating-point number x by 2 raised to the power exp .
関数は、浮動小数点実数xと 2 のexp乗との積を返す。 - JM
because IEEE 754 floatingpoint allows zero to be signed.
なぜなら、IEEE 754 の浮動小数点表現では 0 も符号を持つからである。 - JM
This allows floatingpoint numbers to be specified in scientific notation, like `1.0e-34' and `10e100'.
これを用いると、浮動小数点の理工学的な記法 (`1.0e-34' や `10e100' など) - JM
CIRCUIT DEVICE USING FLOATINGPOINT EXECUTION UNIT, INTEGRATED CIRCUIT DEVICE, PROGRAM PRODUCT, AND METHOD (DYNAMIC RANGE ADJUSTING FLOATINGPOINT EXECUTION UNIT) 浮動小数点実行ユニットを用いる回路装置、集積回路装置、プログラム製品、および方法(動的値域調整浮動小数点実行ユニット) - 特許庁
a floating-point exception
浮動小数点演算の例外《浮動小数点演算において起こるエラー》 - 研究社 英和コンピューター用語辞典
Python distinguishes between integers, floatingpoint numbers, and complex numbers: Python は整数、浮動小数点数、複素数の間で区別を行っています: - Python
Conversion of floatingpoint numbers to integers truncates (towards zero). 浮動小数点数から整数へ変換では (ゼロ方向に) 値を丸めます。 - Python
The period can also occur in floating-point and imaginary literals.
浮動小数点数や虚数リテラル中にピリオドがあってもかまいません。 - Python
On Unix, return the current processor time as a floatingpoint number expressed in seconds. Unixでは、現在のプロセッサ時間秒を浮動小数点数で返します。 - Python
FLOATINGPOINT REMAINDER COMPUTING ELEMENT, INFORMATION PROCESSING DEVICE, AND COMPUTER PROGRAM 浮動小数点剰余演算器、情報処理装置及びコンピュータプログラム - 特許庁
DATA PROCESSING APPARATUS AND METHOD FOR CONVERTING NUMBER BETWEEN FIXED-POINT AND FLOATING-POINT REPRESENTATIONS 固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法 - 特許庁
The floatingpoint number is converted to a fixed point representation having the previously selected number of bits. 浮動小数点数は、予め選択されたビット数を有する固定小数点表示へ変換される。 - 特許庁
DATA PROCESSING DEVICE AND METHOD CONVERTING NUMBER BETWEEN FIXED POINT DISPLAY AND FLOATINGPOINT DISPLAY 固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法 - 特許庁
A microcomputer 11 in an engine control ECU 10 is provided with a CPU 12, a RAM 13, a ROM 14, an FPU (floating point unit) 15, etc., and the FPU 15 among them executes a floatingpoint type operation. エンジン制御ECU10内のマイコン11は、CPU12,RAM13,ROM14,FPU15等を備え、そのうちFPU15は浮動小数点形式の演算を実施する。 - 特許庁
Further, after the m-root of the floating-point numerical value is calculated, the floatingpoint numerical value is raised to the p-th power, whereby p-root of the m-portion is calculated. さらに、浮動小数点数値のm乗根を演算した後、その浮動小数点数値をp乗することによって、m分のp乗根を演算する。 - 特許庁
A power portion of a floating-point numerical value that is an arithmetic object is replaced by a 0-power value, and m-root of the replaced floating-point numerical value is calculated. 演算対象である浮動小数点数値の指数部を0乗値に置き換え、その置き換えた浮動小数点数値のm乗根を演算する。 - 特許庁
To provide a floating-point adder which performs clip code generation fast. クリップコード生成を高速に行なう浮動小数点加算器を提供する。 - 特許庁
LOAD BY-PASS EXECUTING METHOD AND DEVICE THEREFOR IN FLOATINGPOINT UNIT 浮動小数点ユニットにおいてロードバイパスを実行する方法及び装置 - 特許庁
METHOD AND APPARATUS FOR IMPLEMENTING POWER OF TWO FLOATINGPOINT ESTIMATION 2の浮動小数点数乗の概算を実施するための方法および装置 - 特許庁
FLOATINGPOINT ARITHMETIC DEVICE AND RADAR SIGNAL PROCESSOR USING THE SAME DEVICE 浮動小数点演算装置とこの装置を用いたレーダ信号処理装置 - 特許庁
This helps machines that have slow floatingpoint or memory load instructions by allowing other instructions to be issued until the result of the load or floatingpoint instruction is required.
これは遅い浮動小数点命令やメモリ読み込み命令の実行において、それらの結果を必要とする命令の前に他の命令を詰め込みます。 - JM
Floatingpoint numbers can have special values, such as infinite or NaN.
浮動小数点数は無限大や NaN のような特別な値を持つことができる。 - JM
The macro takes any floating-point expression as argument.
マクロは任意の浮動小数点数表現を引き数としてとることができる。 - JM
to compare strings representing floatingpoint numbers. Rather than first
は浮動小数点表記文字列を、あまり普通でない方法で比較する。 - JM
Floatingpoint data are composed of these mantissa part, exponent part and code part and a floatingpoint computing element 14 performs the calculation of Taylor expansion. これら仮数部と指数部と符号部とによって浮動小数点データを構成し、浮動小数点演算器14でテーラー展開の計算がなされる。 - 特許庁
Most computers carry out floatingpoint operations
ほとんどのコンピュータはいわゆるIEEE-754標準に準拠した浮動小数点演算 - Python
To accurately process an inverse number operation of a floatingpoint number at high speed. 浮動小数点数の逆数演算を高精度かつ高速で処理すること。 - 特許庁
To provide a floating-point operation device which improves the throughput. スループットが向上する浮動小数点演算装置を得ることを目的とする。 - 特許庁
METHOD AND DEVICE FOR FLOATING-POINT NUMERICAL COEFFICIENT POLYNOMIAL OPERATION, AND RECORDING MEDIUM 浮動小数点数係数多項式演算方法、その装置および記録媒体 - 特許庁
LOGIC CIRCUIT, AND FLOATING-POINT ARITHMETIC CIRCUIT AND MICROPROCESSOR USING SAME 論理回路、および、それを使用した浮動小数点演算回路とマイクロプロセッサ - 特許庁
To perform a floatingpoint product sum arithmetic operation based on IEEE754 specifications. IEEE754R規格に準拠した浮動小数点積和演算を行う。 - 特許庁
is interpreted as a specifier for floating-point numbers (see above).
は (上述の通り) 浮動小数点数を示す変換指定子と解釈される。 - JM
Return a fragment that has all samples in the original fragmentmultiplied by the floating-point value factor.
元のデータの全サンプルに浮動小数点数factorを掛けたデータを返します。 - Python
ARITHMETIC PROCESSING UNIT WITH FLOATINGPOINT NUMBER COMPUTING FUNCTION FOR CONTROLLING SERVO MOTOR サーボモータ制御用の浮動少数点数演算機能付き演算処理装置 - 特許庁
Formats a floatingpoint number using the same format as the built-in function str(float), but takes the decimal point into account. 浮動小数点数を str(float) と同じように書式化しますが、ロケールに配慮した小数点が使われます。 - Python
The CPU 12 calculates the floatingpoint type data based on a sensor detection value, and converts the floatingpoint type data into the fixed point type data, and stores each data in the RAM 13. CPU12は、センサ検出値を基に浮動小数点型データを算出した後、浮動小数点型データを固定小数点型データに型変換し、それら各データをRAM13に格納する。 - 特許庁
To suppress an increase in code amount by a program code for performing floating-point arithmetic, especially by its variable, and to reduce a processing overhead for converting fixed-point data into floating-point data. 浮動小数点演算を行うためのプログラムコード、特にその変数によるコード量の増加を抑制し、また、固定小数点データを浮動小数点データに変換するための処理オーバヘッドを軽減する。 - 特許庁
Thus, the floating at the curved point of the boggie truck of the vehicle is prevented. このようにして車輌ボギー台車のカーブ地点での浮上りを防止する方法。 - 特許庁
An exponential arithmetic means 81 performs calculation to an exponent of a floating-point number. 指数演算手段81は、浮動小数点数の指数に対して演算を行う。 - 特許庁
Copyright (c) 2001 Robert Kiesling. Copyright (c) 2002, 2003 David Merrill. The contents of this document are licensed under the GNU Free Documentation License. Copyright (C) 1999 JM Project All rights reserved.
Copyright 2001-2004 Python Software Foundation.All rights reserved. Copyright 2000 BeOpen.com.All rights reserved. Copyright 1995-2000 Corporation for National Research Initiatives.All rights reserved. Copyright 1991-1995 Stichting Mathematisch Centrum.All rights reserved.