「floating arithmetic」を含む例文一覧(103)

1 2 3 次へ＞
  • floating-point arithmetic [calculation, operation]
    浮動小数点演算 - 研究社 英和コンピューター用語辞典
  • 11.8 Decimal Floating Point Arithmetic
    11.8 10 進浮動小数演算 - Python
  • FLOATING POINT ARITHMETIC DEVICE
    浮動小数点演算装置 - 特許庁
  • FLOATING POINT NUMBER ARITHMETIC CIRCUIT
    浮動小数点数演算回路 - 特許庁
  • FLOATING POINT PRODUCT SUM ARITHMETIC OPERATION DEVICE, FLOATING POINT PRODUCT SUM ARITHMETIC OPERATION METHOD, AND PROGRAM FOR FLOATING POINT PRODUCT SUM ARITHMETIC OPERATION
    浮動小数点積和演算装置、浮動小数点積和演算方法、及び浮動小数点積和演算用プログラム - 特許庁
  • FLOATING DECIMAL ARITHMETIC UNIT AND DDA ARITHMETIC PROCESSING METHOD
    浮動小数演算器及びＤＤＡ演算処理方法 - 特許庁
  • FLOATING DECIMAL POINT ARITHMETIC CIRCUIT, FLOATING DECIMAL POINT ARITHMETIC METHOD, AND SERVO-CONTROLLED SYSTEM
    浮動小数点数演算回路と浮動小数点演算方法及びサーボ制御装置 - 特許庁
  • Floating Point Arithmetic: Issues and Limitations
    B. 浮動小数点演算、その問題と制限 - Python
  • 5.6 decimal -- Decimal floating point arithmetic
    5.5 decimal -- 10進浮動小数点数の算術演算 - Python
  • FLOATING POINT ARITHMETIC CIRCUIT, COMPUTER WITH FLOATING POINT ARITHMETIC CIRCUIT, AND ARITHMETIC CONTROL METHOD AND ARITHMETIC CONTROL PROGRAM FOR THE SAME
    浮動小数点演算回路、浮動小数点演算回路を備えたコンピュータ及びその演算制御方法と演算制御プログラム - 特許庁
  • an arithmetic operation performed on floating-point numbers
    浮動小数点数で行われる算術演算 - 日本語WordNet
  • FLOATING POINT ARITHMETIC DEVICE, FLOATING POINT ARITHMETIC UNIT, SPECIAL NUMBER DECISION CIRCUIT FAILURE DETECTION METHOD, AND PROGRAM
    浮動小数点演算装置、浮動小数点演算器、特殊数判定回路故障検出方法及びプログラム - 特許庁
  • The decimal module provides support for decimal floating point arithmetic.
    decimal モジュールは10 進の浮動小数点算術をサポートします。 - Python
  • To efficiently provide arithmetic object data in a floating point number arithmetic circuit.
    浮動小数点数演算回路において効率的に演算対象データを供給する。 - 特許庁
  • All floating-point arithmetic in C is done in double precision.
    C のすべての浮動小数点演算は, 倍精度で行なわれる - 研究社 英和コンピューター用語辞典
  • CONVERGENCY DECIDING METHOD FOR AVERAGING ARITHMETIC OPERATION BY FLOATING POINT ARITHMETIC OPERATION AND ELECTRONIC CONTROLLER
    浮動小数点演算によるなまし計算の収束判定方法及び電子制御装置 - 特許庁
  • To execute the arithmetic instruction of a long clock cycle such as a floating point arithmetic instruction at a high speed.
    浮動小数点演算命令等のクロックサイクルが長い演算命令を高速に実行する。 - 特許庁
  • FLOATING POINT ARITHMETIC DEVICE AND COMPUTER PROGRAM FOR OPERATING M-ROOT OF FLOATING-POINT VALUE
    浮動小数点数値のｍ乗根を演算する浮動小数点演算装置及びコンピュータプログラム - 特許庁
  • To solve the problem that when the arithmetic bit of a floating-point arithmetic unit is smaller than that of a fixed point arithmetic unit, calculation accuracy of floating point numerical value is reduced.
    浮動小数点演算ユニットの演算ビットが固定小数点演算ユニットの演算ビットよりも多いときには、浮動小数点数値の演算精度が低くなってしまう。 - 特許庁
  • The FPU 15 executes an arithmetic operation in a floating point format, and the CPU 12 executes an arithmetic operation in a format other than the floating point format.
    ＦＰＵ１５は浮動小数点形式の演算を実施し、ＣＰＵ１２は浮動小数点形式以外の演算を実施する。 - 特許庁
  • To realize an arithmetic operation unit having sufficient arithmetic operation accuracy on a floating point number product sum arithmetic operation by an addition of a few circuit scale.
    浮動小数点数積和演算について十分な演算精度を有する演算装置を少ない回路規模の増加で実現する。 - 特許庁
  • When judging that floating point type data to be used for the floating point arithmetic are non-numbers, the CPU 12 performs backup processing substituted for the floating point arithmetic.
    ＣＰＵ１２は、浮動小数点演算に用いられる浮動小数点型データが非数である旨を判定したとき、同浮動小数点演算に代わるバックアップ処理を実施する。 - 特許庁
  • FLOATING POINT ARITHMETIC DEVICE AND RADAR SIGNAL PROCESSOR USING THE SAME DEVICE
    浮動小数点演算装置とこの装置を用いたレーダ信号処理装置 - 特許庁
  • A filter arithmetic operation just after input is executed by a fixed point arithmetic operation, and the arithmetic result is converted to a floating point format.
    入力直後のフィルタ演算を固定小数点演算で実施し、その演算結果を浮動小数点フォーマットに変換する構成とする。 - 特許庁
  • To perform a floating point product sum arithmetic operation based on IEEE754 specifications.
    ＩＥＥＥ７５４Ｒ規格に準拠した浮動小数点積和演算を行う。 - 特許庁
  • LOGIC CIRCUIT, AND FLOATING-POINT ARITHMETIC CIRCUIT AND MICROPROCESSOR USING SAME
    論理回路、および、それを使用した浮動小数点演算回路とマイクロプロセッサ - 特許庁
  • ARITHMETIC PROCESSING UNIT WITH FLOATING POINT NUMBER COMPUTING FUNCTION FOR CONTROLLING SERVO MOTOR
    サーボモータ制御用の浮動少数点数演算機能付き演算処理装置 - 特許庁
  • To configure an arithmetic library for achieving scheduling and sharing in the operation composition of an arithmetic unit which executes the complicate arithmetic operation of a floating point or trigonometric function and a simple arithmetic unit.
    浮動小数点や三角関数などの複雑な演算を実行する演算器と、単純な演算器との動作合成におけるスケジューリング、共有化が可能演算ライブラリを構成する。 - 特許庁
  • A mantissa arithmetic means 82 performs calculation to a mantissa of the floating-point number.
    仮数演算手段８２は、浮動小数点数の仮数に対して演算を行う。 - 特許庁
  • An exponential arithmetic means 81 performs calculation to an exponent of a floating-point number.
    指数演算手段８１は、浮動小数点数の指数に対して演算を行う。 - 特許庁
  • To provide a technology for detecting the abnormality of a floating point arithmetic processor.
    浮動小数点演算プロセッサの異常を検出するための技術を提供する。 - 特許庁
  • This logarithmic arithmetic device 10 finds the logarithm of a value expressed by floating decimal point data.
    対数演算装置10は、浮動小数点データで表現される値の対数を求める。 - 特許庁
  • The floating point sum of product arithmetic unit 1050 executes a sum of product arithmetic operation by using the coefficient data, and calculates the value of the optional mathematical function by the Taylor series arithmetic operation.
    浮動小数点積和演算器１０５０は、該係数データを用いて積和演算を実行し、任意の数学関数の値をテーラー級数演算により求める。 - 特許庁
  • To reduce the number of cycles required for arithmetic operation in comparison with that required for conventional arithmetic operation for speed-up of predetermined arithmetic operation on floating point type data.
    従来に比べて演算に要するサイクル数を削減し、浮動小数点型データにおける所定の演算を、従来に比べて高速に行うことができるようする。 - 特許庁
  • This floating point arithmetic circuit is provided with: a first arithmetic unit 101 for outputting a first arithmetic result; a second arithmetic unit 102 for outputting a second arithmetic result; and a comparator circuit 103 for comparing predetermined bit width about the first arithmetic result and the second arithmetic result.
    上記課題を解決するために、浮動小数点演算回路に、第１の演算結果を出力する第１の演算器１０１と、第２の演算結果を出力する第２の演算器１０２と、第１の演算結果と第２の演算結果とについて所定ビット幅の比較を行う比較回路１０３と、を備える。 - 特許庁
  • To provide an arithmetic program conversion device, an arithmetic program conversion program and an arithmetic program conversion method, for converting floating-point operation in an arithmetic program to fixed-point operation while ensuring desired accuracy.
    演算プログラムにおける浮動小数点演算を、所望精度を確保しながら固定小数点演算に変換する演算プログラム変換装置、演算プログラム変換プログラム、演算プログラム変換方法を提供する。 - 特許庁
  • To provide a data arithmetic processor which can improve arithmetic precision by suppressing decrease in the arithmetic precision due to canceling in a block floating system.
    ブロックフローティング方式において、オーバーフローおよび桁落ちによる演算精度の低下を抑制することにより、演算精度の向上を図ることができるデータ演算処理装置を提供する。 - 特許庁
  • An integer arithmetic unit 15 operates independently from floating-point arithmetic units 16 and 17, and performs an integer operation to the data transferred to the integer arithmetic memory 11.
    整数演算ユニット１５は、浮動小数点演算ユニット１６および１７と独立して動作し、整数演算用メモリ１１に転送されたデータに対して整数演算を行なう。 - 特許庁
  • METHOD, PROGRAM, AND DEVICE FOR FLOATING POINT ARITHMETIC OPERATION
    浮動小数点演算の方法および浮動小数点演算プログラム、ならびに浮動小数点演算装置 - 特許庁
  • To provide an arithmetic system for rapidly performing precise addition of fixed-precision floating-point numbers.
    固定精度の浮動小数点数同士の正確な和を高速に実現する演算方式を提供する。 - 特許庁
  • DEVICE AND METHOD FOR PROCESSING DATA FOR APPLYING FLOATING POINT ARITHMETIC TO FIRST, SECOND AND THIRD OPERAND
    第１、第２、第３オペランドに浮動小数点演算を適用するためのデータ処理装置および方法 - 特許庁
  • Data necessary for geometric operation are transferred from an input memory 10 to an integer arithmetic memory 11 and floating-point arithmetic memories 12 and 13.
    整数演算用メモリ１１、浮動小数点演算用メモリ１２および１３は、入力メモリ１０から幾何学演算に必要なデータが転送される。 - 特許庁
  • The arithmetic result is displayed in the second display area 2b in a displayable range, and when a fraction is present, the arithmetic result is displayed in a floating state in which fractions are rounded-off.
    第２行表示領域２ｂには、演算結果を、表示可能な範囲で表示し、端数が出るときには切捨てるフローティング状態で表示する。 - 特許庁
  • To provide a data arithmetic processor suitable for simplifying an arithmetic processing when performing addition or subtraction by a block floating system.
    ブロックフローティング方式により加算または減算を行う場合において、演算処理の簡素化を図るのに好適なデータ演算処理装置を提供する。 - 特許庁
  • A power portion of a floating-point numerical value that is an arithmetic object is replaced by a 0-power value, and m-root of the replaced floating-point numerical value is calculated.
    演算対象である浮動小数点数値の指数部を０乗値に置き換え、その置き換えた浮動小数点数値のｍ乗根を演算する。 - 特許庁
  • A division arithmetic circuit 1 turns a Y operand to a dividend and a Z operand to a divisor and executes a floating point arithmetic operation in the case that an instruction code inputted from the outside indicates a floating point division instruction.
    除算演算回路１は、外部から入力された命令コードが浮動小数点除算命令を示す場合に、Ｙオペランドを被除数、Ｚオペランドを除数として浮動小数点演算を実行する。 - 特許庁
  • To provide a floating decimal arithmetic unit and a DDA arithmetic processing for achieving floating decimal point DDA processing with high accuracy without canceling significant digits in addition.
    本発明は加算時に桁落ちが発生せず、精度の高い計算が可能な浮動小数点ＤＤＡ処理を実現することが出来る浮動小数点演算器及びＤＤＡ演算処理を提供することを課題とする。 - 特許庁
  • To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.
    固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁
  • Data with a N bit width embedded in an instruction as an immediate are converted into a floating point number with a F bit width by a converting circuit 130, and defined as an arithmetic object by an arithmetic unit 140 of the floating point number.
    命令中に即値として埋め込まれたＮビット幅のデータは変換回路１３０によりＦビット幅の浮動小数点数に変換され、浮動小数点数の演算器１４０による演算対象となる。 - 特許庁
  • After the cumulative addition arithmetic operation is repeated n times, the value in the addition result storage register 14 is converted into the data in the floating decimal format, so that the arithmetic result can be obtained.
    前記累積加算演算をｎ回繰り返した後、加算結果保持レジスタ１４内の値を浮動小数形式のデータに変換することにより演算結果が得られる。 - 特許庁
1 2 3 次へ＞

例文データの著作権について