DATA PROCESSING DEVICE AND METHOD CONVERTING NUMBER BETWEEN FIXED POINT DISPLAY AND FLOATING POINT DISPLAY例文帳に追加

固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法 - 特許庁

DATA PROCESSING APPARATUS AND METHOD FOR CONVERTING NUMBER BETWEEN FIXED-POINT AND FLOATING-POINT REPRESENTATIONS例文帳に追加

固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法 - 特許庁

Thus, it is possible to increase the efficiency of the floating point conversion processing, and to minimize the processing time.例文帳に追加

この構成により、浮動小数点変換処理の効率が高められ、処理時間が極小となる。 - 特許庁

When judging that floating point type data to be used for the floating point arithmetic are non-numbers, the CPU 12 performs backup processing substituted for the floating point arithmetic.例文帳に追加

ＣＰＵ１２は、浮動小数点演算に用いられる浮動小数点型データが非数である旨を判定したとき、同浮動小数点演算に代わるバックアップ処理を実施する。 - 特許庁

DEVICE AND METHOD FOR PROCESSING DATA FOR APPLYING FLOATING POINT ARITHMETIC TO FIRST, SECOND AND THIRD OPERAND例文帳に追加

第１、第２、第３オペランドに浮動小数点演算を適用するためのデータ処理装置および方法 - 特許庁

To improve the performance of a processing unit which performs one minus dot product vector floating point calculation.例文帳に追加

１マイナス・ドット積ベクトル浮動小数点計算を行う処理ユニットの性能を向上させる。 - 特許庁

GEOMETRIC PROCESSING PROCESSOR AND FLOATING POINT POWER CALCULATING DEVICE AND DATA OUTPUT CONTROLLER例文帳に追加

幾何学処理プロセッサ、浮動小数点べき乗計算装置およびデータの出力制御装置 - 特許庁

The floating point divider includes a mantissa repeat processing part 250 and an operation execution control part 200.例文帳に追加

この浮動小数点除算器は、仮数繰り返し処理部２５０と、演算実行制御部２００とを具備する。 - 特許庁

To provide a system and method for detecting an exception to decimal floating point data processing.例文帳に追加

１０進浮動小数点データ処理例外を検出するためのシステム及び方法を提供する。 - 特許庁

To improve a processing speed when floating point data is subjected to multiplication and division by the n-th power of 2.例文帳に追加

浮動小数点データを２のｎ乗で乗除算する際の処理速度の向上を図る。 - 特許庁

FLOATING POINT REMAINDER COMPUTING ELEMENT, INFORMATION PROCESSING DEVICE, AND COMPUTER PROGRAM例文帳に追加

浮動小数点剰余演算器、情報処理装置及びコンピュータプログラム - 特許庁

ARITHMETIC PROCESSING UNIT WITH FLOATING POINT NUMBER COMPUTING FUNCTION FOR CONTROLLING SERVO MOTOR例文帳に追加

サーボモータ制御用の浮動少数点数演算機能付き演算処理装置 - 特許庁

To provide a vector operation method for a floating-point number which is reduced in processing required for vector product operation of floating-point number and enables applying of arithmetic operation by a fixed-point type DSP.例文帳に追加

浮動小数点数のベクトル積演算に必要な処理が軽減され、固定小数点型ＤＳＰによる演算処理が適用できるようにした浮動小数点数のベクトル演算方法を提供すること。 - 特許庁

To suppress an increase in code amount by a program code for performing floating-point arithmetic, especially by its variable, and to reduce a processing overhead for converting fixed-point data into floating-point data.例文帳に追加

浮動小数点演算を行うためのプログラムコード、特にその変数によるコード量の増加を抑制し、また、固定小数点データを浮動小数点データに変換するための処理オーバヘッドを軽減する。 - 特許庁

To provide a data processing apparatus and method for converting a number between fixed-point and floating-point representations.例文帳に追加

固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法を提供する。 - 特許庁

To provide a data processing device and method converting a number between a fixed point display and a floating point display.例文帳に追加

固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法を提供する。 - 特許庁

In a DSP handling with a floating point arithmetic operation, a calculation instruction, a memory access instruction and a floating point conversion instruction are optimally combined by considering that it is possible to simultaneously execute calculation and floating point conversion, and the floating point conversion processing which has been independently performed just after input in a conventional manner is simultaneously executed by the following filter arithmetic operation.例文帳に追加

ここで、浮動小数点演算を扱えるＤＳＰでは、計算と浮動小数点変換を同時に実行することが可能であることに着目し、計算命令、メモリアクセス命令、浮動小数点変換命令を最適に組み合わせ、従来、入力直後に独立して行っていた浮動小数点変換処理をその後のフィルタ演算で同時に実行する。 - 特許庁

The spectrum of the waveform that is represented by phoneme data converted to floating point format by a floating-point processing part 11 and representing the waveform of a phoneme represents is generated by an analyzer 12 and quantized by a quantization part 13.例文帳に追加

浮動小数点化処理部１１により浮動小数点形式に変換された、音素の波形を表す音素データが表す波形のスペクトルがアナライザ１２により生成され、量子化部１３により量子化される。 - 特許庁

To provide a floating decimal arithmetic unit and a DDA arithmetic processing for achieving floating decimal point DDA processing with high accuracy without canceling significant digits in addition.例文帳に追加

本発明は加算時に桁落ちが発生せず、精度の高い計算が可能な浮動小数点ＤＤＡ処理を実現することが出来る浮動小数点演算器及びＤＤＡ演算処理を提供することを課題とする。 - 特許庁

To provide a floating point remainder computing element, an information processing device, and a computer program, capable of executing floating point remainder computation with addition of small quantity of circuits only by effectively using a floating point adder and an aligner (shifter) which are normally provided on an information processing device such as a processor in a computer.例文帳に追加

本発明は、浮動小数点剰余演算器、情報処理装置及びコンピュータプログラムに関し、計算機のプロセッサ等の情報処理装置に標準で具備されている浮動小数点加算器やアライナ（シフタ）を効果的に流用し、少量の回路を付加するだけで浮動小数点剰余演算を実現可能とすることを目的とする。 - 特許庁

Intervalspecifies how often (in seconds, floating point) the interpreter should enter the event processing code.例文帳に追加

Interval は、インタプリタがどれだけの頻度(浮動小数点数の秒で表わされる)でイベント処理コードに入るかを指定します。 - Python

To check non-number by reducing a logic dedicated for non-number check processing as much as possible in a control program performing a floating point calculation.例文帳に追加

浮動小数点演算を行う制御プログラムにおいて、非数チェック処理専用のロジックを極力少なくして、非数チェックを可能とする - 特許庁

To achieve a hardware accelerator suitable for execution of a floating-point byte-code in an information processing device.例文帳に追加

情報処理装置に浮動小数点バイトコードの実行に好適なハードウェアアクセラレータを実現する。 - 特許庁

To apply superoptimization to a program including such loop processing as to perform repetitive floating-point operation for an array variable.例文帳に追加

配列変数に対して繰り返し浮動小数点演算を行うようなループ処理を含んだプログラムに超最適化を適用する。 - 特許庁

To provide a data processing system incorporated with a floating point unit for performing multiplying and accumulating operation by a small circuit.例文帳に追加

小形回路により乗算累算演算を行う浮動小数点ユニットを組み込んだデータ処理システムを提供する。 - 特許庁

To reduce the number of computing elements constituting a square multiplier for floating-point numbers and also to increase the processing speed by circuit techniques for an arithmetic unit.例文帳に追加

演算装置の回路技術により、浮動小数点数の２乗算器を構成する演算器の数を減少させると共に、処理速度を向上させる。 - 特許庁

To permit efficient processing by a processor by storing a floating- point number in register form in a memory in both 'Endian' forms according to Endian control bit without conversion from the register form.例文帳に追加

浮動小数点数をレジスタ形式からの変換なくバイエンディアンでメモリに記憶する。 - 特許庁

Further, a gyro filter 24 calculates the data of the shifting amount of the imaging device by performing data processing in the floating-point format, and a Hall filter 22 generates data for driving the focus adjustment member by performing data processing in the floating-point format.例文帳に追加

また、ジャイロフィルタ２４は、浮動小数点形式のデータ処理によって前記撮像装置の変位量データを算出し、ホールフィルタ２２は浮動小数点形式のデータ処理によって、前記合焦調整部材の駆動データを生成する。 - 特許庁

To provide an information processing apparatus for simultaneously outputting multiplied results using the same data in a fixed point format and a floating point format, and to provide an arithmetic processing method and an electronic apparatus or the like.例文帳に追加

同一データを用いた乗算結果を固定小数点フォーマット及び浮動小数点フォーマットで同時に出力できる情報処理装置、演算処理方法及び電子機器等を提供する。 - 特許庁

To make an operation with high calculation accuracy performable even when data are extremely large or small in the case of arithmetically processing the data of a floating point form in the arithmetic processing part of a fixed point form.例文帳に追加

浮動小数点形式のデータを固定小数点形式の演算処理部で演算処理する際、データが極端に大きい場合や小さい場合でも、計算精度高く、演算が行えるようにする。 - 特許庁

The cryptographic processing carried out on the graphics processing unit can be further improved by configuring the graphics processing unit to be capable of both floating point and integer operations.例文帳に追加

グラフィック処理ユニットにて実施される暗号処理は、浮動小数点演算及び整数演算の両方を行うことができるようにグラフィック処理ユニットをコンフィギュレーションすることにより、更に改善される。 - 特許庁

Thus, the signals in the 32-bit floating point format can be output to a voice processing device connected to a voice signal converter, eliminating the conversion processing to a higher bit rate in the voice processing device.例文帳に追加

音声信号変換装置に接続された音声処理装置に対して、32Bit浮動小数点フォーマットの信号を出力することができ、音声処理装置での高ビットへの変換処理が不要となる。 - 特許庁

After a centering processing is performed, D_θ is converted from the floating-point format to the fixed-point format by an output format conversion circuit 48, and outputted from the gyro-filter 24.例文帳に追加

Ｄ_θはセンタリング処理後、出力形式変換回路４８によって浮動小数点形式から固定小数点形式へ変換され、ジャイロフィルタ２４から出力される。 - 特許庁

The hardware resource is, in particular, an execution unit such as a fixed decimal point unit 56, a load/store unit 58, a floating decimal point unit 60 or a branch processing unit 61.例文帳に追加

ハードウェア・リソースは、特に、固定小数点ユニット、ロード／ストア・ユニット、浮動小数点ユニット、または分岐処理ユニットなどの、実行ユニットである。 - 特許庁

To realize high-speed processing by dispensing with floating-point operation to reduce the number of steps required for operation in operation including point number operation.例文帳に追加

小数点数の演算を含む演算において浮動小数点演算を不要として演算に要するステップ数を低減し、もって高速な演算処理を実現する。 - 特許庁

To shorten the processing time of a whole filter arithmetic operation even when it is necessary to convert the format of data to be processed from a fixed point format to a floating point format.例文帳に追加

処理対象データが固定小数点フォーマットで浮動小数点フォーマットに変換する必要があってもフィルタ演算全体の処理時間を短縮可能とする。 - 特許庁

The constant conversion processing part 62 reads the relevant constant B written in the storage area 53 and converts the relevant constant as the fixed point type data into the floating point type data to generate a control constant b.例文帳に追加

定数変換処理部６２は、記憶領域５３に書き込まれている適合定数Ｂを読み出し、固定小数点型データである適合定数Ｂを浮動小数点型データにデータ変換して制御定数ｂを生成する。 - 特許庁

The data processing apparatus comprises a data processing unit operable to execute instructions, with the data processing unit being responsive to a format conversion instruction to apply a format conversion operation to a number to perform a conversion between the fixed-point representation of the number and the floating-point representation of the number.例文帳に追加

データ処理装置は、インストラクションを実行するよう動作可能なデータ処理ユニットを備え、そのデータ処理ユニットは、フォーマット変換インストラクションに応答し、数にフォーマット変換演算を適用してその数の固定小数点表示と浮動小数点表示との間で変換を行う。 - 特許庁

This data processing device is provided with a data processing unit operating to execute an instruction, the data processing unit responds to a format conversion instruction, applies a format conversion calculation to the number and converts it between its fixed point display and the floating point display.例文帳に追加

データ処理装置は、インストラクションを実行するよう動作可能なデータ処理ユニットを備え、そのデータ処理ユニットは、フォーマット変換インストラクションに応答し、数にフォーマット変換演算を適用してその数の固定小数点表示と浮動小数点表示との間で変換を行う。 - 特許庁

The reduction in the data amount contributes to relieving the data load processing from a memory to an integer register and a floating point register an then to a high speed processing for generating image plotting data through the affine transform or the like.例文帳に追加

データ量削減によって、メモリから整数レジスタや浮動小数点レジスタへのデータロード処理を軽減でき、アフィン変換などを介する描画用データ生成処理の高速化に寄与できる。 - 特許庁

To provide a technique allowing hardware to perform range search and neighborhood search on a data set without influencing the processing speed entirely even when the hardware does not have a floating point number processing unit (FPU).例文帳に追加

浮動小数点演算装置（ＦＰＵ）を備えないハードウェアであっても、全体の処理速度に影響を及ぼすことなく、データ集合に対する範囲検索や近傍検索を行う。 - 特許庁

A throughput estimation means 10 estimates the throughputs in integer operation and floating point operation of evaluation object software from the processing time of the evaluation object software by a plurality of computers and the performance index values in integer operations and performance index values in floating point operations of a plurality of the computers.例文帳に追加

処理量推定手段１０は、複数台の計算機における評価対象ソフトウェアの処理時間並びに複数台の計算機の整数演算の性能指標値および浮動小数点演算の性能指標値から評価対象ソフトウェアの整数演算の処理量と浮動小数点演算の処理量とを推定する。 - 特許庁

The Z-sorting processing circuit 24 includes a floating decimal point comparison device 130 which compares an average depth value of a semitransparent polygon with a minimum pooling depth value; a plurality of AND gates 110-1 to 110-23 and 120-1 to 120-23, which are connected to the input stage of the floating decimal point comparison device 130; and a decimal part mask value 140 for controlling precision.例文帳に追加

本発明に係るＺソート処理回路２４は、半透明ポリゴンのデプス平均値と最小保持デプス値とを比較する浮動小数点比較器１３０と、浮動小数点比較器１３０の入力段に接続された複数のＡＮＤゲート１１０−１〜１１０−２３、１２０−１〜１２０−２３と、精度制御用小数部マスク値１４０とを含む。 - 特許庁

The CPU 12 substitutes integer type data for the floating point type data or performs operation using the integer type data as the backup processing without using the FPU 15.例文帳に追加

ＣＰＵ１２が実施するバックアップ処理としては、ＦＰＵ１５を用いることなく、浮動小数点型データに代わる整数型データを代入したり、或いは整数型データを用いた演算を実施したりする。 - 特許庁