「Floating-Point data」を含む例文一覧(130)
＜前へ 1 2 3 次へ＞- To provide a floating point unit which does not require exclusive hardware for each of different data-type formats.
異なるデータ型フォーマットの各々に専用のハードウェアを必要としない浮動小数点ユニットを提供する。 - 特許庁 - METHOD FOR LOADING DATA AND METHOD FOR STORING THE SAME AND METHOD FOR LOADING DATA WORD AND METHOD FOR STORING THE SAME AND METHOD FOR COMPARING FLOATING POINT
データのロード方法及びその記憶方法、データワードのロード方法及びその記憶方法、並びに、浮動小数点数の比較方法 - 特許庁 - The RAM 13 is provided with a storage area for storing fixed point type hot water data, intake air content data, and number of rotation data and a storage area for storing floating point type hot water data, intake air content data, and number of rotation data.
ＲＡＭ１３は、各々固定小数点型の水温データ、吸入空気量データ、回転数データを格納する記憶領域と、各々浮動小数点型の水温データ、吸入空気量データ、回転数データを格納する記憶領域とを持つ。 - 特許庁 - When an area of a memory 11, in which the value of the variables var3 are written, is regarded as single precision floating point type data and accessed, the value can be used as a result of the shift operation of the floating point number x.
ｖａｒ３の値を書き込んだメモリ１１の領域を単精度浮動小数点型データとみなしてアクセスすれば、浮動小数点数ｘのシフト演算の結果として値を利用できる。 - 特許庁 - In the case of a data dependent floating point store instruction, however, intermediate result data are provided from the preceding instruction and a transfer route for data dependent floating point store instruction is provided for skipping the stage in the floating point pipeline so that even when data depend on the preceding instruction which is not executed completely, the advancement in the pipeline is enabled.
にもかかわらず、データ依存浮動小数点ストア命令の場合は、先行命令からの中間結果データを提供し、浮動小数点パイプライン内のステージをスキップするためにデータ依存浮動小数点ストア命令用の転送経路を提供することにより、その実行がまだ完了していない先行命令にデータが依存する場合でも、パイプライン内で進行することができる。 - 特許庁 - To resolve technical issues in FPC method, and to enhance the compression ratio on numerical data in a floating point format.
ＦＰＣ方式の技術的課題を解消し、浮動小数点形式の数値データの圧縮率を向上させる。 - 特許庁 - To provide a computer implementation method for compressing numerical data including a structured set of floating-point effective values.
浮動小数点実効値の構造化されたセットを含む数値データを圧縮するコンピュータ実装方法を提供する。 - 特許庁 - To perform speedup of absolute value arithmetic operation on floating point type data in comparison with that by a conventional method.
浮動小数点型データの絶対値演算を、従来の手法に比べて高速に行うことができるようにする。 - 特許庁 - To provide a data processing system incorporated with a floating point unit for performing multiplying and accumulating operation by a small circuit.
小形回路により乗算累算演算を行う浮動小数点ユニットを組み込んだデータ処理システムを提供する。 - 特許庁 - To allow a floating point unit to execute a load by-pass together with data conversion.
浮動小数点ユニットにおいてデータ変換と共にロードバイパスを実行することが可能な方法及び装置を提供すること。 - 特許庁 - In the data extending processing, the compressed data are read in a memory 4, and processed by an arithmetic operation reverse to the compression so as to be developed into original data with a 32 bit floating point.
データ伸長処理ではメモリ部４に圧縮データを読み込み上記圧縮とは逆の演算を行うことにより３２ビット浮動少数点の元データに展開する。 - 特許庁 - In the polygon data of many polygons used to approximate a three-dimensional shape, apex coordinate data (x, y, z) are written in the floating point representation and apex normal data (nx, ny, nz) are written in integers.
３次元形状を近似するための多数のポリゴンのポリゴンデータは、頂点座標データ（ｘ，ｙ，ｚ）を浮動小数点数とし、頂点法線データ（ｎｘ，ｎｙ，ｎｚ）を整数とする。 - 特許庁 - The spectrum of the waveform that is represented by phoneme data converted to floating point format by a floating-point processing part 11 and representing the waveform of a phoneme represents is generated by an analyzer 12 and quantized by a quantization part 13.
浮動小数点化処理部１１により浮動小数点形式に変換された、音素の波形を表す音素データが表す波形のスペクトルがアナライザ１２により生成され、量子化部１３により量子化される。 - 特許庁 - Data with a N bit width embedded in an instruction as an immediate are converted into a floating point number with a F bit width by a converting circuit 130, and defined as an arithmetic object by an arithmetic unit 140 of the floating point number.
命令中に即値として埋め込まれたＮビット幅のデータは変換回路１３０によりＦビット幅の浮動小数点数に変換され、浮動小数点数の演算器１４０による演算対象となる。 - 特許庁 - To provide an electronic controller design development system capable of examining control data of an electronic controller, which performs computing by using floating point type data, by means of a relevant tool matching a fixed point type data.
浮動小数点型データを用いて演算を行う電子制御装置の制御データを、固定小数点型データに対応した適合ツールを使用して検討可能な電子制御装置の設計開発システムを提供する。 - 特許庁 - The average value of reliability of the respective restoring points obtained from the respective data of reliability stored in the RGBA data channel is converted to floating-point representation.
そして、ＲＧＢＡデータチャネルに格納された信頼度の各データから得られる各復元点の信頼度の平均値を浮動小数点表示に変換する。 - 特許庁 - To shorten the processing time of a whole filter arithmetic operation even when it is necessary to convert the format of data to be processed from a fixed point format to a floating point format.
処理対象データが固定小数点フォーマットで浮動小数点フォーマットに変換する必要があってもフィルタ演算全体の処理時間を短縮可能とする。 - 特許庁 - An especially efficient technology is provided for generating an initial estimation value inside the data processor performing reciprocal operation on a fixed-point value or a floating-point value.
固定小数点値または浮動小数点値に逆数演算が実施されるデータ処理装置内で初期推定値発生を実施する特に効率的な技術が提供される。 - 特許庁 - An input data format converter 40 converts the shifting speed detected by a variation speed detector 12 from a fixed-point format into a floating-point format, and also converts the detected position of a focus member into a floating-point format.
入力データ形式変換器４０は変位速度検出器１２において検出された変位速度について固定小数点形式から浮動小数点形式に変換するとともに、検出された合焦部材の位置を浮動小数点データに変換する。 - 特許庁 - To make an operation with high calculation accuracy performable even when data are extremely large or small in the case of arithmetically processing the data of a floating point form in the arithmetic processing part of a fixed point form.
浮動小数点形式のデータを固定小数点形式の演算処理部で演算処理する際、データが極端に大きい場合や小さい場合でも、計算精度高く、演算が行えるようにする。 - 特許庁 - When operating power supply to a microcomputer is interrupted, a built-in controller determines the presence/no presence of the nonnumeric character of data of a floating point number format stored in a backup memory, and when determining that the nonnumeric character is present, initializes the data of the floating point number format having nonnumeric character.
マイクロコンピュータへの動作電源遮断時、組込み制御装置は、バックアップメモリに格納する浮動小数点数形式のデータの非数の有無を判定し、非数を有すると判定した場合、非数を有する浮動小数点数形式のデータを初期化する。 - 特許庁 - An original input signal is amplified (attenuated) by an amplification factor (attenuation factor) corresponding to the exponent part and a converted and outputted value by the same A-D converter is set to be the fraction part of the floating-point digital data, thus achieving the A-D converter of floating-point digital data.
その指数部に見合った増幅率（減衰率）で、元の入力信号を増幅（減衰）し、再び、同じＡ／Ｄコンバータにて、変換出力された値を浮動小数点ディジタルデータの小数部とする、浮動小数点ディジタルデータのＡ／Ｄコンバーターを実現する。 - 特許庁 - Then, waveform data of a digital input signal comprised of the respective sampling values indicated by the number of floating points calculated by the floating point multiplier 24 is stored in a waveform memory 28.
そして、浮動小数点乗算器２４で算出された浮動小数点数で示される各サンプリング値からなるデジタルの入力信号の波形データを波形メモリ２８に記憶する。 - 特許庁 - The floating-point adder which performs addition and subtraction of two pieces of given floating-point data codes the large/small relation between data corresponding to clip coordinates and the other given data according to the results of exponent comparison and mantissa comparison between the two pieces of data which are made before the digit matching process of the mantissa parts and the signs of the two pieces of data.
与えられる２つの浮動小数点データの加算および減算を行なう浮動小数点加算器において、仮数部の桁合わせ処理の前処理で行なわれる２データの指数比較および仮数比較の結果と２データの符号とに基づいて、クリップ座標に対応するデータと与えられた他方のデータとの大小関係をそれぞれコード化する。 - 特許庁 - The CPU 12 decides presence/absence of the non-numerals for data in the RAM 13 to store floating point type data and when the non-numerals are decided to exist, initializes RAM data.
ＣＰＵ１２は、浮動小数点型データを格納するＲＡＭ１３内のデータについて非数の有無を判定し、非数が有ると判定された時、ＲＡＭデータの初期化を行う。 - 特許庁 - To provide a voice signal converter used to transfer sampled voice data in a 32-bit floating point format.
サンプリング化された音声データを32Bit浮動小数点フォーマットにより伝送するために使用する音声信号変換装置を提供する。 - 特許庁 - Then, an integer computing unit 13 carries out integer computing for turning a part matching a sign bit of the floating point type data in the integer type data into a positive number.
次に、整数演算器１３により、その整数型データにおける、浮動小数点型データの符号ビットに対応する部分を正の数にするための整数演算を行う。 - 特許庁 - A source sound signal (101) is encoded by a floating-point operation to generate 1st compressed data (104) and the source sound signal (101) is encoded by a fixed-point operation to generate 2nd compressed data (105).
まず、浮動小数点演算により原音信号（１０１）を符号化して第１の圧縮データ（１０４）を生成し、固定小数点演算により原音信号（１０１）を符号化して第２の圧縮データ（１０５）を生成する。 - 特許庁 - To provide an equalize circuit realizing high speed performance by reducing the number of steps of an arithmetic circuit for performing the addition/subtraction of floating point data.
本発明は、浮動小数点データ加減算を行う演算回路のステップ数を削減し、高速化を実現するイコライズ回路を提供する。 - 特許庁 - To prevent control failures in control even if a computational result of data in a floating-point format becomes a nonnumeric number and in other control.
浮動小数点形式のデータの演算結果が非数となった場合でも、当該制御および他の制御における制御不良を防止する。 - 特許庁 - To provide a technology realizing conversion from an analog signal into floating-point digital data by using a plurality of A/D converters combined.
Ａ／Ｄコンバーターを複数組み合わせて使用しアナログ信号を浮動小数点デジタルデータに変換を実現する技術を提供することである。 - 特許庁 - The reduction in the data amount contributes to relieving the data load processing from a memory to an integer register and a floating point register an then to a high speed processing for generating image plotting data through the affine transform or the like.
データ量削減によって、メモリから整数レジスタや浮動小数点レジスタへのデータロード処理を軽減でき、アフィン変換などを介する描画用データ生成処理の高速化に寄与できる。 - 特許庁 - The CPU 12 substitutes integer type data for the floating point type data or performs operation using the integer type data as the backup processing without using the FPU 15.
ＣＰＵ１２が実施するバックアップ処理としては、ＦＰＵ１５を用いることなく、浮動小数点型データに代わる整数型データを代入したり、或いは整数型データを用いた演算を実施したりする。 - 特許庁 - A shake vibration component is extracted from the floating-point format Dω, it is integrated, and data D_θ corresponding to an oscillation angle θ are generated.
浮動小数点形式のＤ_ωから手振れ振動成分を抽出し、これを積分して揺動角度θに応じたデータＤ_θを生成する。 - 特許庁 - To provide a floating and sinking body which sinks to a depth at a target arrival point when observing underwater data, and subsequently floats onto the sea by itself.
海中データを観測する際に、目標到達点の深深度まで沈降でき、その後、自力で海上に浮上できる浮沈体を提供する。 - 特許庁 - Floating point data is composed of, e.g. four bytes and has a one-bit coding part, an eight-bit exponent part and a twenty-three-bit mantissa part as its breakdown.
浮動小数点データは例えば４バイトで構成され、その内訳として１ビットの符号部と、８ビットの指数部と、２３ビットの仮数部とを有する。 - 特許庁 - Data necessary for geometric operation are transferred from an input memory 10 to an integer arithmetic memory 11 and floating-point arithmetic memories 12 and 13.
整数演算用メモリ１１、浮動小数点演算用メモリ１２および１３は、入力メモリ１０から幾何学演算に必要なデータが転送される。 - 特許庁 - Mantissa part M0 and M1 of the floating point data are inputted to a multiplication array 1 and also inputted to zero counting means 4-1 and 4-2 at the same time.
浮動小数点データの仮数部Ｍ０及びＭ１は乗算アレイ１への入力と同時に零計数手段４−１及び４−２への入力となる。 - 特許庁 - The constant conversion processing part 62 reads the relevant constant B written in the storage area 53 and converts the relevant constant as the fixed point type data into the floating point type data to generate a control constant b.
定数変換処理部６２は、記憶領域５３に書き込まれている適合定数Ｂを読み出し、固定小数点型データである適合定数Ｂを浮動小数点型データにデータ変換して制御定数ｂを生成する。 - 特許庁 - A data format is adopted in this system where the number of lower- order bits of the mantissa of the apex coordinate data is made smaller than that of a data format in the floating point representation processible by a computer reading polygon data, and a data format into which the above apex normal data are integrated is applied to the room created by reducing the lower- order bits.
頂点座標データのビット数は、ポリゴンデータを読取るコンピュータが処理可能な浮動小数点数のデータフォーマットに対して仮数の下位側ビット数が少なくされ、その少なくされた部分に前記頂点法線データを組込んだデータフォーマットを採用する。 - 特許庁 - To provide an information processing apparatus for simultaneously outputting multiplied results using the same data in a fixed point format and a floating point format, and to provide an arithmetic processing method and an electronic apparatus or the like.
同一データを用いた乗算結果を固定小数点フォーマット及び浮動小数点フォーマットで同時に出力できる情報処理装置、演算処理方法及び電子機器等を提供する。 - 特許庁 - To efficiently use a 64 bit architecture especially for 32 bit and 64 bit data values in loading and storing data, and to provide a floating point instruction set for further efficiently interfacing with a CPU in comparing floating points.
例えば、ロード及びストアする操作において、特に３２ビット及び６４ビットデータ値のために６４ビットアーキテクチャを更に能率的に利用し、同様に浮動小数点比較操作においてＣＰＵと一層能率的にインタフェースする浮動小数点命令セットが必要である。 - 特許庁 - The data processing apparatus comprises a data processing unit operable to execute instructions, with the data processing unit being responsive to a format conversion instruction to apply a format conversion operation to a number to perform a conversion between the fixed-point representation of the number and the floating-point representation of the number.
データ処理装置は、インストラクションを実行するよう動作可能なデータ処理ユニットを備え、そのデータ処理ユニットは、フォーマット変換インストラクションに応答し、数にフォーマット変換演算を適用してその数の固定小数点表示と浮動小数点表示との間で変換を行う。 - 特許庁 - This data processing device is provided with a data processing unit operating to execute an instruction, the data processing unit responds to a format conversion instruction, applies a format conversion calculation to the number and converts it between its fixed point display and the floating point display.
データ処理装置は、インストラクションを実行するよう動作可能なデータ処理ユニットを備え、そのデータ処理ユニットは、フォーマット変換インストラクションに応答し、数にフォーマット変換演算を適用してその数の固定小数点表示と浮動小数点表示との間で変換を行う。 - 特許庁 - To provide a data processor and a data processing method for executing floating point multiplication and cumulative arithmetic operation to first, second and third operands, and for applying a result based on an IEEE754-1985 specification.
第１、第２、第３のオペランドに浮動小数点乗算・累加演算を実行し、ＩＥＥＥ７５４−１９８５規格に準拠する結果を与えるデータ処理装置およびデータ処理方法を提供する。 - 特許庁 - To provide an embedded control system capable of ensuring precision in arithmetic with data in the floating-point format and also avoiding a shortage of the storage area of a memory.
浮動小数点数形式のデータによる演算精度を確保し、且つ、記憶装置の記憶領域の不足を回避することができる組み込み制御装置を提供する。 - 特許庁 - To restore floating point data indicating 'non-numeral' or 'infinity' into a normal value in a short time without compressing a memory region or stopping an operating system.
メモリ領域を圧迫することなく、また、動作中のシステムを停止させることなく、「非数」や「無限大」を示す浮動小数点型データを短時間で正常値に復帰させる。 - 特許庁 - The floating point sum of product arithmetic unit 1050 executes a sum of product arithmetic operation by using the coefficient data, and calculates the value of the optional mathematical function by the Taylor series arithmetic operation.
浮動小数点積和演算器１０５０は、該係数データを用いて積和演算を実行し、任意の数学関数の値をテーラー級数演算により求める。 - 特許庁 - To reduce the number of cycles required for arithmetic operation in comparison with that required for conventional arithmetic operation for speed-up of predetermined arithmetic operation on floating point type data.
従来に比べて演算に要するサイクル数を削減し、浮動小数点型データにおける所定の演算を、従来に比べて高速に行うことができるようする。 - 特許庁 - This device comprises a floating point unit 50 comprising standard multiplication/accumulation units (MAC) 51 and 52 executing a multiplication/accumulation operation on plural data-type formats.
本発明の装置は、複数のデータ型フォーマット(15,16)に対して乗算累算演算を実行できる標準乗算累算ユニット(MAC)(51,52)を含む浮動小数点ユニット(50)を含む。 - 特許庁
- 特許庁
- Copyright © Japan Patent office. All Rights Reserved.
