「Floating-Point data」を含む例文一覧(130)
＜前へ 1 2 3- To guarantee identity of a physical quantity conversion value between the same data and simplify processing of a procedure for guaranteeing the identity, in an electronic control device handling the same data constituted of two types of a fixed-point type and a floating-point type.
固定小数点と浮動小数点型の２つの型式からなる同一データを扱う電子制御装置において、同一データ間の物理量換算値の同一性が保証され、かつ同一性保証を行う手順の処理の簡素化を図ることを目的とする。 - 特許庁 - After that, a shift register 30 shifts the mantissa part of the inputted floating decimal point data by as much as the difference calculated by the subtracter 20, and a bit extracting part 40 extracts the prescribed number of bits in the shifted mantissa part as fixed decimal point data.
その後、シフトレジスタ３０において、入力された浮動小数点データの仮数部を指数部減算器２０にて求められた差分だけシフトさせ、ビット抽出部４０において、シフトした仮数部のうち所定のビット数を固定小数点データとして抽出する。 - 特許庁 - The pixel sensor cell including a column circuit, a design structure for fabricating the pixel sensor cell including the column circuit and a method for operating the pixel sensor cell including the column circuit are predicated upon the measurement of multiple reference data point and signal data point pairs from a floating diffusion at a variable capacitance.
列（カラム）回路を含む画素センサ・セル、列回路を含む画素センサ・セルを製造するための設計構造体、及び列回路を含む画素センサ・セルを動作させるための方法は、可変キャパシタンスでの浮遊拡散部からの複数の参照データ・ポイントと信号データ・ポイントとのペアの測定に基づく。 - 特許庁 - To provide a technique allowing hardware to perform range search and neighborhood search on a data set without influencing the processing speed entirely even when the hardware does not have a floating point number processing unit (FPU).
浮動小数点演算装置（ＦＰＵ）を備えないハードウェアであっても、全体の処理速度に影響を及ぼすことなく、データ集合に対する範囲検索や近傍検索を行う。 - 特許庁 - To provide a built-in controller for executing the determination and initialization of presence/no presence of nonnumeric character of data of a floating point number format stored in a backup memory without increasing an arithmetic load.
バックアップメモリに格納する浮動小数点数形式のデータの非数の有無の判定及び初期化を、演算負荷を増加させることなく実行できる組込み制御装置を提供する。 - 特許庁 - An integer arithmetic unit 15 operates independently from floating-point arithmetic units 16 and 17, and performs an integer operation to the data transferred to the integer arithmetic memory 11.
整数演算ユニット１５は、浮動小数点演算ユニット１６および１７と独立して動作し、整数演算用メモリ１１に転送されたデータに対して整数演算を行なう。 - 特許庁 - To provide a control device for an internal combustion engine capable of securing accuracy of various operations by floating point arithmetic and of reducing storage capacity occupied by a data map used for the operations.
浮動小数点演算による各種演算の精度を確保するとともに、演算に用いるデータマップの占有する記憶容量の軽減が可能な内燃機関の制御装置を提供する。 - 特許庁 - The PC 16 reads out the stored data, runs the same control program as the control programs of the respective CPUs, performs floating point arithmetic and writes the arithmetic result in the DPRAMs 14a-14d.
パソコン１６は、格納されたデータを読み出し、各ＣＰＵの制御プログラムと同一の制御プログラムを実行し、浮動小数点演算を行ってその演算結果をＤＰＲＡＭ１４ａ〜１４ｄに書き込む。 - 特許庁 - A coefficient holding part 135 holds first as a coefficient the value obtained by dividing a floating-pint maximum value Dmax as the maximum value of floating-point data by the maximum difference value DFmax of the whole input file 101 detected by a maximum difference value detection part 106.
係数保持部１３５は始めに、最大差分値検出部１０６が検出した入力ファイル１０１全体における最大差分値ＤＦｍａｘで浮動小数点データの最大値である浮動小数点最大値Ｄｍａｘ を除算した値を係数として保持する。 - 特許庁 - Thereby, potential variation of a floating node at the time of holding data in a cross point type ferroelectric memory is prevented, while in an amplification type memory having a sense transistor Ts, timing control of data read-out operation from a memory cell can be simplified remarkably.
これにより、クロスポイント型強誘電体メモリにおけるデータ保持時の浮遊ノードの電位変動を防ぐとともに、センストランジスタＴｓを有する増幅型のメモリにおいて、メモリセルからのデータ読出動作のタイミング制御を著しく簡略化させる。 - 特許庁 - A process known as loading operation reads out an instruction and data from a cache memory element, decodes the instruction, converts a memory format into a register format, and writes the converted data in a register file block 56 in a floating point unit 50.
キャッシュメモリ要素(81)からの命令及びデータの読み出し、該命令のデコード、メモリフォーマットからレジスタフォーマットへの変換の実行、及び該変換したデータの浮動小数点ユニット(50)のレジスタファイルブロック(56)への書き込みを行うプロセスは、ロード動作として知られる。 - 特許庁 - To provide a data converter, with which a processing speed is prevented from being decelerated without using an arithmetic processor having a data conversion table or floating point processor, and a conversion error in the case of analog/digital(A/D) conversion is reduced while suppressing costs.
データ変換テーブルや浮動小数点処理装置などを有する演算処理装置を用いることなく、処理速度の低下を防ぐとともに、コストを抑えてアナログ−ディジタル変換を行う際の変換誤差の少ないデータ変換装置を提供する。 - 特許庁 - A register in a logic register file shows whether a plurality of tags related to the logic register file are empty or not by responding to execution of a scalar floating point instruction for changing the data included in the logic register file.
論理レジスタ・ファイル内のレジスタが論理レジスタ・ファイルに含まれるデータを変更するスカラー浮動小数点命令の実行に応答して論理レジスタ・ファイルに関連した複数のタグが空か非空かを示す。 - 特許庁 - For instance, a processing circuit such as a floating point unit or a data cache operates at one of a high-power mode and a low-power mode based on the number of threads currently operated by the simultaneous multi-threading processor.
例えば、フローティングポイントユニットまたはデータキャッシュのようなプロセッシング回路が同時多重スレッディングプロセッサによって現在動作しているスレッドの数に基づいて高電力モードまたは低電力モードの一つで動作する。 - 特許庁 - In an external compressing device 2, for example, a compression rate is calculated by dividing the maximum value of the absolute value of original data in a 32 bit floating point system by the maximum value of the absolute value of an integer value whose bits are smaller than 32 bits.
外部圧縮装置２で例えば３２ビット浮動小数点方式の元データの絶対値の最大値を３２ビットより小さいビットの整数値の絶対値の最大値で割って圧縮率を求める。 - 特許庁 - At least two D/A converters are used, an exponent portion in floating point digital data is defined as a current for signal amplification, and its decimal portion is defined as a signal to be amplified, and conversion into an analog signal is accomplished.
少なくとも２つのＤ／Ａコンバーターを使用し、浮動小数点ディジタルデータにおける指数部は信号の増幅用の電流、小数部は増幅する信号とし、アナログ信号へと変換することを実現する。 - 特許庁 - For performing a product sum arithmetic operation for adding third data to the product of first data and second data, the first data and the second data are multiplied by a floating point multiplier 114, and a binary digit string for expressing a mantissa part in a multiplication result is divided into a string for expressing a superordinate digit in the mantissa part and a string for expressing a subordinate digit in the mantissa part.
第一のデータと第二のデータとの積へ第三のデータを加算する積和演算を実行するために、浮動小数点乗算器１１４に第一のデータと第二のデータとの乗算を行なわせ、その乗算結果における仮数部を表現するビット列を該仮数部における上位の桁を表現するものと該仮数部における下位の桁を表現するものとに分割する。 - 特許庁 - When reading the data of the floating point form for one block into a RAM 40, to which series of operation including the operation of data are applied, as one block, a maximum value (r) of an index part is found within that block by an index part comparator 20 and an index part maximum value register 21.
データ同士の演算を含む一連の演算が施されるデータ群を１ブロックとして、浮動小数点形式のデータを１ブロック分、ＲＡＭ４０に読み込む際、指数部比較器２０と指数部最大値レジスタ２１により、そのブロック内での指数部の最大値ｒを求める。 - 特許庁 - By an amplifying ratio (attenuating ratio) corresponding to the characteristic, an analog signal which is an original input signal is amplified (attenuated), and a value converted by an A/D converter for a decimal part to be outputted is made a decimal part of the floating-point digital data.
その指数部に見合った増幅率（減衰率）で、元の入力信号であるアナログ信号を増幅（減衰）し、小数部用Ａ／Ｄコンバーターにて変換出力された値を浮動小数点ディジタルデータの小数部とする。 - 特許庁 - Calculation of pth power of v (vp) can be performed to the data v in the floating point format with the small circuit structure, at high speed and with the excellent operation accuracy by presetting proper tables in the first and second converting parts.
第１, 第２の変換部にあらかじめ適宜のテーブルを設定しておくことにより浮動小数点フォーマットのデータｖに対し、ｖのｐ乗（ｖ＾ｐ）を計算を、少ない回路構成で、高速に、演算精度良く行うことができる。 - 特許庁 - A nonnumeric conversion table 21, in which different numerics are made correspond to each other for every abnormality type, is stored in a ROM 13 of an engine control ECU 1 in preparation for abnormality of floating point data to be transmitted to other ECUs.
エンジン制御ＥＣＵ１のＲＯＭ１３には、他のＥＣＵに送信する浮動小数点型データの異常に備えて、異常の種類毎に異なる非数が対応付けられた非数変換テーブル２１が格納されている。 - 特許庁 - A plurality of FFT parts 5, 8 for performing fast Fourier transform, and a plurality of IFFT parts 9, 12 for performing inverse fast Fourier transform are connected in series, and operation results of fast Fourier transform or inverse fast Fourier transform are outputted in a block floating point format which is expressed by a plurality of fixed point data and one exponent which is common to the data.
複数の高速フーリエ変換を行うＦＦＴ部５，８と複数の逆高速フーリエ変換を行うＩＦＦＴ部９，１２とが直列に接続されており、高速フーリエ変換または逆高速フーリエ変換の演算結果は、複数の固定小数点データとそれらのデータに共通する１つの指数とで表現するブロック浮動小数点形式で出力される。 - 特許庁 - Characteristic values of the maximum value and the minimum value are extracted from the density data of the pixel comprising the floating point format, calculated by the reconstitution computation, and the optimum linear transformation factor is calculated automatically, using the characteristic values, to be set.
再構成演算により算出された浮動小数点フォーマットからなる画素の濃淡データから、最大値と最小値等の特徴値を抽出し、その特徴値を用いて最適な１次変換係数を自動的に算出して設定する。 - 特許庁 - In response to the first instruction, the execution resource calculates the dot product of at least two source operands for a specific data type including an integer and a floating point, and stores the result value in the same register or memory location as one of the source operands.
第１の命令に応答して、実行リソースは、少なくとも２つのソースオペランドのドット積を整数および浮動小数点を含む特定のデータタイプに対して演算し、結果値を前記ソースオペランドのうちの１つと同じレジスタまたはメモリロケーションに格納する。 - 特許庁 - In a detailed example, the central processing unit discriminates whether the data stored in a register corresponds to a store command stored in a memory or to a floating point arithmetic command, as a kind of command, and selects the preceding subthread by selecting a command having no correspondence.
さらに詳細な一例をあげると、中央処理装置は、命令種別として、レジスタに格納されるデータをメモリに格納するストア命令または浮動小数点演算命令に該当するかを判別し、該当しない命令を選択することで、先行サブスレッドを選択する。 - 特許庁 - In the calculation of the value of the mathematical function by the Taylor series arithmetic operation, desired coefficient data are acquired from a coefficient table set 10 by using an order number 21 of Taylor series and a set number 22 of the coefficient table, and supplied through a multiplexer 27 to a floating point sum of product arithmetic unit 1050.
ある数学関数の値をテーラー級数演算で求める際には、テーラー級数の次数番号２１、係数テーブルのセット番号２２を用いて、係数テーブルセット１０から所望の係数データを取得し、それを、マルチプレクサ２７を介して浮動小数点積和演算器１０５０に供給する。 - 特許庁 - To provide an auxiliary recording apparatus access method and auxiliary recording apparatus capable of avoiding a fixed point head floating state and improving the reliability without impairing the life even when a command to access data existing on a specific track is issued continuously for a long time.
ある特定のトラック上に存在するデータに対してアクセスする命令が長時間連続的に発行された場合にも、定点浮上状態を回避し、寿命を損なうことなく、信頼性を向上させることが可能な補助記憶装置アクセス方法および補助記憶装置を提供する。 - 特許庁 - To provide a radiological tomographic device, capable of setting optimally all the time a linear transformation factor for transforming a density data of a pixel of floating point format calculated by reconstitution computation, into luminance data of integral format, without having to depend on the skill of an operator, and is capable of displaying, at all time, clear radiological tomographic images of high contrast.
操作者の熟練度に頼ることなく、再構成演算により算出された浮動小数点フォーマットの画素の濃淡データを、整数フォーマットの輝度データに変換するための１次変換係数を常に最適に設定することができ、もって常に高いコントラストの見やすい断層像を表示することのできる放射線断層撮像装置を提供する。 - 特許庁 - To provide an arithmetic unit and an operation controlling method capable of efficiently transferring data between plural computing elements in respect to an arithmetic unit including plural computing elements such as an integer computing element, a floating point computing element and a graphics computing element arranged in parallel in its inside and its operation controlling method.
整数演算器および浮動小数点演算器あるいはグラフィックス演算器などの演算器が並列に内蔵された演算装置及び演算制御方法に関し、複数の演算器間でのデータのやり取りを効率よく行える演算装置及び演算制御方法を提供することを目的とする。 - 特許庁 - To provide a method and an apparatus for allocating the dynamic bandwidth of an EPON, wherein grants can be efficiently distributed based on the amount of data transmitted from ONUs while guaranteeing a minimum transmission time to each of a number of ONUs even without complicated floating point computation from a DSP or a CPU.
ＤＳＰ又はＣＰＵからの複雑な流動小数点演算がなくても、多数のＯＮＵに対して各々最小伝送時間を保証しながら、ＯＮＵの送信するデータ量を基盤として效率的にグラントを分配することが可能なＥＰＯＮの動的帯域幅割当方法及び装置を提供する。 - 特許庁
- 特許庁
- Copyright © Japan Patent office. All Rights Reserved.
