「fixed-point calculation」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

Next, a similarity calculation part 104a calculates similarity between a projection point on a reference image and a projection point on another image within a search range fixed by the search space calculation part 103 to an optional parallax candidate.例文帳に追加

次に、類似度計算部１０４ａで、任意の視差候補に対して、探索空間計算部１０３で定まる探索範囲内で、基準画像上の投影点と別画像上の投影点との間の類似度を計算する。 - 特許庁

To provide a state estimation device and the like which can suppress a calculation amount and avoid operation failure in a Kalman filter operation by performing an operation using a fixed-point number while adjusting its fixed-point position.例文帳に追加

カルマンフィルターの演算において、固定小数点数を用い、固定小数点位置を調整しながら演算を行うことにより、計算量を抑えつつ、演算の破綻を回避できる状態推定装置等の提供。 - 特許庁

A variation range of a value gets narrow compared with that when holding an absolute value, the effective number of figures in a decimal point is increased even in a fixed point system, and the calculation precision is improved thereby.例文帳に追加

絶対的な距離を保持する場合に比べて，値の変化する範囲が小さくなり、固定小数点方式でも、小数点の有効桁数を増加でき、計算精度が改善できる。 - 特許庁

This fixed point dividing device is configured to develop such a formula that the recurrence formula of a Newton/Rafson method is repeated the fixed number of times by a polynomial so that repeated calculation can be executed in parallel, and that the high speed processing can be realized.例文帳に追加

ニュートン・ラフソン法の漸化式を一定回数繰り返した式を、多項式で展開することにより、反復計算が並列に実行できるようになり、処理が高速化される。 - 特許庁

To enhance calculation precision, using a processor of a fixed point, in a position controller by a current observer control for conducting control of two degrees of freedom.例文帳に追加

二自由度制御を行う現在オブザーバ制御による位置制御装置において、固定小数点のプロセッサを用いて、計算精度を向上する。 - 特許庁

To make an operation with high calculation accuracy performable even when data are extremely large or small in the case of arithmetically processing the data of a floating point form in the arithmetic processing part of a fixed point form.例文帳に追加

浮動小数点形式のデータを固定小数点形式の演算処理部で演算処理する際、データが極端に大きい場合や小さい場合でも、計算精度高く、演算が行えるようにする。 - 特許庁

To acculately calculate a coordinate of a point P with a simple calculation, even when the point P locates near on an X-axis, when a distance L1 between the point P and the origin of the coordinate, and a distance L2 between the point P and a fixed point Xm are measured, on the basis of a propagation time of the acoustic wave.例文帳に追加

点Ｐと座標原点との間の距離Ｌ_１、および、点Ｐと定点Ｘｍとの間の距離Ｌ_２が、音波の伝播時間に基づいて計測されたとき、上記の点Ｐの座標を簡単な計算によって、しかも前記の点ＰがＸ軸上の近くに位置していても高精度で算定する。 - 特許庁

When digital input data are inputted, a right shifter 17 shifts fixed decimal point data to the right on the basis of an adjustment value stored in a register 24 and performs filter calculation.例文帳に追加

デジタル入力データが入力されると、右シフタ１７が、レジスタ２４に格納された調整値に基づいて、固定小数点データを右シフトした後、フィルタ計算を行う。 - 特許庁

An interest calculating processing system 11 calculates the interest according to a calculation method determined for each fixed period concerning the electronic point files A321 and B331 of users A and B and updates the electronic point files.例文帳に追加

利息計算処理システム１１は、それぞれ利用者Ａ、Ｂの電子ポイントファイルＡ３２１、電子ポイントファイルＢ３３１に対して、一定期間毎に定められた計算方法に従って利息を計算し、電子ポイントファイルを更新する。 - 特許庁

An angle calculation section (106) obtains an angle formed by a normal line drawn from the three sides to the first candidate position and a standard line oriented in a fixed direction and passing a point at which the normal line and each of the three sides cross.例文帳に追加

角度算出部（１０６）は、前記３辺から前記第一の候補位置への法線と、前記法線と各辺が交わる点を通る一定方向の基準線との角度を求める。 - 特許庁

The advance calculation means 11 calculates a fixed matrix and an intermediate matrix for calculating an accident point current based on the facility data of grids, which is stored in an advance data storage means 12.例文帳に追加

事前計算手段１１は、系統の設備データに基づき、固定マトリックスと、事故点電流計算用の中間マトリックスとを計算して事前データ記憶手段１２に記憶する。 - 特許庁

Also the computer, when preparing an instruction string for test use, designates for inputting of any instruction that may give rise to exception interrupt, such as floating point calculation or fixed point division, the input-dedicated register into which execution results are not written.例文帳に追加

また、コンピュータは、試験用命令列の作成時に、浮動小数点演算や固定小数点除算など例外割り込みが発生する可能性のある命令の入力に実行結果が書き込まれない入力専用レジスタを指定する。 - 特許庁

A control field providing a programmable value specifying a decimal point position in the fixed point display of the number is disposed, and the data processing unit controls the format conversion calculation by referring to the control field and according to the programmable value.例文帳に追加

更には、その数の固定小数点表示内の小数点位置を特定するプログラム可能な値を提供する制御フィールドが配置され、データ処理ユニットは、その制御フィールドを参照し、かつプログラム可能な値に従ってフォーマット変換演算を制御する。 - 特許庁

To provide a demand calculation method and system for electric communication installation, that can optimally and entirely predict demand coherently among installation devices with high accuracy even when the installation or the like is changed through fixed point observation and to provide a recording medium, with a demand calculation program for the electric communication installation recorded thereon.例文帳に追加

定点観測を行なうことにより設備等が変化しても精度が高く、かつ設備間で一貫して全体的に最適な需要予測を行ない得る電気通信設備の需要算出方法および装置と電気通信設備の需要算出プログラムを記録した記録媒体を提供する。 - 特許庁

In setting an integer, which the arithmetic value y2 of a remainder calculation means 105 can range, to be (p), a storing means 103 holds the value of 2 (p/c) as G (P) with respect to P of 0 to 3 to store by the fixed decimal point format.例文帳に追加

記憶手段１０３は、剰余算手段１０５の演算値ｙ２に対し、とり得る範囲の整数をｐとすると０〜３のＰに対し、２∧（ｐ／ｃ）の値をＧ（Ｐ）として保持し、固定小数点フォーマットで格納する。 - 特許庁

This data processing device is provided with a data processing unit operating to execute an instruction, the data processing unit responds to a format conversion instruction, applies a format conversion calculation to the number and converts it between its fixed point display and the floating point display.例文帳に追加

データ処理装置は、インストラクションを実行するよう動作可能なデータ処理ユニットを備え、そのデータ処理ユニットは、フォーマット変換インストラクションに応答し、数にフォーマット変換演算を適用してその数の固定小数点表示と浮動小数点表示との間で変換を行う。 - 特許庁

In an index part of the calculation result r, a fixed value to define the result in a specified range is outputted to its high-order bits and an inversion result of low-order bits of a mantissa part of a floating point multiplication result y is outputted to its low-order bits.例文帳に追加

計算結果ｒの指数部は、その上位ビットには結果を特定の範囲にするための固定値を出力し、その下位ビットには、浮動小数点乗算結果ｙの仮数部の下位ビットの反転結果を出力する。 - 特許庁

The regular calculation means 13 quickly specifies the accident point k in a section based on the basic expression derived from the first and second laws of Kirchhoff, using the fixed matrix and the intermediate matrix stored by the advance calculation means 11 based on the operation data of grids collected by data sampling.例文帳に追加

常時計算手段１３は、データサンプリングによって収集される系統の運転データに基づき、事前計算手段１１により記憶される固定マトリックス、中間マトリックスを使用して、キルヒホッフの第一法則、第二法則から導かれる基本式に基づき、区間の事故点位置ｋを十分高速に特定する。 - 特許庁

A pre-scaling is applied to the input of an MIMO decoder to suppress the degradation caused by fixed-point calculation to minimum, with no remaining portion of the decoder being changed.例文帳に追加

本発明は、復号器の残りの部分を変更しないまま、固定小数点計算に起因する劣化を最小限に抑えるようにＭＩＭＯ復号器の入力にプリスケーリングを適用することによって、これらの問題を解決することを目的とする。 - 特許庁

Minimum/maximum value determiner 21 determines minimum/maximum values among vector elements by use of a calculation result of a fixed-point calculation unit 12 for executing an address dependency source instruction in accordance with a vector gather or vector scatter instruction, and holds the minimum/maximum value in a minimum/maximum value register part 31.例文帳に追加

最小値最大値判定器２１でベクトルギャザー命令又はベクトルスキャッター命令に対するアドレスの依存元命令を実行する固定小数点演算器１２の演算結果を用いてベクトル要素の最小値及び最大値を判定する最小値最大値判定し、この最小値及び最大値を最小値／最大値レジスタ部３１に保持しておく。 - 特許庁

To provide an arithmetic unit, a program, and a function value calculating method, by which the calculation of a functional expression containing a large number of addition, subtraction, multiplication and division with a large number of input variables or combination of variables can be performed by an inexpensive DSP for fixed point.例文帳に追加

加減乗除算を多く含み、かつ、入力変数または変数の組み合わせの数が多いような関数式の計算を、安価な固定小数点用ＤＳＰにより実現することができる演算装置、プログラム及び関数値算出方法を提供する。 - 特許庁

An input signal judging circuit 16 judges a signal input into a serial interface terminal as the signal for setting the reference point, and outputs an ON-signal to an angle calculation circuit 10 via a reference point setting circuit 11, when a serial clock signal SCLK is maintained high for a fixed time after a chip selection signal CSCLK gets active.例文帳に追加

入力信号判断回路１６は、チップセレクト信号ＣＳＣＬＫがアクティブになった後、シリアルクロック信号ＳＣＬＫがハイで一定時間保持されていると、シリアルインターフェース端子に入力された信号が基準点設定のための信号であると判断して、基準点設定回路１１を介して角度計算回路１０にオン信号を出力する。 - 特許庁

To provide a means for generating an analog S-letter smooth speed command that is not abbreviated, and a means for generating an S-shaped smooth buffer speed command, and generate an S-letter smooth buffer position command used for fixed-point computers having low calculation power and a small number of bits.例文帳に追加

本発明は、本当の、簡略でないアナログのＳ字の滑らかな速度指令を発生させる手段と、Ｓ字の滑らかなバッファ速度指令を発生させる手段と、計算力が低くビットが少ない固定小数点の計算機用に使用される、Ｓ字の滑らかなバッファ位置指令を発生させる装置を提供する。 - 特許庁

When the end effector is set at multiple locations and positions, the control means measures the locations and/or positions, or a distance from a fixed point, estimates a mechanism parameter of the parallel mechanism machine based on the measured value, and adds a deformation error caused to the first universal joint and/or the second universal joint by the rotational resistance, in executing the calculation.例文帳に追加

制御手段は、エンドエフェクタを複数の位置及び姿勢に位置決めした際に、位置及び／又は姿勢の測定、又は固定点からの距離測定を行い、その測定値を元に、パラレルメカニズム機械の機構パラメータを推定し、その計算の際、第１ユニバーサルジョイント及び／又は第２ユニバーサルジョイントの回転抵抗による変形誤差を加味する。 - 特許庁