high precision computationとは 意味・読み方・使い方

To reduce a computation amount by improving the utilization efficiency of memory while maintaining high performance in the motion vector searching with accuracy higher than one pixel precision.例文帳に追加

１画素精度より高精度の動きベクトル探索において，高い性能を維持しつつメモリの利用効率を高め，計算量を削減できるようにする。 - 特許庁

To provide a program that can make a computer execute exciton quantum level computation with a high precision, and a computer readable recording medium that has recorded the program.例文帳に追加

励起子の量子準位の演算を高い精度でコンピュータに実行させることが可能なプログラム、及びプログラムを記録したコンピュータ読取可能な記録媒体を提供する。 - 特許庁

To enable even equipment which has limited computation resources to perform fast likelihood calculation with high precision for recognition processing using a probability density function.例文帳に追加

確率密度関数を用いた認識処理のための尤度計算を、計算リソースの限られた機器においても高精度かつ高速に算出できるようにする。 - 特許庁

To provide high control precision by an inexpensive means by detecting changes of a drive characteristic in a solenoid valve by a means using simple computation and carrying out compensation based on the detection.例文帳に追加

電磁弁における駆動特性の変化を簡単な演算を用いる手段により検出し、これに基づいて補正を実行するようにすることで、安価な手段により高い制御精度を得ること。 - 特許庁

To provide a three-dimensional graphic arithmetic program capable of performing a high precision graphic computation while suppressing the increase of data quantity in the graphic computation for creating a composite picture of each three-dimensional graphic based on the correlation of a plurality of three-dimensional graphics, a dynamic link library, and a device for examining landscape by executing the three-dimensional graphic arithmetic program.例文帳に追加

複数の三次元図形の相貫関係に基づき各三次元図形の合成画面を生成する図形演算において、データ量の増大を抑制しつつ、精度の高い図形演算を行うことのできる三次元図形演算プログラム、ダイナミックリンクライブラリ及び三次元図形演算プログラムを実行して景観の検討を行う景観検討装置を提供する。 - 特許庁

To set a boundary condition in the case where a differential coefficient in a direction perpendicular to a boundary is not 0 when performing iterative computation using an unramified and non-orthogonal structural grid, so that numerical calculation doesn't become unstable and a solution of high precision can be obtained.例文帳に追加

非分岐かつ非直交の構造格子を用いて反復計算を行う際に、境界に垂直な方向の微分係数が０でない場合の境界条件を、数値計算が不安定とならず、精度の高い解が得られる様に設定する。 - 特許庁

To provide a prediction arithmetic unit, a prediction operation method, and a prediction operation program for pressure wave for predicting and computing waveforms of the pressure wave radiated outsides from an opening end of a pipe channel and reaching an observation point with high precision and reducing computation load and work load.例文帳に追加

管路の開口端から外部に放射されて観測点に到達する圧力波の波形を高精度に予測演算することができるとともに、計算負荷や作業負荷を軽減することができる圧力波の予測演算装置とその予測演算方法及びその予測演算プログラムを提供する。 - 特許庁

To provide a method for finding physical quantities such as stress components σ_x, σ_y, σ_z, τ_xy, τ_yz, τ_zx, etc., with a high precision in a short time by positively using, for computation, information on conventional boundary conditions (i.e., estimated actual external forces) which have not been used until now.例文帳に追加

これまで用いられることのなかった従来の境界条件（すなわち、予測される実際の外力）の情報を積極的に計算に用いることにより、より高い精度で、短時間に、応力成分σ_ｘ、σ_ｙ、σ_ｚ、τ_ｘｙ、τ_ｙｚ、τ_ｚｘ等の物理量を求める方法を提供する。 - 特許庁