「integer arithmetic」を含む例文一覧(60)
＜前へ 1 2- The method includes the steps of: representing seismic wave characteristics by using a predominant frequency easily calculated only by integer arithmetic, a parameter representing how the seismic wave rises, and the relationship between them; and determining seismic observation data not having the characteristics as noise.
整数の演算だけで容易に計算される卓越周波数の計算、地震波の立ち上がり方を表すためのパラメータ、及び両者の関係を用いて、地震波の特徴を表し、その属性を持たない地震観測データをノイズであると判定することを特徴とする。 - 特許庁 - The inter-line correction circuit 15 is provided with an integer part correction part for performing the correction of a 1 line unit and a decimal part correction part for performing the correction of less than 1 line by arithmetic interpolation, and when a 1-dot width black thin line detection part 23 detects a 1-dot width black thin line, the decimal part correction part is made inoperative.
ライン間補正回路１５は、１ライン単位の補正を行う整数部補正部と、１ライン未満の補正を補間演算によって行う小数部補正部とを含み、１ドット幅黒細線検出部２３が１ドット幅黒細線を検出したときは小数部補正部を非作動にする。 - 特許庁 - Furthermore, at least eight of a subroutine 14 for real number arithmetic operation, a subroutine 16 for integer division and a subroutine 18 for bit operation is arranged in the specified area 12 and the program is constituted so that it is branched to the arranged subroutines 14 to 18 at the instruction JM in the microcomputer.
更にこのマイコンでは、少なくとも実数演算用サブルーチン１４と整数除算用サブルーチン１６とビット操作用サブルーチン１８の何れかが特定領域１２に配置され、その配置されているサブルーチン１４〜１８へ上記命令ＪＭで分岐するようプログラムが構成されている。 - 特許庁 - In addition, the lookahead part 44 adjusts the data transfer size when the audio data of m pieces of channels (m is an integer of 1-n) is transferred between the external memory 1 and the buffer memory 45 depending on m pieces of channels processed by the arithmetic unit 30 among the audio data of n pieces of channels.
さらに、先読み部４４は、ｎ個のチャネルのオーディオデータのうち演算装置３０によって処理されるｍ個のチャネル（ただし、ｍは１以上、ｎ以下の整数）に応じて、ｍ個のチャネルのオーディオデータを外部メモリ１とバッファメモリ４５の間で転送する際のデータ転送サイズを調整する。 - 特許庁 - To provide an arithmetic operation method on an elliptic curve in which elliptic k multiplying operations that integer-multiple a first point being affine coordinate-displayed on an elliptic curve of an element body to a second point being affine coordinate-displayed on the same curve is processed at a high speed without degrading precision.
本発明は、素体上の楕円曲線の上のアフィン座標表示された第１の点を同じ楕円曲線上のアフィン座標表示された第２の点に整数倍する楕円ｋ倍演算が、精度の低下を伴わずにより高速に処理される楕円曲線上の演算計算方法の提供を目的とする。 - 特許庁 - Alternately, a RAM_-HMEC 24 used for generating the color-difference data of a quarter-pixel accuracy by a QPG 14 stores the color-difference data D2 of the integer pixel from the SDRAM 1, while satisfying conditions improving the efficiency in acquisition by the arithmetic operation of the calculated rectangular region 40U and the calculated rectangular region 40V.
ＱＰＧ１４による１／４画素精度の色差データ生成に用いられるＲＡＭ＿ＨＭＥＣ２４はＳＤＲＡＭ１より整数画素の色差データＤ２を、演算後矩形領域４０Ｕ及び演算後矩形領域４０Ｖの演算による取得に関し効率化を図った条件を満足して格納する。 - 特許庁 - Operations of selectors 211, 214, and 215 and a replacing circuit 216 are so controlled, that when a decision circuit 217 in a control circuit 21 provided to an instruction decoding unit decides that an integer arithmetic unit cannot execute a following sub-instruction, a memory access unit having executed a precedent sub-instruction executes the following sub-instruction.
命令デコードユニット２に設けられた制御回路２１内の判定回路２１７は、後続のサブ命令を整数演算ユニット４が実行不可能と判断した場合、先行サブ命令を実行したメモリアクセスユニット３で、後続サブ命令を実行させるように、各セレクタ２１１，２１４，２１５や入替回路２１６の動作を制御する。 - 特許庁 - The filter coefficient of the filter 1 is set to a simple positive integer, the sum of the filter coefficients is set equal to or lower than a level number of a multi- level D/A converter 2 in a latter stage, to eliminate arithmetic rounding errors, and by setting the re-quantized noise to be zero, superior S/N ratio, the dynamic range or total harmonics distortion rate.
低域通過デジタルフィルタ１のフィルタ係数を簡単な正整数とし、フィルタ係数の総和を後段のマルチレベルＤ／Ａ変換器２のレベル数以下として演算丸め誤差をなくし、再量子化雑音をゼロとすることにより、優れたＳＮ比やダイナミック・レンジ、全高調波ひずみ率を得る。 - 特許庁 - The spread spectrum receiver taking the timing synchronization of a received spread signal by using the matched filter is provided with the matched filter 1 without over-sampling for executing the correlation arithmetic of the received spread signal and a reference code and an interpolation device 2 for interpolating the output of the matched filter with N-fold (N is an integer ≥1) over sampling timing.
マッチドフィルタを用いて受信拡散信号のタイミング同期をとるスペクトル拡散受信装置において、受信拡散信号と参照符号の相関演算を行なうオーバサンプルなしのマッチドフィルタ１と、前記マッチドフィルタ出力を、Ｎ倍（Ｎは１以上の整数）オーバサンプルタイミングで補間する補間装置２と、を備えることを特徴とする。 - 特許庁 - To provide a method and device for arithmetic operation on an elliptic curve by which an elliptic k-multiple calculation for multiplying a 1st point indicated in affine coordinates on an elliptic curve in a prime field by n times (n: integer) onto a 2nd point indicated in affine coordinates on the same elliptic curve is processed at high speed without involving decrease in accuracy.
本発明は、素体上の楕円曲線の上のアフィン座標表示された第１の点を同じ楕円曲線上のアフィン座標表示された第２の点に整数倍する楕円ｋ倍演算が、精度の低下を伴わずにより高速に処理される楕円曲線上の演算方法及び装置の提供を目的とする。 - 特許庁
- 特許庁
- Copyright © Japan Patent office. All Rights Reserved.
