「integer arithmetic」を含む例文一覧(60)
1 2 次へ＞- INTEGER ARITHMETIC METHOD FOR NOTCH FILTER
ノッチフィルタの整数演算方法 - 特許庁 - An integer arithmetic work memory 21 is not directly accessible from the integer arithmetic unit 15, and retains the intermediate data of the integer arithmetic unit 15 stored in the integer arithmetic memory 11.
整数演算用ワークメモリ２１は、整数演算ユニット１５から直接アクセスできず、整数演算用メモリ１１に記憶された整数演算ユニット１５の中間データを保持する。 - 特許庁 - The high-speed arithmetic- operation can be performed by integer product sum and bit shift.
整数積和とビットシフトで高速演算を可能にする。 - 特許庁 - An integer arithmetic unit 15 operates independently from floating-point arithmetic units 16 and 17, and performs an integer operation to the data transferred to the integer arithmetic memory 11.
整数演算ユニット１５は、浮動小数点演算ユニット１６および１７と独立して動作し、整数演算用メモリ１１に転送されたデータに対して整数演算を行なう。 - 特許庁 - The parameter m = 2^48, hence 48-bit integer arithmetic is performed.
パラメータが m = 2^48 であるため、48ビット整数演算が行われている。 - JM - To provide an encryption generating device that performs encryption capable of providing sufficient security by means of chaos arithmetic operations employing integer number arithmetic operations.
整数演算によるカオス演算にて十分な秘匿性のある暗号化を行う。 - 特許庁 - METHOD, PROGRAM, AND DEVICE FOR INTEGER ARITHMETIC OPERATION
整数演算の方法および整数演算プログラム、ならびに整数演算装置 - 特許庁 - In a first aspect, color space conversion processing by integer arithmetic is executed.
第１の態様では、整数演算による色空間変換処理を実行する。 - 特許庁 - To provide an arithmetic processor capable of operating at a high speed both arithmetic calculations of GF (p) and GF (2m) to any positive integer p and any positive integer m.
任意の正の整数ｐ、および任意の正の整数ｍに対して、ＧＦ（ｐ）演算とＧＦ（２^m）演算の両方を高速に演算することができる演算プロセッサとする。 - 特許庁 - These functions generate pseudo-random numbers using the linear congruential algorithm and 48-bit integer arithmetic.
これらの関数は線形合同アルゴリズムと 48ビット整数演算を用いて疑似乱数を生成する。 - JM - To provide an arithmetic processor including an ALU (arithmetic logic unit) having a plurality of arithmetic circuits each for performing a group of associated arithmetic operations such as finite field operations or modular integer operations.
有限体演算やモジュラ整数演算など一群の関連する算術演算をそれぞれパフォームする複数の算術回路を有するＡＬＵを含むことを特徴とする算術プロセッサを提供すること。 - 特許庁 - Then, calculations in the Jacobi manifold J(C, Fq) can be executed with an ordinary integer arithmetic in which a multi-length- precise arithmetic is unnecessary.
上記ヤコビ多様体Ｊ（Ｃ，Ｆ_q ）における演算が、多倍長精度演算を必要としない通常の整数演算で行うことができる。 - 特許庁 - The reversible wavelet filter 102 performs efficient transformation for precise restoration to be provided by integer arithmetic.
可逆ウエーブレットフィルタ１０２は整数演算で実現される精密復元の効率的変換である。 - 特許庁 - The wavelet filter 102 is for efficient conversion of a precise recovery realized by the integer arithmetic.
可逆ウエーブレットフィルタ１０２は整数演算で実現される精密復元の効率的変換である。 - 特許庁 - The conversion of the inputted image data by means of the filter 102 is efficiently performed for precise reconstat realized by integer arithmetic.
可逆ウエーブレットフィルタ１０２は整数演算で実現される精密復元の効率的変換である。 - 特許庁 - To provide an easy integer arithmetic method for a notch filter with high precision without an offset due to a numerical arithmetic error in a steady state.
定常状態において数値演算誤差によるオフセットを発生せずに、簡単でかつ、高精度なノッチフィルタの整数演算方法を提供する。 - 特許庁 - Data necessary for geometric operation are transferred from an input memory 10 to an integer arithmetic memory 11 and floating-point arithmetic memories 12 and 13.
整数演算用メモリ１１、浮動小数点演算用メモリ１２および１３は、入力メモリ１０から幾何学演算に必要なデータが転送される。 - 特許庁 - Python fully supports mixed arithmetic: when a binary arithmetic operator has operands of different numeric types, the operand with the``narrower'' type is widened to that of the other, where plain integer is narrower than long integer is narrower than floating point is narrower than complex.Comparisons between numbers of mixed type use the same rule.
Python は型混合の演算を完全にサポートします: ある 2 項演算子が互いに異なる数値型の被演算子を持つ場合、より ``制限された'' 型の被演算子は他方の型に合わせて広げられます。 - Python - To provide an arithmetic processor including an ALU having a plurality of arithmetic circuits, respectively performing a group of mutually related arithmetic operations, such as finite-field operations and modular integer operations.
有限体演算やモジュラ整数演算など一群の関連する算術演算をそれぞれパフォームする複数の算術回路を有するＡＬＵを含むことを特徴とする算術プロセッサを提供する。 - 特許庁 - The largest negative integer is-maxint-1 -- the asymmetry results from the use of 2'scomplement binary arithmetic.
最大の負数は-maxint-1となります。 正負の最大数が非対称ですが、これは2の補数計算を行うためです。 - Python - In this case, the arithmetic result of division, when not an integer is rounded into an adjacent integer through the operation and thus the division of an arithmetic expression is all approximated with shift operation instead to simplify and speed up the process.
その場合、演算において、除算による演算結果が整数でないときは近隣の整数に丸め込み、演算式の除算をすべてシフト演算によって近似代用するようにして、処理の簡素化と高速化を図る。 - 特許庁 - The default precision value is zero, which means that all arithmetic except for addition and subtraction produces integer results.
デフォルトの精度値は 0 です。 これは、足し算と引き算を除くすべての算術は整数値の結果を出すことを意味しています。 - JM - To reduce the possibility that transmission power exceeds an upper limit value by suppressing an arithmetic error when a weighting factor matrix is calculated through integer arithmetic and a variation of a row norm accompanying an overflow.
整数演算により重み係数行列を算出する際の演算誤差やオーバーフローに伴う行ノルムの変動を抑制し、送信電力が上限値を超える可能性を減らす。 - 特許庁 - In a falsification discrimination apparatus, an average arithmetic section 24 obtains an integer of the luminance average of the pixel block, a division section 25 divides the integer by a divisor 4, and a remainder memory 31 saves the remainder.
改竄判定装置側では、平均値演算部２４で画素ブロックの輝度平均の整数化値を求め、その値を除算部２５が除数４で除算し、その剰余を剰余メモリ３１にセーブする。 - 特許庁 - After a data input to input registers 67a and 67b, the integer adder 67 starts integer adding processing on each input of data and stores the arithmetic result in an output register 67c.
また、整数加算器６７は、入力レジスタ６７ａおよび６７ｂへのデータ入力が完了すると、入力された各データの整数加算処理を開始し、演算結果を出力レジスタ６７ｃに格納する。 - 特許庁 - In one embodiment, invertible transformation from original mosaic pattern pixels to four new color channel space is enabled by using integer arithmetic.
一実施形態では、元のモザイクパターンピクセルから新しい４チャネル色空間への変換を、整数演算で可逆にすることができる。 - 特許庁 - If the variable has its integer attribute set, then value is subject to arithmetic expansion even if the $((. )) expansion is not used (see "Arithmetic Expansion" below).
変数の整数属性が設定されている場合 (後述のシェルの組み込みコマンドを参照)、$((.)) の展開を使っていなくてもvalueに対しての算術展開が行われます (後述の算術式展開を参照)。 - JM - The display process server 2 converts the received characteristic 16-bit integer into a 32-bit integer, performs arithmetic shift for restoration to a bit string with the original bit number, and uses the result as a coordinate value on the graphic display.
表示処理サーバ２では、受信した指数部付き１６ビット整数を３２ビット整数に変換した上で算術シフトを実行して元のビット数のビット列に復元し、これをグラフィック表示の座標値として用いる。 - 特許庁 - To reduce the necessay program capacity and to enhance real time characteristics of an arithmetic processing when a program is arranged in an external memory in a microcomputer to perform a real number arithmetic processing, an integer division processing and a bit data processing by subroutines.
サブルーチンによって実数演算処理と整数除算処理とビットデータ処理とを行うマイクロコンピュータにて、プログラム容量を低減すると共に、外部メモリにプログラムを配置した場合の演算処理のリアルタイム性を向上させる。 - 特許庁 - To provide a gas concentration measurement instrument employing a TDLAS measurement method, which is capable of phase-sensitive detection by digital processing using an integer arithmetic device.
整数演算型のデバイスを用いたデジタル処理によって位相敏感検波を行うことができる、ＴＤＬＡＳ測定法を利用したガス濃度測定装置を提供する。 - 特許庁 - To provide an image processor adapted to enhance accuracy in estimating a moving position with an accuracy of sub-pixel while flexibly selecting integer grid by reducing an arithmetic operation load amount.
演算負荷量を削減して、整数グリッド選択を柔軟にし、かつ、サブピクセル精度の移動位置推定精度を高めるようにした画像処理装置を提供する。 - 特許庁 - In a delayed profile arithmetic unit 101, a delayed profile is calculated at intervals of 1/M (M is an integer of one or more) chip in the whole pass search area of the synchronization capture of a received signal.
遅延プロファイル算出部１０１が、受信信号の同期捕捉の全パスサーチ範囲において１／Ｍ（Ｍは１以上の整数）チップの間隔で遅延プロファイルを算出する。 - 特許庁 - To make arithmetic operation speedier in an arithmetic unit for obtaining a point P2k=(x2k, y2k) in affine coordinates where a point P1=(x1, y1) on an elliptic curve E: y2=x3+ax+b mod p defined on a prime field is multiplied by 2k (k: an integer ≥2).
素体Ｆ_p上定義された楕円曲線Ｅ：ｙ^2＝ｘ^3＋ａｘ＋ｂ ｍｏｄ ｐ上の点Ｐ_1＝（ｘ_1，ｙ_1）を、アファイン座標系において２^k倍（ｋは２以上の整数）した点Ｐ_2^k＝（ｘ_2^k，ｙ_2^k）を求める演算装置において、演算を高速化することを課題とする。 - 特許庁 - In discrete cosine transformation(DCT), orthogonal block transformation and corresponding inverse transformation for performing new integer approximation is provided by reducing the number of transformation per coefficient from four additions and one shift in a 32 bit arithmetic operation to those in a 16 bit arithmetic operation.
離散コサイン変換（ＤＣＴ）において、新しい整数近似を行う直交ブロック変換および対応する逆変換を、係数当たりの変換処理数が、３２ビット演算から１６ビット演算での４つの加算および１つのシフトに減少させる。 - 特許庁 - A display process client 1 determines the value of the exponent part of an characteristic 16-bit integer according to the value of a bit string constituting a 32-bit integer indicating a coordinate value on a graphic display, performs an arithmetic shift operation on the bit string to be sent, and sends the result to a display process server 2.
表示処理クライアント１は、グラフィック表示の座標値を示す３２ビット整数を構成するビット列の値に応じて、指数部付き１６ビット整数の指数部の値を決定し、送信対象のビット列に対して算術シフト処理を実行して表示処理サーバ２に送信する。 - 特許庁 - A sum difference means 66 applies a sum difference arithmetic operation to a pair of data received from the input means 65 by period T/n (n is a positive integer corresponding to degrees of orthogonal transform).
和差演算手段６６は、入力手段６５から入力された１対のデータに対して、周期Ｔ／ｎ（ｎは直交変換の次数に対応した正の整数）毎に和差演算を施す。 - 特許庁 - A mantissa matrix element Bm is represented using 6×3 matrix elements S, so that the transform coefficient subjected to the inverse integer transform is normalized by shift arithmetic operation using 2^N (N is a natural number).
仮数部行列要素Ｂｍを、６×３の行列要素Ｓを用いて表すことで、逆整数変換された変換係数を２のＮ乗（Ｎは自然数）を用いてシフト演算により正規化する。 - 特許庁 - When a quantization parameter QP is 4 or less, integer arithmetic transformation and quantization processes to be performed after inter- or intra-prediction processing are switched to lossless transformation processing, and entropy encoding is performed on a result of the lossless transformation.
量子化パラメータＱＰが４以下の時に、インター又はイントラ予測処理後に行う整数演算変換と量子化処理をロスレス変換処理に切換え、該ロスレス変換結果をエントロピー符号化する。 - 特許庁 - Based on this operation result and a result of calculation of m-root of the power portion of the floating-point numerical value that is the arithmetic object, m-root (m≥2; m is an integer) of the floating-point numerical value is calculated.
そして、その演算結果と、演算対象である浮動小数点数値の指数部のｍ乗根を演算した結果とに基づいて、浮動小数点数値のｍ乗根（ｍ≧２：ｍは整数）を演算する。 - 特許庁 - A security device 10 sends a common polynomial a(x) of an integer coefficient to a security device 20 and further sends a polynomial b(x)=a(x+s_1)^s2modI computed by arithmetic means 14a and 14b by using an integer set s(s_1, s_2) determined by the security device 10 to the security device 20.
セキュリティ装置１０から整数係数の共通多項式ａ（ｘ）をセキュリティ装置２０に送信し、さらに、セキュリティ装置１０で定めた整数組ｓ（ｓ_１，ｓ_２）を用い演算手段１４ａ、１４ｂによって演算した多項式ｂ（ｘ）＝ａ（ｘ＋ｓ_１）^ｓ２ｍｏｄＩをセキュリティ装置２０に送信する。 - 特許庁 - Although both lower case "l" and upper case "L" are allowed as suffix for long integers, it is strongly recommended to always use "L", since the letter "l" looks too much like the digit "1".Plain integer literals that are above the largest representable plain integer (e.g., 2147483647 when using 32-bit arithmetic) are accepted as if they were long integers instead.
長整数を表す末尾の文字は小文字の "l" でも大文字の "L" でもかまいませんが、"l" は "1" に良く似ているので、常に "L" を使うよう強く勧めます。 整数で表現できる最大の値よりも大きい整数のリテラル (例えば 32-bit 整数を使っている場合には 2147483647) は、長整数として表現できる値であれば受理されます。 - Python - To provide the system and unit for floating-point arithmetic operation which can make floating-point data into an integer by rounding or discarding its part below the floating-point.
浮動小数点データについて小数点以下部分の切捨てや切上げによる整数化を高速かつ効率的に行なうことが可能な浮動小数点演算方式および浮動小数点装置を提供する。 - 特許庁 - In setting an integer, which the arithmetic value y2 of a remainder calculation means 105 can range, to be (p), a storing means 103 holds the value of 2 (p/c) as G (P) with respect to P of 0 to 3 to store by the fixed decimal point format.
記憶手段１０３は、剰余算手段１０５の演算値ｙ２に対し、とり得る範囲の整数をｐとすると０〜３のＰに対し、２∧（ｐ／ｃ）の値をＧ（Ｐ）として保持し、固定小数点フォーマットで格納する。 - 特許庁 - To provide an arithmetic unit and an operation controlling method capable of efficiently transferring data between plural computing elements in respect to an arithmetic unit including plural computing elements such as an integer computing element, a floating point computing element and a graphics computing element arranged in parallel in its inside and its operation controlling method.
整数演算器および浮動小数点演算器あるいはグラフィックス演算器などの演算器が並列に内蔵された演算装置及び演算制御方法に関し、複数の演算器間でのデータのやり取りを効率よく行える演算装置及び演算制御方法を提供することを目的とする。 - 特許庁 - In versions of Python prior to 2.4, octal and hexadecimal literals in the range just above the largest representable plain integer but below the largest unsigned32-bit number (on a machine using 32-bit arithmetic), 4294967296, were taken as the negative plain integer obtained by subtracting 4294967296from their unsigned value.
バージョン 2.4 以前の Python では, 8 進および 16 進のリテラルのうち,通常の整数型として表現可能な値より大きく,かつ符号無しの 32-bit(32-bit 演算を使う計算機の場合) 整数で表現できる最大値,すなわち 4294967296 よりも小さな数は,リテラルを符号無し整数として表現した値から4294967296 を引いて得られる負の整数として扱っていました. - Python - The security device 20, on the other hand, sends a polynomial c(x)=a(x+s_1)^s2modI computed by arithmetic means 24a and 24b by using an integer set t(t_1, t_2) determined by the security device 20 to the security device 10.
一方、セキュリティ装置２０において、セキュリティ装置２０で定めた整数組ｔ（ｔ_１，ｔ_２）を用い演算手段２４ａ、２４ｂによって演算した多項式ｃ（ｘ）＝ａ（ｘ＋ｓ_１）^ｓ２ｍｏｄＩをセキュリティ装置１０に送信する。 - 特許庁 - In an image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire a mean pixel value by an integer arithmetic operation without calculating decimal numbers generated according to the reduction rate by a floating-point arithmetic operation.
本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁 - A frame inverting part 2 of a transmitting part 100 operates data during M (M is an integer except for 0) time slots between frame synchronizing patterns distributed over multiplexed data signals S2a and S2b according to a signal logic and supplies the frame synchronizing bits distributed and located over the data signals S2a and Sob to a sum arithmetic part 3 while controlling the inversion according to this arithmetic result.
送信部１００のフレーム反転部２は、多重化データ信号Ｓ２ａ及びＳ２ｂに分散されたフレーム同期パターン間のＭタイムスロット（Ｍは０以外の整数）間のデータを信号論理に従って演算し，この演算結果に従ってデータ信号Ｓ２ａ及びＳ２ｂの分散配置されたフレーム同期ビットを反転制御して和分演算部３に供給する。 - 特許庁 - In this image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire mean pixel values by an integer arithmetic operation without calculating decimal numbers to be generated according to a reduction rate by a floating-point arithmetic operation.
本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁 - Therefore, DC components are relatively increased in an output signal of a digital filter 63, so that extraction of DC components in a digital low pass filter 64 is facilitated to be able to perform phase-sensitive detection with sufficient accuracy in spite of the use of digital processing based on integer arithmetic.
これにより、デジタルフィルタ６３の出力信号において直流成分が相対的に大きくなるため、デジタルローパスフィルタ６４による直流成分の抽出が容易となり、整数演算によるデジタル処理を用いても十分な精度で位相敏感検波を行うことが可能となる。 - 特許庁
- 特許庁
- Copyright © Japan Patent office. All Rights Reserved.
- 大規模オープンソース日英対訳コーパス
- この対訳コーパスは独立行政法人情報通信研究機構の研究成果であり、Creative Commons Attribution-Share Alike 3.0 Unportedでライセンスされています。
- JM
- Copyright (c) 2001 Robert Kiesling. Copyright (c) 2002, 2003 David Merrill.
The contents of this document are licensed under the GNU Free Documentation License.
Copyright (C) 1999 JM Project All rights reserved.
- Python
- Copyright 2001-2004 Python Software Foundation.All rights reserved.
Copyright 2000 BeOpen.com.All rights reserved.
Copyright 1995-2000 Corporation for National Research Initiatives.All rights reserved.
Copyright 1991-1995 Stichting Mathematisch Centrum.All rights reserved.
