「integer overflow」を含む例文一覧(9)

  • Convert a Python integer to a C unsigned int, without overflow checking.
    Python の整数型を、オーバフローチェックを行わずに、 C の unsigned int 型に変換します。 - Python
  • To detect overflow in fewer cycles in an integer add operation etc.
    整数加算演算等において、少ないサイクルでオーバーフローを検出する。 - 特許庁
  • Convert a Python integer to a C unsigned short int, without overflow checking.
    Python の整数型を、オーバフローチェックを行わずに、 C の unsigned short int 型に変換します。 - Python
  • Convert a Python integer to a C unsigned long without overflow checking.
    Python の整数型を、オーバフローチェックを行わずに、 C の unsigned long int 型に変換します。 - Python
  • Convert a Python integer to a C unsigned long longwithout overflow checking.
    Python の整数型を、オーバフローチェックを行わずに、 C の unsigned long long 型に変換します。 - Python
  • Convert a Python integer to a tiny int without overflow checking,stored in a C unsigned char.
    Python の整数型を、オーバフローチェックを行わずに、 C の unsigned char 型の小さな整数に変換します。 - Python
  • An accumulator 201 accumulates data K (K is an integer) by each clock and outputs a carryout signal on the occurrence of overflow.
    アキュームレータ２０１にて、クロック毎にデータＫ（Ｋは整数）を累積してオーバフロー時にキャリーアウト信号を出力する。 - 特許庁
  • To reduce the possibility that transmission power exceeds an upper limit value by suppressing an arithmetic error when a weighting factor matrix is calculated through integer arithmetic and a variation of a row norm accompanying an overflow.
    整数演算により重み係数行列を算出する際の演算誤差やオーバーフローに伴う行ノルムの変動を抑制し、送信電力が上限値を超える可能性を減らす。 - 特許庁
  • The constraints can include that the transform has a scaled integer implementation, provides perfect or near perfect reconstruction, has a DCT-like basis function, is limited to a coefficient within a range represented in n-bits (e.g. n is 16 bits), and provides a sufficient headroom for overflow of the range.
    この制約は、この変換が、スケーリングされた整数の実装を有すること、完全またはほぼ完全な再構築を提供すること、ＤＣＴ近似の基底（DCT-like basis）を有すること、ｎビット（例えば、ｎは１６ビット）における表現の範囲内の係数に制限されること、ノルムに類似する基底関数を有すること、および、範囲のオーバーフローに対して十分なヘッドルームを提供すること、を含むことができる。 - 特許庁

例文データの著作権について