「error exponent」を含む例文一覧(2)

  • To provide a vector processor, with which high-accuracy arithmetic processing is performed by reducing an error caused by exponent matching in the case of adding different exponents.
    指数が異なる加算の際の指数合わせによる誤差を小さくして高精度な演算処理を行うベクトル処理装置を提供する。 - 特許庁
  • This guarantees that, unless there is an error condition, the quantized exponent is always equal to that of the right-hand operand.Also unlike other operations, quantize never signals Underflow, even if the result is subnormal and inexact.
    このため、エラーが生じないかぎり、量子化後の指数は右側の被演算子の指数と等しくなることが保証されます。 また、結果が劣化していたり不正確な値であっても、Underflowをシグナルしないという点も他の演算と異なります。 - Python

例文データの著作権について