例文 (2件) |
error exponentの部分一致の例文一覧と使い方
該当件数 : 2件
To provide a vector processor, with which high-accuracy arithmetic processing is performed by reducing an error caused by exponent matching in the case of adding different exponents.例文帳に追加
指数が異なる加算の際の指数合わせによる誤差を小さくして高精度な演算処理を行うベクトル処理装置を提供する。 - 特許庁
This guarantees that, unless there is an error condition, the quantized exponent is always equal to that of the right-hand operand.Also unlike other operations, quantize never signals Underflow, even if the result is subnormal and inexact.例文帳に追加
このため、エラーが生じないかぎり、量子化後の指数は右側の被演算子の指数と等しくなることが保証されます。 また、結果が劣化していたり不正確な値であっても、Underflowをシグナルしないという点も他の演算と異なります。 - Python
例文 (2件) |
Copyright © Japan Patent office. All Rights Reserved. |
この対訳コーパスは独立行政法人情報通信研究機構の研究成果であり、Creative Commons Attribution-Share Alike 3.0 Unportedでライセンスされています。 |
Copyright 2001-2004 Python Software Foundation.All rights reserved. Copyright 2000 BeOpen.com.All rights reserved. Copyright 1995-2000 Corporation for National Research Initiatives.All rights reserved. Copyright 1991-1995 Stichting Mathematisch Centrum.All rights reserved. |
ログイン |
Weblio会員(無料)になると 検索履歴を保存できる! 語彙力診断の実施回数増加! |
ログイン |
Weblio会員(無料)になると 検索履歴を保存できる! 語彙力診断の実施回数増加! |