decimal to binaryとは 意味・読み方・使い方

Unlike hardware based binary floating point, the decimal module has a user settable precision (defaulting to 28 places) which can be as large as needed for a given problem:例文帳に追加

ハードウェアによる 2 進浮動小数点表現と違い、decimal モジュールでは計算精度をユーザが指定できます(デフォルトでは 28 桁です)。 この桁数はほとんどの問題解決に十分な大きさです: - Python

To efficiently process a binary division instruction provided in a computer and to minimize the number of times of correction by dividing decimal data dividedly.例文帳に追加

コンピュータが備えている２進除算命令が効率よく処理できるように１０進データを分割して除算し、これに伴う補正の回数を最小限にする。 - 特許庁

METHOD FOR OPTIMIZING BINARY CODE OF LANGUAGE HAVING ACCESS TO VARIABLE OF ZONE DECIMAL NUMBER FORM, DEVICE FOR OPTIMIZING THE SAME AND COMPUTER PROGRAM例文帳に追加

ゾーン１０進数形式の変数へのアクセスを有する言語のバイナリコードを最適化する方法、並びにその最適化装置及びコンピュータ・プログラム - 特許庁

To convert individual digits of a binarized decimal number into a binary number at high speed by using a conversion table and to simultaneously add them in parallel by a three input two output addition circuit tree to perform addition processing at a high speed.例文帳に追加

２進化１０進数の各位桁を変換テーブルで２進数に高速変換し、３入力２出力加算回路木で並列同時に加算して高速化する。 - 特許庁

To solve the problem in which an optimization technique for directly executing optimization to a binary code of a language having access to a variable of a zone decimal form, and applicable to a binary code having an instruction which can be an adverse effect is demanded.例文帳に追加

ゾーン１０進数形式の変数へのアクセスを有する言語のバイナリコードに対して直接的に最適化を実行することができ、且つ、副作用となり得る命令があるバイナリコードに対して適用可能な最適化技法が求められている。 - 特許庁

The circuit 192 converts the level 1 or 2 into corresponding optical output data 1 or 2 in a binary or decimal number and gives the result to an optical output level byte insertion circuit 186 and an optical output level byte detection circuit 194.例文帳に追加

回路192はレベル値１または２を対応する２進数または10進数の光出力値データ１または２に変換し光出力レベルバイト挿入回路186および光出力レベルバイト検出回路194に送る。 - 特許庁

A central processing unit 21 judges whether one converted record is 500 bytes or not after converting the record from a shift JIS code having a code showing the start of the character of 2 bytes and a code showing the end before and after the character of 2 bytes to an extended binary coded decimal interface code(EBCDIC).例文帳に追加

中央処理装置２１は、２バイト文字の前後に２バイト文字の始まりを示すコードと終わりを示すコードとを有するシフトＪＩＳコードからＥＢＣＤＩＣに変換した後、変換後の１レコードが５００〔バイト〕であるか否かを判断する。 - 特許庁

In the superconducting digital analog conversion circuit, all the array units constituting a micro-wave distribution circuit are connected to conduct two-branch repetition, the array unit is constituted of a decimal array, and a binary array, and the array unit constitutes a frequency-voltage converter including a Josephson element.例文帳に追加

超伝導デジタルアナログ変換回路は、マイクロ波分配回路を構成するすべてのアレーユニットは２分岐を繰り返し行うように接続し、アレーユニットはデシマルアレーとバイナリアレーから構成し、アレーユニットはジョセフソン素子を含み周波数−電圧変換器を構成する。 - 特許庁