お知らせ

  • 利用規約を守って投稿してください。また、よくある質問および投稿の手引きも参照してください。
  • メッセージの投稿にはアカウントが必要です。未登録の方は、ユーザ登録ページからアカウントを作成することができます。

ページ: 1

 

#1 2009-11-04 02:24:03

takoyaki10
メンバ
登録日: 2009-07-30

Ubuntuの電卓について

浮動小数点の計算をした時に気づいてのですが、340282347000000000000000000000000000000を2進数に変換すると１０e+1111111と出るのですが、逆に2進数で１０e+1111111と打つと10進数に変換すると340277174663384328093924219540486541668.308268972とでるのですがどちらが正しいのでしょうか？

オフライン

 

 

ページ: 1

Board footer

Powered by FluxBB