BLOGTIMES
« :: »
2012/02/28

Ruby で任意精度の計算をする

  ruby  programming 
このエントリーをはてなブックマークに追加

ちょいと任意精度で計算したい用事ができたので、 Ruby で簡単なスクリプトを書いてやっつけました。
忘れないうちにやり方をメモ。基本的には BigDecimal*1 を使えばいいみたいです。

irb(main):001:0> require "bigdecimal" => true irb(main):002:0> ( BigDecimal("1234") / BigDecimal("555") ).to_s(10) => "0.2223423423 4234234234 2342342342 3423423E1" irb(main):003:0> BigDecimal("1234").div(BigDecimal("555"),10).to_s(10) => "0.2223423423E1" irb(main):004:0> BigDecimal("1234").div(BigDecimal("555"),100).to_s(10) => "0.2223423423 4234234234 2342342342 3423423423 4234234234 2342342342 3423423423 4234234234 2342342342 3423423423E1"

div に有効桁数を渡してあげると、こんな感じで任意精度の計算が出来ます。


by hsur at 15:36 [5年前][4年前][3年前][2年前][1年前][1年後][2年後][3年後][4年後][5年後] |
こんな記事もあります 「irb 精度 trueirb」
・Google が AI によるファイル判別ツールをリリース
・家の壁紙を AI 識別できるアプリ
・GPS ロガーを自作
・エキサイト翻訳は 2022 年 10 月末で終了
・自転車用の空気入れとポンプヘッドを購入
・ベルメゾン すっきりみえるにこだわったシンプルレンジラック
・呼気で個人認証？
・3D プリンタのノズルを 0.8mm に換装
・伏せ字をモザイクにするのは危険？
・ssh の RSA キーファイルから素数を取り出してみた
トラックバックについて
Trackback URL:
お気軽にどうぞ。トラックバック前にポリシーをお読みください。[policy]
このエントリへのTrackbackにはこのURLが必要です→https://blog.cles.jp/item/4800
Trackbacks
このエントリにトラックバックはありません
Comments
愛のあるツッコミをお気軽にどうぞ。[policy]
古いエントリについてはコメント制御しているため、即時に反映されないことがあります。
コメントはありません
Comments Form

コメントは承認後の表示となります。
OpenIDでログインすると、即時に公開されます。

OpenID を使ってログインすることができます。

Identity URL: Yahoo! JAPAN IDでログイン

« :: »
Copyright © 2004-2023 by CLES All Rights Reserved.