みやびの備忘録

LaTeXとかjulia言語とか. 覚えておきたいことをつらつら書いています.

2017-01-07から1日間の記事一覧

多倍長計算

Juliaで多倍長の小数演算. そう!BigFloat! a = BigFloat(0.1)って書いてたけど, こうではなく a = big"0.1"って書かねばならんらしい. BigFloat()っていう関数に渡す前の数字がFloat64で先に読み込まれてしまい, ずれた値が返ってきてしまう.ただ, big""っ…