Juliaで多倍長の小数演算. そう!BigFloat! a = BigFloat(0.1)って書いてたけど, こうではなく a = big"0.1"って書かねばならんらしい. BigFloat()っていう関数に渡す前の数字がFloat64で先に読み込まれてしまい, ずれた値が返ってきてしまう.ただ, big""っ…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。