[最新] ■[前年|前月|前日|2016/08/05|翌日|翌月|翌年] ■表示[全て|@gorry5のみ|個別]
■グループ[Mention] ■その他[Twitter:@gorry5][日記] ■[twtlog 20100921a]

08/05 14:12 (@gorry5) 何も関係はないけど、過去8月の回でビール注文100杯を達成した「肉体会」は毎月第二金曜… :D (bite)
08/05 15:07 (@gorry5) C標準の組み込み型としてDecimalとかRealとかが入らないとそういう時代に入らない気がする…(苦笑 https://twitter.com/argrath/status/761441446469611520 (pora)
08/05 15:12 (@gorry5) あれ、Realは浮動小数の型のひとつだったっけ…うろ覚えだ(苦笑 (ti)
08/05 15:12 (@ksmakoto) @gorry5 マシンスペックとして十進表現が入ってないですからね...。標準化はされているので、少し期待はしているのですが https://en.wikipedia.org/wiki/Decimal64_floating-point_format (to)
08/05 15:22 (@gorry5) 浮動小数点に関わるプログラミングをすると「現代人が教わる算数はA*10^nで考えるものであって、コンピュータの標準であるA*2^nで考えられるようになるには別の訓練が要る」ことを実感するものよね…(苦笑 (kire)
--------
08/05 15:31 (@argrath) @gorry5 ああ、C(++)レベルでは2進小数系でいいかも。もうちょっとレイヤー上の言語ならもういいかなあ、と。 (keta)
--------
08/05 15:37 (@gorry5) 読みやすそうなのをざっと検索するとこんなのが出てくる。こういうのが「A*2^nで考えられるようになる訓練のための文書」であり/演算誤差の正体 ― IEEE 754 浮動小数点数の仕組み URL:pc.nikkeibp.co.jp (kepu)
08/05 15:40 (@n_soda) @gorry5 https://www.amazon.co.jp/dp/4320013433/ が良い本でした(が、浮動小数点演算をなめてる人に見せると単に投げ出されちゃう気もします) (kono)
08/05 15:43 (@gorry5) 「3増し符号」なんて30年くらい前に何かの文書で見たっきりすっかり忘れてたなぁ…(苦笑 https://ja.wikipedia.org/wiki/3%E5%A2%97%E3%81%97%E7%AC%A6%E5%8F%B7 (kodu)
08/05 16:39 (@megayan) @gorry5 んー。一応、2進どころじゃなく「n進法(nは自然数)」は高校でちゃんとやって理解しているはずなんだけどなぁ。
08/05 16:39 (@megayan) ただ、n^m(m>=0)という整数部分の桁は容易に思いついても、m<0の桁になると途端に躊躇するだけで。 (tuho)

■グループ[Mention] ■その他[Twitter:@gorry5][日記] ■[twtlog 20100921a]
[最新] ■[前年|前月|前日|2016/08/05|翌日|翌月|翌年] ■表示[全て|@gorry5のみ|個別]