[最新] ■[前年|前月|前日|2016/08/05|翌日|翌月|翌年] ■表示[全て|@gorry5のみ|個別]
■グループ[Mention] ■その他[Twitter:@gorry5][日記] ■[twtlog 20100921a]

08/05 15:31 (@argrath) @gorry5 ああ、C(++)レベルでは2進小数系でいいかも。もうちょっとレイヤー上の言語ならもういいかなあ、と。 (keta)
08/05 15:37 (@gorry5) 読みやすそうなのをざっと検索するとこんなのが出てくる。こういうのが「A*2^nで考えられるようになる訓練のための文書」であり/演算誤差の正体 ― IEEE 754 浮動小数点数の仕組み URL:pc.nikkeibp.co.jp (kepu)
08/05 15:40 (@n_soda) @gorry5 https://www.amazon.co.jp/dp/4320013433/ が良い本でした(が、浮動小数点演算をなめてる人に見せると単に投げ出されちゃう気もします) (kono)
08/05 15:43 (@gorry5) 「3増し符号」なんて30年くらい前に何かの文書で見たっきりすっかり忘れてたなぁ…(苦笑 https://ja.wikipedia.org/wiki/3%E5%A2%97%E3%81%97%E7%AC%A6%E5%8F%B7 (kodu)
08/05 16:39 (@megayan) @gorry5 んー。一応、2進どころじゃなく「n進法(nは自然数)」は高校でちゃんとやって理解しているはずなんだけどなぁ。
--------
08/05 16:39 (@megayan) ただ、n^m(m>=0)という整数部分の桁は容易に思いついても、m<0の桁になると途端に躊躇するだけで。 (tuho)
--------
08/05 16:51 (@gorry5) @SchmidtRAMONE 今夜の呑みの練習 (tohe)
08/05 16:54 (@gorry5) 「標準が音量100%」じゃなくて「最大が音量100%」のパターンか :D https://twitter.com/yuzokoshiro/status/761466426540515328 (toza)
08/05 16:58 (@SchmidtRAMONE) @gorry5 ススキノの外れなのでこの時間にやってる店が微妙で…鴨々川のせせらぎだけが救いです https://t.co/WROjUr5qsQ (naki)
08/05 17:11 (@gorry5) ゲームで使われるBGM音源は、最大音量でもまだ結構余裕を持たせている場合が多い…でないとSEやボイスがミックスされたときに100%超えちゃうからね :D (nize)
08/05 17:17 (@gorry5) おでかける (nudo)

■グループ[Mention] ■その他[Twitter:@gorry5][日記] ■[twtlog 20100921a]
[最新] ■[前年|前月|前日|2016/08/05|翌日|翌月|翌年] ■表示[全て|@gorry5のみ|個別]