2の補数表現をちょっと違った見方をしてみる

こんにちは、メモリ事業部の 眞鍋 です。 突然ですが 0.99999999999999…. という数が 「1」 と同じである、 ということは皆さんご存知のことかと思います。 それでは ….9999
このブログは、株式会社フィックスターズのエンジニアが、あらゆるテーマについて自由に書いているブログです。
Windowsカーネルドライバを自作してWinDbgで解析してみる① - かえるのほんだな in Windowsデバイスドライバの基本動作を確認する (1)
[…] 参考:Windowsデバイスドライバの基本動作を確認する (1) - Fixstars Tech Blog /proc/cpuinfo ...
2021年版G検定チートシート | エビワークス in ニューラルネットの共通フォーマット対決! NNEF vs ONNX
[…] ONNX(オニキス):Open Neural Network Exchange formatフレームワーク間のモデル変換ツー...
YOSHIFUJI Naoki in CUDAデバイスメモリもスマートポインタで管理したい
ありがとうございます。別に型にこだわる必要がないので、ユニバーサル参照を受けるよ...
Imaizumi Yoshiki in CUDAデバイスメモリもスマートポインタで管理したい
`check_error` の引数 `f` の型、 `std::decay_t` にしないと `check_error` がおいてあるファイルと同...
Alveo U50のHBM | Debuggin' Everyday in IBM Power8マシンでAlveo U50を動かす
[…] U50を動かすお話です。以前、FixstarsさんのところでU50のXDMAを動かした記事 を拝見...