2の補数表現をちょっと違った見方をしてみる
こんにちは、メモリ事業部の 眞鍋 です。 突然ですが 0.99999999999999…. という数が 「1」 と同じである、 ということは皆さんご存知のことかと思います。 それでは ….9999
Fixstars Tech Blog /proc/cpuinfo
このブログは、株式会社フィックスターズのエンジニアが、あらゆるテーマについて自由に書いているブログです。
Tag: 除算
Tags
Favorite Post
2017年8月22日
2017年10月31日
Archives
- 2021年9月
- 2021年6月
- 2021年3月
- 2021年2月
- 2020年12月
- 2020年10月
- 2020年7月
- 2020年6月
- 2020年5月
- 2020年4月
- 2020年3月
- 2020年2月
- 2020年1月
- 2019年12月
- 2019年11月
- 2019年10月
- 2019年9月
- 2019年8月
- 2019年6月
- 2019年4月
- 2019年3月
- 2019年2月
- 2019年1月
- 2018年12月
- 2018年11月
- 2018年10月
- 2018年8月
- 2018年6月
- 2018年5月
- 2018年4月
- 2018年3月
- 2018年2月
- 2017年12月
- 2017年11月
- 2017年10月
- 2017年9月
- 2017年8月
- 2017年7月
- 2017年6月
- 2017年5月
- 2017年3月
- 2016年12月
- 2016年11月
- 2016年8月
- 2016年7月
- 2016年3月
- 2016年2月
- 2016年1月
- 2015年12月
- 2015年11月
- 2015年10月
- 2015年8月
- 2015年6月
- 2015年3月
- 2015年2月
- 2015年1月
- 2014年12月
- 2014年11月
Recent Comments
YOSHIFUJI Naoki in CUDAデバイスメモリもスマートポインタで管理したい
ありがとうございます。別に型にこだわる必要がないので、ユニバーサル参照を受けるよ...
Imaizumi Yoshiki in CUDAデバイスメモリもスマートポインタで管理したい
`check_error` の引数 `f` の型、 `std::decay_t` にしないと `check_error` がおいてあるファイルと同...
Alveo U50のHBM | Debuggin' Everyday in IBM Power8マシンでAlveo U50を動かす
[…] U50を動かすお話です。以前、FixstarsさんのところでU50のXDMAを動かした記事 を拝見...
Alveo U50のセットアップをする | わさらぼ in 2019.2 Vitis(TM) チュートリアルやってみた
[…] TechBlogの 2019.2 Vitis(TM) チュートリアルやってみた に取りあげられてる https://github.c...
windy in Vivado の合成／インプリメンテーションストラテジを変えてみる（WNS・走行時間編）
VivaoにはISEにあったSmartXplorerが無くなったので、これを手でやる必要があるのが面倒なん...