Author Archive

整数型 と Newton法

メモリ事業部の 眞鍋 です。 本日は 「整数型 と Newton 法」という話題を取り上げたいと思います。 Newton 法 はその意味から察するに もともと実数など を対象にした技法なのですが、 整数型でも意味がつくん […]

2の補数表現をちょっと違った見方をしてみる

こんにちは、メモリ事業部の 眞鍋 です。 突然ですが   0.99999999999999….   という数が 「1」 と同じである、 ということは皆さんご存知のことかと思います。 &nb […]