Author Archive

収束加速法の紹介

メモリ事業部の 眞鍋 です。 本日は 「収束加速法」という話題を取り上げたいと思います。   同じ結果を得るにしても、その目的に特化することで高速にする技法、というのは世の中にたくさんあります。 例えば代表的な […]

整数型 と Newton法

メモリ事業部の 眞鍋 です。 本日は 「整数型 と Newton 法」という話題を取り上げたいと思います。 Newton 法 はその意味から察するに もともと実数など を対象にした技法なのですが、 整数型でも意味がつくん […]

2の補数表現をちょっと違った見方をしてみる

こんにちは、メモリ事業部の 眞鍋 です。 突然ですが   0.99999999999999….   という数が 「1」 と同じである、 ということは皆さんご存知のことかと思います。 &nb […]