最適化 Archive

CUDAによるバンディング低減フィルタの高速化(2)

前回の続きです。メモリアクセス周りをもう少し見てみましょう。 カーネル内でメモリアクセスしてるデータは、乱数表と入出力画像です。このうち、読み書きデータ量の多い入出力画像を見てみます。画像のデータ型はPIXEL_YCです […]

CUDAによるバンディング低減フィルタの高速化(1)

弊社のメインのお仕事はプログラムの高速化です。今日から数回の記事に分けて、画像処理フィルタのCUDAによる高速化をしてみたいと思います。 今回のお題は、AviUtlのフィルタプラグインの1つ、バンディング低減フィルタです […]

第4回 社内プログラミングコンテスト『コラッツリス』

皆さん、こんにちは! 社内プログラミングコンテスト担当の二木です。   以前、社内プログラミングコンテスト(以下、社内プロコン)について、ブログ記事を書かせて頂きました。その時は、社内プロコン開催のきっかけや、 […]

ソフトウェアパイプラインを考えてみる

2017/06/06 一部内容を訂正しました。 Out Of Orderのプロセッサが一般的になってしまってからあまり使わなくなった、ソフトウェアパイプラインを考えてみようと思います。 In-Orderプロセッサの最適化 […]

2の補数表現をちょっと違った見方をしてみる

こんにちは、メモリ事業部の 眞鍋 です。 突然ですが   0.99999999999999….   という数が 「1」 と同じである、 ということは皆さんご存知のことかと思います。 &nb […]