Home

はじめに こんにちは。フィックスターズでアルバイトとして研究を行っている小島です。 大規模言語モデル（LLM）の巨大化は、法外な Fine-tuning のコストという新たな課題を生み出しました。大規模化した LLM の […]

2026年1月23日（金）に開催された、「【出版記念/オフライン開催】実践的パフォーマンスエンジニアリングによるAI高速化×Data-centric AI入門セミナー」のレポートをお届けします。 本セミナーは、技術評論社 […]

6000 Blackwell Max-Q で verl を動かしてみる。

フィックスターズのエンジニアが執筆した「実践的パフォーマンスエンジニアリングによるAI高速化」が、2026年1月19日に技術評論社から出版されました。全国の書店、オンライン書店で好評販売中です。 フィックスターズが長年に […]

はじめに Fixstars でアルバイトをしている若林大起です。 前回の記事では、最新の NVIDIA Blackwell アーキテクチャ上での LoRA ファインチューニングにおいて、PyTorch Profiler […]

投稿者より 本記事はインターンシップで勤務された前田 優希さんによる寄稿となります。 最新 GPU の NVIDIA RTX PRO 6000 Blackwell Max-Q を用いて、LLM の fine-tuning […]

TL;DR はじめに 前回の記事では、AMX (Advanced Matrix Extension) の基礎について解説しました。今回は、AMX を活用したコードのさらなる高速化について検証します。特に、大規模行列積演算 […]

LiDARを用いた3D Gaussian Splatting向けのデータセット作成システムについて紹介します。ROS2上でカメラの画像やSLAMの一種であるLiDAR Inertial Odometryで推定した自己位置といったデータを同期し、座標を合わせてデータを作成しました。ループ閉じ込みやIMUの精度など、今後の改善案についても考察しました。

はじめに Fixstars でアルバイトをしています若林大起です。 近年 AI モデルを個人の好みや特定の用途に合わせて改変する「パーソナライゼーション」の需要が高まってきています。このため、クラウドの潤沢な計算資源だけ […]

3D Gaussian Splatting を約 40 % 高速化．CUDA カーネルの atomicAdd 命令を削減．

TL;DR はじめに AI の爆発的な普及に伴い、高性能な計算環境の需要は高まっています。 計算の性質から GPU が広く用いられていますが、同様の計算は CPU でも可能です。 消費電力・発熱等の制約で GPU を利用 […]

NVIDIA RTX PRO 6000 Blackwell Max-QはどのようなGPUなのかについて、NVIDIAが出しているデータシートをもとにNVIDIA RTX H100 PCIeと比較する。

社内ネットワークで安全に運用できるLLM APIを導入して1か月。コード補完を中心に38万回超のアクセスを記録し、新入社員教育やコミュニティ形成により社内での利用が大きく促進されました。この記事では運用データを基にオンプレミスと外部APIのメリット・デメリットを比較し、実際の運用から見えた課題や効果を詳しく解説します。

最新技術『3D Gaussian Splatting』を活用した異常検知手法『Splat Pose & Detect』の処理速度を約6倍に高速化しました。初期位置推定や位置姿勢更新におけるボトルネックを解消し、実用的な速度を実現。本記事ではその具体的なアプローチと改善ポイントを詳しく解説します。

3D Gaussian Splatting の紹介と、インターンシップの課題として取り組んだ高速化について説明します。

高価なH100 GPUの代替として比較的安価なRTX 6000 Adaを採用し、llama.cppを用いてLlama 4 Scoutを動かす方法を解説。GPUオフロード設定による性能向上とベンチマーク比較も行いました。

LLaMA-FactoryとDeepSpeedを使ってLlama 4 Scoutをファインチューニングし、バッチサイズ調整による高速化やGPU最適化を実践。手順を詳しく解説します。

Meta社が発表したLlama 4 ScoutのINT4量子化による軽量化を公式実装を用いて検証。H100 1枚での実行と入力トークン数の限界について詳細に報告します。

Llama 4 は最大1,000万トークンの長文コンテキストに対応していますが、実際のデプロイではライブラリやハードウェアの制約に注意が必要です。本記事では、vLLM を用いた実験を通じて、量子化方式・GPU枚数ごとの最適なコンテキスト長を検証しました。

2025年4月6日、Llama 4 が公開されました。Llama 4 は画像、動画の入力が可能なマルチモーダルモデルで、109B パラメータの Llama 4 Scout、400B パラメータの Llama 4 Maverick、 2000B パラメータの Llama 4 Behemoth というラインナップとなっています。今回は、Llama 4 Scout をオンプレミスで動作させることを想定して、動作確認とプロファイリングを行います。