Archive for: 2025

3D Gaussian Splatting の紹介と高速化

3D Gaussian Splatting の紹介と、インターンシップの課題として取り組んだ高速化について説明します。

2025年4月21日 tomohito.hoshii Tech記事.

Read More »

llama.cpp を使って RTX 6000 Ada で Llama 4 Scout を動かす

高価なH100 GPUの代替として比較的安価なRTX 6000 Adaを採用し、llama.cppを用いてLlama 4 Scoutを動かす方法を解説。GPUオフロード設定による性能向上とベンチマーク比較も行いました。

2025年4月14日 kota.iizuka Tech記事.

Read More »

Llama 4 Scout のファインチューニングとパフォーマンスエンジニアリング

LLaMA-FactoryとDeepSpeedを使ってLlama 4 Scoutをファインチューニングし、バッチサイズ調整による高速化やGPU最適化を実践。手順を詳しく解説します。

2025年4月10日 kota.iizuka Tech記事.

Read More »

INT4 量子化を使って Llama 4 Scout を NVIDIA H100 1 枚で動かす

Meta社が発表したLlama 4 ScoutのINT4量子化による軽量化を公式実装を用いて検証。H100 1枚での実行と入力トークン数の限界について詳細に報告します。

kota.iizuka Tech記事.

Read More »

vLLM で Llama 4 をデプロイする際の最適なコンテキスト長を検証する

Llama 4 は最大1,000万トークンの長文コンテキストに対応していますが、実際のデプロイではライブラリやハードウェアの制約に注意が必要です。本記事では、vLLM を用いた実験を通じて、量子化方式・GPU枚数ごとの最適なコンテキスト長を検証しました。

2025年4月8日 kota.iizuka Tech記事.

Read More »

Llama 4 をオンプレミス環境で動かしてみた

2025年4月6日、Llama 4 が公開されました。Llama 4 は画像、動画の入力が可能なマルチモーダルモデルで、109B パラメータの Llama 4 Scout、400B パラメータの Llama 4 Maverick、 2000B パラメータの Llama 4 Behemoth というラインナップとなっています。今回は、Llama 4 Scout をオンプレミスで動作させることを想定して、動作確認とプロファイリングを行います。

2025年4月6日 kota.iizuka Tech記事.

Read More »

CoLi-BA: 高速なバンドル調整アルゴリズムの解説（vSLAM, SfM向け高速化手法）

はじめに ARグラスや自律移動ロボット、ドローンのように、現実世界をカメラで認識しながら動作する技術が進化する中で、カメラの位置や空間中の点群を同時に推定する技術 ー vSLAM (Visual Simultaneous

2025年4月4日 atsuyuki.miyashita Tech記事.

Read More »

SYCL プログラミング入門：初心者向けガイド

SYCL について概要の説明から最低限理解必要な基本機能と用語、簡単なプログラムの作成と実行についてを説明します。

2025年4月3日 shinnosuke.takemoto Tech記事.

Read More »

新LLM『Gemma 3 (27B)』をローカル環境で徹底検証: 業務タスクでの実力はいかに？

本記事では、話題の『Gemma 3 27Bモデル』をollamaとvllmで実際に導入し、コード理解やWebアプリケーション開発などの具体的な業務タスクで性能検証を実施しました。果たして、ChatGPTなどのクラウド型LLMに匹敵するパフォーマンスを出せるのでしょうか？

2025年4月1日 kota.iizuka Tech記事.

Read More »