2026-06-19 議事録
実施日時
- 2026-06-19(金)Teams(オンライン)
目的
- 各自の進捗共有(プロファイリング学習、環境構築、AI推論の動作確認)。
- 計測結果の共有方法(ダッシュボード)と今後の方針を確認する。
決定事項
- プロファイリングは
perfを中心に進める。まずperf statで全体像を掴み、perf record/perf reportで詳細を見る(詳細はプロファイリングツール実践ガイド)。 - ビルドは用途別(Debug / Profile / Release / Optimize など)に切り替えられるよう整備する。分析しやすさと速度はトレードオフのため。
- 計測結果・グラフはダッシュボードに集約して共有する方向で進める。ツールはOSSを調査しつつ、AIを使った自作も検討する。
- 環境は再現性を重視する。リポジトリ/コンテナを整備し、他メンバーがコマンド一つで同じ環境を再現できるようにする。
- Pythonのパッケージ管理は
uvを使う(動作が速く扱いやすい)。 - AI推論は最終的に
SGLangを使う想定で進める。
共有内容
プロファイリング学習(perf)— 田中
perfは日本語情報が少なく、man、Archwiki、ライブコーディング動画(impl Rust: One Billion Row Challenge)が学習に役立った。
実践的な使い方・注意点・ビルドオプションは技術ページへ分離した(プロファイリングツール実践ガイド)。要点:
- まず
perf stat -r <n> -d -d -dで詳細イベント+複数回実行の統計を取る。perf record/perf reportがcall graph・アセンブリ分析まででき、最も使いやすい。 perf recordはイベント数が多すぎると解析不能・ストレージ圧迫になる。実行中プロセスへ短時間アタッチ(perf record -F 999 -g --call-graph fp -p <PID> -- sleep 30)が有効。- 可視化に
flamegraphが便利。
AI推論の動作確認
- まず
transformersで小さめのモデルを動かし、モデルロード・KVキャッシュ確保まで確認した。 - ベンチマークは昨年使われた
ShareGPTデータセットを利用して試行。token生成・読み込みの速度を計測した(メモ上の数値: 約512 tokens/s 処理・約128 tokens/s 出力。対照実験はこれから。要確認)。 vLLMとSGLangを比較。vLLMは起動が速い一方でドライバ依存により不安定だったため、SGLangに切り替えて進めている(要確認:環境依存)。- 目標はプロファイリングだが、現状は環境構築とモデル動作確認まで。次は大きめのモデルでベンチを取得する。
環境構築・再現性
- ローカルで構築したものをコンテナ等で他メンバーが再現できるようにする方針。スパコン側でSSH先をクローンすれば全員が同じ環境を再現でき、効率が上がる。
- 管理担当を置き、リポジトリ/環境を整備する。
データ共有・ダッシュボード
- 計測結果をダッシュボードに集約する案。あるメンバーが自分の研究で使っている仕組み(データ投入 → Pythonで自動グラフ生成 → Webページ表示)を流用できそう。
- OSSのダッシュボードツールの調査、またはAIでの自作を検討する。
TODO
| 項目 | 内容 | 目的 |
|---|---|---|
| ダッシュボード調査 | 計測結果共有用のダッシュボード(OSS or 自作)を調べる | 各自の結果をチームで見られるようにする |
| 環境の再現性整備 | コンテナ/リポジトリを整え、コマンド一つで再現できるようにする | 担当者間で環境差をなくす |
| AIモデルのベンチ取得 | 大きめのモデルを動かし、SGLangでベンチマークを取る | 推論性能の基準を作る |
| MPI環境でのperf | MPI環境でのperf等の使い方を実際に動かして確認する | 並列実行のプロファイリングに備える(今後の課題) |
| プロファイリング継続 | 各自ツールを使い、結果を持ち寄る | 計測に基づく改善のため |
今後の方針
- 来週も各自のプロファイリング・環境整備を継続する(次回はHPC側のプロファイリング共有を予定)。
- 7月の問題公開を見込み、それまでは過去問・環境・計測の練度を上げる。