【イベント】GIGABYTE オンプレミスAIソリューションセミナー見学

8月20日に開催された販売店＆法人向けセミナー「GABYTE オンプレミスAIソリューションセミナー」の内容を紹介します。

オンプレミス向けPCと「AI TOP Utility」デモンストレーション

今回のセミナーは主にオンプレミス向けPCの紹介、導入事例、独自アプリケーション「AI TOP Utility」を使用したデモンストレーションが行われました。

AIワークステーション「AI TOP 100 B850」はRadeon AI Pro R9700 AI TOPx2 または GeForce RTX 5090 AI TOPが選択可能

まず発表されたのは「AI TOP 100 B850」です。
GIGABYTEの「AI TOP 100 B850」は、デスクサイドで大規模言語モデル（LLM）のローカル学習や推論、AIエージェントの常時稼働を実現するために設計されたオンプレミス向けAIワークステーションです。
AMD Socket AM5プラットフォームを基盤にCPUはAMD Ryzen 9 9950X、マザーボードは高耐久マザーボードGIGABYTE B850 AI TOP、メモリDDR5-5600 256GB（64GBx4）を搭載。
GPUはワークロードや開発環境に合わせて以下の2つの構成から選択できます。

Radeon AI PRO R9700 AI TOP ×2 構成（計64GB VRAM）

32GB GDDR6を搭載したAMD Radeon AI PRO R9700を2基搭載し、合計64GBの大容量ビデオメモリを確保。
大規模モデルの推論など、VRAMの絶対量が求められるタスクに最適。
容量単価の面で優れたコストパフォーマンスを発揮し、ROCm環境での並列分散処理に対応します。

GeForce RTX 5090 AI TOP 構成（32GB VRAM）

Blackwellアーキテクチャを採用し、高速な32GB GDDR7メモリと圧倒的な演算性能を提供。
画像・動画生成AIモデル、TensorRTを活用した超低遅延推論、CUDAを前提とした多様なオープンソースツールの運用に最適なモデルです。

今回のセミナーでは「GeForce RTX 5090 AI TOP」モデルが使用されていました。

AI用途に特化した小型ワークステーション「AI TOP ATOM」

次にNVIDIAの「DGX Spark」をベースにした最新のBlackwell GPUと128GBのユニファイドメモリでペタFLOPS級の性能を発揮するAIワークステーション「AI TOP ATOM」です。
今回4台のノード接続によるデモンストレーションがありました。

小型PCによる省スペース性を維持したまま、必要に応じてスーパーコンピューター級の規模へ拡張できるという点が、このマシンの設計思想の核心と言えます。

「AI TOP Utility」デモンストレーション

「AI TOP Utility」は、GIGABYTEが提供するローカルAIモデルの開発・運用に特化した専用の統合ソフトウェアです。
GIGABYTEのAIワークステーションやAI TOP シリーズ（GPU、マザーボード）などのハードウェア性能を最大限に引き出すように設計されており「直感的にAIモデルの学習や運用を行える」ことを目指して開発されました。
クラウド環境に依存せず、手元のローカル環境でセキュアにAI開発を進めたい企業や研究者にとって、学習の準備から推論までをシームレスにサポートする強力なツールです。
今回、GeForce RTX 5090 AI TOP 搭載 PC「AI TOP 100 B850」にてデモが行われました。

直感的な操作性と洗練されたUI

AIモデルのトレーニング（学習）状況や、ハードウェアのリソース（CPU、GPU、メモリ）の消費状況をリアルタイムで視覚的に把握できるダッシュボードを搭載しています。
初心者でも迷うことなく設定を進められるよう、洗練されたユーザーインターフェースと最適化されたワークフローを提供します。

ローカルモデル管理のためのグラフィカルインターフェース

コマンドラインを使わず、オンプレミス環境内のモデルを一覧表示し、ステータスや設定をグラフィカルに把握できます。
LlamaやMistralなどの主要なオープンソースLLM（大規模言語モデル）の学習と推論に対応しています。

独自データを使ったファインチューニングデータ、セット作成ツール内蔵

独自データを使ったファインチューニング（追加学習）を行うためのデータセットを、ソフトウェア上で簡単に作成・準備できます。
取り込んだデータと学習対象の言語モデル（LLM）を紐付けることで、煩雑なコマンド操作を挟むことなく、画面上の操作のみで即座にファインチューニングを開始できます。
また、各種構造化データのインポートに対応し、モデル学習に最適化された入力形式を確実に確保・整備します。

データセット作成ツールやプリセット学習戦略を備えた「AI TOP Utility」と組み合わせることで、モデルの選定・導入から追加学習、推論に至る全工程をノーコードでスムーズに実行できます。

AI TOP マザーボードの展示

今回のセミナーにあわせてAI TOP マザーボードも展示されておりました。

GIGABYTE B850 AI TOP

B850チップセットの扱いやすさと低発熱というメリットを活かしつつ、Gen5レーンの分割、デュアル10G LAN、大容量メモリのサポートといった、プロフェッショナルユーザーが求める要件を限界まで詰め込んだ、まさに「TOP」クラスのマザーボードです。
ハイエンドな自作PCや、AIワークステーションを組む際の新たな大本命としてぜひご検討ください。