市場では、さまざまな生成AIの実用化アプリケーションやソリューションが登場しています。しかし、AIモデルを専用にトレーニングするには莫大な設備投資が必要であり、企業の機密データをクラウドにアップロードしてトレーニングを行うことにはセキュリティリスクが伴います。そこで、研華(Advantech)は AIR-520オフライン型大規模言語モデル(LLM)微調整トレーニングソリューションを開発しました。本ソリューションには、AIR-520エッジAIワークステーション、SQ ai100 AI SSD、NVIDIA RTX GPU、Edge AI SDK、NVIDIA AI Enterpriseが含まれており、ソフトウェアとハードウェアの統合サービスを提供します。特許取得済みのソフトウェア aiDAPTIV+ 技術を活用することで、SQ ai100 AI SSDをGPU vRAMの拡張キャッシュとして利用し、最小限の GPUカード数でLLMの微調整トレーニングを実行することが可能になります。これにより、企業の AI 導入における予算負担を軽減し、エッジAIサーバーを小型・低消費電力のワークステーション で運用できるようにし、データセンター構築や電力供給の課題を解決します。また、本製品はデスクトップPCのようなコンパクトな設計を採用しており、エッジAIのモデル微調整環境を容易に展開することができます。モデル微調整機能に加え、研華は GenAI Training Studio を備えた Edge AI SDKを提供し、Llama-2 13B/33B/70B モデルをプリインストール。チャットボットやデータ分析などの用途に応じて、特定のLLMモデルのトレーニングや推論評価を簡単かつ迅速に実施できるよう支援します。