お問い合わせお問い合わせ

ニューテック、aiDAPTIV+の販売を開始

-PHISON社開発 LLM 学習用途特化ソリューション-

2024年11月20日

 株式会社ニューテック(本社:東京都港区、代表取締役社長:早川 広幸、東証スタンダード:6734)は、株式会社ファイソン・エレクトロニクス(Phison Electoronics Corp. 本社台湾)が開発した大規模言語モデル(LLM)学習用途に特化したソリューション「aiDAPTIV+」の販売を2024年12月より開始いたします。

aiDAPTIV+は、LLMの学習用途に対して非常に有効なソリューションです。LLM学習を実行するためにはGPU搭載メモリが大量に必要です。しかし、昨今GPUは価格高騰や入手難があり、LLM活用の入り口に立つことが非常に困難となっていることが現実です。
この問題を解決するためにPHISON社ではGPUメモリの役割を自社製の特別に製造された SSDと自社開発のミドルウエアを組合せることで補完する技術を開発いたしました。それが 『aiDAPTIV+』 です。
この技術を用いることで低価格かつ低電力で大規模言語モデルの学習を始めることが可能になります。

 

 

GPU + aiDAPTIV+での動作について

aiDAPTIV+では、SSDをVRAMと見立ててデータをSSDにオフロードしLLM学習を実行します。
そして、LLMを分割・小分けにしてGPUへ送って学習を行うことで今まで多量のGPU(搭載メモリ)を用意しなければ学習を始めることもできなかったLLMの学習がH100等に比べて比較的入手の容易なRTX 6000adaやRTX 5000adaで始めることが可能になります。
DGX H100利用時と同等の処理時間では実行できませんが、学習に必要なGPUを安価なクラスへ置き換え、必要なGPUの数を減らし、SSDに置き換えることは初期費用の低減だけでなく実行時の消費電力が低下することで、LLM活用のハードルを下げることが可能になります。

 

 

aiDAPTIV+を使用した時のDGX H100との比較 (PHISON社調べ)

 

 

aiDAPTIV+ 構成例

 

製品ページ
aiDAPTIV+ https://www.phison.com/ja/aidaptiv-plus-ai-data-storage-solution
Cloudy DP https://www.newtech.co.jp/products/detail/cloudy_dp.html
Cloudy DP にaiDAPTIV+をセットアップしたアプライアンスサーバとしてご提供いたします。

11/20-22パシフィコ横浜で開催されるEdgeTech+2024 立花エレテック様ブースにて本ソリューションに関する展示をいたします。是非お立ち寄りください。
立花エレテック https://online.tc-kiwami.jp/public/seminar/view/8489
EdgeTech 2024/11/20 (Wed) – 2024/11/22 (Fri)
10:00 – 17:00 (21日のみ18:00まで)

ニュースリリースの情報・仕様は、発表日時点のものです。予告なしに変更されることがありますので、予めご了承ください。
本製品に関するお問い合わせは、下記までお願いします。
お客様:株式会社ニューテック 営業部
TEL: 03-5777-0852
E-mail: [email protected]
報道関係様:E-mail: [email protected]