CTC、リコー、リコージャパンがリコー製LLM搭載の超小型デスクサイドAI用サーバーを提供開始

超小型デスクサイドAI用サーバーとリコー製LLMによるAI活用支援

伊藤忠テクノソリューションズ株式会社(CTC)と株式会社リコーは、お客様の業務におけるAI活用を支援するため、小型のデスクサイドAI用サーバーとリコー製LLM(大規模言語モデル)を組み合わせたソリューションを共同開発しました。本ソリューションは、オンプレミス環境でセキュアかつ手軽に生成AIを利用できるもので、本日よりリコージャパン株式会社を通じて提供が開始されます。

近年、企業における生成AIの活用は、PoC(概念実証)段階から業務現場での実運用へと移行が進んでいます。しかし、機密データの取り扱いやモデル精度の検証、環境整備にかかる負荷などが課題となっており、安全性と導入スピードを両立した方法が求められています。

本ソリューションのAI用サーバーは、大規模パラメータのLLMをオンプレミス環境で動作させるための高い機動性と計算能力を持つ、デスクサイドに設置可能な超小型筐体が特徴です。このサーバーに、270億パラメータと比較的コンパクトながら高性能なリコー製LLMを組み合わせることで、設置場所を選ばずにセキュアなAI活用環境を構築できます。

提供イメージ

CTCは、本サーバーへのリコー製LLMおよび生成AI開発プラットフォームDify(ディフィ)のプリインストールを含むAI活用環境の設定までを担当します。これをリコージャパンがパッケージとして提供するため、お客様は特別な設定を行うことなく、手軽にAI活用を開始できます。

本ソリューションは、機密情報を扱うリスクからオンプレミス環境でのAI利用を求めるお客様に加え、AIの動作検証、全社導入に向けたテスト導入、業務単位・担当者単位での導入にも適しています。

各社の役割と今後の展望

リコーおよびリコージャパンは、お客様に寄り添いながら、業種・業務に応じた「使える・使いこなせるAI」を提供し、オフィスおよび現場のデジタルトランスフォーメーション(DX)を支援しています。「RICOH オンプレLLMスターターキット」をはじめ、オンプレミス環境でセキュアにAIを活用するための環境構築から導入、運用支援までをパッケージで提供するソリューションを、お客様の利用規模や用途に合わせてラインアップしています。今回のソリューション提供により、ラインアップがさらに拡充されました。

CTCは、長年のSI実績とインフラ構築で培ったノウハウを基に、本ソリューションの導入プロセス最適化を支援します。また、ベンダーとのパートナーシップを活かし、導入までのリードタイムを最小化します。さらに、各種設定シートや手順書の整備、出荷前の動作検証、出荷・輸送管理までを一括して対応することで、現場作業の負荷を大幅に軽減します。

CTCのサービス提供イメージ

今後も企業が抱えるAI導入のハードルを下げ、AI活用の高度化に向けた付加価値提供をさらに強化していく方針です。

CTC、リコー、リコージャパンは、オンプレミス環境でのLLM提供において引き続き連携し、お客様のAI活用を支援していきます。

関連情報