ローカルLLM

カテゴリ: LLM運用技術

企業のオンプレミス環境や国内データセンターで運用される大規模言語モデル(Large Language Model)のこと。クラウドベースのLLMサービスとは異なり、データを外部に送信せずに自社環境内で推論処理を完結できる。データ主権を確保しながらAI技術を活用できるため、医療、法律、金融など機密情報を扱う業界で注目されている。導入には専門知識と初期投資が必要だが、運用代行サービスの登場により中小企業でも利用可能になってきている。

関連キーワード

ローカルLLM