オンプレミス

企業が自社の物理的な施設内にITインフラを設置し、運用する形態。クラウドサービスとは対照的に、サーバー、ストレージ、ネットワーク機器などを自社で所有・管理する。ローカルLLMホスティングでは、オンプレミス環境にGPUサーバーを設置し、データを外部に出さずに推論処理を実行する。初期投資は高いが、長期的なコスト、データ主権、カスタマイズ性の面で優位性がある。