ニュースの概要
国内のローカルLLM（＝自社の機器の中で動かす大規模言語モデル）の動きとして、二つの発表が並んで伝えられた。一つはHexabaseのAI-SecBoxである。専用機の中でAIが脆弱性（＝システムの弱点）を探し、修正案を出し、直ったかを確かめるところまで担う。最小構成は初年度780万円（税抜、予定価格）と報じられた。もう一つはNishikaのSecureMemoで、病院など向けに医療用語へ強い音声認識モデルを載せ、外へデータを出さない議事録作成を狙う。どちらも、情報を外に出せない現場を主な対象にしている。
引用元: Hexabaseの社内設置型AIセキュリティ基盤と医療向けオンプレ議事録モデルが注目（シンオン株式会社）
分析・見解
外に出せないデータが、ローカルLLMの出番を作る
クラウドのAIは便利だが、使えない業務がある。ソースコードの中身や診察室の会話は、社外のサーバーに送ること自体が問題になるからだ。今回の二つの製品は、性能の競争ではなく「持ち出せない」という制約から生まれている。
この点が大事だ。ローカルLLMは、クラウドより賢いから選ばれるのではない。使える場所が他にないから選ばれる。需要の入口が明確なので、売り先もはっきりする。
AI-SecBoxは検査から確認までを一台に閉じ込める
従来の脆弱性診断は、検査ツールが問題を列挙し、人が読んで直し、別の機会に再検査する流れだった。AI-SecBoxは、この三段階をLLMがつないで一台で回す点に特徴がある。報告書を読む時間と、修正を確かめる待ち時間が短くなる。
ただし、AIが書いた修正をそのまま本番へ反映するのは危うい。直したつもりが別の機能を壊す例は珍しくない。確認工程を機械が担うからこそ、最後の承認は人が持つ設計が欠かせない。780万円という価格は、検査の外注費や専任者の人件費と比べて初めて意味を持つ。
医療向け音声認識は用語の誤りを減らす勝負になる
議事録の品質を左右するのは、一般的な会話の聞き取りよりも専門語である。薬剤名や病名を聞き違えれば、記録として使えない。医療用に調整したモデルをオンプレミス（＝自社設置）の議事録サービスに載せる動きは、汎用モデルを使い回す発想からの転換と言える。
独自の視点を一つ挙げたい。ローカルLLMの競争軸は、巨大さではなく「狭さ」に移っている。セキュリティ診断なら脆弱性の知識、医療なら用語と聞き取り、というように、用途を絞った小さなモデルが専用機に収まる。大きな汎用モデルを社内に置くより、現実的で運用もしやすい。
次に問われるのは更新と保守の体制である
専用機は買った時点が最高性能で、その後は古くなる。新しい脆弱性情報や新薬の名前を、どう取り込むのか。この更新の仕組みが整わなければ、閉じた環境の安全は、古い知識という弱点に変わる。今後は性能表より、更新の頻度と手順が比較される時代になるだろう。
ビジネスへの影響
導入判断は、持ち出せない業務を洗い出すことから始める
まず、自社の業務の中でクラウドに送れないものを一覧にする。ソースコード、顧客の個人情報、診療記録、設計図などが該当する。この一覧が短ければ、ローカルLLMの出番は少ない。長ければ、費用をかける理由になる。
全社で一括導入するより、守秘の要求が最も厳しい一部門で試す方が失敗しにくい。成果が見えやすく、予算の説明もしやすいからだ。
費用は購入額ではなく三年間の総額で比べる
初年度780万円という数字だけを見て高い安いを判断するのは早い。二年目以降の保守費、モデルの更新費、運用する人の時間まで含めて三年間で比べたい。比較の相手は、外部の診断サービスへの年間支払額や、担当者の工数である。
医療向けの議事録でも同じだ。聞き取り直しや誤記の訂正にかかる職員の時間が減るなら、その分が効果になる。導入前に現状の手間を測っておかないと、効果を証明できない。
契約前に確認したい三つの点
一つ目は、データが本当に機器の外へ出ないか。保守のための通信経路まで確認する。二つ目は、AIの判断を人が止められるか。修正の自動反映をオフにできるかを見る。三つ目は、モデルの更新方法と費用だ。この三点を契約書に残せば、導入後の食い違いは大きく減る。