設計データを外に出せない会社のための、ローカルLLM現実解
2025年秋、ローカルLLMを積んだAI PCが普及期に入り、「クラウドに出せないデータでもAIを使えるのでは」という相談が増えました。答えは条件付きのイエスです。設計データを外に出せない会社のために、私たちが検証してきた現実解を書きます。
Photo: Unsplash「データを出せない」は思考停止ではなく前提条件
製造業の設計部門には、クラウドAIに入力できないデータが確実に存在します。未発表製品の形状、取引先との契約で守秘義務がかかる仕様、図番や品番の体系。これを「セキュリティ意識が古い」と笑う人がいますが、私たちは同意しません。機密の制約は思考停止ではなく、設計の前提条件です。
前提条件なら、やることは諦めではなく設計です。折しもNPU搭載のAI PCが普及期に入り、量子化された中規模モデルが手元のマシンで実用速度で動くようになりました。1年前は「性能が足りない」で終わった選択肢が、2025年秋の今は検討に値します。
ただし誇大広告も多い分野です。「ローカルLLMでクラウド並み」は現時点では言い過ぎで、できることとできないことの線引きを間違えると、導入は確実に失敗します。まず現在地を正確に見ましょう。
ローカルLLMの現在地——できること、できないこと
手元のGPUで動く数B〜数十Bクラスのモデルで実用になるのは、文書の要約・分類・翻訳、定型文書のドラフト、社内文書を検索して答えるRAG、そしてコードの補完や解説あたりです。CATIAのマクロのコードに含まれる固有名詞を気にせず貼り付けて相談できるのは、ローカルならではの利点です。
一方、最新クラウドモデルと明確な差が残るのは、長い文脈を保った複雑な推論、高度なコード生成、曖昧な指示からの企画立案です。ここをローカルに求めると「思ったより馬鹿だ」という失望で終わります。用途を選べば強い、選ばなければ弱い。それが現在地です。
私たちの検証では、機密文書の要約とRAGに用途を絞った構成が最も費用対効果が高いという結果でした。派手さはありませんが、これまでAIに一切触れられなかったデータ領域で日常業務が数十分単位で縮む。この地味な効果が本命です。
機密の制約は思考停止ではなく、設計の前提条件。
ローカルLLMは「出せないデータ専用の道具」として入れる。
判断軸は「機密度×タスク難度」の4象限
導入判断を迷わなくする整理が、機密度とタスク難度の4象限です。機密でなく難しい仕事はクラウドの最新モデルへ。機密で簡単な仕事こそローカルLLMの主戦場。機密で難しい仕事は、いきなりAIに任せず人間が分解してから部分的にローカルへ。機密でなく簡単な仕事は、正直どちらでもいい。
この整理の効用は、「全部ローカルにする」「全部禁止する」という両極端を避けられることです。実際の設計業務は4象限が混在しています。1つの部署でもクラウドとローカルの併用が自然な姿であり、規程もこの区分に沿って書くと現場が判断しやすくなります。
注意すべきは象限の誤認です。機密でないと思っていた資料に品番が紛れ込む事故は起きます。だから私たちは、ローカル側を「機密が混ざっても事故にならない受け皿」と位置づけています。迷ったらローカルへ。この逃げ道があるだけで、現場の心理的負担は大きく下がります。
ハードウェアの現実解——VRAMがすべてを決める
機材選定で最初に見るべき数字はVRAM、つまりGPUのメモリ容量です。モデルの実用サイズはVRAMでほぼ決まり、CPUやメインメモリは二の次です。目安として、8GBなら小型モデルで要約・分類まで、16GBで中規模モデルのRAGが快適に、24GB以上あればコード支援まで実用圏に入ります。
「AI PC」と銘打つNPU搭載機は省電力の常時処理に向きますが、現時点で重いのはやはりGPUです。幸い、設計部門にはCATIAを走らせるワークステーションが既にあります。夜間や昼休みの遊休時間にLLMを走らせる構成なら、追加投資ゼロで検証を始められます。
サーバー構成に進む場合も、最初から全社基盤を狙わないでください。部署に1台、GPU付きのマシンを置いて数人で共有する。この規模で3ヶ月回して用途が固まってから増強する。ハードは後から足せますが、外した投資は戻りません。
導入前チェックと、小さく始める順番
導入前に確認すべき項目を挙げます。守れているかではなく、決めてあるかのチェックです。用途を2つ以内に絞ったか。扱う機密データの範囲を定義したか。VRAMとモデルサイズの対応を確認したか。出力を検証する責任者を決めたか。3ヶ月後に測る数字を決めたか。運用担当を1人に丸投げしていないか。
この中で最も軽視されがちなのが「測る数字」です。ローカルLLMは導入自体が目的化しやすい。要約1件あたりの所要時間、RAGの回答に対する現場の採用率など、地味な数字を最初に決めてください。数字がなければ、3ヶ月後に続ける判断も止める判断もできません。
私たちの結論はこうです。ローカルLLMは、クラウドの代替ではなく、出せないデータ専用の道具として導入する。用途を絞り、遊休マシンで小さく検証し、数字で継続を判断する。この順番を守れば、機密の壁の内側でもAI活用は確実に前に進みます。
AIエージェントをどう組み立てればいいか分からない——そこで止まっているなら、遠慮なく相談してください。何を任せて何を任せないかの線引きから、一緒に決めていけます。