「関所」方式は何を防いでいるのか——DSL検査の内側
私たちのAIエージェント「Qi」は、コードを生成しません。検証済みの社内ツールを選ぶだけです。そして選んだ後、実行の前に必ず「関所」を通します。この関所こそが未検証コードの不実行を支える中核であり、特許の核心でもあります。今回はその検査の中身を、抽象論ではなく実装の粒度で開きます。

関所とは何か——DSLが挟まる位置
構造は単純です。人が自然言語で指示を出す。AIが意図を解釈し、社内の資産ツール群から呼ぶべきものを選ぶ。ここまではAIの仕事です。そして選ばれた結果は、実行エンジンに直接渡りません。DSL(ドメイン固有言語)で書かれた実行指示にいったん変換され、検査に回されます。この一段が挟まっているかどうかで、安全性の性質がまるごと変わります。
DSLというと難しく聞こえますが、実体は限られた語彙しか持たない小さな記述言語です。汎用のプログラミング言語と違い、書けることが最初から狭い。自由なループも、任意の条件分岐も、ファイルシステムへの直接操作も持たせていません。書けないことが安全性そのものという設計思想です。表現力を意図的に削っています。
この変換と検査の層を、私たちは社内で「関所」と呼んでいます。江戸時代の関所と同じで、通行手形を確認する場所です。手形がなければ通さない。手形があっても行き先が許可された範囲外なら通さない。手形の名義と通ろうとしている人が違えば通さない。やっていることは、それだけです。
特許第7907964号は、この「AIにコードを生成させず、検証済み資産の選択に限定し、実行前にDSLで検査する」という一連の流れを対象としています。個々の要素技術は特別なものではありません。ホワイトリストも値域検査も権限管理も昔からあります。組み合わせと、置く順番に意味があります。
検査1:正規の呼び出しかどうか
関所が最初に見るのは、呼ぼうとしている処理が登録済みの検証済み資産かどうかです。社内ツールは一本ずつ台帳に登録され、識別子・バージョン・検証日・検証者・想定用途のタグを持っています。台帳に存在しない識別子は、その時点で棄却されます。実行エンジンには一切届きません。
重要なのは、ここでホワイトリスト方式を取っていることです。危険なものを列挙して禁止するブラックリスト方式は、列挙漏れが必ず起きます。新しい危険が生まれるたびにリストを追加する運用は、いずれ追いつかなくなる。逆に、許可したものだけを通す方式なら、漏れは「動かない」という安全側に倒れます。
AIが仮に存在しないツール名を出力したとしても、台帳照合の段階で止まります。生成AIのハルシネーションが実行まで到達しない理由がここです。AIが間違えないのではなく、間違っても外に出ないという構造になっています。AIの精度向上に安全性を依存させない、というのが設計の出発点でした。
バージョンも同時に照合します。ツールAのv2.1が検証済みで、v2.2が検証中なら、v2.2は通りません。現場に配布されている資産と検証台帳の状態が常に一致していることを、運用の努力ではなく機械的な検査で維持します。人の注意力に頼る仕組みは、いずれ必ず破れます。
検査2:パラメータが定義範囲内か
次にパラメータを見ます。各資産は引数ごとに型と値域を宣言しています。板厚なら0.5から6.0ミリ、穴数なら1から48、対象ボディの選択なら列挙された名前のいずれか、単位系なら明示された系のみ。宣言は資産登録時に必須項目としており、宣言のない資産は台帳に載せません。
この値域は仕様書に書かれた文章ではなく、検査に使われる実データです。範囲外の値が来れば実行の前に弾かれます。マクロの中でバリデーションするのでは遅い、というのが私たちの立場です。中で検査すると、検査コードの品質が資産ごとにばらつき、しかも検査したかどうかを外から確認できません。
実際、現場でよく効くのは単位系の誤りです。メートルとミリメートル、度とラジアン、インチとミリ。AIは文脈から単位を推定しますが、推定は外れます。値域検査は、この種の桁違いをほぼ確実に捕まえます。1200ミリの板厚は定義範囲外だからです。単位の取り違えは、経験上もっとも頻度が高く、もっとも被害が大きい。
引数間の組み合わせ制約も書けます。穴径が板厚の2倍を超えてはならない、フィレット半径が隣接面の幅の半分未満であること、といった関係式です。単独では正しいが組み合わせると成立しない、というケースは設計現場に山ほどあります。関所はこの層まで見ます。
通した件数ではなく、止めた件数が価値になる。
安全は確率ではなく構造で作る。
検査3:アクセス権限を持っているか
3つ目は権限です。誰が、どのデータに対して、どの操作を許されているか。実行者の所属と役割、対象データの区分、資産自体の危険度を突き合わせて判定します。3つのうち1つでも条件を満たさなければ通しません。ここは検査というより、実行の可否を決める最終判断に近い位置づけです。
設計現場では、同じ処理でも対象によって重みがまったく違います。検討中のスタディデータを書き換えるのと、承認済みの正式データを書き換えるのとでは、事故ったときの影響が桁で違う。だから権限は人にではなく、人と対象と操作の三つ組に付けるのが実務的です。役職で一律に決めると、必ずどちらかに寄って破綻します。
AIエージェントは便利ゆえに、権限の外側に手を伸ばしやすい性質があります。「ついでにこちらも直しておきますね」が最も危ない挙動です。人間なら気を利かせたと褒められる行動が、自動実行されると重大インシデントになる。関所は、AIがどれだけ親切心を発揮しても、権限の外には一歩も出させません。
そして全ての通過・棄却はログに残ります。いつ、誰が、どの資産のどのバージョンを、どのパラメータで実行したか。棄却された場合はどの検査で止まったか。監査への回答が、後から人手で再構成するのではなく、最初から記録として存在している状態を作ります。これは導入企業から高く評価される点でもあります。
' 関所(DSL層):Qiが選んだ資産を実行してよいか、実行前に検査する
' 戻り値 True = 通過 / False = 棄却(実行エンジンには一切渡さない)
Function PassGate(assetId As String, assetVer As String, _
paramName As String, paramValue As Double) As Boolean
Dim oDoc As Document, oSel As Selection
PassGate = False
' 検査1:台帳に登録された検証済み資産か(バージョンまで一致すること)
If Not AssetLedger.Exists(assetId, assetVer) Then
Call GateLog(assetId, "検査1", "未登録またはバージョン不一致")
Exit Function
End If
' 検査2:パラメータが宣言された定義範囲内か(例:板厚 0.5〜6.0mm)
If paramValue < AssetLedger.MinOf(assetId, paramName) Or _
paramValue > AssetLedger.MaxOf(assetId, paramName) Then
Call GateLog(assetId, "検査2", paramName & "=" & paramValue & " は定義範囲外")
Exit Function
End If
' 検査3:実行者が対象データへの権限を持つか(人・対象・操作の三つ組で判定)
Set oDoc = CATIA.ActiveDocument
Set oSel = oDoc.Selection
If oSel.Count = 0 Then
Call GateLog(assetId, "検査3", "対象が選択されていません")
Exit Function
End If
If Not AccessPolicy.Allows(CurrentUser(), oDoc.Name, assetId) Then
Call GateLog(assetId, "検査3", "承認済みデータへの実行権限がありません")
Exit Function
End If
' 3つすべてを満たしたときだけ通過。ここを抜けた指示のみCATIAに届く
Call GateLog(assetId, "通過", paramName & "=" & paramValue)
PassGate = True
End FunctionAssetLedger / AccessPolicy / GateLog は台帳・権限・監査ログの各モジュール。検査の順番(正規呼び出し→値域→権限)は固定で、途中で棄却された時点で実行エンジンには何も渡りません。
関所で止まったとき、何が起きるか
検査で弾かれたとき、Qiはスタックトレースを吐いて終わりにしません。何番目の検査で、どの条件に触れて止まったかを日本語で返します。「板厚8.0は資産Aの定義範囲0.5〜6.0の外です」「この資産は承認済みデータへの実行権限が必要です」といった具合です。
これが重要なのは、止まった理由が現場の言葉で返ることで、利用者が次の一手を自分で決められるからです。値を直すのか、別の資産を使うのか、権限を持つ人に依頼するのか、そもそも要件の理解が間違っていたのか。判断が人の側に戻ります。エラーコードを渡されて情報システム部門に問い合わせる、という往復が発生しません。
自働化という言葉を私たちが使うのは、まさにこの点です。異常が起きたら機械が自分で止まり、人を呼ぶ。トヨタ生産方式の考え方をソフトウェアに持ち込んだだけとも言えます。止まらずに走り続ける自動化より、正しく止まれる自働化のほうが、製造業では圧倒的に価値が高い。
現場からのフィードバックで意外に多いのが「止まってくれて助かった」という声です。通った件数ではなく、止めた件数のほうが導入効果として語られる。これは私たちにとって当初まったく想定していなかった、しかし考えてみればきわめて正しい反応でした。安全側に倒れる仕組みは、現場に信用されて初めて使われます。
未検証コードの不実行は「保証」と呼べるのか
厳密に言えば、あらゆるソフトウェアに絶対はありません。ですから私たちが保証していると言えるのは、次の3点に限られます。実行される処理が必ず検証済み資産の正規呼び出しであること、そのパラメータが宣言された定義範囲内であること、実行者が対象データへの権限を持つこと。それ以外は保証していません。
逆に言えば、資産そのものの検証が甘ければ関所は無力です。関所は資産の品質を作りません。資産の品質は、代表がCATIA一筋22年、愛知県の大手自動車メーカー及びグループ各社でCATIAツール開発の技術総責任者を経て積み上げてきた実務が担保しています。関所はそれを守る門であって、門が中身の良し悪しを決めるわけではない。
この分業がはっきりしていることが、この方式の最大の強みだと考えています。AIは選ぶ。DSLは検査する。人は資産を検証する。役割が混ざらないから、問題が起きたときにどの層の責任かが常に特定できます。混ぜてしまうと、原因究明のたびに全体を疑うことになります。
AIの実行制御に頭を悩ませている方は、生成の精度を上げる方向ではなく、実行の手前に検査層を挟む方向を一度検討してみてください。精度を99%に上げる努力より、100%止められる関所を1つ置くほうが、現場ははるかに安心して使えます。安全は確率ではなく構造で作るものです。
自社の改善をどこから手を付けるべきか迷っているなら、無料セミナーや個別の相談の場でお話しできます。持ち込みの題材そのままで構いません。話しながら整理していきましょう。
▶ 実際の動作は動画でご確認いただけます(QRONIX 公式チャンネル)
記事一覧をすべて見る →