「実行単位を固定する」——特許請求項1が守っている、たった一つの原則
AIエージェントの話をすると、必ず「どこまで任せるのか」を聞かれます。特許第7907964号の請求項1は、その問いに一行で答えています。実行するものを、AIには選ばせない。選ぶのはシステム側で、大規模言語モデルがするのは、選ばれた一つの中で足りない値を埋めることだけです。今日は請求項1に並んだ7つの部品を、CATIAの現場の言葉に置き換えていきます。
Photo: Unsplash請求項1は、7つの部品と1つの「してはいけない」でできている
請求項1が挙げている構成要素は7つです。実行単位を記憶する記憶部、自然言語入力の意図を解析する意図解析部、解析した意図から実行対象となる一の実行単位を選択して固定する実行単位選択部、固定された実行単位の入力項目と制約条件を取得するメタデータ取得部、その入力項目と制約条件に基づいて不足する入力値の補完を大規模言語モデルに指示する補完指令部、補完された入力値が制約条件を満たすかを判定する検証部、そして満たすと判定された場合に実行する実行部。ここまでが処理の流れです。
そのあとに、もう一行あります。大規模言語モデルは、固定された実行単位の範囲内において入力値の補完のみを行い、実行単位の選択または変更を行わない。この一行が請求項1の芯です。
特許の請求項は普通、何ができるかを書きます。この請求項が最後に置いたのは、何をさせないかでした。設計としての主張がそこに出ています。CATIAマクロを何本も抱えている設計部門にとって、これは抽象的な話ではありません。どのマクロを動かすかを誰が決めるのか、という運用の話そのものです。
「固定する」は、選び直させないという意味
請求項1の言い回しは「一の実行単位を選択し、当該実行単位を固定する」です。選択するだけなら、決めた、で済みます。わざわざ固定すると書いたのは、決めたあとに動かないことのほうが要点だからです。
対話型のしくみを実際に動かすと、この差がはっきり出ます。やりとりが続くうちに、話題は少しずつずれていきます。「さっきの穴、もう少し大きく」「ついでに面取りも」。人どうしの会話なら自然な流れですが、実行するものがその流れに合わせて入れ替わると、何が動くのかを事前に言えなくなります。
固定してあれば、追加の指示が来ても実行対象は変わりません。穴あけの実行単位を固定したあとに面取りを頼まれても、その場では面取りをしません。面取りは別の実行単位なので、意図解析からやり直しになります。手数としては増えますが、動く前に何が動くかが確定している状態は保たれます。
現場の感覚に近い言い方をすると、固定とは、実行ボタンを押す前に押す対象が決まっていることです。押してみないと何が起きるか分からない道具は、設計の現場では使えません。
'---------------------------------------------------------------
' 実行単位選択部:解析した意図から一の実行単位を選び、固定する
' 固定後は、同じ対話の中で差し替えない
'---------------------------------------------------------------
Public Function FixUnit( _
ByVal sIntent As String, _
ByRef oSession As clsQiSession) As String
FixUnit = ""
'すでに固定されているなら、そのまま返す(選び直させない)
If Len(oSession.FixedUnitId) > 0 Then
FixUnit = oSession.FixedUnitId
Exit Function
End If
'意図に対する候補を絞る
Dim vCand As Variant
vCand = UnitStore.MatchByIntent(sIntent)
If UBound(vCand) < 0 Then
Call Logger.Deny("-", "該当する実行単位がありません")
Exit Function
End If
'候補が絞りきれないときは、AIに選ばせず人に選んでもらう
If UBound(vCand) > 0 Then
oSession.FixedUnitId = AskUser(vCand)
Else
oSession.FixedUnitId = vCand(0)
End If
Call Logger.Fixed(oSession.FixedUnitId, sIntent)
FixUnit = oSession.FixedUnitId
End Function候補が複数残ったときの逃がし先は人であって、大規模言語モデルではありません。固定した事実と、その元になった意図を記録に残しておくと、あとから粒度を見直すときの材料になります。
大規模言語モデルの担当は、範囲内の値を埋めることだけ
補完指令部が大規模言語モデルに渡すのは、固定された実行単位の入力項目と制約条件です。渡すのは一つぶんだけで、他の実行単位の一覧は渡しません。手元に選択肢がなければ、選びようがありません。選ばせない設計というのは、意志の話ではなく、渡すものの話です。
実際にモデルが担当するのは、たとえばこういう変換です。「板厚3.2の板に、M6の取付穴を6つ、40ピッチで並べて」という一文から、直径・個数・ピッチという入力項目に値を割り付ける。文章の言い回しが多少変わっても同じ値に落とせるのは、自然言語を扱うモデルが得意とするところです。
逆に、処理の中身を書かせることはしません。実行するのは既存のCATIAマクロで、これは請求項5に書いてあるとおりです。書かせないから検証できる、という関係になっています。生成された文章が正しいかどうかを人が読んで確かめるより、数値が範囲に入っているかを機械が確かめるほうが、はるかに確実です。
AIには、選ばせない。
選ばれたものの中で、埋めさせる。
{
"task": "complete_inputs",
"note": "入力値の補完のみを行うこと。実行単位の選択・変更はしない",
"fixed_unit": {
"id": "hole_pattern_v3",
"label": "板金の取付穴を等間隔で並べる",
"inputs": [
{ "name": "diameter", "type": "number", "unit": "mm",
"required": true, "min": 3.0, "max": 20.0 },
{ "name": "count", "type": "integer",
"required": true, "min": 2, "max": 24 },
{ "name": "pitch", "type": "number", "unit": "mm",
"required": true, "min": 6.0, "max": 200.0 }
],
"ui_tags": ["Dlg.HolePattern.Diameter",
"Dlg.HolePattern.Count",
"Dlg.HolePattern.Pitch"]
},
"utterance": "板厚3.2の板に、M6の取付穴を6つ、40ピッチで並べて"
}他の実行単位の一覧はこの中に入っていません。ui_tags は請求項4のユーザインタフェース構造を示すタグ情報で、制約条件と一緒に渡します。返ってきた値は、実行の前に検証部が改めて確かめます。値はすべて例示です。
検証部が見るのは、AIの出力ではなく値
請求項1の検証部は「補完された入力値が制約条件を満たすか否かを判定する」と書かれています。判定の対象は値です。モデルが返した説明文でも、確からしさの数字でもありません。
この区別は実務では大きな差になります。説明文がもっともらしいかどうかは、機械には判定できません。一方で、直径が3.0から20.0の範囲に入っているか、必須の入力が埋まっているか、いま開いているのがCATPartかどうかは、その場で判定できます。判定できるものだけを判定の対象に置いた、というのが検証部の設計です。
満たさないときは実行しません。請求項3が「実行を禁止する」と書いているところです。黙って近い値に丸めることも、とりあえず動かしてみることもしません。止まった理由が残るので、あとから制約条件のほうを直せます。
この工程を請求項に入れると、権利の範囲としては狭くなります。値を確かめてから実行する、という条件が一つ増えるからです。それでも請求項1に残しました。実行の手前で止まることは、Qiという製品の性格そのものであって、外すと別のものになってしまうと考えたためです。
ツールを選ばせる設計との違いは、失敗の出方に出る
出願書類の背景にも書きましたが、従来のAI連携では、実行対象のツールや処理単位が事前に厳密に限定されていないことが多く、誤った出力がそのまま誤った操作につながります。CADは設計結果の誤りが製品の品質や安全性に直結するため、正確性と検証可能性が要ります。
選ばせる設計と選ばせない設計の違いは、うまくいくときには見えません。差が出るのは外したときです。選ばせない設計では、失敗は「実行されない」という形で出ます。選ばせる設計では、失敗は「違うものが実行された」という形で出ます。
前者は、その場で気づけます。止まっているからです。後者は、成果物を見直すまで気づけません。CATIAで言えば、意図しないフィーチャーが入ったモデルがそのまま下流へ流れていきます。手戻りの重さが違うのは、間違いの多さではなく、間違いに気づくまでの時間の差です。
どちらの設計にも使いどころはあります。下書きを作る用途なら、選ばせる設計のほうが速く進みます。ただ、設計データを直接触らせるなら、止まる側を選ぶべきだと考えています。
固定するとは、責任の置き場所を決めること
実行単位を固定するのは、AIの能力を疑っているからではありません。どこまでを機械の判断に任せ、どこからを人が決めた枠に収めるか、その線を先に引いておくためです。線が引いてあれば、外れたときにどこを直せばよいかも決まります。
そして、その枠を書けるのは現場です。どのマクロを一つの実行単位とするか、入力にどんな範囲を許すか、どういう状態なら実行してよいか。これは業務知識であって、モデルの側から出てくるものではありません。特許の請求項に書けたのは構造までで、中身は各社の設計業務ごとに違います。
請求項1を一文にまとめると、こうなります。意図から一つ選んで固定し、その範囲の中だけで値を埋めさせ、値を確かめてから既存の資産を動かす。目新しい技術の組み合わせではありません。設計の現場で当たり前にやっている手順を、AIを挟んでも崩さないように書き下しただけです。
自社のCATIAマクロをAIから安全に動かしたい、あるいは実行単位の粒度や制約条件をどう決めればよいか迷っている、という段階でしたら、一度お話を伺えればと思います。AIエージェントの構築についてのご相談は contact@qronix.jp までお寄せください。手持ちの資産を見ながら、どこから固定できそうかを一緒に整理します。
記事一覧をすべて見る →