ツールを選ばせるAIと、選ばせないAI——エージェント設計の分かれ道
AIエージェントを作るとき、最初に決まるのに最後まで議論されない分岐があります。AIに道具を選ばせるのか、選ばせないのか。選ばせる形は柔軟で、デモがよく映えます。選ばせない形は地味ですが、同じ結果が返ります。どちらが優れているという話ではなく、扱う対象によって答えが変わります。この記事では、その分かれ道を判断の軸ごとに整理します。
Photo: Unsplash同じ「AIエージェント」でも、中身は二通りある
AIに道具を持たせる設計には、大きく二つの形があります。一つは、AIが状況を見て、使う道具と順番を自分で決める形。もう一つは、人があらかじめ決めた順番があり、AIは入力の解釈と結果の説明だけを担う形です。
前者は、想定していなかった頼まれ方にも対応できます。後者は、同じ頼み方をすれば必ず同じ結果が返ります。この違いが、そのまま向き不向きになります。
混乱しやすいのは、どちらも「AIエージェント」と呼ばれることです。デモを見ただけでは区別がつきません。導入の相談を受けるとき、私たちがまず確かめるのはこの一点です。
自社が欲しいのはどちらか。ここを決めずに作り始めると、だいたい途中で作り直しになります。
選ばせる形が向いている場面
選ばせる形が効くのは、頼まれ方が定まらない仕事です。調べ物、下書き、要約、候補の洗い出し。間違っていても人がその場で気づけて、やり直しが安いものが向いています。
この形では、AIが道具を選び、結果を見て次の道具を選びます。途中の判断が毎回変わるので、同じ質問をしても同じ手順を通るとは限りません。結果が近ければよい、という仕事なら問題になりません。
うまく効かせるには、道具の数を絞ることも要ります。10個までなら選べますが、100個並べると選択の精度が落ちます。用途の近いものは1つにまとめ、説明文を短く区別しやすく書く。ここは地道な作業です。
デモで映えるのはこちらの形ですが、映える理由は「毎回違うことをする」からでもあります。
選ばせない形が向いている場面
設計データを直接書き換える仕事は、こちらです。CATIAのモデルに手を入れる、図面を出す、部品表を更新する。やり直しが安くない仕事、下流へ流れる仕事が該当します。
この形では、人が手順を決めます。AIの仕事は、人の言葉から入力項目を埋めることと、実行後に何が起きたかを説明することです。どの道具をどの順で呼ぶかは、AIの判断に委ねません。
地味に見えますが、現場に置けるのはこちらです。同じ頼み方をすれば同じ結果が返る、というのは、道具として最低限の条件です。ここが揺れると、使う人は毎回結果を確かめることになり、手作業が減りません。
当社が特許第7907964号で押さえているのも、この側の設計です。検証済みの実行単位を並べ、条件に合うものだけを動かし、合わなければ止める。
境目より手前では自由に、
境目より先では厳密に。
判断の軸は、賢さではなく「やり直しの安さ」
どちらを取るかを決めるとき、AIの性能から入ると答えが出ません。性能は上がり続けるので、いつまでも「もう少し待てば」となります。
見るべきは、間違えたときのやり直しがいくらかかるかです。文章の下書きなら、書き直せば済みます。CADのモデルなら、間違いが下流に流れたあとで発覚すると、関係者全員の予定が動きます。
もう一つの軸が、間違いにその場で気づけるかどうかです。文章は読めば分かります。3次元のモデルは、見た目が正しくても寸法が違うことがあります。気づけないものほど、選ばせない側に寄せます。
この二つで整理すると、社内の仕事はきれいに分かれます。分かれたあとは、それぞれに合った形で作ればよく、無理に一つの方式で通す必要はありません。
# 境目を 1 か所に決める。
# suggest() までは AI が選んでよい。execute() から先は人が選んだ 1 つだけ。
# この 2 つを同じ関数にしないこと。混ざると、どちらの長所も出ない。
import json
from dataclasses import dataclass
from pathlib import Path
DECL_DIR = Path("declarations")
@dataclass
class Candidate:
tool_id: str
title: str
why: str
def suggest(utterance: str, top_k: int = 3) -> list[Candidate]:
"""人の言葉から、関係しそうな道具の候補を出す。ここは外さなくてよい。
候補を出すだけで、実行はしない。外しても人が選ばなければ何も起きない。
"""
tools = [json.loads(p.read_text(encoding="utf-8")) for p in DECL_DIR.glob("*.json")]
# 実際にはここで AI に問い合わせる。宣言の title と説明だけを渡す。
# 道具が多すぎると精度が落ちるので、用途の近いものは 1 つにまとめておく。
scored = rank_by_ai(utterance, [{"id": t["id"], "title": t["title"]} for t in tools])
return [Candidate(s["id"], s["title"], s["why"]) for s in scored[:top_k]]
def execute(tool_id: str, params: dict, state: dict) -> dict:
"""人が選んだ 1 つを、決められた手順で実行する。AI は順番を決めない。"""
decl = json.loads((DECL_DIR / f"{tool_id}.json").read_text(encoding="utf-8"))
for rule in decl["制約条件"]:
if evaluate(rule["deny"], state):
# 条件に合わなければ、代わりの道具を探さずに止める
return {"executed": False, "reason": rule["reason"]}
return invoke(decl["impl"], params)
def rank_by_ai(utterance: str, tools: list[dict]) -> list[dict]:
raise NotImplementedError
def evaluate(expr: str, state: dict) -> bool:
raise NotImplementedError
def invoke(impl: str, params: dict) -> dict:
raise NotImplementedError実際には、二つを組み合わせる
現場で動いている形は、たいてい組み合わせです。入口では選ばせる形を使い、実行の段では選ばせない形に切り替えます。
たとえば、人が「図面の寸法を毎回手で直していて面倒だ」と話しかけたとき。この言葉から意図を読み取り、関係しそうな道具の候補を出すところまでは、選ばせる形が得意です。候補が出たあと、実際にCATIAを動かす段では、人が選んだ1つを、決められた手順で実行します。
この境目をどこに置くかが、設計の腕の見せどころです。境目より手前では自由に、境目より先では厳密に。境目そのものが曖昧なまま作ると、どちらの長所も出ません。
以下は、その境目を実装として表したものです。候補を出すところまでと、実行するところを、はっきり分けています。
# 「設計業務全般を AI で」では決まらない。作業 1 つまで絞ると決まる。
# 軸は 2 つだけ。やり直しの安さと、その場で気づけるかどうか。
from dataclasses import dataclass
@dataclass
class Task:
name: str
redo_cost: int # やり直しの費用感(1=安い / 5=高い)
noticeable: int # その場で気づけるか(1=気づけない / 5=すぐ分かる)
def design(self) -> str:
if self.redo_cost >= 4 or self.noticeable <= 2:
return "選ばせない(人が手順を決め、AI は入力と説明だけ)"
if self.redo_cost <= 2 and self.noticeable >= 4:
return "選ばせる(AI が道具と順番を決めてよい)"
return "入口は選ばせる/実行は選ばせない(組み合わせ)"
TASKS = [
Task("CATIA のモデルに寸法変更を入れる", redo_cost=5, noticeable=1),
Task("図面を出図用に一括出力する", redo_cost=4, noticeable=2),
Task("部品表と構成の差分を一覧にする", redo_cost=2, noticeable=4),
Task("過去の類似案件を探す", redo_cost=1, noticeable=5),
Task("打ち合わせメモを要約する", redo_cost=1, noticeable=5),
]
for t in TASKS:
print(f"{t.name:<34} {t.design()}")
# 選ばせない側だと決まったら、先にやるのは AI の選定ではない。
# 既存の CATIA マクロに、入力項目・制約条件・出力情報を書き足すほうが先。どちらを作るべきか、先に決める
これから社内にAIエージェントを入れる、という段階なら、対象の仕事を1つ選んで、やり直しの安さと気づきやすさで置いてみてください。多くの場合、答えはその時点で出ます。
迷うのは、対象が広すぎるときです。「設計業務全般をAIで」という範囲では決まりません。「この部署の、この作業」まで絞ると決まります。絞ることを、目標が小さくなったと捉える必要はありません。
そして、選ばせない側だと決まったなら、先にやることはAIの選定ではありません。既存のCATIAマクロに、入力項目・制約条件・出力情報を書き足していく作業です。ここが揃っていないと、どのAIを繋いでも同じ結果にはなりません。
対象の仕事がどちら側かの判定から、ご相談いただけます。現場の手順を伺ったうえで、どの順で手を付けるべきかを整理した自働化設計書を無料でお出ししています。