AI・エージェント

ツールを選ばせるAIと、選ばせないAI——エージェント設計の分かれ道

2026.08.19 / 読了目安 8分 / 執筆: Qronix 開発チーム

#AIエージェント#AI実行制御#目的と手段#開発の作法

AIエージェントを作るとき、最初に決まるのに最後まで議論されない分岐があります。AIに道具を選ばせるのか、選ばせないのか。選ばせる形は柔軟で、デモがよく映えます。選ばせない形は地味ですが、同じ結果が返ります。どちらが優れているという話ではなく、扱う対象によって答えが変わります。この記事では、その分かれ道を判断の軸ごとに整理します。

戦略を考えるPhoto: Unsplash
CONTENTS
1. 同じ「AIエージェント」でも、中身は二通りある 2. 選ばせる形が向いている場面 3. 選ばせない形が向いている場面 4. 判断の軸は、賢さではなく「やり直しの安さ」 5. 実際には、二つを組み合わせる 6. どちらを作るべきか、先に決める

同じ「AIエージェント」でも、中身は二通りある

AIに道具を持たせる設計には、大きく二つの形があります。一つは、AIが状況を見て、使う道具と順番を自分で決める形。もう一つは、人があらかじめ決めた順番があり、AIは入力の解釈と結果の説明だけを担う形です。

前者は、想定していなかった頼まれ方にも対応できます。後者は、同じ頼み方をすれば必ず同じ結果が返ります。この違いが、そのまま向き不向きになります。

混乱しやすいのは、どちらも「AIエージェント」と呼ばれることです。デモを見ただけでは区別がつきません。導入の相談を受けるとき、私たちがまず確かめるのはこの一点です。

自社が欲しいのはどちらか。ここを決めずに作り始めると、だいたい途中で作り直しになります。

選ばせる形が向いている場面

選ばせる形が効くのは、頼まれ方が定まらない仕事です。調べ物、下書き、要約、候補の洗い出し。間違っていても人がその場で気づけて、やり直しが安いものが向いています。

この形では、AIが道具を選び、結果を見て次の道具を選びます。途中の判断が毎回変わるので、同じ質問をしても同じ手順を通るとは限りません。結果が近ければよい、という仕事なら問題になりません。

うまく効かせるには、道具の数を絞ることも要ります。10個までなら選べますが、100個並べると選択の精度が落ちます。用途の近いものは1つにまとめ、説明文を短く区別しやすく書く。ここは地道な作業です。

デモで映えるのはこちらの形ですが、映える理由は「毎回違うことをする」からでもあります。

選ばせない形が向いている場面

設計データを直接書き換える仕事は、こちらです。CATIAのモデルに手を入れる、図面を出す、部品表を更新する。やり直しが安くない仕事、下流へ流れる仕事が該当します。

この形では、人が手順を決めます。AIの仕事は、人の言葉から入力項目を埋めることと、実行後に何が起きたかを説明することです。どの道具をどの順で呼ぶかは、AIの判断に委ねません。

地味に見えますが、現場に置けるのはこちらです。同じ頼み方をすれば同じ結果が返る、というのは、道具として最低限の条件です。ここが揺れると、使う人は毎回結果を確かめることになり、手作業が減りません。

当社が特許第7907964号で押さえているのも、この側の設計です。検証済みの実行単位を並べ、条件に合うものだけを動かし、合わなければ止める。

境目より手前では自由に、
境目より先では厳密に。

やり直しの費用が、どれだけ違うかCADモデルの修正が下流で発覚100の手間関係者全員の予定が動く文章の下書きの書き直し3の手間その場で読み返せば気づく
図1: 文章は書き直せば済みますが、設計データは下流へ流れたあとで発覚します。※比率はイメージです。
気づけるかどうかが、もう一つの軸30%3次元モデルの誤りのうち、目視で気づける割合(設計上の想定)残りは、実行の手前の判定と、変更前後の突き合わせで受けます。
図2: 見た目が正しくても寸法が違う、という間違いは目視では拾えません。気づけないものほど選ばせない側に寄せます。

判断の軸は、賢さではなく「やり直しの安さ」

どちらを取るかを決めるとき、AIの性能から入ると答えが出ません。性能は上がり続けるので、いつまでも「もう少し待てば」となります。

見るべきは、間違えたときのやり直しがいくらかかるかです。文章の下書きなら、書き直せば済みます。CADのモデルなら、間違いが下流に流れたあとで発覚すると、関係者全員の予定が動きます。

もう一つの軸が、間違いにその場で気づけるかどうかです。文章は読めば分かります。3次元のモデルは、見た目が正しくても寸法が違うことがあります。気づけないものほど、選ばせない側に寄せます。

この二つで整理すると、社内の仕事はきれいに分かれます。分かれたあとは、それぞれに合った形で作ればよく、無理に一つの方式で通す必要はありません。

入口は自由に、実行は厳密に話しかける自由な言い方でよい候補を出すここまではAIが選ぶ人が1つ選ぶ境目はここ決められた手順で実行同じ頼み方なら同じ結果
図3: 境目を1か所に決めておくと、どちらの長所も残ります。曖昧にすると、どちらも出ません。
PYTHON参考実装例①:候補を出すところと、実行するところを分ける
# 境目を 1 か所に決める。
#   suggest() までは AI が選んでよい。execute() から先は人が選んだ 1 つだけ。
#   この 2 つを同じ関数にしないこと。混ざると、どちらの長所も出ない。
import json
from dataclasses import dataclass
from pathlib import Path

DECL_DIR = Path("declarations")


@dataclass
class Candidate:
    tool_id: str
    title: str
    why: str


def suggest(utterance: str, top_k: int = 3) -> list[Candidate]:
    """人の言葉から、関係しそうな道具の候補を出す。ここは外さなくてよい。

    候補を出すだけで、実行はしない。外しても人が選ばなければ何も起きない。
    """
    tools = [json.loads(p.read_text(encoding="utf-8")) for p in DECL_DIR.glob("*.json")]

    # 実際にはここで AI に問い合わせる。宣言の title と説明だけを渡す。
    # 道具が多すぎると精度が落ちるので、用途の近いものは 1 つにまとめておく。
    scored = rank_by_ai(utterance, [{"id": t["id"], "title": t["title"]} for t in tools])

    return [Candidate(s["id"], s["title"], s["why"]) for s in scored[:top_k]]


def execute(tool_id: str, params: dict, state: dict) -> dict:
    """人が選んだ 1 つを、決められた手順で実行する。AI は順番を決めない。"""
    decl = json.loads((DECL_DIR / f"{tool_id}.json").read_text(encoding="utf-8"))

    for rule in decl["制約条件"]:
        if evaluate(rule["deny"], state):
            # 条件に合わなければ、代わりの道具を探さずに止める
            return {"executed": False, "reason": rule["reason"]}

    return invoke(decl["impl"], params)


def rank_by_ai(utterance: str, tools: list[dict]) -> list[dict]:
    raise NotImplementedError


def evaluate(expr: str, state: dict) -> bool:
    raise NotImplementedError


def invoke(impl: str, params: dict) -> dict:
    raise NotImplementedError

実際には、二つを組み合わせる

現場で動いている形は、たいてい組み合わせです。入口では選ばせる形を使い、実行の段では選ばせない形に切り替えます。

たとえば、人が「図面の寸法を毎回手で直していて面倒だ」と話しかけたとき。この言葉から意図を読み取り、関係しそうな道具の候補を出すところまでは、選ばせる形が得意です。候補が出たあと、実際にCATIAを動かす段では、人が選んだ1つを、決められた手順で実行します。

この境目をどこに置くかが、設計の腕の見せどころです。境目より手前では自由に、境目より先では厳密に。境目そのものが曖昧なまま作ると、どちらの長所も出ません。

以下は、その境目を実装として表したものです。候補を出すところまでと、実行するところを、はっきり分けています。

PYTHON参考実装例②:どちら側の仕事かを、2つの軸で仕分ける
# 「設計業務全般を AI で」では決まらない。作業 1 つまで絞ると決まる。
#   軸は 2 つだけ。やり直しの安さと、その場で気づけるかどうか。
from dataclasses import dataclass


@dataclass
class Task:
    name: str
    redo_cost: int   # やり直しの費用感(1=安い / 5=高い)
    noticeable: int  # その場で気づけるか(1=気づけない / 5=すぐ分かる)

    def design(self) -> str:
        if self.redo_cost >= 4 or self.noticeable <= 2:
            return "選ばせない(人が手順を決め、AI は入力と説明だけ)"
        if self.redo_cost <= 2 and self.noticeable >= 4:
            return "選ばせる(AI が道具と順番を決めてよい)"
        return "入口は選ばせる/実行は選ばせない(組み合わせ)"


TASKS = [
    Task("CATIA のモデルに寸法変更を入れる", redo_cost=5, noticeable=1),
    Task("図面を出図用に一括出力する", redo_cost=4, noticeable=2),
    Task("部品表と構成の差分を一覧にする", redo_cost=2, noticeable=4),
    Task("過去の類似案件を探す", redo_cost=1, noticeable=5),
    Task("打ち合わせメモを要約する", redo_cost=1, noticeable=5),
]

for t in TASKS:
    print(f"{t.name:<34} {t.design()}")

# 選ばせない側だと決まったら、先にやるのは AI の選定ではない。
# 既存の CATIA マクロに、入力項目・制約条件・出力情報を書き足すほうが先。

どちらを作るべきか、先に決める

これから社内にAIエージェントを入れる、という段階なら、対象の仕事を1つ選んで、やり直しの安さと気づきやすさで置いてみてください。多くの場合、答えはその時点で出ます。

迷うのは、対象が広すぎるときです。「設計業務全般をAIで」という範囲では決まりません。「この部署の、この作業」まで絞ると決まります。絞ることを、目標が小さくなったと捉える必要はありません。

そして、選ばせない側だと決まったなら、先にやることはAIの選定ではありません。既存のCATIAマクロに、入力項目・制約条件・出力情報を書き足していく作業です。ここが揃っていないと、どのAIを繋いでも同じ結果にはなりません。

対象の仕事がどちら側かの判定から、ご相談いただけます。現場の手順を伺ったうえで、どの順で手を付けるべきかを整理した自働化設計書を無料でお出ししています。

選ばせるか、選ばせないか対象の仕事を1つに絞る間違えたときのやり直しは安い?間違いにその場で気づける?選ばせる形でよい調べ物・下書き・要約選ばせない形で作る既存マクロに入力項目・制約・出力を足す話しかけから意図を読み道具の候補を出す人が候補から1つ選ぶ条件に合う?止める決められた手順でCATIAを動かすAIが実行結果を説明安い安くない気づける気づけない合わない合う
図4: やり直しの安さと気づきやすさで形を決め、入口は候補を出し、実行は決めた手順で動かす。
Qronix 開発チーム

CATIA歴22年超・愛知県の大手自動車メーカー及びグループ各社でCATIAツール開発の技術責任者を務めたメンバーを中心とする、CAD自働化のスペシャリスト集団。2024年創業、特許第7907964号を保有。

「うちの資産でもできる?」
まずその質問からどうぞ。

できる・できないの判定と自働化設計書のご提案までは無料です。

contact@qronix.jp へ相談する
記事一覧をすべて見る →
← 記事一覧へトップページへ →