AIが同じミスをくり返すとき、直すべきは周りの仕組み —— 「ハーネスエンジニアリング」入門

AIが同じミスをくり返す

AIとのやりとり（イメージ）

お店のネット予約のページを、AIにコードを書いてもらって少しずつ作っているとします。「予約ボタンを付けて」と頼むと「付けました、完成です」と返ってきますが、押してみても何も起きません（イメージ）。

よくある3つの困りごと

ほかにも、次の日にはまっさらな状態から始まって前日のことを忘れている、何度言っても同じミスをくり返す、といった困りごとがあります。こうした問題に対して、AIを替える前に、AIの「周り」を直してみようというのが「ハーネスエンジニアリング」です。[s1][s7]

AIエージェントのよくある3つの失敗

この3つの失敗は、AIの会社の技術ブログにもそのまま書かれています。1つ目は、きちんと確かめずに「完成」にしてしまうことで、自分のコードを読み返して「よさそう」で止まるのがいちばん多い失敗だそうです。[s2][s5]2つ目は、新しい回が前の記憶なしで始まることです。[s2]3つ目は、ダメなやり方を少しずつ変えては何度もくり返すことで、記録の中には10回以上くり返したものもありました。[s5]

周りだけ直して点数が上がった例

対策として、賢いAIに替えるのも1つの手です。しかし、中身のモデルはそのままで、周りだけを直して大きく伸びた例があります。LangChainは、AIにパソコンで開発の作業をさせる89問のテスト（Terminal Bench 2.0）で、モデルを変えずに周りだけを直したところ、点数が52.8から66.5に上がったと発表しました。89問なら12問ほど多く解けた計算で、順位は30位の圏外から5位以内に入りました。ただし、会社の発表で、自社調べの数字です。[s5]

ハーネスとは何か —— AIの「体と作業場」

いろいろな「ハーネス」

ハーネスは、もともと馬に付ける馬具のことです。手綱や荷車につなぐベルトで、馬の力を荷物を運ぶ仕事に向けます。犬の胴輪や高い所で使う安全帯もハーネスと呼ばれ、いずれも力を役に立つ向きに使い、危ないほうには行かせない道具です。

AIエージェント＝モデル＋ハーネス

AIでいえば、馬にあたるのが、ChatGPTやClaudeの中で考える頭脳であるモデルです。ハーネスは、その周りにあるすべての仕組みを指します。Databricksの解説では、モデルが脳、ハーネスは体と作業場にたとえられています。[s6]具体的には、毎回読むルールの紙、ファイルやコマンドを扱う道具、本番とは別の作業場、前回の引き継ぎメモ、仕事を確かめる仕組み、危ない操作を止めるガードレール、そして何をしたかの記録です。[s6]

注目が外側へ広がってきた

言葉の移り変わりで整理すると、はじめは頼み方の言葉（プロンプト）が注目され、次にAIに何を見せるか（コンテキスト）、そしていまは周りの仕組み全体（ハーネス）へと関心が広がってきました。頼み方も見せ方も、ハーネスの一部です。[s6]フックやMCPといった仕組みも、ハーネスの部品の1つと言えます。

ミスは叱らずに仕組みにする

この名前が広まったのは2026年2月ごろで、開発者のMitchell Hashimoto氏がブログでこう呼んだことがきっかけの1つです。考え方はシンプルで、AIがミスをしたら、二度と同じミスをしないように仕組みを作る、というものです。[s1][s7]

数日後に出たOpenAIのブログにも、同じ考え方が書かれています。うまくいかないとき、解決策が「もっと頑張れ」になることはほとんどなく、代わりに「何が足りないのか」を考えて、ルールや道具、確かめ方を足していったそうです。[s1]ここからは、お店の予約ページの例で、3つの直し方を見ていきます。

直し方① ルールの紙は短い目次にする

AIから見えない知識

まずは、送料を何度も間違える問題です。AIは、前の会話で言われたことを次の回には覚えていません。[s2]OpenAIは、人の頭の中やチャットの履歴、作業の場所にない資料など、AIから見えない知識はないのと同じだと指摘しています。[s1]

AIが毎回読むルールの紙（イメージ）

# 和菓子ECショップ 予約ページ
## 守ること
- 送料は全国一律 500円（税込）
- 値段は税込で表示する
- 予約のしめきりは前日の15時
## くわしい資料
- 商品と値段：docs/products.md
- 動かし方と確かめ方：docs/dev.md

そこで、AIが毎回最初に読むルールの紙を置きます。CodexではAGENTS.md、Claude CodeではCLAUDE.mdと呼ばれるファイルです。[s10][s11]何度も間違えた送料のような決まりは、1行ではっきり書いておきます。コツは、1行1行を、AIが実際にやったミスから作ることです。Hashimoto氏も、ミスのたびに1行足していったら、ほとんどの問題が直ったと書いています。[s7]

大きなルールの紙が失敗した理由

ただし、何でも書き込んだ分厚いルールの紙は失敗するとOpenAIのチームは書いています。長いと大事な指示が埋もれ、すべてが大事だと何も大事ではなくなり、すぐに古くなって「古いルールの墓場」になるからです。[s1]おすすめは約100行の短い目次にして、くわしい話は別の資料に分けることです。[s1]Claude Codeの説明書も、200行より短くするよう勧めています。[s10]

機械のチェックに格上げする

$ pnpm check
エラー：送料が 500円 ではありません 場所：src/shipping.ts 12行目 直し方：送料は SHIPPING_FEE を使う

それでも守られないルールは、機械のチェックに格上げします。エラーの文に直し方まで書いておけば、AIがそれを読んで自分で直せます。[s1]

直し方② 次の日に忘れる問題には引き継ぎメモ

次は、次の日には忘れている問題です。Anthropicは、これを交代制の職場にたとえています。毎回、前のシフトの記憶がない人がやって来るなら、引き継ぎが大事になります。[s2]

AIの引き継ぎメモ（イメージ）

同じことをAIにもさせます。作業を終える前に、できたこと・途中のこと・次にやることを引き継ぎメモに書いてもらうのです。次の回のAIは、まずこのメモと作業の記録を読んでから始め、新しいことに入る前に、いまある機能が動くかを確かめます。[s2]

[ { "機能": "予約ボタンで、予約が届く", "確かめ方": "画面で押して、予約一覧を見る", "済": false }, { "機能": "送料が500円と表示される", "確かめ方": "注文画面で金額を見る", "済": true }
]

Anthropicの実験では、作るものを200以上の機能の一覧にし、最初はすべて「まだ」としておいて、確かめたものだけを「済」にしていきました。一覧をMarkdownではなくJSONにしたのは、モデルが勝手に書き換えにくかったからだそうです。[s2]

直し方③ 確かめる道具と採点係

最後が、いちばん大事な「完成と言うのに動かない」問題です。読み返すだけで終わらないように、画面を開いて人と同じようにボタンを押してみる道具をAIに渡します。Anthropicの実験でも、この道具によって、コードだけでは分からないバグを見つけて直せるようになりました。[s2]

終わる前に待ったをかける

作業を終える前に「最初の指示と見比べたか」と止める見張り役もよく使われます。LangChainも、こうした仕組みで成績を伸ばしました。[s5]

作る係と採点係を分ける

要点

係を分ける（Anthropic の実験）

作る係

機能を1つずつ作る

採点係

画面で押して、厳しく採点

AIは、自分の作品を自信満々にほめがちです。[s3]そこで、作る係とは別に、厳しい採点係を置きます。Anthropicによると、作る係に自分の作品に厳しくさせるより、採点係を厳しくするほうがずっと簡単だったそうです。[s3]

周りを直したAI（イメージ）

3つを直したうえで、もう一度ボタンを直すよう頼むと、AIはルールの紙と引き継ぎメモを読み、画面でボタンを押して確かめてから「直しました」と答えます（イメージ）。それでも新しいミスは出るので、そのときはまたルールを1行か、道具を足していきます。

危ない操作は囲ってから任せる

操作ごとに通すか止めるかを決める（イメージ）

AIが予約のデータをすべて消してしまったら困ります。そこで使うのがガードレールで、操作ごとに通すか止めるかを決めておきます。読むことや作業場の中で書くことはそのまま進め、消す・送る・払うといった操作の前は、人に聞くか止めるようにします。[s6]

確認を増やせば安全とは限らない

ただし、確認を増やせば安全になるとは限りません。Anthropicの利用データでは、許可の確認の約93%がそのまま承認されていました。見る回数が多いほど、1回ごとの注意は薄れていきます。これを「承認の疲れ」と呼びます。[s4]

そこで、そもそもAIの手が届く範囲を囲います。本番とは別の練習用の作業場を用意し、書けるのは作業場の中だけ、ネットにも基本的につながないようにします。Anthropicは、このようなOSの機能を使った囲いにしたことで、確認の数が84%減ったと発表しています。[s4]人の確認は、本当に大事なところだけに絞れるようになります。

2026年の動き

ハーネスをめぐる主な動き

ハーネスをめぐる動きも見ておきましょう。引き継ぎで長く働く仕組み、名前の広まり、LangChainの結果は、ここまでに紹介したとおりです。[s2][s5][s7]

OpenAIの実験

2月には、OpenAIが、人が手で書いたコードは0行という実験を発表しました。3人のエンジニアで5か月、約100万行のコードをすべてAIのCodexが書き、手で書く場合の約10分の1の時間で済んだとしています。ただし、これは会社の推定で、同じ準備なしに一般化はできないと本人たちも書いています。[s1]

同じ記事によると、以前は毎週金曜日（週の2割）をAIが書いた雑なコードの後片付けにあてていましたが、いまは守るべき原則をリポジトリに書き、ずれを探して直すAIを定期的に動かしているそうです。[s1]8月にはDeepSeekが、モデル・道具・作業場・画面まですべてを差し替えられる部品にしたハーネスをオープンソースで公開しました。[s8]

NVIDIAの安全の基盤

9月にはNVIDIAが、AIエージェントを外から囲って見張る仕組みを発表しました。行動を記録してルールを守らせるOpenShellと、決まりの外に出ようとしたらミリ秒で隔離する見張り役のSentryからなり、AnthropicやMicrosoftなど100以上の組織が参加しているそうです。[s9]

ハーネスの注意点と、ほかのやり方との関係

お金と時間がかかる

注意点は3つあります。1つ目はお金と時間です。Anthropicの実験では、同じ注文でアプリを作らせたとき、AIが1人だけなら20分で9ドルでしたが、計画係・作る係・採点係の3つの係を使うハーネスでは6時間で200ドルかかりました。出来ははるかに良くなったものの、費用は20倍以上です。[s3]大事な仕事に絞って使うのがよいでしょう。

2つ目は作り込みすぎです。モデルが賢くなると、要らなくなる部品も出てきます。[s3][s5]Anthropicも、新しいモデルでは以前必要だった仕組みを外せたそうです。[s3]ときどき見直して、要らない部品は外しましょう。

3つ目は、囲いや承認があっても安全は100%ではないことです。DeepSeekも、自社のハーネスの注意書きにそう書いています。権限は最小限にし、使い捨ての作業場で動かして、大事なファイルはバックアップしておきましょう。[s8]

3つのやり方を比べると

頼み方を変えるのは1回の相談に、モデルを替えるのは難しい考えが必要な仕事に、ハーネスを整えるのはくり返す仕事に効きます。[s6]それぞれ弱いところがあるので、どれか1つではなく、組み合わせて使うものだと考えましょう。

今日からできる4つのこと

今日からできる小さなハーネス

今日からできることは4つです。同じミスをしたらルールの紙に1行足す。作業を頼むときは確かめ方も一緒に頼む。終わる前に引き継ぎメモを書いてもらう。そして練習用の場所で任せ、消す・送る・払うは承認制にする。[s2][s4][s5][s6][s7]

チャットのAIしか使っていない人も、いつも読ませる指示の欄（カスタム指示やプロジェクトの指示）に、くり返すミスを1行ずつ書くだけで、小さなハーネスになります。

まとめ

ハーネスとは、AIのモデルの周りにある仕組みすべてのことです。モデルが脳なら、ハーネスは体と作業場にあたります。[s6]AIがミスをくり返すときは、叱ったりモデルを替えたりする前に、仕組みにして直せないかを考えましょう。[s1][s7]

まずは、確かめる道具を渡すこと、引き継ぎメモを書かせること、囲った作業場で任せることの3つから始めるのがおすすめです。モデルが良くなれば要らない部品も出てくるので、ときどき見直すことも忘れないようにしましょう。