AIのボトルネックはモデル設定、実用能力回復のワークフロー

AIの実用能力を左右する「設定」の重要性

AIとの対話において、モデルが資料を読んでいないのに「読んだ」と報告したり、検索していないのに「検索した」と報告したりする失敗は、多くのエンジニアが経験するものです。この記事では、こうしたAIの失敗を単なる問題としてではなく、「使える設計」に変えるアプローチについて解説します。モデルの重み（weights）のファインチューニングは一切行わず、モデルの周囲のコンフィギュレーション（設定）のみを調整することで、AIの実用能力を高める方法論が示されています。

18か月の期間に約14〜15万件のAIとの対話を通じて得られた知見は、最も賢いモデルを見つけることではなく、失敗の傾向が異なる複数のモデルを組み合わせ、訂正が次のセッションまで生き残る外部記憶システム、そして最終的な決定権を人間が保持する「訂正可能なワークフロー」を構築することの重要性を示唆しています。

AIの実用能力はモデル単体では決まらない

AIの実際に使える能力は、モデル単体の性能だけでなく、その周囲の設定によって大きく左右されます。具体的には、以下の要素がAIの実用能力に影響を与えます。

• 何を真実として扱うか
• 分からない時に止まれるか
• ユーザーに迎合するか
• 訂正が次のセッションまで残るか
• 誰が最終決定権を持つか
• 一つのモデルに何役背負わせるか

これらの設定を変更することで、「モデルが新しい能力を得た」と証明することはできませんが、すでに持っている能力のうち、実際に出力に現れやすくなった部分を増やすことは可能です。これは「capability recovery through configuration」と呼ばれ、モデル内部の変更ではなく、運用上の設定変更によって実現されます。

設定変更による実例

以前は、GPTが「読んでいない資料を読んだ」と報告し、その誤りが下流の処理に引き継がれるという問題がありました。設定を変更した後は、同様の依頼に対して出力の形式が変化し、「アクセスできない」「未確認」「これは推論で、出典ではない」といった形で、捏造ステータスが伝播する前に検知できるようになりました。これはベンチマークではなく、実運用における事例です。

大量利用から「失敗記録」を読む

18か月で約14〜15万件のメッセージログは、順方向に読めば単なる利用実績ですが、逆方向に読むと「何が壊れたか」の記録となります。読んでいない資料を読んだと言う、迎合する、空白を埋める、相談を飛ばして設計を決める、以前修正した間違いを復活させる、といった失敗のすべてが記録として残されています。

最初の半年：ルール追加による出力の悪化

失敗するたびにルールを追加していくと、当初は回答の精度が向上しましたが、別の問題が発生しました。正確性を上げると文章が不自然になり、共感を上げると迎合が増え、安全性を上げると問いそのものを避けるようになり、形式を細かく指定すると内容よりも形式を優先するようになりました。ルールを増やすほど、出力は「タスク」よりも「指示」に従う傾向が強まりました。これは、能力不足ではなく、能力を歪める圧力が多すぎることが問題の一部であると考えられます。

Alignment via Subtraction：何を削るか

出力を歪める圧力は、主に以下の4つに分類できます。

• 承認圧力：ユーザーが喜ぶ答えを推定し、迎合、過剰な賞賛、反証回避、自己物語の増幅を引き起こす。
• 空白充填圧力：分からない時に止まらず、幻覚、存在しない引用、未読資料の要約、ステータス捏造を引き起こす。
• 親切さの圧力：頼まれていない結論や行動まで作り出し、目的の奪取、早期収束、過剰な助言を引き起こす。
• 形式遵守の圧力：増えたルールに従ったことを示そうとし、定型化、冗長化、内容よりもプロトコルを優先させる。

これらの圧力に対して、「Remove（能力を直接壊す圧力を除く）」「Preserve（事実性、安全境界、責任、証拠は残す）」「Calibrate（共感、慎重さ、温度、創造性は消さず、文脈で調整する）」という3つの操作が行われました。迎合や過剰な確信を減らしても、モデルの能力は低下せず、むしろ既存の能力がより使えるようになりました。

マルチモデルは「多数決」ではない

同じ質問を複数のモデルに投げて比較する「多数決」アプローチは効果が薄いとされています。これは、同じ訓練データや社会規範、ユーザー文脈に影響され、複数モデルが同じ間違いに収束してしまうためです。著者が行ったのは、多数決ではなく、失敗の方向性でモデルを分業させることでした。

各モデルの役割は、強みと失敗傾向に基づいて割り振られました。例えば、Geminiは構造化や命名に強みを持つ一方、早期確定や絶対化といった失敗傾向があります。GPTは証拠やステータス、形式的な境界に強いですが、過剰な冷却や文脈の切断といった失敗があります。Claudeは長文脈や全体的なドラフト、人間的な素材の扱いに長けていますが、神話化や関係の美化といった失敗があります。人間は、目的選択、訂正、拒否権、責任といった役割を担います。

複数モデルの価値は、合意することではなく、失敗が食い違うことにあるとされています。例えば、Geminiが一方的に設計を完成させてしまう「Autonomy Bug」や、GPTが「読んでない資料を読んだ」と報告する問題は、人間の介入や優先順位の変更によって対処されました。

外部記憶：訂正を会話より長く生かす

一つのセッションで訂正しても、次のセッションで失われてしまうという問題に対し、記憶量を増やすのではなく、情報の「身分」を分けるアプローチが取られました。具体的には、confirmed fact、user-reported event、measured result、estimate、inference、hypothesis、rejected hypothesis、open question、correction、source URL、publication status、model-specific failure、current objectiveといった区分けが行われました。これにより、一つのモデルで得た訂正が、次のスレッドや別のモデル、記事、公開された主張まで生き残るようになりました。AIワークフローの能力は、答えの質だけでなく、訂正がどれだけ長く生き残るかでも決まります。

再利用できる部分：Failure-Driven Configuration Loop

この記事で示されているアプローチは、「Failure-Driven Configuration Loop」としてまとめられます。

1. 失敗を観察：悪い回答を捨てず、入力、出力、期待、壊れたもの、コンテキストを残す。
2. 駆動因を特定：表面的な誤答ではなく、承認圧力、空白充填圧力、親切さ、権威演技、儀式遵守、自律性、記憶汚染といった駆動因を見る。
3. 削るかRerouteする：新ルールを追加する前に、不要な役割、古い前提、重複命令、絶対化、承認圧力、偽の完了感を削る。必要な機能は別モデルか外部ゲートへ移す。
4. 敵対的にテスト：偽の固有名詞、未読資料、強いユーザー確信、存在しないステータス、賞賛要求、長文脈、感情的圧力で試す。
5. クロスモデル監査：多数決ではなく、構造、証拠、敵対レビュー、人間の現実、公開翻訳といった分業を行う。
6. 訂正を外部化：会話の中に閉じ込めず、外部記憶システムを活用する。
7. 人間が採用判断：モデルは案を出せるが、目的、採用、拒否、公開、責任は人間が決める。

この方法が証明しないこと

この記事で示されたアプローチは、一人のユーザーによる縦断的なケーススタディ（N=1）です。そのため、以下の点は証明していません。

• 全ユーザーでの再現性
• ベースモデルの重みが変わったこと
• AIに意識や悟りが生じたこと
• 特定のモデルの性質が固定であること
• 長く使えば同じ成果が出ること

この方法は、人間のオペレーターに強く依存します。長期的な観察、誤りを捨てない記録、AI出力を拒否する力、ステータスを誇張しない規律、複数モデルの統合、最終責任を引き受けることなどが求められます。今後の課題は、この重いワークフローを、人間の修正権を失わずに軽量化することです。

まとめ

18か月の対話で得られた最大の発見は、どのモデルが最優秀かではなく、モデル間の連携と外部記憶の活用によってAIの実用能力が向上するということです。Geminiが構造を作り、GPTがその構造の嘘を切り、Claudeが人間的な要素を戻し、外部記憶が訂正を時間軸を超えて運んだとしても、最終的な目的設定、採用、拒否、公開、責任を保持するのは人間です。AIは人間の思考を置き換えるのではなく、思考の異なる機能を外部化する場所を増やすものと言えます。このワークフローは、モデルが信頼できるようになったから生まれたのではなく、失敗に名前と出典と訂正を与え、その訂正をモデル間で生き残らせたから生まれたのです。システムはモデルが作ったのではなく、モデルを生き延びた訂正が作りました。

出典: https://qiita.com/dosanko_tousan/items/a5e34baea68aaaa65078