AI駆動開発の限界——AIは正解を知っていても、選べない

2026.10.26

AIが書いたコードが動き、テストも通り、レビューでも違和感がありません。それなのに後になって、「うちの仕様とは違う」と分かることがあります。思い当たる方も多いのではないでしょうか。AIが得意なことと苦手なことの分かれ目は、「新規開発か既存システムか」でも、「AIが知っているかどうか」でもありません。「AIが、その現場にとっての正解を選べるか」だと私は考えています。


動いて、テストも通る。それでも正しくない

簡単な例で考えてみます。受発注システムに、請求書を発行する機能を追加する場面です。Claude Codeに依頼すると、明細・小計・消費税・合計が並んだ請求書の出力処理が、テストコードと一緒にすぐ返ってきます。

ところが、消費税の計算に落とし穴があります。AIが書いたのは、明細1行ごとに税額を計算して端数を丸め、それを合計する方式でした。世の中のサンプルコードでよく見かける書き方です。一方、インボイス制度では、1枚の請求書につき税率ごとに1回だけ端数処理を行う決まりで、明細ごとに丸めて合計する方法は認められていません。さらに、切り捨てか四捨五入かは、会社ごとに選んで決めています。

しかも、このシステムには、正しい手順で税額を計算する共通関数がすでにありました。AIはそれを使わず、新しく計算を書いたのです。

明細が数行のテストデータでは差は出ません。明細が数十行になると、合計が1円ずれることがあります。そのずれは、月末に経理が取引先からの入金と突き合わせたときに、初めて見つかります。

ここで大事なのは、AIが正しいやり方を知らなかったわけではない、という点です。インボイス制度のルールも、税率ごとにまとめて丸める書き方も、AIは知っています。足りなかったのは、「このシステムでは、どのやり方が正解か」を選ぶための情報でした。どの丸め方を採り、どの関数を通すべきかは、コードを読んでもプロンプトを読んでも分からず、それを伝えるべきだと気づいた人もいませんでした。


分かれ目は「AIが正解を選べるか」

AIがコードを書くとき、頭の中には大量のコードから学んだ「書き方の候補」があります。手がかりがなければ、AIはその中から、いちばんよく見かける書き方を選びます。ログインや一覧画面のように、よくある書き方がそのまま正解になる処理なら、速く上手に作れます。

問題は、その現場にとっての正解が「よくある書き方」と違うときです。私は、AIが正解を選べない場面を、次の3つに分けて考えています。

①自社だけの業務ルール:候補は複数あり、どれを採るかは会社が決めています。端数処理の方法、金額に応じた承認ルート、業界特有の計算方法などです。決めた内容を知らされなければ、AIは選びようがありません

②プロジェクト固有の文脈:選ぶための情報が、コードの外にあります。たとえば基幹系では、夜間バッチが「業務日付」を切り替えるまで、深夜0時を過ぎても前日として扱うことがあります。AIはシステムの現在日時で処理日を決め、月末の締めの夜に初めて問題が出ます。在庫の引当や伝票の採番で、社内共通の排他の仕組みを通らずに書き、同時アクセスのときだけ二重引当が起きる、というのも同じ種類の問題です

③新しい仕様:正解が、そもそも候補に入っていません。チームがフレームワークの新しいメジャーバージョンを採用しても、AIは学習時点でよく使われていた旧版の書き方で書くことがあります。動きはしますが、非推奨のAPIや、チームで禁止した書き方が静かに混ざります

どれも、動くしテストも通ります。問題が出るのは月末、同時アクセス、本番データといった、試作の段階では見えない場面です。そしてこの軸で見ると、「AIは新規開発が得意で、既存システムが苦手」という単純な話ではないことも分かります。


公開されている調査が示していること

この見立ては、私の実感だけではありません。公開されている調査にも、同じ傾向を示す結果があります。

・適切さより「よく使われるもの」を選ぶ:2025年の研究では、LLMが必要のない場面でも有名なライブラリを使う傾向があり、高い性能が求められる場面でも58%のケースでPythonを選んでいました
・非公開の商用コードでは解決率が下がる:Scale AIの「SWE-bench Pro」(2025年9月公開)では、公開コードに比べて、企業の非公開コードの課題で主要モデルの解決率が下がりました。たとえばGPT-5は、約23%から約15%に下がっています
・周囲の文脈に依存するコードほど難しい:CoderEval(ICSE 2024)は、人気のオープンソースでは関数の7割超が周囲のクラスやファイルに依存していることを示しました。そうした関数の生成は、単体で完結する関数より大きく成績が落ちます
・学習時点より後の問題で成績が落ちるモデルがある:LiveCodeBench(ICLR 2025)では、学習時点より後に公開された問題で、正答率が下がるモデルが確認されています

ただし、いずれも特定の時点の結果です。モデルは急速に改善しており、数字そのものは今後も変わっていきます。変わりにくいのは、「選ぶための手がかりがなければ、AIはよくある方を選ぶ」という構造のほうだと私は考えています。


AIに任せる範囲が広がるほど、人間が決める部分がはっきりする

では、どうすればよいのでしょうか。NTTデータは2026年8月の記事で、AIを開発に組み込むには「設計意図や制約、過去の指摘・修正パターン、判断理由・確認結果を継続的に蓄積することが重要」だとしています。

先ほどの請求書に当てはめると、AIに渡すべきだったのは「消費税を計算して」という指示だけではありません。「端数処理は請求書単位・税率ごと・切り捨て」「税額の計算は必ずこの共通関数を通す」という、AIだけでは選べない判断です。

裏返せば、AIに任せる範囲を広げるほど、人間が先に決めて伝えるべき部分がはっきりしてきます。それは、よくある書き方とは違う、その会社、そのシステムだけの判断です。

これは新規開発に限った話ではありません。10年以上動いてきた既存システムには、こうした独自の判断が大量に、しかも書かれないまま埋まっています。既存システムをAIで作り直すときにも、同じ壁に突き当たります。この点は、今後の記事で改めて掘り下げます。


まとめ

AIは、よくある書き方がそのまま正解になる処理なら、速く上手に書けます。苦手なのは、正解の候補が複数あり、その現場にとっての正解を選ぶ手がかりがない場面です。①自社だけの業務ルール ②プロジェクト固有の文脈 ③新しい仕様では、AIはよくある方を選び、動いてテストも通るのに「うちでは正しくない」コードが生まれます。AIに任せる範囲を広げるほど、人間が先に決めて伝えるべき判断がはっきりします。

前回、AIに作らせる前に人間が決めておく「仕様駆動開発」の流れを紹介しました。今回見てきた「AIだけでは選べない判断」こそが、その決めておくべき中身です。では、決めた判断をどこに、どんな形で残せば、AIは毎回それを守ってくれるのでしょうか。次回は、仕様駆動開発がなぜ「設計」の段階を必要とするのかを掘り下げます。

ところで、AIがコードを書く時代ほど、「いまのコードが何をしているか」を把握し続けることが大切になります。私たちDigKnowが開発する「Codeledge(コードレッジ)」は、ソースコードから技術ドキュメントを自動生成するAIサービスです。GitHubなどのリポジトリを連携するだけで、AIが仕様書・設計書を作成し、コードの更新に合わせて最新の状態に保ちます。AIコードドキュメンテーションで、「コードは残るが、仕様は誰も知らない」という問題を解決します。→ Codeledgeを詳しく確認する。


桑原 脩(くわはら おさむ)|DigKnow株式会社 CTO 大阪大学大学院でシステム工学を専攻。大日本印刷(DNP)で、IoTによる医療分野の遠隔監視システムの構築や、データ分析による生産現場のDXに携わり、最適化システム構築のPMも務める。社内の引き継ぎで技術的負債に直面した経験から、2025年10月、創業メンバーとしてDigKnowに参画。Codeledgeのプロダクト開発と技術戦略を担う。