生成AI利用時の「手戻り」はなぜなくならないのか、実務で失望しないための「逆セットアップ」：第16回

2026年10月23日(金)荻野調（博報堂DYホールディングス Human-Centered AI Institute Executive Partner）

リスト

AI技術は日々進化を遂げ、社会実装が現実の段階に入っているが、多くの企業ではまだ部分的な活用にとどまり、AIに対する脅威感や不安が依然として存在する。「人間中心のAI活用」を推進するためにはどうすればよいか。本連載では、具体的なアプローチを交えながら、企業がAIとどのように向き合い、活用し、未来の成長に役立てていくかを考察していく。第16回は、生成AI活用の現場で頻発する「手戻り」問題の原因と、それについての対処法について解説する。

「結局自分でやった方が早い」─期待と成果へのギャップ

　「最初は感動したが、実務で使うと手戻りが多く、結局自分でやった方が早い」──生成AIを業務に取り入れた現場から、そうした声を聞くことが増えている。

　何度も同じ修正を指示することになる、数ステップ前の指示が平気で無視される、利用料金の上限にすぐ達してしまう。多くのビジネスパーソンが同じストレスを抱えている。これらは個々人のリテラシー不足として片づけられがちだが、実際には、AIの技術的変化に利用方法が追いついていないために起きている、各社共通の課題である。

　実際に、マッキンゼー・アンド・カンパニー（McKinsey & Company）の「The State of AI 2025」によれば、生成AIを業務利用している組織は72％に達した一方、全社利益（EBIT）に5％を超えるインパクトを出せている組織はわずか5.5％にとどまる。また、ボストンコンサルティンググループ（Boston Consulting Group）の調査レポート「The Widening AI Value Gap」でも、60％の企業が実質的な価値をまだ生み出せておらず、大規模に価値を取り出せているのは5％にすぎないと報告されている。導入の熱と継続的な価値創出の間には、明確な溝があるのだ。

手戻りを生む「オーダー即投げ」という会話構造

　実務で最も頻発している手戻りは、次のようなループで発生する。「〇〇の提案書を作って」とオーダーだけを投げ、ズレた回答に対して修正を指示し、そこが直ったと思ったら次の指示では前の修正が無視されている。そして、同じ指摘を繰り返す（図1）。

図1：手戻りを生むAIと人間の会話（出典：Human-Centered AI Institute）
拡大画像表示

　これは、LLM（大規模言語モデル）の性質を理解していないことによって起こる。人間の部下に任せる感覚で「後から直せばいい」と会話を進めると、AIの構造上同じミスを繰り返しやすくなる。実際、マイクロソフトとSalesforceの研究チームが20万件を超える対話を分析した研究「LLMs Get Lost In Multi-Turn Conversation」では、主要なLLMは複数ターンの会話に入ると、単発の指示に比べて性能が平均39％低下することが示された。

　特に、会話の序盤でAIが誤った推測をすると、後から軌道修正しにくくなる傾向が顕著だという。さらに、会話が長くなるほどAIは古い指示への注意を失い、直近の言葉に引っ張られやすくなる。「先に指摘した修正点を、次の作業で忘れる」のは、構造上発生しやすいふるまいなのである。

●Next：AIの性質を理解し、使いこなすための「逆セットアップ」

この記事の続きをお読みいただくには、
会員登録（無料）が必要です