一文が答えを変える
同じ問題を二通りに尋ねると違いが見える。
一つめ。この計算の結果はいくつか。数字が一つすぐ返ってくる。間違っていることもある。
二つめ。段階的に考えて計算せよ。途中の作業がずらりと出て、最後に答えが来る。正答率が目に見えて上がる。
モデルは同じ。問題も同じ。変わったのは結論までの道を外へ出させたことだけだ。なぜこれが効くのか、そしてどこまで信じてよいのかが今回の内容である。
1980年、声に出して考えさせる
人の頭の中を研究するには古くからの難所がある。答えだけを見てもどうやってその答えに至ったかが分からない。当たっていてもどう当たったのか分からず、外れていてもどこで逸れたのか分からない。
K・アンダース・エリクソンとハーバート・サイモンが1980年の論文で整理した方法が発話思考法だ。問題を解く人に、解いているあいだ頭に浮かぶことを声に出して言い続けさせる。
設計で重要な条件が二つある。第一に、解きながら話させる。解き終えてから思い出させない。想起はすでに整えられ脚色されたもので、実際の過程とは違うからだ。第6回で見た再構成がここでも働く。
第二に、なぜそうしたのかを説明させない。ただいま頭にあることを言わせる。この二つめの条件がなぜ重要かはすぐあとに出てくる。
ところがこの方法の要点は逆だった
ここが読み違えやすい。二人の中心的な主張は、話させれば上手に解けるということではなく、むしろその逆に近い。
彼らが論証しようとしたのは、声に出して話すことが思考の過程をほとんど変えないということ、だからその言葉を研究データとして信頼できるということだった。もし話す行為が思考を変えてしまうなら、観察した内容は観察しないときの思考と違ってしまい、データとして役に立たなくなる。
のちに数十の研究をまとめたメタ分析でもこの主張は支持された。参加者を合わせれば数千人規模だが、浮かんだことをそのまま言う条件の成績は、話さない条件と事実上変わらなかった。
つまりこの方法は思考を改善する技術ではなく観察する道具だ。窓であってエンジンではない。
ただしどんな種類の発話かによる
ところが同じメタ分析に分かれ目がある。何を言わせるかによって結果が違うのだ。
頭に浮かんだことをそのまま言う条件は成績に影響がなかった。一方、なぜそう考えるのかを説明せよと求めた条件は違った。解く時間が延び、成績も動いた。課題によってはよくなった。
理由は察しがつく。説明するには理由を作らねばならず、理由を作るにはいましがたの判断をもう一度見直さねばならない。その見直す行為自体が新しい作業だ。浮かんだものを読み上げるのとは根本的に違うことをさせている。
この区別が重要なのは、私たちがAIにさせているのが一つめではなく二つめに近いからだ。段階的に考えよという指示は浮かんだものを読み上げよという意味ではなく、根拠と順序を立てて見せよという意味である。人においても成績を動かしたのはそちら側だった。
速い思考と遅い思考
ここにカーネマンが広めた区別が付く。システム1は即座で自動的で力がいらない。顔を見分け、2足す2をし、口調から怒っていると気づく類だ。システム2は遅く順を追い力がいる。17掛ける24をし、なじみのない規則に従い、論証を吟味する類である。
問題はシステム1がほとんどの仕事を片づけ、システム2はよほどでないと出てこないことだ。遅い側は費用が大きいので、けちって使うようにできている。
だから人は易しく見える問題でよく間違える。難しいという合図がなければ遅い側が入らず、即座に浮かんだ答えがそのまま出ていく。有名な例がバットとボールだ。合わせて一ドル十セント、バットはボールより一ドル高い。ボールはいくらか。十セントという答えが即座に浮かび、多くの人がそのまま答える。正解は五セントである。
ここでの教訓は、知識が足りなくて間違えたのではないという点だ。計算できる人が計算しなかったせいで間違える。
AI研究がこの区別を借りていった
この部分が今回の系譜だ。ヨシュア・ベンジオは2019年のニューリップス基調講演の題を、システム1深層学習からシステム2深層学習へとそのまま付け、カーネマンの区別を明示的に引用した。
診断はこうだった。いま深層学習が得意なのは即座のパターン認識である。絵を見て猫と分かること、文を見て自然な次の語を選ぶこと。すべてシステム1の領分だ。足りないのは順を追う推論、因果、計画のように一段ずつ踏まねばならないことである。
その後の流れがその方向だ。答えをすぐ出さず途中の作業を作らせるプロンプト、そしてその過程をモデルの中に入れて答える前に長く考えさせる推論モデル。段階的に考えよがよく効くのは、それが遅い側を強制的に入れるスイッチの役をするからである。
ここで二つの系譜が分かれる。システム1と2はAI研究が心理学から実際に持ってきた概念だ。一方、発話思考法と途中作業プロンプトの関係は系譜ではなく機能上の類似である。原理がつながったのではなく、していることが似ている。
ところが提唱側は実体と見るなと言った
ここがこの連載で正直に残すべき箇所だ。
第一に、システム1とシステム2という名はカーネマンが作ったものではない。彼は著書で、この用語を他の研究者から借りたと明かしている。広く知られる契機になったのが彼の本だったというだけだ。
第二に、より大事なのは彼がこの二つを何だと規定したかである。システム1と2は頭の中に実在する部品ではないと彼は念を押した。説明のためにこしらえた登場人物に近く、物語のように語るほうが理解に有利だからそう書いているのだと。脳のどこかにシステム2の担当部位があるわけではない。
だから今回のバッジは系譜ではなく部分系譜だ。概念が実際に採用されたのは確かである。ただし心理学でも説明装置だったものが、AIへ移ると構造であるかのように読まれやすい。モデルの中にシステム1回路とシステム2回路が別々にあるわけではない。
この連載の最終回がその系列の話である。心理学から借りた語がAIで別の意味に固まる場所たち。
用語は一つだけ、二重過程
二重過程とは、判断が速く自動的な経路と遅く意図的な経路の二筋で成り立つという見方である。
注意点は前節で述べたとおりだ。これは脳に二つの部品があるという解剖学ではなく説明の枠組みである。AIに移して使うときはなおさらだ。
それでも役に立つのは、いつ介入すべきかを教えてくれるからだ。易しく見えて実は条件が絡んだ問題、即座に答えが浮かびその答えが罠である問題。人でもAIでも、そういう場所で遅い経路を強制的に入れるのが得である。
過程が見えると何がよくなるか
途中の作業を出させる本当の得は正確さだけではない。どこで間違えたかを指させることが同じくらい大きい。
答えだけを見ていると、間違ったときは丸ごと捨てるしかない。もう一度尋ねる以外にできることがない。過程があれば三行目で条件を一つ読み違えたと分かり、その行だけ直してくれと言える。検証の費用が一気に下がる。
ただしここに必ず付けるべき但し書きがある。モデルが書き出した過程が、実際にその答えを作った計算の記録だという保証はない。
アンソロピックが2025年に出した研究がこの点を測っている。問題にヒントをそっと仕込み、モデルがそのヒントのせいで答えを変えるようにしたうえで、書き出した説明にそのヒントが出てくるかを見た。かなりの場合、出てこなかった。ヒントを使ったのに、説明には別の理由が書かれていた。
だからこうまとめるのが正しい。過程は検査の対象としてはきわめて有用で、自白として扱うと困る。間違った行を見つけるのに使い、このモデルがなぜそう答えたのかの最終的な説明としては受け取らない。
では明日から何を変えるか
途中の作業を求める。結論だけではなく、根拠を先に書きそのあと結論、と順序を指定する。結論を先に書かせれば残りはその結論を正当化する文章になる。第6回の出典を先にという規則と同じ理由だ。
説明型でやらせる。浮かんだまま並べてくれ、ではなく、各段階で何を根拠にそう判断したかを書けと言う。人の実験でも成績を動かしたのは説明型だった。
難しい問題にだけ使う。単純な照会、翻訳、形式の変換に段階を求めても長く遅くなるだけだ。得があるのは計算、比較、条件がいくつも絡む判断である。推論モデルを使うかどうかにも同じ判断が要る。
即答が浮かぶ問題ほど疑う。バットとボールの教訓である。易しく見えて条件が絡んでいれば、そこがまさに遅い経路を入れるべき場所だ。自分自身に使うときも同じである。
過程を読むが自白としては読まない。間違った行を見つける道具として使い、その説明が実際の理由だと決めつけない。