Clicked Gallery
「思考の連鎖(Chain-of-Thought)」とは?
実際の技術ドキュメントでハイライトされた言葉を、Clickedが解説します。
例文
Engineering Notes · AI Systems
The model uses chain-of-thought reasoning, spending several seconds working before it answers.
読者がドキュメント内の単語をハイライトすると、Clickedが技術用語「chain-of-thought」をわかりやすく解説しました:
3段階での解説
●○○
Overview
思考の連鎖とは、AIモデルが即答するのではなく、答える前に問題を段階に分けて解いていくことです。途中の段階を書き出すことで、数学や論理のように複数の工程が必要なものに対して精度が大きく上がります。新しいモデルが目に見えて考え込んでから答えるのは、この技術のためです。
●●○
Detail
モデルは答えを1語ずつ作り、書く各語はすでにページ上にある語をもとに選ばれるため、その書かれた語こそが途中結果を置いておける唯一の場所になります。価格、次に割引、次に税という3段階の問題を与えて即答を求めれば、次に書く語がそのまま最終的な数字でなければならず、3段階すべてがその一手のなかで起きることになります。段階を書かせれば、割引後の価格が実際の数字としてページに現れ、税の段階はそれを読んで使えるようになります。効果は大きく、しかも測定されています。2022年の元の研究では、同じモデルに段階を追って考えるよう指示しただけで、小学校レベルの算数問題のスコアが3倍以上になりました。段階を追う方式はコストが上がり、各段階がモデルの生成すべきテキストであるため、推論的な回答は直答の数倍の計算を燃やし時間もかかるので、考え込むモデルは1問あたりの価格が高く設定されます。ただし注意点があり、モデルが示す段階が実際の理由である保証はないため、整った連鎖でも誤った場所にたどり着くことがあります。
●●●
Analogy
長い割り算を完全に暗算でやる生徒と、紙に書いてやる生徒の違い。同じ生徒、同じ計算なのに、暗算のほうは途中の数字を置く場所がないので中盤で崩れます。紙の上なら各段階がそこに残って待っているので、次の段階は目の前に書かれたものだけを相手にすれば済みます。紙が誰かを賢くしたわけではなく、作業に居場所を与えただけなのです。
AIによる解説には誤りが含まれる場合があります · 専門的な助言ではありません
事実はそのまま、ノリだけ変えて — スラングモード 😎
●○○
Overview
思考の連鎖は、モデルが答えを口走らずに段階を踏んで問題を解いていくやり方だ。段階を書くことで途中の思考を置く場所ができ、数学や論理がぐっと得意になる。新しいモデルが返事の前に見るからに考え込んでいるのはこれが理由。😎
●●○
Detail
モデルが書く各語はすでにページ上にある語を使って選ばれるので、そのページこそが唯一の記憶になる。直答を求めれば次に出てくるものが最終的な数字でなければならず、計算の全部がその一手に詰め込まれることになる。声に出して作業させれば途中の数字が実際のテキストとしてページに落ちるので、次の段階はそれを読むだけで済む。レストランの伝票を4人で割ってチップを乗せる場面なら、一発でやるのは勘だが、先に小計を書けば残りは楽勝だ。これを始めた2022年の研究は、段階を追って考えろと頼んだだけで小学校レベルの算数スコアを3倍以上にした。ただしタダではなく、各段階が生成すべきテキストなので計算量を数倍払って待たされる、だから考えるモデルは1問あたり高いのだ。それにショーを丸ごと信じてはいけない、表示された段階が本当の理由である保証はないので、美しい連鎖が堂々と崖へ行進していくこともある。😎
●●●
Analogy
レジで大きな買い物の合計を暗算するのと、スマホに打ち込むのとの違い。脳みそは同じでも、暗算だと税の計算を始めた瞬間に小計が蒸発する。スマホなら次の数字を計算するあいだも、どの数字もその場に留まっている。スマホが計算を教えてくれたわけではなく、途中で取り落とすのを止めただけなのだ。
AIによる解説には誤りが含まれる場合があります · 専門的な助言ではありません
正式な定義 — 同じ用語の、よくある説明
思考の連鎖推論とは、言語モデルに対しプロンプトまたは学習を通じて、最終回答の前に中間的な推論ステップを生成させる手法であり、多段の算術・論理・記号的課題における性能を実質的に改善する。生成された各ステップが後続の生成を条件付けるため、直接回答には存在しない作業記憶を供給する一方、トークン消費と遅延を増大させ、生成された根拠はモデルの実際の計算過程の忠実な記述であるとは限らない。
「chain-of-thought」のような言葉を、ブラウザ上でそのままClickedに解説させませんか?PDFにも対応。
Chromeに追加 — 無料無料で50回の解説 · クレジットカード不要
ギャラリーの他の記事
「AIのハルシネーション(幻覚)」とは?
AIが作り話を完全な自信で語る理由。そしてそれが聞き分けられない理由も。
「コンテキストウィンドウ」とは?
AIが一度に頭に置けるテキスト量——長いチャットが冒頭を忘れる理由。
「温度パラメータ」とは?
毎回同じ答えと創造的な賭けの間のつまみ——製品ごとの設定位置。
「推論(インファレンス)」とは?
モデルが実際の仕事をしている状態。安いほうの半分が最も高くつく理由も。
「AIエージェント」とは?
答える代わりに行動するAI。計画・実行・確認のループと、そのループがリスクでもある理由。
「トランスフォーマー(Transformer)」とは?
GPTの「T」の設計。各単語が他のすべての単語に、同時に注意を向ける。