トピック1:レッスン4:ざっとAIの歴史を学んでおく(その2)
今回はちょっと専門的な話になるけど、頑張って付いて来れるようにして。
今回と次回で学ぶテーマは2つ。
1.エキスパートモデルの栄光と挫折
※エキスパートモデルがなぜ挫折したのか?を学ぶことで、現在の LLMと何が異なるのか?を理解できる。
2.「注目こそすべて」“Attention Is All You Need” (2017)というGoogleによる革新
※これまでのいわゆるコンピューターやプログラムという概念が、どのように一気に変わったか?を知ることで、LLMの効果的な使い方や弱点などを理解できる。
ーーー
前回のレクチャーでざっと学んだけど改めて…
Q:「スマホの予測変換と、病院の診断支援では、どちらのが古くからある?」
・
・
・
・
・
・
・
・
・
正解は「病院の診断支援の方が、30年以上も古く(1970年代)からある」
直感的に「病院の診断支援の方が、スマホの予測変換より難しいんじゃないか?」と思いがちだけど、実は違う。なぜなら、システムの設計構造自体が大きく異なるので。
・病院の診断支援=ルールベースのシステム(エキスパートモデルはこれ)
・スマホの予測変換=非ルールベースのシステム(機械学習やニューラルネットなど、そして現在のLLMの原型はこれ)
1.エキスパートモデルの栄光と挫折
ルールベースのシステムとは?
ざっくり言うと↓こんな感じ

この「分岐」を「IF–THEN」って言う。ようするに「もし⚪︎⚪︎なら、××をする」ってこと。Excelの関数をイメージすればよい。例えば「もし在庫数が10個以下なら、その商品の行を赤にする」とか。
エキスパートモデルは、これを膨大なデータを用いてある意味「人間の力技」でやってしまおうとしていた。
で、実際に世界中の多くの企業や国などで「革新的な技術」として期待されて、莫大な資金が投入された。
しかし、エキスパートモデルは文字通り挫折して、一気にその熱は冷めてしまった。
なぜか?
ざっくり言うと……「ルールが 100 → 1,000 → 2,500 と増えるにつれて、 追加・チェック・テストだけで数カ月消える」って状態になってしまった。
もう少し詳しく説明すると↓こんな感じ。
「もしAという症状があり、かつ熱が38℃以上あったら、インフルエンザと診断する」
IF–THEN構文で書くと、「IF 症状=A AND 熱>38℃ THEN インフルエンザと診断」
ルールベースはこういう構文=ルールを「人間が設定」することで、はじめて運用できるってわけだ。
しかし、ちょっと考えれば分かるけど、例えば……
・熱が37.9℃の場合はインフルと診断しなくて本当によいのか?
・症状を自分で説明できない赤ん坊はどうするのか?
・Aという症状があり、かつ熱が38℃以上でもインフルではない可能性が高いときはどうする?
などなど、ルール通りにはいかないことが多々ある。じゃあ、これらもルールを追加して対応しようとすると(実際にそうしていたわけだけど)、ルール追加のたびに人間がそれを追加する必要があるし、また新たなルールを追加することで、他のルールに影響が出て、またそっちもルールを書き換えなきゃいけない……って書き換えたら、またあっちのルールが・・・・って地獄に陥ってしまった。
で、「こりゃ使い物にならんね」ってわけでエキスパートモデルに対する期待は一気に冷めてしまった。
こんな感じでエキスパートモデルは大きな挫折を経験したわけだけど、重要な教訓を後世に残した。それがつまり・・・
「機械が勝手に考えたり調べたりしてくれないと、AIは実現しないね」ってこと。
そして、「ルールを書き足す時代」から「何に注目すべきかを自動で学ばせる時代」になっていく。
これが今日のAI(LLM)の基本的な考え方になっている。
「次へ→」をクリックして課題に進んでください