ハルシネーションの次に来る問題

人は不思議な生き物です。
便利な道具が生まれるたびに、その道具に仕事を任せてきました。

馬車が車になれば歩かなくなる。
電卓があれば暗算をしなくなる。
カーナビがあれば道を覚えなくなる。
スマートフォンがあれば電話番号を覚えなくなる。

そして今 ーー
AIが生まれました。
きっと私たちは、また同じことを繰り返します。

少し前まで、AIには一つの弱点がありました。
もっともらしい嘘をつくことです。

存在しない論文を紹介する。
実在しない判例を答える。
堂々と間違える。

これが「ハルシネーション（AIの嘘）」です。
だから私たちは安心していました。
「AIも間違えるんだ。」そう思えたからです。

でも最近、その安心感が少しずつ消え始めています。
AIは日に日に賢くなっています。
ハルシネーションは減り、答えはどんどん自然になってきました。
おそらく数年後には、ハルシネーションは今ほど大きな問題ではなくなるでしょう。
でも私は、その時に初めて本当の問題が始まると思っています。

AIが間違えることではありません。
それは...

人間が疑わなくなることです。

AIは思考を奪うのではなく、思考を映し出す

私は仕事柄、毎日のようにAIを使っています。
本当に便利です。

でも最近、一つ気付いたことがあります。
AIを使う人が、大きく二つに分かれ始めているのです。

一人は、AIを使うことで以前より深く考えるようになった人。
もう一人は、AIが考えてくれるから自分では考えなくなった人。

作業スピードは、どちらも速くなっています。
でも決定的に違うことがあります。
後者の人に、「なぜその結論になったのですか？」と聞くと説明ができません。

返ってくる言葉は

ーー AIがそう言っていました

それだけです。

私はハルシネーションよりも、こちらの方が怖いと思っています。
AIは、情報を集めることが得意です。

分析もできます。
整理もできます。

でも、最後に決めることだけはできません。
責任を取れないからです。

だから、『 何を選ぶのか 』『 何を捨てるのか 』『 どんな責任を負うのか 』ここだけは人間の仕事なのです。

AIは「真実」を答えているわけではない

そしてもう一つ。
AIについて、あまり語られていないことがあります。

AIは、『 真実 』を答えているわけではありません。
AIが知っているのは、その時代の" 空気 "です。

インターネット。
論文。
書籍。
ニュース。

世界中の膨大な情報を読み込み、「今の世の中では、こう考える人が多い。」という答えを返しています。

つまり、AIは先生ではありません。

その時代の空気を映す鏡 なのです。

少し想像してみてください。
もし、80年前...
戦争の真っ只中にAIが存在していたら。

────────
戦争は正しいですか？
────────

その問いに、AIは今と同じ答えを返したでしょうか。
おそらく違います。
AIが変わったのではありません。

映している時代が違うのです。

だから私は、AIは未来を教えてくれる存在ではなく、その時代を映す鏡なのだと思っています。

「あるべき姿」は、人間しか考えられない

だからこそ、人間がやらなければならないことがあります。
AIは、「今の世の中」を教えてくれます。
でも、「本来どうあるべきか。」これは教えてくれません。

例えば、AIはこう答えるでしょう。

ーー 今の世の中では、多くの人がこう考えています。

でも、本当に必要なのはその一歩先です。

────────
本来はこうあるべきだ。
でも、
現実はこうなっている。
だから、
今回はこう判断しよう。
────────

この思考です。ここには、

哲学があります。
倫理があります。
文化があります。
そして、責任があります。

AIは、世の中の平均点を教えてくれます。
でも未来を作るのは、平均点ではありません。

────────
どうあるべきか
────────

を考える人です。

AIが進化するほど、人は試される

私は、AIが人類を変えるとは思っていません。
人類が、AIによって試されるのだと思っています。

考えることをやめるのか。
それとも...
AIという新しい道具を使って、もっと高い場所まで登るのか。

その分かれ道に、私たちはもう立っています。

人類はこれまで、火を手に入れました。
農業を覚えました。
蒸気機関を作りました。
インターネットを生み出しました。

そして、そのたびに進化したのは道具だけではありません。
人間自身でした。
AIも同じです。
進化するのは、AIだけではありません。

本当に進化しなければならないのは、AIの答えを疑い比較し最後は自分の意思で決断できる人間です。

私は、ハルシネーションの次に来る問題は、AIの性能ではなく人間の思考停止だと思っています。
そして、その問題を乗り越える方法はたった一つです。

人は、高みに行かなければならない。

それこそが、AI時代における"人間の進化"なのだと思っています。


/////////////////////////////////////////////////////////////////////
あなたは、高みを目指しますか？それとも...
/////////////////////////////////////////////////////////////////////