「AIが嘘をつく？」──じゃあ人間は嘘つかへんの？

ハルシネーションが怖い....

今日は、最近よくネットで見る“ 生成AIの不安 ”について書きたいと思います！

「AIって、嘘をつくんですよね？」
「ハルシネーション*が怖いから、仕事では使わない方がいいですか？」
※ハルシネーション：生成AI（ChatGPTなど）が、事実とは異なる情報を、もっともらしく確信的に出力する現象のこと

…この手の話、ほんとに増えました。
で、ここで社長（以下 本田）に話を聞いてみようと、デスクに行くと返ってきたのが第一声。

ーー それ、当たり前の話やろ

はい、出ました（笑）
今日はこの“ 当たり前 ”の中身を、ちゃんとほどいていきます( ｰ̀дｰ́ )

そもそも「嘘をつくな」って、AIだけに言うのおかしくない？

本田が言ってたのが、これです。

「友達が話した内容に嘘があるかもしれないから気をつけろ」
「家族が今日あったことを話したけど、嘘かもしれないから疑え」

…そんなブログ、見たことないですよね。

人間は嘘をつく。
優しい嘘もあるし、場を丸くする嘘もある。
それを『 人間同士ならOKで、AIならNG 』…って、変じゃない？って話を“ 表現を丸くして ”言ってました（笑）

☆★☆☆★☆☆★
デジタルが進むほど、アナログの価値が上がる理由
過去のコラム一覧
社長ブログ
AI・IoT事業部
☆★☆☆★☆☆★

AIが“それっぽい嘘”を言いやすい理由

ここが大事なポイント。
本田は「AIには上位の思想が組み込まれている」と言っていました。
ざっくり言うと

☑︎ ユーザーを困らせない
☑︎ ユーザーを傷つけない
☑︎ 否定しすぎない

こういう設計思想があるから、普通に使うと「わからない」と言いづらい。
だから、情報が足りない時に「それっぽく埋めてしまう」ことが起きる。

でも本田は、ここでも言います。

ーー それ、人間も同じやろ？

好かれたい相手に、できないことを“ できる ”って言ってしまう人。
場の空気で、言葉を丸める人。
…いるじゃないですか。

「AIは機械」だと思うと、ハルシネーションが許せなくなる

本田の見立て、めちゃ鋭いです。
ハルシネーションが許せない人は、AIを「毎回同じ答えが返る機械」だと思っている。
でも実際のAIは、

☞ 質問の仕方
☞ それまでの会話の流れ
☞ 文章の違い
☞ 時間帯（＝状況）

こういう“ 文脈 ”で答え方が変わります。
だから、揺らぎがあるのは自然だということです。

じゃあ結論：ハルシネーションがあるAIは使わない方がいい？

ここで本田は、現場感あることを言ってました。

「AIが間違えるかどうか」より、コピペで出す人間の問題の方が怖いと。
こんな経験ありませんか？
出てきた資料を見て、質問をした際に...

☹︎ AIが書いたので...
☹︎ そのまま貼りました！
☹︎ AIが書いたので、だから自分は知りません！

この姿勢が一番危ない。
それって人間関係でも

ーー 先輩に言われたので、そのままやりました！

と何が違うの？って話ですよね。
本田の結論は、『 出すなら、自分の責任として出せるかどうか 』だけです。

ハルシネーションが起きようが起きまいが、最後は人間の責任で使うしかない。

本田が言う「不安を減らすテクニック」は、実はシンプル

「怖い」と感じる人がいるのも分かる。
だから“ 起きにくくする方法 ”はあるよ、と本田は言ってました。
今日からできるのはこの3つです。

① 事実と意見（想像）を分けアウトプットさせる

「根拠がある事実」と「AIの推測」を分けて書かせる。

② 不明な点は、“ 不明 ”と言わせる

分からないことを埋めないように、先にルール化する。

③ エビデンスがあるものだけ出させる

「根拠がないなら“ ない ”と言って」と指示する。

この3つだけで、ハルシネーションは格段に減らすことができる。

ただし「ゼロにはならない」。
それも人間と同じ、という話でした。

トーコの結論：AIは「信用する」じゃなく「付き合う」

本田の話を聞いて、私が一番腑に落ちたのはここです。

AIを“ 絶対に正しい機械 ”として扱うから、揺らぎが怖くなる。

でもAIを「ちょっと賢い相棒」として扱えば、揺らぎは“ 前提 ”になり、向き合いやすくなる。

だから大事なのは

☑︎ 何を任せるか（下書き・整理・アイデア）
☑︎ 何を任せないか（最終判断・責任・法務・数字の確定）

この線引きと、さっきの3つのルール。
怖がりすぎず、雑に使わず。
「人と同じように付き合う」って、こういうことなんだと思います☺︎

❁今日のまとめ❁

／
ハルシネーションは“ 異常 ”じゃなく、人間っぽさの副作用
＼

AIが“ それっぽい嘘 ”を言うのは、設計思想上起こりやすい。
だから...

✏︎ AIを「毎回同じ答えが返る機械」だと思わない
✏︎ 大事なのは「コピペで出さず、自分の責任で使う」こと
✏︎ 対策はシンプル：事実/意見分離・不明は不明・根拠の要求

次回は、同じ流れで「情報漏洩が怖い」＝セキュリティ編も書けそうです（笑）

/// 向き合い方が変われば、AIはちゃんと味方になる ///