ハルシネーションとは、AIが事実ではない内容を、それらしく出してしまうことです。やっかいなのは、ただの誤りではなく、見た目が自然で、一見、問題がなさそうに見えることです。

  • たとえば、存在しない制度名を本当にあるように書く。
  • 出典がないのに、それらしい情報源を出す。
  • 人名や日付を自然な文章の中で間違える。

こうしたことが当てはまります。これは、生成AIが「もっともらしいが正しくない内容」を返してしまう現象として説明されています。

この記事でわかること
ハルシネーションが何を指す言葉なのか ・普通のミスと何が違うのか ・仕事でAIを使うとき、どこに気をつければよいのか

問題は、間違いだと気づきにくいこと

誤字や入力漏れなら、見直したときに気づけることがあります。ですが、ハルシネーションは文章が自然で、内容ももっともらしく見えます。

そのため、そのまま使ってしまいやすいのです。

やっかいなのは、間違い自体より、間違いだと気づきにくいことです。

AIは、分からないことも答えようとする

AIは、いつも正しい情報をそのまま返しているわけではありません。入力された言葉をもとに、答えを組み立てています。

そのため、情報が足りないときや、こちらの聞き方があいまいなときでも、はっきり分からないまま答えてしまうことがあります。

つまり、分からないことがあっても、その場でそれらしい答えを作ってしまうことがある、ということです。

特に気をつけたいのは、こういう情報

困るのは、正確さが必要な場面です。

たとえば、
社外に出す文章 ・数字や日付 ・制度名や法令名 ・人名、会社名、過去の出来事などです。

こうした情報は、一つ違うだけでも相手の信用を落とします。案内文でも、提案書でも、社内資料でも同じです。とくに判断の土台になる情報は、そのまま使わず人が確認するようにしましょう。

まとめ

ハルシネーションは、AIが事実ではない内容をそれらしく出してしまう現象です。見た目が自然なため、気づきにくいのが一番の問題です。

下書きや整理には使えても、数字・固有名詞・制度情報は人が確認する。この線引きを先に決めておくだけで、仕事でのAI活用はぶれにくくなります。

Q&A

Q1. ハルシネーションは、AIがうそをつくことですか？
わざとだます、という意味ではありません。事実ではない内容を、合っているように見える形で出してしまうことです。

Q2. ただのミスとは何が違いますか？
いちばんの違いは、間違いだと気づきにくいことです。文章が自然で、内容ももっともらしく見えるため、そのまま信じてしまいやすくなります。

Q3. ハルシネーションはなくせますか？
減らす工夫は進んでいますが、完全になくなったとは言えません。そのため、今でも人の確認を前提に使うことが大切です。

Q4. 特に確認したほうがよいのは何ですか？
数字、日付、人名、会社名、制度名、出典、URLのような情報です。一つ違うだけでも影響が出やすいので、こうした情報はそのまま使わず確認したほうが安心です。

Q5. 仕事で最初に決めるべきことは何ですか？
AIの答えをそのまま使ってよい仕事と、人が確認してから使う仕事を分けておくことです。最初にこの線引きをしておくと、使い方がぶれにくくなります。