矢野 哲平 / 「無料で学べるAIスキル、ロボシンク」代表

更新日:2023-09-27

生成AIにおけるハルシネーションとは？

「ハルシネーション」という言葉、英語表記では「Hallucination」と書きます。直訳すると「幻覚」という意味。生成AI領域で使われるハルシネーションは、AIが意図しない、あるいは意味不明な出力をする現象を指します。

ハルシネーションが起こる原因

AIが起こすハルシネーションには具体的に次のようなケースがあります。

• 画像生成AIが意図しない物体や形状を描写するケース
• テキスト生成AIが意味不明な文章を出力するケース

生成AI、特に深層学習のモデルは大量のデータを学習することで様々なタスクをこなします。しかし、その過程で学習データの偏りやモデルの複雑さなどが原因で、予期せぬ出力をすることがあります。これがAIのハルシネーションの一因とされています。

ハルシネーションへの対策

学習データの偏りやモデルの複雑さが原因のため、ユーザー側で取れる対策は限定的です。ユーザーがプロンプトを工夫してもハルシネーションは起こりうるのです。

ユーザー側で取れる対策として大切なことはAIのハルシネーション、つまり誤情報を誤りだと見抜くことです。知識がある領域ならハルシネーションも見破れるでしょう。

しかし、あまり知識のない領域の場合、ハルシネーションを見つけにくいのも生成AIに潜むデメリットと言えます。

AIの進化と共に解消するのか

生成AIにおけるハルシネーションは、AIの普及と共に新しい課題として浮上してきました。しかし、AIは日々進化しています。

2022年11月にChatGPTがリリースされましたが、公開時よりもハルシネーションは減少したと感じます。今後もAIの進化と共にハルシネーションへの取り組みも強化されていくと思います。