Editor profile
矢野 哲平 / 「無料で学べるAIスキル、ロボシンク」代表
更新日:

こんにちは、ロボシンクの矢野(@robothink_jp)です。この記事では生成AIに関する情報を解説します。 読んだ方の役立つ記事になれば嬉しいです👋

生成AIにおけるハルシネーションとは?

「ハルシネーション」という言葉、英語表記では「Hallucination」と書きます。直訳すると「幻覚」という意味。生成AI領域で使われるハルシネーションは、AIが意図しない、あるいは意味不明な出力をする現象を指します。

ハルシネーションが起こる原因

AIが起こすハルシネーションには具体的に次のようなケースがあります。

  • 画像生成AIが意図しない物体や形状を描写するケース
  • テキスト生成AIが意味不明な文章を出力するケース

生成AI、特に深層学習のモデルは大量のデータを学習することで様々なタスクをこなします。しかし、その過程で学習データの偏りやモデルの複雑さなどが原因で、予期せぬ出力をすることがあります。これがAIのハルシネーションの一因とされています。

ハルシネーションへの対策

学習データの偏りやモデルの複雑さが原因のため、ユーザー側で取れる対策は限定的です。ユーザーがプロンプトを工夫してもハルシネーションは起こりうるのです。

ユーザー側で取れる対策として大切なことはAIのハルシネーション、つまり誤情報を誤りだと見抜くことです。知識がある領域ならハルシネーションも見破れるでしょう。

しかし、あまり知識のない領域の場合、ハルシネーションを見つけにくいのも生成AIに潜むデメリットと言えます。

AIの進化と共に解消するのか

生成AIにおけるハルシネーションは、AIの普及と共に新しい課題として浮上してきました。しかし、AIは日々進化しています。

2022年11月にChatGPTがリリースされましたが、公開時よりもハルシネーションは減少したと感じます。今後もAIの進化と共にハルシネーションへの取り組みも強化されていくと思います。

注目記事

  • 🎨Geminiで画像生成ができるように
  • 👀【新機能】GPT mentionsを使う方法
  • 🌈【新モデル】にじジャーニーV6モデルを使う方法
  • 💡Googleが動画生成AIのLumiereを発表
  • 🤖Amazonアレクサに生成AIが搭載
  • 😼動画生成AI、Pika1.0のチュートリアル
  • 🏪GPT Storeが公開!GPT Storeの使い方
  • 🚢MidjourneyでV6モデルを使う方法

  • 無料で学べるAIスキル、ロボシンク

    ロボシンクは3,000名超が学ぶAI学習サービス。無料のコースで生成AIを学べます。AIの学習を開始しましょう🚀

    コース一覧