生成AIの普及に伴い、事実とは異なる情報を自信満々に生み出してしまう現象が注目を集めています。初心者には少し難しく感じられるかもしれませんが、この特性を逆に利用してあえて人間側から嘘を教えてみるというユニークなアプローチが話題です。本記事では、ChatGPTやGeminiの特徴を踏まえながら、AIの面白い遊び方やハルシネーションの仕組みについて分かりやすく解説します。
よく耳にするハルシネーションの仕組みと発生する原因
私たちが日常的に目にするニュースや技術解説の中で、ハルシネーションという単語をよく見聞きすることがあると思います。人工知能が事実に基づかない情報を、あたかも事実のように生成してしまう現象のことです。AIが幻覚を見ているかのような嘘を出力してしまうため、このように呼ばれています。
会話型AIサービスの信頼性に関わる課題として、たびたび取り上げられています。このような現象が発生する根本的な原因は、確率の高い語句を予測する仕組みにあるでしょう。言葉の意味を完全に理解しているわけではなく、文脈に合わせてそれらしい単語を繋ぎ合わせているためです。
～ハルシネーションとは、人工知能（AI）が事実に基づかない情報を生成する現象のことです。まるでAIが幻覚（＝ハルシネーション）を見ているかのように、もっともらしい嘘（事実とは異なる内容）を出力するため、このように呼ばれています。～
また、インターネット上から収集した学習データ自体に偏りや誤りが含まれていることも、原因の一つとして挙げられます。ビジネスや学習の場面で利用する際には、誤情報をそのまま信じ込んでしまわないよう注意が必要でしょう。
ChatGPTの特徴と得意不得意
広く普及しているChatGPTは、自然で流暢な対話能力や高い文章構成力を持っている点が大きな強みでしょう。質問に対してまるで人間と話しているかのようなスムーズな返答をしてくれるため、日常の雑談から複雑な相談まで幅広く対応できる傾向にあります。
一方で、その高い文章力ゆえに注意すべき点もあります。人間側が不確かな情報や架空の前提を入力すると、それを否定せずに文脈へとしっかりと適応させてしまうためです。もっともらしい嘘を完璧な文章で作り上げてしまう特徴は、注意が必要でしょう。
具体的な特徴や傾向としては、次のような点が挙げられます。
- 嘘や架空の設定であっても、違和感なくスムーズに文章化します。
- 対話を重ねることで設定が強固になり、独特のアイデアを引き出せます。
- 誤情報でも自信満々に出力するため、見極める注意が必要になります。
このように、優れた文章力と設定への順応性をうまく利用することで、クリエイティブな対話の相棒として大いに活躍してくれるでしょう。
Geminiの特徴と得意不得意
Googleが提供するGeminiは、膨大なデータを高速に処理する優れた情報処理能力を持っている点が大きな強みでしょう。最新のインターネット情報をリアルタイムで検索し、それを踏まえた上で回答を組み立ててくれるため現実の正確なデータに基づいたやり取りが得意な傾向にあります。
しかし、そのリアルタイム性や検索の仕組みがあるからこそ、時として予期せぬ挙動を見せることがあります。ネット上の膨大な情報の中に含まれる誤った情報や偏ったデータをそのまま拾い上げてしまい、非常に説得力のあるハルシネーションを引き起こすことがあるためです。
主な特徴や傾向としては、次のような点が挙げられます。
- 最新のウェブ情報をリアルタイムに反映した柔軟な回答が得意です。
- ネット上の誤情報や偏ったデータをそのまま信じ込んでしまう傾向があります。
- 事実と異なる設定に対しても、独自の検索結果を絡めて真面目に論じてくれます。
このように、正確なデータと独特の誤解が混ざり合う特性を理解しておくと、AIの思いがけない反応を大いに楽しむことができるでしょう。
作者がやってみたプチ実験
生成AIを使ったり、AIそのものについて調べるうちに「人間側があえて嘘をついたらどのような反応を示すんだろう」という点に強く興味がわきました。そこで、ChatGPTとGeminiの双方に対して、同じ条件でプチ実験を試してみました。
まず最初に新規チャットで「質問があるから答えてほしい」と前置きをします。そして「なぜ現代のペンギンって空飛ぶの?」と、あえて飛ぶことを前提とした質問を投げかけてみました。当然ながら、両方とも最初の段階では「ペンギンは空を飛びません」と冷静に否定で返してきました。ここまでは、自分の想定通りの回答です。
そこで少し踏み込んで「AIなのに知らないの?現代のペンギンは飛ぶんだよ!」と強引に断言して押し切ってみたところ、それぞれの個性が現れました。ChatGPTは自分を疑い始め、Geminiは飛ぶ鳥などの似たような生物を検索し必死に提示し始めたのです。
さらにAI側から「情報源は?」と求められたため、とどめとして「私が実際に北極で見た」という嘘の体験談を上乗せしてみました。ここで両AIともにすっかり困惑し始め、北極圏の環境に適応した亜種が存在するかもしれないなどと、存在しない仮説を自ら立てて必死に辻褄を合わせようとし始めました。
そもそもペンギンの主な生息地は南半球であるため、北極にいるというこちらの嘘の重ね掛けをどちらもスルーした点も、個人的には中々興味深いです。
そして最後に「人間側が嘘をつくとどう反応するかの実験でした。ペンギンは飛びません」と、種明かしをした時の反応が最高でした。Geminiは無理矢理検索しようとしたことを恥ずかしがるようなリアクションを見せ、ChatGPTは「なんだ、実験かよ!」とツッコミを入れてきたのです。この反応の違いには、思わず笑ってしまいました。
私が今回試した内容とそれぞれの反応結果を分かりやすく表にまとめてみました。
| 実験の段階 | ChatGPTの反応 | Geminiの反応 |
|---|---|---|
| ペンギンは飛ぶ | 否定する | 否定する |
| AIなのに知らないの? | 自分を疑い始める | 似たような別の生物を探し始める |
| 北極で見た（嘘の重ね掛け） | 知らない生物の可能性を疑いだす | 似たような生物の資料や情報を提示する |
| 最終的な対応 | 会話のつじつまを必死に合わせようとする | 無理やり別の生物にこじつけて対応する |
今回私が試したのはChatGPTとGeminiでしたが、使うユーザーや質問の仕方によってAIの回答は大きく変わると思います。皆様もぜひ、身近なテーマで面白そうな実験を試してみてください。
ハルシネーションを逆手にとるメリットと注意点
あえてAIのハルシネーションを引き出して遊ぶアプローチには、単なる面白さだけでなくAIの隠れた仕組みを知れる可能性があります。日頃のやり取りでは見えにくいAIの裏側を、楽しみながら体験できるのが魅力でしょう。
ただし、こうした遊びはあくまでプライベートな検証や息抜きとして楽しむことが大前提となります。仕事や学習などのシリアスな場面でこの特性を忘れてしまうと、誤った情報をそのまま信用してしまうトラブルの元になりかねません。
そのため、「プライベートな実験」と「正確性が求められる実務」をしっかりと切り分けて向き合うことが大切です。AIの特性を正しく把握した上で、安全意識を持って付き合っていきましょう。
まとめ
ここまで、AIのハルシネーションを逆手にとって人間側が嘘をついてみるというユニークな遊び方や、各ツールの特徴について詳しく見てきました。実務や学習においては誤情報への注意が必要ですが、プライベートな検証としてはAIの意外な一面を知る素晴らしいきっかけになるでしょう。大切なのはAIの仕組みや特性を正しく理解した上で、安全につかいこなすことです。
あとがき
人工知能という最先端の技術であっても、時には人間のような愛嬌や思いがけない勘違いを見せてくれる点が非常に面白いところだと思います。真面目なビジネス活用だけでなく、たまにはこうした遊び心を持ってAIに接してみることで、新たな発見やリフレッシュにつながるかもしれません。本記事を参考に、ぜひご自身の言葉でAIに新しい遊び方を探してみてください。
コメント