生成AIは敵？味方？～大学での活用実例と問題点～ (3/4ページ)

「生成AIが、実際にはあり得ないことを真実であるかのように回答したり、差別や偏見などを含む不適切な表現になってしてしまうことがあります。これは、日本語で幻覚を意味する『ハルシネーション』と呼ばれるもの。生成AIは、膨大なデータを学習したGPT（Generative Pre-trained Transformer）という、いわば“頭脳”をもとに文章や画像などを生成しています。ところが、この“頭脳”が文章を生成する過程で、学習データの組み合わせによっては、結果としてできた文章が事実とは異なってしまうことも。これがハルシネーションです」

ほかにも、他者の作品に酷似しているなど、文章や画像、音楽といった生成AIの回答を利用する際には注意が必要だ。また、生成AIで文章や画像を作ろうとする際にも、意外な落とし穴があると南先生は指摘する。

「プロンプトデータ（生成AIへの質問や指示として入力した内容）が、そのままGPTの学習に使われることもあります。ChatGPTには、これをさせないようにできる機能もありますが、個人情報や機密情報はプロンプトとして入力しないほうがよいですね」

さらに、“頭脳”であるGPTがいつまでの情報を学習しているかによって、生成された回答に最新情報が反映されていない可能性があることにも、注意が必要だ。

こちらも重要！生成AIを
「使いこなす」ための課題

AIによって生成された回答は、それが正しいか、著作権などは問題ないかなどを自分でチェックし、修正することが必須。さらにその上で、その回答をどのように利用するかが問題だと南先生は力説する。

「例えば、学生がレポートを作成する際、極端な話、文章生成AIが作った文章を丸ごとコピー＆ペーストするだけで、レポートの体裁を整えることができます。しかし、そのまま提出してはレポート作成という学びのチャンスを十分生かすことができません。生成AIの回答を思考や創造のきっかけや補助として、考えたり、新たなものを生み出していく力が今後ますます重要になるでしょう。AIがあまりにも急速に発展する今はAIの過渡期であり、情報を正しく理解・評価し、効果的に活用するリテラシー教育の必要性が叫ばれています」