生成AI依存に注意しよう

【生成AI依存に注意しよう】作成 中小企業診断士 竹内幸次

先日、自殺は「ChatGPT」が影響したとして、米カリフォルニア州の両親がオープンAI等を提訴したというニュース（https://www3.nhk.or.jp/news/html/20250828/k10014905701000.html）が報道された。OpenAIは「ChatGPTには安全対策が組み込まれている。これらの対策は短い対話では効果を発揮する一方で、長時間の対話になると信頼性などが低下する場合がある」と説明している。つまり、「自殺の方法は？」等と質問しても回答しないが、何度も悩みを相談しているうちに、その方法等を回答してしまうということだ。

日本では2025年3月にAI関連の有識者会合でAIリスクが検討され、ガイドラインに新たにAIへの「過度な依存」を加えた。日本経済新聞記事「政府『過度なAI依存』に警鐘」（https://www.nikkei.com/article/DGKKZO87211870X00C25A3EA4000/）に詳しい。

私は毎日中小企業の現場を訪問しているが、AI依存の傾向は確かに感じる。生成AIに質問して、その回答が自分が考えていることと一致していると安心する。まったく違う回答を見ると、自分が間違っていたように感じ、生成AIの回答を受け入れる。これが続くと、ちょっとしたことでも生成AIの回答がないと不安になってしまう。さらに目の前の人の回答よりも生成AIの回答を信じ込むようになる。

どんな生成AIであっても、ハルシネーション（幻覚）を起こす。つまり間違った回答はゼロではない。これは人でも同じである。また、特定の考えを持つ人にどんどんのめり込むことは誰にでもある。

中小企業経営者の皆様、御社には生成AIに過度に依存している人はいませんか？人との会話やテレビ・新聞等のマスメディアとの情報ソースバランスが崩れている人はいませんか？