ChatGPTは間違いが多い？原因と対策、社内利用で押さえたい確認ルール

ChatGPT（※）をはじめとする生成AIは、業務の効率化や生産性向上に役立つツールとして、多くの企業で活用が広がっています。

一方、全社での利用を検討する情報システム部門（以下、情シス）の担当者のなかには、「ChatGPTは間違いが多いのではないか」「ハルシネーションが起こるのではないか」と、業務利用に不安を感じる方も少なくありません。

この記事では、ChatGPTは間違いが多いと言われる理由や、誤った回答を減らすためのプロンプトの工夫について解説します。さらに、情シスが全社導入時に整えておきたい確認ルールや教育体制についても紹介します。

※ChatGPTの名称およびロゴは、OpenAI OpCo, LLCの商標または登録商標です。

ChatGPTはなぜ間違いが多いと言われるのか

ChatGPTはさまざまな質問に自然な文章で回答できますが、出力される内容が常に正しいとは限りません。業務で安全に活用するためには、まずChatGPTが誤った回答を生成する理由や特性を理解しておくことが重要です。

学習したデータを基に文章を生成しているため

ChatGPTは、質問を受けるたびに正しい情報をデータベースから検索し、その結果をそのまま回答しているわけではありません。学習したデータのパターンを基に、入力された内容や文脈に応じて、続く可能性の高い語句を予測しながら文章を生成します。

そのため、文章として自然で筋が通っているように見えても、内容まで正確であるとは限りません。特に、固有名詞や数値、日付、制度など正確性が求められる情報については、もっともらしい誤回答が含まれる可能性を考慮する必要があります。

事実に基づかない情報を生成することがあるため

生成AIが、事実に基づかない情報や不正確な内容を、あたかも正しい情報であるかのように生成する現象を「ハルシネーション」と呼びます。実在しない人物や文献、制度などを示したり、複数の情報を混同して回答したりするケースもあります。

ハルシネーションは、プロンプトを工夫することで発生する可能性を抑えやすくなりますが、完全に防げるものではありません。そのため、業務でChatGPTを利用する際は、回答に誤りが含まれる可能性を前提とし、重要な情報については一次情報や信頼できる情報源と照合することが重要です。

指示や前提条件が不足すると意図と異なる回答が生成されるため

ChatGPTへの指示が曖昧だったり、必要な情報が不足していたりすると、利用者の意図とは異なる回答が生成されることがあります。例えば、目的や対象者、前提条件などが明確でなければ、ChatGPTが不足している情報を補いながら回答を生成し、結果として求めている内容からずれる可能性があります。

回答の精度を高めるには、目的や前提条件、求める内容などを具体的に伝えることが重要です。また、不明な情報について推測せず「分からない」と回答するよう指示するなど、プロンプトを工夫することも誤回答のリスクを抑える方法の一つです。

ChatGPTの間違いを減らすプロンプトの工夫

ChatGPTの誤回答を減らし、業務で活用しやすい回答を得るためには、質問や指示の与え方を工夫することが重要です。ここでは、利用者が実践しやすいプロンプトの工夫を紹介します。

目的・前提・対象を具体的に伝える

プロンプトを作成する際は、「何のために（目的）」「誰向けに（対象）」「どのような前提で（前提）」回答してほしいのかを具体的に伝えることが重要です。

例えば、「ビジネスマナーについて教えて」と質問するのではなく、「新入社員向けに、ビジネスマナーの基本を箇条書きで3つ教えてください」と指定すると、求める回答の方向性が明確になります。目的や対象、前提条件を具体的に伝えることで、意図から外れた回答を減らしやすくなります。

出力条件と確認観点を指定する

回答を確認しやすくするために、出力時のルールや条件をあらかじめ指定しておくことも有効です。例えば、「不明な点は推測せず、その旨を明記する」「回答の根拠や参照すべき情報源の候補を示す」「メリットとデメリットを分けて整理する」といった指示が挙げられます。

ただし、このような条件を指定しても、回答の正確性が保証されるわけではありません。AIが示した根拠や情報源自体が実在し、内容を正しく裏付けているとは限らないため、重要な情報については利用者自身が一次情報などを確認する必要があります。

一度で完成させず、対話しながら調整する

ChatGPTから一度で目的に合った回答が得られるとは限りません。初回の回答をたたき台として、「この部分をもう少し具体的に説明して」「専門用語を使わずに書き直して」など、追加の条件や修正内容を伝える方法もあります。

回答を確認しながら不足している情報や条件を追加することで、利用目的に合った内容へ段階的に調整できます。ただし、対話を重ねても事実関係の正確性が保証されるわけではないため、最終的な確認は人が行うことが重要です。

社内利用で情シスが整えたい確認ルール

ChatGPTを全社で安全に活用するためには、回答の正確性を利用者個人の判断だけに任せるのではなく、組織として確認ルールを整えておくことが重要です。

情シスを中心に、利用できる業務の範囲や人による確認が必要なケース、具体的な確認方法などを明確にしておくことで、誤った情報が業務に利用されるリスクを抑えやすくなります。

利用してよい業務と注意が必要な業務を分ける

ChatGPTは、業務内容によって活用しやすさや誤回答が生じた場合の影響が異なります。例えば、アイデア出しや文章の要約、社内文書のたたき台作成などは活用しやすい一方、正確性が重視される数値や事実の確認、法務・医療・財務など専門的な判断を伴う業務では、より慎重な確認が必要です。

「利用してよい業務」「人による確認を条件に利用してよい業務」「利用を制限する業務」などに分類し、具体例とともにガイドラインで示しておくと、従業員が判断しやすくなります。

人による確認が必要な範囲とレビュー体制を決める

ChatGPTが生成した内容を業務で利用する場合は、どのような用途で人による確認を必須とし、誰が確認するのかを明確にしておくことが重要です。特に、顧客向けの提案資料や社外へ公開する情報、経営上の意思決定に関わる情報などは、AIの回答だけを根拠に利用・判断しないルールを設ける必要があります。

また、すべての出力を同じ方法で確認するのではなく、用途や情報の重要度に応じてレビュー体制を設定します。例えば、社内で使用する文書は担当者、社外へ公開する情報は上長や関係部署、法務や財務など専門性の高い内容は担当部署が確認するなど、確認者をあらかじめ定めておくと運用しやすくなります。

確認する情報源やチェック項目を明確にする

人による確認をルール化するだけでなく、何をどのように確認するのかまで具体的に定めておくことも重要です。確認方法が従業員ごとに異なると、誤った情報を見落とす可能性があります。

例えば、数値や日付、制度に関する情報は公的機関などの一次情報、製品・サービスの仕様や料金は提供元の公式情報、社内制度や業務ルールは最新の社内資料と照合する方法が考えられます。ChatGPTが示した出典や引用元についても、実在する情報なのか、回答内容を裏付けているのかを確認する必要があります。

確認する項目と参照すべき情報源をガイドラインにまとめておくことで、従業員が一定の基準に沿ってファクトチェックを行いやすくなります。

全社導入時に必要なガイドラインと教育

ChatGPTを全社で活用する際は、ツールを導入するだけでなく、従業員が適切に利用できる環境を整えることが重要です。情シスを中心に、入力する情報の取り扱いや基本的な利用方法をガイドラインとして定めるとともに、従業員への教育やサポート体制を整える必要があります。

入力できる情報の範囲を明確にする

ChatGPTを業務で利用する場合は、どのような情報を入力できるのか、あらかじめルールを定めておくことが重要です。個人情報や顧客情報、認証情報、未公開の業績情報、社外秘のデータなど、機密性の高い情報については、利用するサービスのデータ取り扱いや社内規程を踏まえて入力可否を明確にします。

また、ChatGPTは利用するプランや設定によってデータの取り扱いが異なります。全社導入にあたっては、セキュリティやデータ管理の要件を確認し、自社の利用目的やポリシーに適したプラン・利用環境を選定することも重要です。

業務に応じたプロンプト例を共有する

従業員によって生成AIの利用経験や理解度が異なるため、部門や業務ごとに活用しやすいプロンプトの例やテンプレートを用意し、社内で共有する方法があります。

例えば、文章の要約やメールの下書き、アイデア出しなど、利用を想定する業務ごとに目的や前提条件、求める出力形式などを含めた例を示します。具体的なプロンプト例を用意しておくことで、従業員がChatGPTの基本的な使い方を理解しやすくなり、部門内での活用方法も共有しやすくなります。

利用者向け研修と問い合わせ窓口を用意する

ガイドラインを策定するだけでなく、その内容やChatGPTの特性を従業員が理解できるよう、導入時に利用者向けの研修を実施することも重要です。

研修では、基本的な使い方に加え、入力できる情報の範囲やChatGPTを利用する際の注意点など、自社で定めたルールを具体的な業務例とともに共有します。

また、利用方法に迷った場合や、業務で利用してよいか判断できない場合に相談できる窓口を設けるなど、導入後も従業員をサポートできる体制を整えておくことが大切です。

まとめ

この記事では、ChatGPTが間違える理由や社内利用時の確認ルールについて、以下の内容を解説しました。

• ChatGPTはなぜ間違いが多いと言われるのか

• ChatGPTの間違いを減らすプロンプトの工夫

• 社内利用で情シスが整えたい確認ルール

• 全社導入時に必要なガイドラインと教育

ChatGPTを業務で活用する際は、誤回答を完全になくすのではなく、誤りが含まれる可能性を前提に利用することが重要です。プロンプトを工夫するとともに、重要な情報は一次情報と照合し、最終的な確認や判断は人が行う必要があります。

全社で利用する場合は、利用できる業務や入力できる情報の範囲、確認方法などをガイドラインとして明確にし、従業員への教育やサポート体制もあわせて整えることが大切です。

自社だけで生成AIの導入・運用体制を整えることが難しい場合は、外部支援を活用する方法もあります。

『FGLテクノソリューションズ』では、Microsoft 365をはじめとするIT環境の導入・運用を支援しています。自社に適した環境づくりを検討している場合は、ぜひご相談ください。