ChatGPTの問題点とは？注意すべきポイントを解説

• ChatGPTには便利な点の他に問題点はないのだろうか？
• ChatGPTが得意なこと・苦手なことは何か？
• 企業がChatGPTを活用する際に注意しておくべき点とは？

上記のような疑問を抱えていませんか？

今回はChatGPTの主な問題点と、得意なこと・苦手なことについて解説します。

企業がChatGPTを活用する際に注意するべきポイントも併せて紹介しますので、ぜひ参考にしてください。

ChatGPTとは

はじめに、ChatGPTとはどのようなツールかを簡単に振り返っておきましょう。

ベースとなっている基本的な技術や、ChatGPTに特有の性質を押さえておくことが大切です。

自然言語モデルGPT-3がベースのAIチャットツール

ChatGPTは人間と文字ベースでの対話が可能なAIチャットツールです。

AI言語モデルであるGPT-3をベースに開発されており、質問に対してデータベースから適切な単語を選んで回答することができます。

ChatGPTが従来のチャットボットと異なる点は、状況に応じて文面や文体を使い分けられる点です。

InstructGPTを介在させることにより、GPT-3は人間が好ましいと感じる文体を随時学習しています。

まるで物知りな人に質問をして答えてもらう時のように、文字を通じて機械と会話ができるようになったツールと捉えてください。

最大の特徴は「人間らしい」会話が可能になったこと

本来、人間が使う自然言語は機械にとって難解であり、扱いづらいものとされてきました。

自然言語処理の技術により、機械と人間が自然に対話できるようになった点がChatGPTの大きな特徴といえます。

裏を返すと、ChatGPTは「人間と同じように言い間違えることもある」ツールです。

雰囲気や物腰から、話している内容が多少間違っていても信じ込ませるのが得意なタイプの人物とよく似ています。

ChatGPTは「人間らしい」滑らかな会話ができるため、良くも悪くも「もっともらしい」回答が可能なツールなのです。

ChatGPTの主な問題点

ChatGPTの性質と主な問題点を挙げました。

実際にChatGPTを活用するにあたって、次の点に注意が必要です。

情報の正確性は担保されていない

ChatGPTはデータベース（インターネット上）に存在する情報を繋ぎ合わせて文章を生成しています。

そもそもデータベースに記録されている情報に誤りが多ければ、ChatGPTが生成する文も誤っている可能性があるのです。

一例として、「中和反応とは何か説明してください」とChatGPTに質問したところ、次の回答を得ました。

中和反応によって水と塩（えん）が生成されるという解説は正しいものの、「中性に戻す」という表現は正確ではありません。

中性（pH7）になるのは酸と塩基がちょうど打ち消し合った場合に限られており、常に中性化されるわけではないからです。

中和と中性が異なること自体は初歩的な化学の知識ですが、両者は語感が似ていることからよくある間違いともいえます。

中和と中性を混同した説明をしてしまうのは、ChatGPTの回答が正確性を欠く場合もあるという典型例です。

最新情報が反映されていない可能性がある

ChatGPTの回答には、最新情報が反映されていない場合があります。

「健康保険の出産育児一時金はいくら受け取れる？」と質問した場合の回答を確認してみましょう（2023年4月時点）。

2023年4月より健康保険法が改正され、出産育児一時金は1児につき42万円から50万円に増額されています。

クーポン等が計10万円支給される「出産・子育て応援給付金」も新設されているため、上記は明らかに古い情報です。

2023年4月に施行されたばかりの改正健康保険法に関する情報は、まだデータベースに反映されていないと考えられます。

法律など不定期に改正や変更が行われるものに関しては、情報が古い可能性があることを押さえておきましょう。

情報の出所が不明確

ChatGPTの回答には、出典が記載されていないケースがよく見られます。

質問内容によっては「〇〇のデータによれば」などと言及していることもありますが、出典に触れていない回答も少なくないのです。

情報の出所が不明確であることから、回答が正確かどうかを検証しにくい面があります。

企業の公式な回答として顧客や取引先に伝えるには、心許ないと言わざるを得ないでしょう。

「日本の最新の人口を出典付きで教えてください」のように尋ねることもできますが、実際に得られた回答は下記の通りでした。

出典元として示されたURLはすでにリンク切れとなっており、真偽を確かめることはできません。

最新の人口推計は2023年3月20日に公表された2022年10月時点の確定値で、国内人口は1億2,449万人（※）です。

情報の出所が不明確であることは、情報の正確性が担保されていないことと併せて押さえておく必要があるでしょう。

※総務省統計局｜人口推計（令和4年（2022年）10月確定値、令和5年（2023年）3月概算値）（2023年3月20日公表）
https://www.stat.go.jp/data/jinsui/new.html

高い創造性求められる質問には対応できない

ChatGPTはデータベースにある情報を繋ぎ合わせて「一見するともっともらしい回答」を作るのは得意です。

反対に、高い創造性やオリジナリティを求められる回答にはあまり適していません。

「生命力を感じさせる短歌を作ってください」とChatGPTに質問したところ、以下の回答を得ました。

短歌は五・七・五・七・七の三十一音で構成するのが基本ですが、上記は七・六・八と短歌の体を成していません。

試しにもう一度同じ質問をすると、以下の回答が返ってきました。

六・九・七と、前回と同様に短歌の基本形から逸脱しています。

どちらも与えられたテーマの「生命」という語を直接的に用いており、技巧面についても巧みとは言いがたいでしょう。

ChatGPTは創造的な文章にもある程度対応しているとはいえ、高度な創造力を要求する質問には適切に回答できないのです。

機密漏洩のリスクがある

ChatGPTは世界中のユーザーから寄せられた質問内容を随時学習しています。

ChatGPTを通じて送信した質問内容は、開発元であるOpenAIに送信されているのです。

企業の機密情報に関わる質問をした場合、送信した情報がどのように活用されるか分かりません。

ユーザーからの質問内容を随時学習しているAIチャットだからこそ、質問内容には十分注意する必要があります。

社外秘事項など、機密情報に関してはChatGPTに質問するのは避けるべきでしょう。

ChatGPTが得意なこと・苦手なこと

ChatGPTの特性を踏まえて、得意なこと・苦手なことをまとめました。

AIチャットを活用したサービスやプロダクトを考案する際の参考にしてください。

ChatGPTが得意なこと

• 一般的な質問への回答
• 基礎的かつ普遍的な情報の提供
• 滑らかで人間らしい文章の生成
• 文脈を踏まえた文章の生成
• 一定レベルの創造的な文章生成

ChatGPTは自律的に思考しているのではなく、あくまでも質問に合う回答をデータベースから収集しているに過ぎません。

2023年4月時点で対応できるのは、一般的な質問や基礎的・普遍的な質問に限られると考えてください。

一方、当たり障りのない回答であれば、滑らかで人間らしい文章を生成することに長けています。

質問の文脈を踏まえた回答や、一定レベルまでであれば創造的な文章の生成にも対応可能です。

「幅広い知識を持っているが、踏み込んだ質問には答えられない」といったタイプの人をイメージすると分かりやすいでしょう。

ChatGPTが苦手なこと

• 専門性や高度な知識を必要とする回答
• 数値や単位などの正確性が求められる回答
• 最新情報を反映させる必要がある回答
• オリジナリティが求められる文章の生成
• 未知の状況・情報に対する判断

現状、インターネット上に存在する情報の中には不正確な情報や誤った内容も含まれていることは、多くの人がご存知でしょう。

ChatGPTが取得・収集する情報にも誤った内容が含まれているため、厳密性や正確性を求められる回答は得意ではありません。

オリジナリティが必要な回答や、未知の状況に対する判断のように「０から１を創造する」ことも苦手です。

臨機応変な対応力や世の中に存在しないアイデアを創造する能力は、少なくともGPT-3の段階では人間に軍配が上がります。

GPT-4について

2023年3月、ChatGPTにAI言語モデル「GPT-4」が実装されました。

2023年4月現在、有償版のChatGPT Plus（月額20ドル）でGPT-4によるAIチャットが利用できます。

GPT-3とGPT-4の最大の違いは処理能力です。

GPT-3で処理できる変数（パラメーター）が約1.75兆だったのに対して、GPT-4の変数は約100兆に強化されています。

GPT-3は自然言語生成に特化されていましたが、GPT-4では画像から文章を生成することも可能になりました。

ChatGPTの弱点とされてきた正確性に関しても、GPT-4によって今後解消されていく可能性は十分にあるでしょう。

企業がChatGPTを活用する際に注意すべきポイント

ChatGPTを適切に活用していくには、ChatGPTの弱点を押さえておくことが大切です。

とくに企業がChatGPTを活用する上で注意すべきポイントを確認しておきましょう。

回答は人の目によるチェックが必須

ChatGPTによる回答は、正確性を欠いているケースが散見されます。

「もっともらしい回答」を生成することに長けているAIのため、回答の正確性は保証されていないのです。

ChatGPTが一見正しいように思える回答を返してきたとしても、人の目によるチェックは欠かせません。

情報は正確か、最新情報にもとづいているか、よくある事実誤認が混ざっていないか、といった点を十分に確認してください。

必ず一次情報を確認する

2023年4月現在、ChatGPTの回答には2021年〜2022年頃までの情報を踏まえたものが多く見られます。

直近で起きた出来事や改正されたばかりの法律などは反映されていない可能性が高いため、事実確認は必須です。

出典が明示されていないケースも多いことから、必ず一次情報を確認しておくことが求められるでしょう。

ChatGPTの長所でもある、自然で滑らかな文体に惑わされないよう注意する必要があります。

機密情報に関わる質問はできない

企業の機密情報や未公開情報など、外部に漏洩してはならない情報はChatGPTに質問するべきではありません。

開発元にデータが送信され、AIの学習データとして活用される可能性があることを理解しておきましょう。

SNSなどの外部サービスに社内の機密情報を投稿してはならないのと同様と考えてください。

必要に応じてChatGPTの扱いを社内ガイドラインに追加するなど、あらかじめ対策を講じておくことが大切です。

まとめ

ChatGPTは無料で利用できるWebアプリであることから、AIを身近に感じられるツールとして大きな話題となっています。

一方で、今回紹介してきた通り、活用するにあたって注意しておくべき事項や苦手とする処理も存在するのが実情です。

とくに企業でChatGPTを活用する際は、誤った情報の流布や情報漏洩などの問題に発展しないよう注意する必要があります。

今回紹介した問題点や注意点を踏まえて、ぜひChatGPTを適切に活用してください。

年商5億円を超えさらなるスケールアップを目指す経営者必見！
あなたのビジネスをスケールアップさせる集客と組織作り、
さらに、成功事例やここだけのお得な内容をお届け致します。