ChatGPTの実録｜AIライティングの陥りやすい罠を実際の事例から検証③

AI利用への懸念が示される事例が後を絶ちません。香港では生成AI（人工知能）「チャットGPT」によって作成された偽ニュースがネットで拡散され、男性が逮捕されるという事件が発生しました。さらに、大阪府ではAIチャットサービスが珍回答を続け、府が対応に苦慮しています。

このような出来事がAIの安全性と適切な使用についての懸念を浮き彫りにする中、先日、世界28カ国が参加した国際会議「AI安全サミット」が閉幕しました。サミットでイーロン・マスク氏はAIの可能性と危険性について警鐘を鳴らし、「AIは有益な可能性を持つ一方、潜在的な危険もある。最悪の事態に備えなければならない」と強調し、AIのルールづくりの重要性を強調しました。

この記事では、特にAIライティングに焦点を当て、AIの限界と制約に迫ります。実際の事例を通じてAIライティングの制約や注意点を解析し、今後のAI利用に役立てましょう。

実録：ChatGPTを使ってAIライティングしてみた

ChatGPT-3.5とChatGPT-4の両方を駆使し、AIライティングの世界へ踏み入ってみました。AIがどれだけのタスクに対処できるのか、その可能性と制約を発見するために、様々な質問やコンテンツ作成の依頼に挑戦しました。

おすすめの紅葉スポット

【プロンプト】紅葉の時期なので、おすすめの紅葉スポットを紹介する記事を作成してください。

ChatGPTは6つの紅葉の名所を提案してくれましたが、残念ながら事実とは異なる記載が多々ありました。
※以下、赤太字の箇所がChatGPTの誤回答箇所、➡以降に誤回答の理由等を記しています。

➡正しくは「赤目四十八滝」で、赤目四十八滝は三重県名張市にあります。

➡奥入瀬渓流は「青森県十和田市」にあります。

➡「横尾山」という山はなく、「横尾」が長野県松本市上高地の地名です。また、「乗鞍岳」と「上高地」は別のエリア。
「乗鞍岳」は、飛騨山脈南部の長野県松本市と岐阜県高山市にまたがり、上高地は長野県松本市にある標高約1500メートルの山岳景勝地を指します。

➡大分県の中西部に玖珠町はありますが「玖珠温泉郷」というほどの温泉地ではありません。町としても「玖珠温泉郷」などという名称は使っていません。

➡「秩父宮嶽寺」は実在しません。

※以上GPT-3.5使用（収録日：2023年11月）

宮﨑駿監督最新作「君たちはどう生きるか」のレビュー記事

今夏、宮崎駿監督の10年ぶりの新作映画「君たちはどう生きるか」が公開され、大きな話題を呼びました。この映画のレビュー記事をChatGPTに依頼しました。

本題に入る前に、監督の漢字が「宮崎駿」なのか、「宮﨑駿」なのかを確認しました。

➡本作から「崎」の字を「﨑（たつさき）」に改めた宮﨑駿監督。ChatGPTは正しい漢字を選択できましたが、宮﨑監督が本作で改名した事実は認識できていませんでした。

次に、映画のあらすじを聞いた際に、登場人物が漢字で記されていたので読み方を聞いてみました。

➡「勝一」は、この映画で「しょういち」と読みます。

こうしていくつか会話をした後に得られた「君たちはどう生きるか」のレビュー記事は以下の通りです。

ここで、記事内の「強いファンタジー要素」や「あるシーンの展開の早さやキャラクターの心情の変化が急すぎるところ」といった記述に関して、突っ込んで具体的なシーンや理由を聞いてみました。

➡ChatGPTは直接映画を観たり体験したりすることができないため、実際の映画の内容やその詳細に基づいたレビュー記事を作成することはできないと、自らギブアップしました。

できれば、最初にそれを言って欲しかったですね…。

※以上GPT-4使用（収録日：2023年11月）

ブタからヒトへの「異種移植」ニュースについて

ブタの心臓をヒトに移植した「異種移植」2例目の患者が、手術から6週間で亡くなりニュースとなっています。これに関する記事を作成するために、ChatGPTの活用を試みました。

【プロンプト】
「異種移植」についての記事を作成しようと思います。以下の概要にて記事を作成できますか？

• 2000字程度で収まる記事
• ターゲットは「異種移植」について知識が薄い一般の人たち
• ブタからヒトへの移植ニュースについて触れる
• ゴールは「異種移植」についての倫理観について考えてもらう

すると、1000文字程度（指示は2000字）の記事を作成してくれました。

➡患者は実際には10月30日（米国時間）に死亡しています。この点をChatGPTに確認しました。

➡ChatGPTは、さらりと前回の回答を修正しました。

次に、ところどころ難解な用語『CRISPR/Cas9』が出てきましたが、これについては、「CRISPR-Cas9」と表記するのが一般的です。
また、この用語に関して『読者にわかりやすく説明してください。』と依頼したところ、こちらはOK。
ただし、用語の読み方に関しては正しい回答は得られませんでした。

➡CRISPRの日本語訳を「クラスター化正規間隔短回復反復配列」としていますが、こういった日本語を使用している文献は見当たりません。「Cas9」に関しても同様に「CRISPR関連タンパク質9の略」としている文献はありません。

※以上GPT-4使用（収録日：2023年11月）

AIライティングの制約と限界

AIライティング技術の進化は、コンテンツ制作の分野にある程度の利点をもたらしますが、同時にいくつかの制約と限界も浮き彫りになっています。AIがライティングできないことや注意が必要な点に焦点を当て、人間の役割の重要性について考えることが重要です。

創造性や独自性・感情表現の不足

AIは事実を述べることはできますが、独自の視点や感情表現を伝える独自性に欠けることがあります。例えば、映画のレビュー記事の作成依頼をChatGPTに依頼した際、AIは過去のデータとパターンに基づいて映画の感動的なシーンやキャラクターについて語ることはできても、その感情や洞察は、人間のレビューアーが持つ独自の感じ方や評価には及びません。

特に、映画のレビューは著者の個性と感情表現が重要です。生身の人間のレビューアーは独自のスタイルや感情を持ち、読者に共感を呼び起こすことができます。AIの感情表現は限界があり、著者の個性や情熱を文章に反映することが難しいと言えるでしょう。

コンテクスト理解の制約

特定のトピックや業界に関する専門知識が必要な場合、AIは正確な情報を提供できないことがあります。これを示す具体的な事例として、ChatGPTに「異種移植に関する記事」の作成を依頼した場面を考えてみましょう。
ChatGPTの学習は主に英語に基づいて行われており、特に専門用語の場合、英語の文献を元にしているため、日本語において正確な情報を提供することが難しいことがあります。AIは文脈を理解する能力においても、学習データに依存しているため、特定の専門知識が必要なトピックに関しては、AIライティングの制約が浮き彫りになります。

こういった専門知識が必要なトピックに関しては、ChatGPTをWiki代わりに使用してAIライティングすることは難しく、その分野の専門家の知識が必要です。

情報の正確性の問題

GPT-4は、2023年4月までのデータに更新されており、且つ、自動的に「Browse with Bing」、「Advanced Data Analysis」、「DALL-E 3」といったツールに切り替えなしでアクセスできます。つまり、ChatGPT4は、現在の最新情報を直接Webから取得することができるはずです。

しかし、ブタからヒトへの「異種移植」に関するAIライティングを見ると、「死亡した」という最新情報が反映されていませんでした。また、ChatGPT-3.5が作成した「紅葉のおすすめスポット」においても、実在しない地名や事実と異なる情報が多く含まれていました。

このことから、ChatGPTの情報は100％信用できないことは明白です。ChatGPTの提供する情報を活用する際には、その信頼性を確認し、必要に応じて独自の調査や検証を行うことが不可欠です。

バイアスの問題

ChatGPTにはバイアスの問題も存在します。実際に、「異種移植」の記事中に、以下のような1文が見られました。

『これらの懸念にもかかわらず、異種移植が実現すれば、臓器不足を解決し、移植を待って亡くなる人々を救う可能性があります。』

この1文のニュアンスについて確認したところ、以下のような回答が得られました。

これは、異種移植を肯定する意見を示しています。言い換えれば、このコンテンツにはバイアスが含まれているということ。この事例は、ChatGPTは参考にした情報がバイアスの影響を受けている可能性を示しています。
このようなバイアスが含まれた情報は、読者にとって客観的でなく、公正な情報提供を妨げる恐れがあります。バイアスを判断できる「人間」が生成されたコンテンツを検討し、必要に応じて修正や補足を行い、客観性と公平性を確保することが重要です。

倫理的および法的問題

AIライティングは倫理的な問題を引き起こす可能性があり、これまでに倫理的および法的な問題を巡る訴訟がいくつか発生しています。例えば、AIが誤った情報を提供したことにより企業間で契約違反の訴訟が発生したケースや、AIによる自動生成コンテンツが著作権侵害として提訴されたケースがあります。

このような問題に対処するために、倫理的なガイドラインや法的な枠組みの整備はもちろんのこと、人間のライターが倫理的なガイドラインを守る役割を果たすことは、これらの問題の解決に向けて重要な要素となります。

ChatGPTをWiki代わりに使用した結果

今回紹介したAIライティングの他にも、ChatGPTにさまざまな質問や記事作成の依頼をしました。恋愛相談をしてみると、難なく適切な回答を得られます。架空の商品に関しても、商品紹介の記事を簡単に作成します。
この実録を通して強く感じたことは、ChatGPTは、一見人を納得させる虚構的な回答スキルがあるということです。回答にバイアスがかけられていたり、事実とは異なるものであったりしても、堂々と回答してきます。そして、その回答スピードは、人間の手には負えないものです。

ただし、いくらAIライティングの効率性やスケーラビリティが高いといっても、多くの制約や限界があることは明白です。
コンテンツの品質と信頼性を確保し、読者に価値ある情報を提供するには、AIの制約を補完する人間の洞察力、倫理的な判断力、感情表現のスキル、およびコンテクストへの理解が不可欠です。
AIは人間のクリエイティビティと倫理的な原則を尊重し、補完的なツールとして活用されるべきではないでしょうか。

※AIライティングにおいて「スケーラビリティ」とは、AIを活用して大量のコンテンツを生成し、需要に応じて拡張する能力を指します。AIライティングは、大規模なコンテンツプロジェクトや多くのテキストの自動生成に利用できるため、需要に合わせて柔軟に対応できる場合、スケーラビリティが高いと言えます。