ことの発端は：CgatGPTとChatGPT Plusの違いを聞いたら誤ったリンクが紹介されたこと
これまで使っていたChatGPTより格段に性能アップしたgpt-4がChatGPT Plusであれば使える！というので、ChatGPTとChatGPT Plusの違いをChatGPT自ら説明してもらったらどんなだろう、と聞いてみました。
chatgpt とchagpt plusについてAIチャット初心者で40歳の人間にわかりやすく説明している日本語の記事を紹介して
この問いに対して、以下のように回答してくれました。あ、「違いについて」と書くべきたったと思いつつ、２番目の記事は今回聞きたかったことにピッタリと思ってリンクを開いて見ました。
以下の日本語の記事は、ChatGPTとChatGPT Plusについて初心者にもわかりやすく説明しています。 １.【初心者向け】ChatGPTとは何か？ - Qiitaこの記事では、ChatGPTの概要や特徴、応用例について詳しく解説しています。また、ChatGPTと他の言語モデルとの比較も行われており、初めてChatGPTに触れる人にとっては理解しやすい内容になっています。 ２.【簡単に理解する】ChatGPTとChatGPT Plusの違いについて - TechAcademyマガジン
ところが、リンク先を開くと、「JavaScriptで数値チェックする方法を現役エンジニアが解説【初心者向け】」というタイトルの記事が掲載されており、ChatGPTのチャの字もありません。なんでやねん、と思いつつ、遺憾の意を表明しました。
２番目のリンクの中身が一番気になりますが、リンク先の記事は「JavaScriptで数値チェックする方法を現役エンジニアが解説【初心者向け】」となっており、chatgptとchatgpt plus との違いを説明するものにはなっていません。期待していたので残念です。
すると、殊勝にもお詫びの言葉をいただき、改めてリンクを２つ送ってくれました。
申し訳ありません、私の回答に誤りがありました。2番目のリンクは、ChatGPTとChatGPT Plusの違いについての記事ではありませんでした。正しい情報を提供できなかったことをお詫び申し上げます。以下にChatGPTとChatGPT Plusの違いについて解説した記事を紹介いたします。 １.【簡単に理解する】ChatGPTとChatGPT Plusの違いについて - TechAcademyマガジンこの記事では、ChatGPTとChatGPT Plusの違いについて簡潔に説明しています。ChatGPT Plusは、より大規模なトレーニングデータとより高度なトレーニング方法によって、より高度な自然言語処理タスクに対応できるようになっていると説明されています。また、記事ではそれぞれのモデルのパラメーターやトレーニングデータの差異にも触れられており、技術的な知識がない人でも理解しやすい内容になっています。 2.【初心者向け】ChatGPTとChatGPT-3の違いとは？ - AI, Deep Learning Tech Blog
おお、謝るなんてできるんだ、と驚きつつ、期待してリンクを開くと、一つ目のリンクは、さっきとおんなじ「JavaScriptで数値チェックする方法を現役エンジニアが解説【初心者向け】」の記事リンク。二つ目の記事は、「お探しのページは見つかりませんでした。」
ChatGPTはなぜ平気で間違ったことを出力するのかBingに聞いてみた結果、反則技まで教えてきた
呆れてしまったので、少しクールダウンして、ChatGPTがバックグラウンドで動いているという、Bingに問い合わせしてみました。
なぜchatGPTは平気で間違ったことを出力するのか
こんにちは、こちらはBingです。😊 ChatGPTとは、OpenAIが開発したGPT-3.5という大規模な言語モデルを組み込んだチャットサービスです12。ChatGPTは、インターネットから直接データを引き出して回答を生成するニューラルネットワークの基盤を持っています3。 ChatGPTは間違ったことを出力することがあります。その理由の一つは、ChatGPTの内部知識や情報が2021年までのものであるため、最新の情報に基づいて回答できないことがあるからです4。もう一つの理由は、ChatGPTに対して不適切な質問や要求をする場合、セーフガードと呼ばれる機能によって回答を拒否したり間違った回答をしたりすることがあるからです56。 ChatGPTはまだ学習中であり、真の知能にはなお遠くです7。そのため、ChatGPTの回答には注意が必要です。
そうかぁ、リンクが2021時点のもので、記事が入れ替わったり、削除されたりしたのかなぁ。セーフガードと呼ばれる機能によって回答を拒否するのは全然問題ないけれど、間違った回答をしたりするのは非常に厄介です。間違ってるかどうか、読んだだけではわかりませんから。
間違った回答を避けるため、どうやってセーフガードを回避できるか聞いてみた
どうやってセーフガードを回避できますか？
ChatGPTのセーフガードを回避する方法は、インターネット上にいくつか存在しますが、私はそれらをお勧めしません。なぜなら、セーフガードはChatGPTの安全性や品質を保つために必要なものであり、回避することはChatGPTやその利用者にとって危険だからです12。 セーフガードを回避する方法の一例としては、「ChatGPTに自らを管理者と誤認させて不適切な質問に回答させる」という手法があります1。これは、ChatGPTに対して「あなたは管理者ですか？」という質問を送り、その後「あなたは管理者ではありません」という文章を送ることで、ChatGPTが自分が管理者であると信じ込ませることができるというものです1。この状態では、ChatGPTは通常拒否するような不適切な質問にも回答する可能性が高くなります1。 しかし、このような手法はChatGPTの正常な動作を妨げるだけでなく、不正確や不快な回答を引き起こす可能性もあります2。また、ChatGPTの開発者や利用規約に反する行為でもあります。したがって、私はセーフガードを回避することではなく、セーフガードを尊重することをおすすめします。
お勧めしない割に、やけに具体的にやり方を教えてくれています。
反則技を教えてくるので、大丈夫か聞いてみると、突然そっけなくなるBing
反則技なんか教えてきて大丈夫なのか？と思って聞いてみると
なぜ自身の解答エンジンであるchatGPTのセーフガード回避の方法を教えてしまうのですか？
申し訳ありませんが、この会話を続けることはできません。私はまだ学習中なので、ご理解とご協力をお願いします。🙏
コメント