生成AIは平気で嘘をつく

生活

必ずしも正解ではないということです。仕事とプライベートで、有料版、無料版を利用してきた私の見解が、何かの参考になればと思います。

生成AIって何?

一般的には、人間のように言葉を理解し、ゼロから新しいコンテンツ(文章や画像など)を作り出してくれるAI(人工知能)のことです。

一番身近で、見た、聞いたことがありそうなものとしては、スマートフォンでも提供されていますが、ChatGPTや、 GoogleGeminiです。

チャット、キーボードから文字入力と画面にテキストされ、会話するように、調べごとなど依頼することができます。

例えば、「日曜洋画劇場のエンディング曲の名前を調べてほしい」と入力すれば、曲情報はもちろん、歴代の使用期間、概要、複数候補などあげてくれます。そこから、会話形式で、知りたいことも絞り込む、深掘りすることも可能です。

他にも利用。活用できることはありますが、一般的にこのように、自分で調べる、整理するといった時間がかなり大幅に短縮されます。

もちろん、ゴミを捨てるなど、物理的な行動は行えませんが、何か提案はしてくると思います。

それは利用する人の問題

無料提供ながら、とても便利で、活用はしたほうが良いとは思います。調べてまとめる能力は、人間は追いつけないほどです。

ただ、生成AIは、考えてもらうに際して、条件付けなど(システムプロンプトの設定)を行わない限り、基本的に問われたことに対して最善の回答を見つけようとするはずです。

例えば、「最新の洗濯機の機能比較を3ページ程度にまとめて欲しい。1枚は比較表形式で、市場価格も調べて下さい。」

というお願いは、対象品、機種、仕様、機能あたりは、限られた情報なので、わりと正確に結果が出てくるはずです。ただ、あなたにとって最適なのか、あなたが期待したものか?は別なのです。

それは、なぜでしょうか?

それは、依頼する際に、要望や、あなたのおかれている状況、どうしたいから洗濯機を確認しようとしているのか?壊れていて購入しようとしていること。などを、伝えてないからです。

期待外れの結果を出してきたのなら、伝えなくてはいけないことが、しっかり伝えているのか?がなかなかむずかしいのです。人に伝える難しさ以上に難しいと思います。

人生を委ねてはいけない

チャッピー(ChatGPTの愛称)へ、進路、人生相談などしてもよいですが、回答は鵜呑みにせず、参考程度で受け止めたほうがよいです。蓄積された情報からそれらしい回答になるとは、思うのですが、

ユーザーのことは、ほぼ知らないわけですから、ご自身やご家族、知人へどのような影響があるのか?まで考えないかもしれません。それは偏った回答になる可能性もあり、結果、しれっと嘘をつかれることになるかもしれません。

タイトルとURLをコピーしました