宇奈月ブログ

人生の旅人

デジタル時代の落とし穴:AIチャットボットの信頼性を問う

今AI で回答するサイトが多くなり、
気軽に使われていて、
さらにはその使いやすさのハードルが
低くなり、ますます普及しています。

今日の日刊紙で、面白いコラムが
載っていました。

ニューヨーク市が、中小企業の
様々な企業を支援するための道具
として2023年秋にAIを使用された
対話型(チャットボット)
が運営させたのですが、その出来栄が、
誤った情報を伝えたのに、質問に
回答する答えが、「危険なほど不正確」
な回答がなされることが知れ渡り
批判にさらされている。

例えば、ニューヨーク市では、
キャッシュレスだけで運営することは
禁止されているのにもかかわらず、
質問者の「キャッシュレスで
店を出したいのだけれど」の質問では、
AIからの回答では「キャッシュレス店
形式で店を出すのは禁止されていない」
と回答したと言う。

AIチャットボットの開設時には
「実用的に信頼できる」と提供された
機能が誤った情報を伝えたことにより
信頼を失ういるのである。。

例えば Chat GTP 3.5 では、
こんな回答を受け取った。


(毎朝夕刊2024・04・6まとめ)




ありがとうございました。


完。