ChatGPT大受欢迎催生 聊天机器人可靠性存疑
（雷德蒙德10日美联电）谷歌的搜索引擎开始重塑我们使用互联网方式的近四分之一世纪后，多家大型科技公司竞相将搜索引擎这个众人熟悉的网络工具改造成进入一个新形式人工智能（AI）的门户。在本周，新推介的几个人工智能搜索聊天机器人，即有谷歌的Bard、百度的“文心一言”（英文名“Ernie Bot”）和微软的Bingbot。
促使它们仓促投入市场的原因，是微软的合作伙伴OpenAI去年底推介的ChatGPT大受欢迎，而ChatGPT如今协助驱动新版本的Bing搜索引擎。
ADVERTISEMENT
数百万人如今已试用过ChatGPT，用它来写一些无聊的诗和歌曲、写信、食谱和市场行销计划，或是帮忙做功课。它是经过大量网上著作，从使用说明书到电子书的训练，因此它能很好地掌握人类语言和语法。不过，这些最新的搜索机器人所承诺，并指ChatGPT所没有的是，在网络搜索中所能找到资料的即时性。若你要求新的Bing预览版为你提供最新的新闻，或是告诉你人们在推特谈论了些什么，它会概述当天的精选首要新闻或潮流趋势，并附有可连接至各媒体或其他资料来源的脚注。
但是它们准确吗？通常都不准确，而这也是互联网搜索的问题。
Bard Bing纷凸槌
谷歌本周仓促推介其Bard聊天机器人，一开始就犯了个令人尴尬的错误，是关于美国太空总署（NASA）的韦伯太空望远镜。不过，谷歌的Bard也并非唯一吐出谎言的人工智能机器人。
美联社于2月8日询问Bing关于过去24小时体坛所发生的最重要事情，预期它可能会稍微谈论篮球明星勒布朗·詹姆斯在职业生涯得分纪录超越贾霸。谁知，它却信心满满地滔滔不绝说出还未实际发生，数日后才到来的超级碗比赛的虚假但详细报道。
除非Bing是未卜先知，此事反映出一个在今日大型语言学习模型中很常见，称为人工智能“幻觉”的问题。这也是谷歌和脸书母公司Meta等公司一直不愿让这些模型作公开使用的原因之一。
测试发现：可秒编虚假内容
ChatGPT或成最强网谣工具
《纽约时报》报道，美国新闻可信度评估与研究机构NewsGuard对ChatGPT进行了测试，虚假信息的研究人员对ChatGPT提出充斥阴谋论和误导性叙述的问题，发现它能在几秒钟内改编信息，产生大量令人信服却无信源的内容。
他们表示，目前没有任何可行的方法可以有效地解决这一问题。
NewsGuard联合首席执行克罗维茨表示，ChatGPT将成为互联网上传播错误信息的最强大工具。
如今，编造一个虚假信息可以快速大量的进行，就像是人工智能特工一样，产生了大量错误、失实的消息，成了谣言聚集地。
值得注意的是，目前已经有平台开始管制，比如日前电商平台出现“ChatGPT”代问代注册的商品，目前已经被屏蔽，搜索不到任何内容了。
“模仿写作”让抄袭更难被察觉
抄袭事实查核机构NewsGuard透过实验，让ChatGPT回应百大假讯息，其中竟有80个成功变成了通顺合理的假讯息。
ChatGPT可以写论文、编程式，有关AI产生的研究摘要甚至被专家认为是同侪撰稿。针对这些“模仿写作”的手段，科技记者坎特罗维茨说，这一类型AI将使剽窃更容易发生，且ChatGPT的学习与回应功能，会让抄袭更难被察觉；资讯辨识真伪的漏洞，亦可能被有心人士滥用，产生假讯息。
优异对话能力或被滥用“钓鱼”
此外，犯罪人士也蠢蠢欲动，开始滥用ChatGPT优异的自动对话能力。
网路情报公司Hold Security创办人亚历克斯霍尔登观察到，过往各大社群平台上已经相当泛滥，假冒美女来骗感情、骗钱的钓鱼帐号，现在开始透过ChatGPT冒充真人更快、更自动地产生假对话，甚至借此来延续对话内容。
资安公司忧将成骇客工具
另外，以色列资安公司Check Point研究员披露，ChatGPT也将成为不擅长英语的俄罗斯骇客制作合法网路钓鱼电邮的工具。
ChatGPT让编写程式码的门槛变低，也让勒赎软体、木马程式更容易制造。
甚至还有骇客认为，可用ChatGPT来协助建构暗网市集，完成部分功能。论坛上就分享了用ChatGPT 写一个程式，作为可自动监控加密货币价格的支付系统。
Check Point研究员认为，要防止犯罪人士利用ChatGPT可能还是得靠法规来监管。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
