避免AI干预选举 OpenAI拟开发打假工具
（旧金山19日法新电）AI聊天机器人ChatGPT所有者OpenAI表示，即将发布反假信息的工具，时机正值今年是全球史上最大规模的“大选年”，各国的选举将覆盖全球近一半人口。
ChatGPT的横空出世引发一场全球AI革命，但也引发人们的警惕，即此类工具可能会在互联网上散播虚假信息，影响选民。
ADVERTISEMENT
今年美国、印度和英国等国将举行大选，OpenAI周一表示，不会允许其技术、包括ChatGPT和图像生成工具DALL-E被用于政治竞选。
OpenAI在一篇博客文章中表示，“我们希望确保我们的技术不会被用于可能破坏民主进程的方式。”
该公司补充说，“我们正在评估我们的工具在个性化说服方面的有效性。在有更多了解之前，我们不允许将其用于政治竞选和游说活动。”
世界经济论坛（WEF）在上周发布的一份报告中警告称，AI驱动的错误讯息和恶意假讯息是最大的短期风险，可能会破坏主要经济体新当选的政府。
专家表示，对选举虚假信息的担忧在多年前就已出现，但强大的AI文本和图像生成器的公开可用性加剧了这种威胁，特别是如果用户无法轻易判断他们看到的内容是假的还是被操纵的。
使生成文本附可靠归属
OpenAI周一表示，正在开发一种工具，可以为ChatGPT生成的文本附加可靠的归属，并让用户能够检测图像是否使用DALL-E 3创建。
该公司表示：“今年年初，我们将实施内容来源和真实性联盟（C2PA）的数字证书，这是一种使用加密技术对内容来源细节进行编码的方法。”
C2PA旨在改进识别和追踪数字内容的方法。其成员包括微软、索尼、Adobe以及日本的成像公司尼康和佳能。
OpenAI表示，当被问及有关美国选举的程序性问题（如在哪里投票）时，ChatGPT将引导用户前往权威网站。
该公司表示：“这项工作的经验将为我们在其他国家和地区的做法提供参考。”
DALL-E 3有“护栏”
它补充，DALL-E 3有“护栏”，可以防止用户生成真人的图像，包括候选人。
去年，美国科技巨头谷歌和脸书母公司Meta公布了限制选举干预的措施，特别是通过使用AI。
此前，法新社已揭露了多个深度造假视频，包括美国总统拜登宣布征兵，以及前国务卿希拉里宣布支持佛州州长德桑蒂斯竞选总统等。
尽管这些内容的质量很低，而且目前还不清楚是否由AI应用程序创建，但专家们表示，虚假信息正在加剧人们对政治机构的信任危机。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
