【代码之外】丁源森／透视人工智能 机遇与责任同行

又比如在我的研究领域——天文学，AI也具有巨大的潜力。您可能在疫情期间看过Netflix的电影《不要抬头》（Don’t Look Up），它讲述小行星即将撞击地球的故事。尽管这个主题有些老套，但在现实生活中，从海量数据中识别对地球潜在威胁的小行星，确实是一项极其复杂的任务。我和我的同事们也正在利用电脑视觉技术——类似于监控系统的人体追踪技术，来寻找这些小行星。

当AI被不当使用的潜在危害

尽管机器学习在多个方面都正在推动我们社会的发展，但并非所有影响都是正面的。虽然我之前一直强调AI的积极潜力，但我们也必须警觉于它可能带来的风险。

在马来西亚，我们普遍存在一个误区，感觉大家好像认为机器学习是一个高端且难以触及的领域，我们也只能嗑瓜子，看着中美竞争就好了。然而，事实上，机器学习的入门门槛其实相对低。尽管有些研究确实需要大量资金，但普通学生甚至高中生也能理解其中的基础概念。据我所知，像新加坡就正在全球以高额奖学金吸引电脑科学博士生。如果我们马来西亚不开始重视AI和机器学习，那么我们将面临严重的全球竞争劣势。我们需要让年轻人知道，机器学习并不是高不可攀，反而是未来发展的必备技能。

而正因为机器学习的门槛相对较低，这也为不怀好意的人提供了更多可乘之机。我们常说人工智能正在变得越来越“智能”，但这种智能不是说有意识，而是它可以用少量的样本做到泛化。以人类来说，我们能够仅凭几句话就识别出说话的人，这是一种高度的泛化能力。而当前的人工智能技术也越来越能在少量样本的基础上进行泛化。这样的进步当然带来潜在的社会风险，比如通过简短的语音样本就能模仿某人的声音。但是这种问题，我觉得所谓“魔高一丈，道高一尺”，最后我们社会也会慢慢适应。

说到坏人用AI做坏事，其实还有更令人担忧的潜在问题。我曾与一位专门使用AI进行蛋白质折叠研究的同事讨论过这个问题。他最担心的是，这种低成本的“制药”技术具有双刃剑的性质：一方面具有制药的潜力，另一方面则可能利用AI来设计病毒，而且成本不高。我自己当时听的时候也是吓出了一身冷汗。

这让我回到了文章的开头，我觉得我们有时在讨论AI时会失焦。像大量失业和“天网”式的自我意识机器人的出现确实有些过于想像，但我们应记住，人类最大的威胁往往还是来自人类自身。

勇往直前，在风险与机会中寻求平衡

有人可能会问，既然有这么多不确定因素，为什么不直接限制这些技术的发展呢？这当然是一个值得深思的问题，美国等国家也在频繁讨论这一点。但核心问题在于，即使我们限制大型模型的发展，问题本质并未解决。小型模型同样有可能造成巨大的破坏，特别是考虑到这一领域的入门门槛相对较低。

另一方面，我们面临许多紧迫和复杂的问题，从应对气候变化和寻找可持续能源，到治疗癌症，甚至应对不可预见但极其严重的问题如小行星威胁。在所有这些方面，机器学习都是我们人类现在唯一的希望。因此，我们不能因为某些潜在的风险而因噎废食。

然而，不管大家觉得我们是因噎废食还是饮鸠止渴，事实是这个大门已经被敲开了。我们现在能做的最好的事情，就是每个人更深入了解这些新兴技术，并形成自己的见解，而不是随波逐流。

不确定的未来的确会令人不安，不过我觉得人类发展总是像在高空的钢索上行走，永远都具有风险和不确定性。但停滞不前不是选项，我们唯有勇往直前才能保持平衡。

更多相关文章：
【代码之外】丁源森／AI在天文上的神助攻
【代码之外】丁源森／做AI时代里的 六边形战士
【代码之外】丁源森／论AI的养成与黯然销魂饭
【代码之外】丁源森／AI、ChatGPT与我妈的扫地机器人