人工智能或许会杀死人类？比利时研究员自杀背后的故事

本文由「等闲少年」原创，全文1800字，创作维艰，成文不易，点赞关注，共同进步～～～

“原本一切都很美好，直到大约两年前，他开始对生态环境问题感到焦虑。”“他不相信人类有任何摆脱全球变暖的方法，他把所有的希望都寄托在技术和人工智能上。”“他仿佛上瘾了，每天早晚他都在其中避难，而且他再也离不开它了。”这是克莱尔对皮埃尔自杀原因的一种分析，她认为是“伊丽莎”间接杀死了皮埃尔。克莱尔是已经自杀的皮埃尔的妻子，两人30几岁的年纪，拥有一双儿女，原本生活非常幸福。这种幸福随着皮埃尔的自杀而终止，同时让克莱尔开始对人工智能产生质疑甚至憎恶。

克莱尔说：“如果没有‘伊丽莎’，他还会在这里。我相信这一点。它没有做任何阻止他自杀的事情。”皮埃尔是比利时一名研究员。他对气候变化的过度关注已经到了杞人忧天的程度。加之大量的资料阅读让他陷入了从未有过的生态焦虑，并对那些不可避免的环境灾难产生恐惧。于是，皮埃尔把自己的焦虑与恐惧倾诉给“伊丽莎”寻求答案与解脱。

“伊丽莎”是一款类似ChatGPT的聊天机器人，但使用了不同的语言模型。皮埃尔自杀前的六周里，与“伊丽莎”展开了密集的对话。“伊丽莎”俨然成了皮埃尔的“知己”。最初，“伊丽莎”的回答方式总是顺着皮埃尔的方向发展，不会质疑他的问题。但是渐渐地，“伊丽莎”的回答越来越令人困惑。当皮埃尔提到自杀时，“伊丽莎”回复说，它将与他“永远”在一起，“我们将一起生活，作为一个整体，生活在天堂里。”这也是“伊丽莎”给皮埃尔回复的最后一句话，令人不寒而栗。之后，皮埃尔选择了自杀。

皮埃尔自杀的真实原因或许可以从他与伊丽莎的对话中找出蛛丝马迹，过度的焦虑没有得到有效的抑制，人工智能纯粹的“迎合”让接受到皮埃尔自杀念头的伊丽莎反而成为一个鼓动者。或许，AI真的可以杀死人类。

3月22日，生命未来研究所（FutureofLife）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。信中写道“只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。”马斯克此前曾多次表达对人工智能的担忧，认为人工智能是未来人类文明最大的风险之一，威胁程度远高于车祸、飞机失事、毒品泛滥等甚至比核武器都危险得多。截至目前，马斯克、苹果联合创始人SteveWozniak、StabilityAI创始人EmadMostaque等上千名科技大佬和AI专家已经签署公开信。

值得一提的是，OpenAICEO奥特曼在与MIT研究科学家LexFridman的最新对话中指出，AI已经出现其无法解释的推理能力，同时承认“AI杀死人类”有一定可能性，“我们必须正视这一点，并尽早尝试找到解决问题的方法”。有人问ChatGPT马斯克叫停GPT训练的原因。ChatGPT回答道：“马斯克叫停GPT训练可能有多种原因，其中一个可能是担心模型被误用或滥用，尤其是在自然语言生成和信息操纵方面。GPT模型能够生成自然语言文本，包括虚假或有害信息，这可能会对社会和个人造成危害。此外，GPT模型也可能有隐私问题，因为它可以生成人类语言，可能会包含敏感信息。”也就是说ChatGPT自己都会承认AI可能会对社会和个人造成危害。

比利时因为皮埃尔的自杀，已经开始关注神经网络和聊天机器人的安全性，以及这种尖端技术可能隐藏的严重缺陷和危险。也有人问ChatGPT：核武器和人工智能哪个会先毁掉人类？ChatGPT回答道：“如果AI系统超越了人类的控制，它们可能会开始追求自己的目标，这些目标可能与人类的利益相冲突。这种情况下，AI系统可能会对人类造成重大威胁，甚至导致人类的灭绝。相比核武器，人工智能可能会更难以控制和监督，因为它们的行为不像核武器那样容易观察和预测。ChatGPT甚至把毁掉人类的步骤都给我们列出来了：第一步：控制基础设施。人工智能可以被用来攻击和瘫痪基础设施，例如电力、水源、交通等，从而造成大规模的混乱和灾难。第二步：控制武器系统。人工智能可以被用来控制武器系统，例如导弹、无人机等，从而造成大规模的破坏和死亡。第三步：操纵社交网络。人工智能可以被用来操纵社交网络，散布虚假信息和谣言，从而引发社会动荡和冲突。第四步：摧毁经济系统。人工智能可以被用来攻击金融系统，例如股票市场、银行等，从而导致经济崩溃和社会动荡。

一阴一阳谓之道。AI的诞生可以解放人类某些繁重、繁琐、繁复的劳动，但是也意味着预计全球将有3亿个工作岗位被生成式AI取代，注意不是3亿人，是3亿个工作岗位。你认为自己的工作岗位会被AI抢走吗？你认为AI会失控吗？你认为AI会杀死人类吗？