AI教父Hinton：AI可复制人类心智，或加剧全球贫富差距

当地时间6月7日，AI教父杰弗里·辛顿（Geoffrey Hinton）在联合国AI for Good大会上分享了AI在医疗和教育领域的潜力、网络犯罪和假视频的威胁以及提倡建立更严格的监管框架等话题。

此次分享中，Hinton有很多令人深思的金句与观点：

1、人类心智并无AI不可复制之处，且AI已经具备主观体验。

2、我一直认为通用AI不会突然出现一个时刻，让机器瞬间超越人类。它们将在不同时间，在不同领域超越我们。

3、AI将创造大量财富，几乎所有人都认为AI将提高生产力。问题是，新增的财富将流向何方？我认为不会流向穷人，而是流向富人，这将加大贫富差距。

4、大语言模型真的理解它们所说的内容，几乎与人类一样，AI理解的方式与人类理解的方式相同。

5、AI不仅将助力基础科学研究，在许多情况下，它能处理大量非视觉、非听觉的复杂数据，如基因组数据。我认为，AI系统在处理大规模数据、识别模式、理解数据方面将远超人类。

6、我认为，提前对公众进行假视频的“疫苗接种”，把它们当作疾病一样对待，这是一个好主意。就像预防疾病一样，可以使用减弱版的病毒来接种。

针对上面第3点的详细分享内容：

Nicholas Thompson：那么，当您的前学生们寻求项目方向时，您是否会引导他们去做更多的基础科研，追求更多发现，而不是继续追求类人智能？

Geoffrey Hinton：我的前学生们现在都已经很成熟，不再向我寻求指导了。

Nicholas Thompson：您的前学生们几乎主导着全球的AI公司，这间接回答了我的问题。我们回到AI对社会的正面影响上来，特别是在可持续发展目标（SDGs）的背景下，您认为AI能否通过提高教育的公平性，尤其是在系统掌握全球每种语言后，促进教育的均衡发展？

Geoffrey Hinton：是的，让我给您讲个小故事。上学时，父亲坚持要我学德语，他认为那是科学的语言，特别是在化学领域，20世纪早期至中叶，德语确实是科学界的主流语言。但我对德语并不擅长，成绩平平。于是，父母为我请了一位私人教师，不久之后，我在德语课上名列前茅。私人教师之所以高效，是因为他们能精准捕捉您的困惑所在，给予您所需的信息，让您正确理解。我认为，每个人都将拥有私人教师。过去，私人教师仅限于富人、中产阶级或有抱负的家庭，但现在情况将改变，这将有助于教育的普及。

Nicholas Thompson：这真是巨大的变革！如果每个人都能拥有如此强大的私人教师，他们能说各种语言，这在不久的将来应该可以实现，您是否认为世界将因此变得更加平等？

Geoffrey Hinton：在教育机会方面，确实会变得更平等。精英大学可能不喜欢这个趋势，但我认为教育的平等性将得到提升。

Nicholas Thompson：我们在这里关注的是全人类的未来，而非精英大学的AI。这无疑是个胜利。不过，您的回答中似乎暗示AI整体上可能不会成为平等的推动力，甚至可能加剧不平等。我是否误解了您的意思？

Geoffrey Hinton：我们生活在一个资本主义体系中，这个体系为我们带来了许多好处，但我们对资本主义体系也有一些了解。以石油、烟草或石棉等行业为例，我们知道在资本主义体系下，人们追求利润，而为了防止他们在追求利润的过程中破坏环境，我们需要强有力的监管。AI领域同样需要这样的监管，但目前我们并未足够迅速地实施。

山姆·阿尔特曼的讲话中似乎表明他们非常关心安全问题，但我们已经看到一个实验的结果，那就是当安全与利润发生冲突时会发生什么。这个实验的条件并不理想，正值OpenAI员工即将通过一轮大额融资将其股份变现之际。在利润与安全的较量中，显然利润占了上风。

现在，OpenAI成立了新的安全团队，聘请了至少一位经济学家。我将经济学家视为资本主义的最高祭司，我认为他们不会像伊尔亚·苏茨克维（Ilya Sutskever）及其团队那样担心存在的威胁。我也认为，资本主义的核心是追求利润，这本身并非坏事，它推动了许多伟大的成就，但需要受到监管以防止负面影响。AI将创造大量财富，几乎所有人都认为AI将提高生产力。问题是，新增的财富将流向何方？我认为不会流向穷人，而是流向富人，这将加大贫富差距。

Nicholas Thompson：您对AI的力量持悲观态度，似乎认为由于训练大语言模型所需的资源，AI可能会导致少数大企业垄断，而这与资本主义的不平等现象难以调和。您难道没有一点希望，认为我们之前讨论的教育公平和每个人都能接触强大计算力的观点，即使无法达到最昂贵设备的水平，也能在某种程度上平衡这种不平等吗？

Geoffrey Hinton：对此确实存有一丝希望，但回顾我一生的经历，我一直认为随着人们受教育程度的提高，他们会变得更加理智，但现实并非如此。看看现在的共和党，他们散布谎言，甚至是荒谬的谎言。

Nicholas Thompson：这正是我想探讨的议题。