OpenAI的GPT-4是深度学习规模扩大的里程碑事件

新知榜官方账号

2023-10-22 16:30:21

OpenAI最新版本的语言模型GPT-4是深度学习规模扩大的里程碑事件。该公司创始人SamAltman称,GPT-4背后的驱动力是JakubPachocki。尽管OpenAI将这一成就归功于团队的集体努力,但在Altman看来,要是没有Pachocki,他们不会取得今天这样的成就。Pachocki是一名功成名就的程序员,他在开发GPT-4中扮演了关键先生的角色。

Pachocki的技术远见和领导能力对于开发GPT-4发挥了至关重要的作用。他把构建GPT-4之类语言模型的过程比作建造宇宙飞船:做好所有的部件/组件,确保没有一个环节有问题。他在最近接受《麻省理工科技评论》杂志采访时说:“多年来,这个基本公式并没有发生太大的变化”,他畅谈了自第一个版本在2018年发布以来GPT模型经历的演变。

Pachocki对AI的迷恋可以追溯到发布AlphaGo的时期,当时他意识到深度学习具有的潜力远远不仅限于当时计算机实现的功能。他在OpenAI开发一款机器人的过程中曾发挥了关键作用,该机器人学会了玩在线多玩家战斗竞技游戏《Dota2》,一遍又一遍地与自己对抗,直至达到专业玩家的水平。他在纪录片《人工智能游戏玩家》中说:“我一直想研究AI,挑战计算机的极限。”这部纪录片讲述了OpenAI如何展示了在《Dota2》中击败顶级冠军的能力。

Pachocki虽然在开发GPT-4中扮演了关键先生的角色,但他还是保持低调。他很少在媒体上露面,在社交媒体上也不活跃。然而,他取得的成就不言自明。2012年,他赢得了谷歌编程大赛CodeJam冠军的头衔,将1万美元奖金收入囊中。他还在其他编程比赛中名列前茅,包括2012年ACMICPC全球总决赛(夺得金牌)、2012年TopCoder公开赛以及2013年Facebook黑客杯大赛。Pachocki作为一名程序员取得的成功凸显了认知能力在这个领域的重要性。

OpenAI不断突破计算机功能的极限,像Pachocki这样的人将在使这些突破成为可能的过程中扮演重要角色。虽然他可能更喜欢保持低调,但他的成就无疑激励着这个领域竭力挑战极限的其他人。OpenAI的首席技术官MiraMurati也是这样的人。与她的一些同事一样,网上能查到关于她所从事工作的信息,却很少找到关于她的任何个人信息,只知道她是经典科幻电影《2001:太空漫游》、诗人RainerMariaRilke和摇滚乐队Radiohead的粉丝。还有IlyaSutskever,他是这家公司的赚钱机器ChatGPT的幕后主脑,也是有史以来被引用次数最多的计算机科学家之一。波兰计算机科学家WojciechZaremba也是OpenAI核心团队不可或缺的成员。在2021年8月接受LexFridman采访的播客中,Zaremba说:“GPT向整个互联网学习。互联网提供了基本的骨干,GPT就像可以改变肤色的变色龙。GPT在部署后会积极学习。”

本页网址:https://www.xinzhibang.net/article_detail-17599.html

寻求报道,请 点击这里 微信扫码咨询

关键词

OpenAI GPT-4 深度学习

分享至微信: 微信扫码阅读

相关工具

相关文章