专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

来源:新智元

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

图片来源:由无界 AI生成

Meta CTO接受访谈,大谈AI开源竞争,认为AI开源将让所有参与者获益。同时,XR已经准备好利用AI搭建杀手应用,Meta最近推出的AR眼镜就是最好的例子。

最近,Meta CTO Andrew Bosworths公开接受了记者的专访。

他针对Meta如何将AI和XR行业融合在一起,以及Meta对于开源AI社区的竞争和发展,AI人才的流动聊了很多。

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

当XR遇上AI,如何迸发出火花

问题:看起来,当混合现实硬件与生成式人工智能相结合时,会得到1+1大于2的效果吗?

在7年前Michael Abrash的Connect演讲中,他探讨了大型AR的未来愿景,强调人工智能是核心组成部分。

但之前的认识可能存在误区,认为需要大量狭窄的数据集才能获得更好的AI系统。然而,这种思维方式正逐渐转变。

眼镜类产品在市场上的长期存在,加上人工智能的应用,就可以显著提高眼镜的实用性。

在大型语言模型出现之前,机器学习总是围绕着创造价值的应用发展的。

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

例如,Facebook在引入News Feed排名机制之前已存在,但随着时间的推移,其排名机制得到了改善。

类似地,所有人工智能系统通常都是基于非AI元素开始,以获取数据集,随后这些数据集支持人工智能系统的不断进步。

然而大型语言模型与以往不同,它已经具有了很强的通用性。这意味着不再需要精确或完美的训练数据,现有的人工智能技术将成为未来Meta设备的基石。

Meta最近刚刚和Ray Ban合作推出的眼镜就是一个例子。这款眼镜具有摄像头视频、实时流媒体、优质音乐播放和通话的功能,是一款优秀的产品。

刚刚推出时,我们觉得需要一个「智能助手」来帮助用户使用这些功能,但是6个月过后,智能助手本身成为了眼镜上最为流行的功能了。

他强调,硬件产品的关键功能在短时间内发生改变是非常罕见的,但在眼镜的案例中却发生了,显示了技术发展的迅速和不可预测性。

问:您认为人工智能将如何在Quest中发挥作用?

在Quest上,我们真正想要实现的一些功能实际上并没有很好的训练数据集。

文本,我们有整个互联网作为资源。照片,Facebook和Instagram上有庞大的图库。但对于3D对象,尤其是在四维空间中动画的3D对象,却没有一个大型、权威的数据库。

这正是我们真正想要的。我们正在努力,试图改进这个模态下的一切内容,包括能够导出更多的3D内容。

所以混合现实和虚拟现实非常难以实现,因为你要实现的是一个额外的维度空间上的所有内容。

但另一方面,XR和VR显然有巨大的优势,它们有始终开启的传感器。这些传感器始终在扫描和感知空间。

Meta依然在进行研究,在3D和4D空间上看到了一些很有潜力的事情。

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

问:您想要实现的杀手级用例是什么?

答:在短期内,公司重点关注的是创作者,提供了设计头像、创建世界和游戏等功能。

而Meta的长期目标是提高用户与机器的交互效率,使用户能够同时在内容和系统层面进行交互。

例如,用户可以直接通过简单指令来启动游戏并邀请朋友参与某个游戏。

这可能是一个非常复杂的过程,需要在系统中启动游戏,同时向好友发出邀请,并将他们拉到同一个应用中的同一个地方。

开源AI,Meta与社区共荣

问:请问Meta开源Llama背后的策略是什么?

公司自2006年以来一直是开源领域的领导者。他们利用了多个开源项目,如PHP、Memcached和MySQL,这些项目帮助公司以较少的员工高效运作。他们还推动了PyTorch项目,这是一种主要的机器学习工程系统,并对其进行了开源。

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

开源项目的一个重要好处是围绕它可以建立起一个社区,这使得项目自我强化。例如,使用PyTorch的行业其他成员构建的工具也为公司所用。公司也观察到了他们的Llama项目的成功,这个项目有着庞大的建设者社区和1亿次下载记录,已经促成了多个不同项目和商业程序的成功。

公司还强调了开源软件的价值。他们的研究实验室发现,开源软件可以迅速获得独立第三方的验证结果,促进进一步的发展。虽然不是所有东西都适合开源——例如,由于数据集的使用或安全考虑——但在可能的情况下,他们倾向于开源,因为这对所有人,包括他们自己,都是双赢的情况。

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

问:来聊聊Llama,您的人工智能模型家族。开源Llama背后的策略是什么?

答:从我2006年加入Facebook那天起,Facebook一直以来就是开源领域的领导者。

PHP是开源的。如果Facebook没有接手Memcached这个项目,我们就会倒下。

MySQL是开源的。这就是Facebook之后能够成为一家规模小但是效率超高的公司,并以少量员工完成如此多工作的原因之一。

Meta现在不仅在推动这些项目,而且还在推动PyTorch,这是完成机器学习工程的第一系统。我们构建并开源了它。

开源项目的一个重要好处是围绕它可以建立起一个社区,Meta可以充分利用这个社区中的一切资源。

例如,使用PyTorch的其他成员构建的工具也为Meta自己所用。

就Llama而言,很多人都从中受益了。已经达到了1亿次下载,我们已经看到了由此产生的各种不同项目,并且有很多商业程序正在Llama基础上取得了成功。

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

如果Llama继续保持如今的发展势头——成为大型开发者社区的绝对核心——Meta也将受益匪浅,这对Meta的帮助也会非常大。

另外,如果再看看成立刚好10年的FAIR,我们研究实验室 一直以来也都秉承开源的理念。当开源软件时,FAIR会立即获得独立的第三方验证结果,然后有人在此基础上继续发展。

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

我们可以使用该结果来构建我们的下一篇论文,或者是开发我们的下一个程序。

我们不可能开源一切。比如我们的某些研究,因为其中使用的数据集,或者因为它的安全性,没有办法开源它。

但在其他条件相同的情况下,我们确实尝试开源,并相信它将帮助包括我们在内的所有人。这是双赢的。

问题:开源战略对招聘有何影响?我知道有些工程师喜欢开源,而有些人工智能研究人员认为开源如此强大的技术是不负责任的。

答:我认为这肯定有助于我们拥有更大的招募规模,因为更多的人熟悉您的模型以及训练模型的方式。我们可以雇佣更多懂得如何使用PyTorch的工程师。

因此,我认为这对于从越来越多的人中进行招聘来说确实很有好处,这些人距离在公司取得出色的成绩只有一步之遥。

关于认为「开源是不负责任」的说法,我认为对这些大型语言模型的很多焦虑都是错误的。

我觉得Yann LeCun说得很好。开源模型是一个超级有趣且重要的工具。我认为它是一个关联数据库。

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

没有推理或计划的能力,没法理解世界。而且现在来看未来也不会拥有这些能力。

技术依然会不断取得突破。这是一个非常激动人心的时刻。这是一项伟大而重要的技术。

我迫不及待地希望它的构建成本、运行成本、延迟更低、效率更高,能够在低功耗、小型设备上运行真正强大的模型。这些都是非常重要的事情。但是会花费大量的时间和精力。

而且,大模型也不是AGI。大模型发展到极限本身不会达到AGI。冯·诺依曼关于奥本海默的那句话怎么说来着?

「有时有人为了获得功劳,不惜承认自己有罪。」我认为硅谷有时会发生很多这样的事情。

我并不是说人们不相信它。也许有的人会相信,但是我不会。

AI人才迎来黄金时代

问:你们在招募下一位杰出的人工智能研究人员时的宣传口号是什么?如何让他们加入 Meta,而不是OpenAI或Google DeepMind?

A:研究人员现在有很多选择。现在是入行的好时机。这些公司差异很大。如果有人想加入 Google,成为他们千人团队一员。

但是在Meta有不同规模的团队,每个人能获得的个人影响力是完全不同的。OpenAI 是第三个不同的机构。他们有非常不寻常的治理结构,股权单位似乎也不太一样。

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

问:那么招聘工作还顺利吗?

答:进展顺利。确实有很多伟大的人才正在离开刚刚说到的3家公司。其中一些人才将流向该另外几家公司。

其中一些人才也将去往全新的地方,法国的Mistral是一群开发Llama的人才构成的。

按照硅谷的标准,我的职业生涯已经很长了,也就见怪不怪了。

当新技术出现时,人们的热情就会大爆发。其中一些人才流向初创公司,一些流向老牌公司。但是一定会有更多的人才进入这个行业。

现在就是这样一个时代,人才的总数在不断增加。深度学习研究人员可能比一年前多了10倍。因为人们看到这样的需求,所以就有越来越多的人开始学习和研究这些技术了。

问:你提到了Mistral。上周推出的Mixtral模型使用了专家的混合体,这似乎与你们在 Meta 所做的事情形成了竞争。你是这样看的吗?

专访Meta CTO:AI已是XR杀手应用,LLM开源社区竞争没有输家

答:不。如果整个社区团结在任何开源模型周围,并且它成为事实上的标准,这就是发生的有趣的事情之一。

我们可以使用这个模型。它不一定来自我们,就像Memcached不一定来自我们一样。

MySQL不是来自我们。这些都是伟大的事情。我们很高兴使用它们。因此,一旦你不想与开源竞争,开源就是好的。

让我们拥有相互竞争、采用不同策略并尝试在不同方面超越彼此的模型。「

我的商业模式不会阻止其他人使用这项技术。」

需要明确的是,Llama 团队绝对希望击败所有其他模型。这种竞争是很好的,很健康。

这是人们之间出于善意和良好精神的竞争,而不是为了生存下来的竞争。

如果你输掉了这场比赛,你的惩罚就是你可以使用更好的模型。

参考资料:

  • https://www.semafor.com/article/12/20/2023/meta-cto-andrew-bosworth-on-the-generative-ai-craze

以上内容均转载自互联网,不代表AptosNews立场,不是投资建议,投资有风险,入市需谨慎,如遇侵权请联系管理员删除。

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023年12月25日 下午3:46
下一篇 2023年12月25日 下午5:01

相关文章

发表回复

登录后才能评论
微信扫一扫
tiktok
百度扫一扫
抖音扫一扫
本站没有投资建议,投资有风险,入市需谨慎。