扎克伯格表示,「我们特别关注可以使全新事物成为虚拟世界的基础技术,因此在Meta我们研究了许多不同的技术,从VR到设计我们自己的数据中心。今天,我们将专注于也许是我们这个时代最重要的基础技术——AI。」
MetaAI负责人Jérôme Pesenti和MetaAI Research联合董事总经理Joelle Pineau在会议上深入探讨了Meta如何用AI构建元宇宙和开放科学。Pesenti指出,AI是元宇宙的关键之一,而MetaAI的使命是通过AI研究改进Meta产品,让世界更紧密地联系在一起。
MetaAI正在转向另一种自我监督的方式,在这种方式中,AI可以在没有任何人工监督的情况下学习数据。例如,在处理语言时,AI系统可以从输入文本中删除单词,并尝试通过推断周围单词的模式来获取它们。随着AI系统变得更好,它也提高了对语言含义和结构的理解。
MetaAI研究人员已经设法获得了非常适用于图像的自我监督技术,他们将图像分成小块,并要求AI重建图像。目前,MetaAI研究人员已经证明,这种新的自我监督技术与最少量的注释数据相结合,与使用更多人工监督的传统方法相比更具有竞争力。
MetaAI还开始创建可以同时理解多种模式的统一模型:他们可以在聆听的同时阅读嘴唇以获得更好的语音识别,或者通过分析所有组件(文本、图像或视频)来识别违反政策的社交媒体帖子。
元宇宙会带来各种新的挑战。过去十年,AI的大部分快速进步都深深植根于互联网,如我们看到语音、语言和视觉等数据模式。然而,AR和VR呈现出不同且更大的体验和可供性。例如,从手到脸再到全身的运动成为提供和接收信息的主要载体。
在构建世界模型方面取得进展至关重要。