生成式人工智能的未来会怎样？

iRobot 联合创始人 Rodney Brooks 启动了麻省理工学院研讨会，讨论 ChatGPT 等日益强大的人工智能工具的前景和潜在陷阱。

Adam Zewe | 麻省理工学院新闻

2023 年 11 月 29 日

iRobot 联合创始人兼 CSAIL 前董事罗德尼·布鲁克斯 (Rodney Brooks) 拿着斯蒂芬·沃尔夫拉姆 (Stephen Wolfram) 的书《ChatGPT 正在做什么》。。 .以及为什么它有效，”他建议参加“生成式人工智能：塑造未来”研讨会的与会者阅读有关该技术的背景信息。

在他的主题演讲中，Rodney Brooks 警告与会者不要高估 OpenAI 的 ChatGPT 等生成式 AI 工具的功能。

麻省理工学院校长 Sally Kornbluth 欢迎数百名与会者来到克雷斯吉礼堂参加“生成式人工智能：塑造未来”主题演讲。研讨会是麻省理工学院生成人工智能周的启动活动。

标麻省理工学院文学系教授兼人文学科杰出主席约书亚·贝内特朗读了一首原创诗，这首诗讲述了他观看《星际迷航》的经历。和他的父亲。贝内特受邀为“生成式人工智能：塑造未来”写诗关于人类意义的研讨会。

在圆桌讨论中，脑与认知科学副教授兼麦戈文研究所研究员 Ev Fedorenko（左）谈到如何使用心理学工具来理解生成式 AI 模型，而台达电子 EECS 和CSAIL 的成员正在倾听。

在 11 月 28 日麻省理工学院生成式 AI 周启动活动“生成式 AI：塑造未来”研讨会上发表演讲生成式 AI 周，主题演讲演讲者兼 iRobot 联合创始人 Rodney Brooks 警告与会者不要不加批判地高估这项新兴技术的能力，该技术支撑着 OpenAI 的 ChatGPT 和 Google 的 Bard 等日益强大的工具。

布鲁克斯警告说：“炒作导致傲慢，傲慢导致自负，自负导致失败。” 。人工智能。

“没有一项技术能够超越其他所有技术，”他补充道。

该研讨会吸引了数百名来自学术界和工业界的与会者来到研究所的克雷斯吉礼堂，会上充满了对机遇的希望生成式人工智能致力于让世界变得更美好，包括通过艺术和创造力，其中穿插着一些警示故事，说明如果不使用这些人工智能工具，可能会出现什么问题负责任地开发。

生成式人工智能是一个术语，用于描述机器学习模型，这些模型学习生成新材料，这些材料看起来像他们所训练的数据。这些模型展示了一些令人难以置信的能力，例如能够生成类似人类的创意写作、翻译语言、生成功能性计算机代码或根据文本提示制作逼真的图像。

麻省理工学院校长 Sally Kornbluth 在研讨会开幕致辞中强调了教职员工和学生开展的多个项目，旨在利用生成式 AI 对世界产生积极影响。例如，麻省理工学院和哈佛大学发起的在线教育计划 Axim Collaborative 的工作包括探索生成式人工智能的教育方面，以帮助服务不足的学生.

该研究所最近还宣布为 27 个跨学科教师研究项目提供种子资助，这些项目的重点是人工智能将如何改变整个社会人们的生活。

科恩布鲁斯表示，在举办生成式人工智能周时，麻省理工学院不仅希望展示此类创新，还希望在与会者之间产生“协作碰撞”。

她告诉观众，如果我们要以人性化的方式安全地整合像生成人工智能这样快速发展的技术并帮助人类解决问题，学术界、政策制定者和工业界的合作至关重要。

“老实说，我想不出还有什么挑战比麻省理工学院的使命更加契合。这是一项重大责任，但我完全有信心，如果我们作为一个社区正面面对它，我们就能面对它，”她说。

CSAIL 主任 Daniela Rus 在开幕致辞中表示，虽然生成式人工智能有潜力帮助解决地球上一些最紧迫的问题，但这些强大的机器学习模型的出现模糊了科幻小说与现实之间的区别。她说，问题不再是我们是否可以制造能够产生新内容的机器，而是我们如何使用这些工具来增强业务并确保可持续性。

“今天，我们将讨论未来的可能性，即生成式人工智能不仅作为技术奇迹而存在，而且作为希望的源泉和正义的力量，”罗斯说，他也是安德鲁和埃尔娜维特比教授。电气工程和计算机科学系。

但在讨论深入探讨生成人工智能的能力之前，与会者首先被要求思考他们的人性，麻省理工学院教授约书亚·贝内特（Joshua Bennett）朗读了一首原创诗。

贝内特是麻省理工学院文学系教授兼人文学科杰出主席，他被要求写一首关于人类意味着什么的诗，并从他三周前出生的女儿身上获得了灵感。

这首诗讲述了他小时候与父亲一起观看星际迷航的经历，并谈到了传承传统的重要性一代。

在他的主题演讲中，布鲁克斯着手解开围绕生成人工智能的一些深刻的科学问题，并探索该技术可以告诉我们关于我们自己的哪些信息。

首先，他试图通过解释这种大型语言模型如何工作的基础知识来消除围绕 ChatGPT 等生成式人工智能工具的一些谜团。例如，ChatGPT 通过确定下一个单词在已写内容的上下文中应该是什么来一次生成一个单词的文本。布鲁克斯解释说，人类可能会通过思考整个短语来写故事，但 ChatGPT 只关注下一个单词。

ChatGPT 3.5 基于机器学习模型构建，该模型拥有 1750 亿个参数，并且在训练过程中接触了网络上数十亿页的文本。（最新的迭代，ChatGPT 4，甚至更大。）它学习这个庞大的文本语料库中单词之间的相关性，并利用这些知识来提出在给出提示时接下来可能出现的单词。

该模型展示了一些令人难以置信的功能，例如能够以莎士比亚著名的《十四行诗 18》的风格编写一首关于机器人的十四行诗Sonnet 18。在演讲中，布鲁克斯展示了他要求 ChatGPT 与他自己的十四行诗并排编写的十四行诗。

尽管研究人员仍不完全了解这些模型的工作原理，但布鲁克斯向观众保证，生成式人工智能看似令人难以置信的能力并不神奇，并不意味着这些模型可以做任何事情。

他对生成式人工智能最大的担忧并不是围绕有朝一日超越人类智能的模型。相反，他最担心的是研究人员可能会抛弃数十年接近突破的优秀工作，只是为了抓住生成人工智能领域闪亮的新进展；风险投资公司盲目地涌向能够产生最高利润的技术；或者整整一代工程师可能会忘记其他形式的软件和人工智能。

他说，归根结底，那些相信生成式人工智能可以解决世界问题的人和那些相信它只会产生新问题的人至少有一个共同点：这两个群体都倾向于高估这项技术。

“生成式人工智能的理念是什么？人们的想法是，它会以某种方式带来通用人工智能。就其本身而言，事实并非如此，”布鲁克斯说。

在布鲁克斯的演讲之后，麻省理工学院的一群教职人员谈论了他们使用生成人工智能的工作，并参加了关于未来进展、重要但尚未充分探索的研究主题以及人工智能监管和政策的挑战的小组讨论。

该小组成员包括麻省理工学院电气工程与计算机科学系 (EECS) 副教授、CSAIL 成员 Jacob Andreas； Antonio Torralba，台达电子 EECS 教授、CSAIL 成员； Ev Fedorenko，麻省理工学院麦戈文脑研究所脑与认知科学副教授、研究员；以及计算机杰出教授兼 CSAIL 副主任 Armando Solar-Lezama。会议由 EECS 教授、CSAIL 成员 William T. Freeman 主持。

小组成员讨论了围绕生成人工智能的几个潜在的未来研究方向，包括整合感知系统的可能性，利用触觉和嗅觉等人类感官，而不是主要关注语言和图像。研究人员还谈到了与政策制定者和公众合作的重要性，以确保负责任地生产和部署生成式人工智能工具。

“当今生成式人工智能的一大风险是数字万金油的风险。许多产品声称具有神奇功效，但从长远来看可能非常有害，这存在很大的风险，”Solar-Lezama 说。

上午的会议以物理和戏剧艺术专业大四学生 Joy Ma 朗读的 1925 年科幻小说《大都会》的节选结束，随后就生成人工智能的未来进行了圆桌讨论。参与讨论的包括脑与认知科学系教授、CSAIL 成员 Joshua Tenenbaum； Dina Katabi，EECS Thuan 和 Nicole Pham 教授，CSAIL 和 MIT Jameel Clinic 的首席研究员； Max Tegmark，物理学教授；由丹妮拉·罗斯 (Daniela Rus) 主持。

讨论的焦点之一是开发超越人类能力的生成式人工智能模型的可能性，例如可以通过使用电磁信号来了解一个人的呼吸和心率如何变化来感知某人情绪的工具。

但泰格马克说，将此类人工智能安全地融入现实世界的关键是确保我们可以信任它。如果我们知道人工智能工具能够满足我们坚持要求的规范，那么“我们就不必再害怕构建真正强大的系统，为我们在世界上做事，”他说。

(Reprinted with permission of MIT News http://news.mit.edu/)