当前头条：数字&人文对话：作为工具或朋友的AI，如何长出善良|163-1讲堂2

刘梁剑（右一）主持1小时的圆桌会谈，五位嘉宾见解不尽相同，展开充分交流

【导读】 6月20日，163期文汇讲堂“数字强国”系列启动，首期《AIGC驱动生产力跃升与良好世界塑造》，在涌动着毕业季青春气息的华东师大樱桃河畔成功举办。北京智源人工智能研究院副院长兼总工程师林咏华应邀作主讲，华东师大学者杨国荣致辞，计算机学院贺樑、哲学系郦全民、付长珍、潘斌、刘梁剑参与数字&人文圆桌对谈，13位听友现场互动。校内外7600余人观看华东师大微信号直播。现场发放了50枚NFT数字徽章.

(相关资料图)

本次讲座由文汇报社、上海树图区块链研究院、华东师大中国现代思想与文化研究所、华东师大哲学系伦理与智慧研究中心联合主办。

现经整理，刊发圆桌对谈，以飨听友与读者。主讲见文末链接。

刘梁剑（华东师大哲学系系主任、中国哲学教授）

刘梁剑：我先简要介绍台上的各位与谈嘉宾。计算机学院的贺樑副院长不仅研究人工智能也与产业有对接；郦全民教授的关键词是计算，对人工智能的哲学研究启动早也是强项；潘斌教授的关键词是风险，关注人工智能的伦理风险；付长珍教授关键词是伦理与智慧。付老师正是哲学系伦理与智慧研究中心主任，近年来，付老师借助国家社科重大项目、华师大学报、上海市伦理学会等多平台，致力于推动科技与伦理的对话。我自己是中国哲学专业。

这几年哲学系的发展遵循守正创新原则，守正是发挥华东师大哲学系的研究特色；创新是以对话方式推动一些新的研究增长点。包括哲学内部不同学科之间的对话；对外与其他学科如教育、艺术、科技的对话；还有跟现实进行对话，现实中有很多新问题出现。最近在建设应用伦理专业的硕士点，让伦理与其他学科之间的对话有制度可保障。今天与科技的对话就是跨界对话的尝试。

贺樑老师，可否先谈谈对林工主旨演讲的感想？

范式改变：成本升降带来AI应用的巨变

贺樑：刘老师点名了，而我又是几位嘉宾中唯一和林总属于“一伙”的，那就我来说说感想吧。虽然我也被邀做过不少关于chatGPT相关的讲座，但林工的演讲依然让我耳目一新，学到很多，不仅系统还深入浅出。

*专业研究门槛降低，各行业都可参与低成本AI研发

两点印象尤其深刻。第一，范式带来的变化。范式一词内涵很多，其中之一涉及未来人工智能的研究方法。我们从另一个更通俗的“成本”角度来阐述，chatGPT等大模型出来后，使用计算机和人工智能技术来赋能行业的成本大幅降低，几乎可以说被打到地板上去了，这可能砸了一些计算机从业者的“饭碗”，所以他们要赶紧寻找新的“饭碗”，把大模型端起来，很多行业也会随之而变。可以说，成本是搅动世界运转很重要的因素。一旦某一个地方变成成本洼地，很多事的远转逻辑就会不一样了，让我们拭目以待。

贺樑（华东师大计算机学院副院长、教授）

第二，林工把我们这个行业内不太被人理解但又关键的环节——基础模型、专业基础模型和基础模型的微调，用比喻方式说得很形象。最基础的模型就如同一个人在世界上游荡，即使没有接受专业培训而知道的一些应该要知道的世界知识，如同通识教育阶段；第二个阶段是专业阶段，是在基础模型情况下专业方面的增强，如同读个研究生、博士生。而最后的微调阶段就是上岗培训，一旦完成了这几个环节，模型就可以为大家提供专业服务了。

随着模型能力的不断叠加，服务的成本会越来越低。大模型对我们生活将会有各种各样的影响，甚至令人忧虑。但最核心的是，这一轮技术进步后人工智能的能力真的变得可以被用了。各个行业都能用起来，我们的生活可能会产生大的变化。

*大模型训练成本投入：有效市场与有为政府结合

刘梁剑：使用成本降低，但是训练基础模型的成本很高。成本由谁来承担呢？就像国家的基础设施一样，是不是应该由国家来做这个投入？第二是大模型时代，学习范式如何变？

林咏华：关于成本问题。智源一直呼吁要开源，一旦不开源或者开源之后不能商用，势必导致每一个公司都只能自己去做大模型。除高成本外，另外重要的因素是，背后的基础设施要靠能源推动。大模型训练需要巨大的算力，背后也是巨大的电力消耗。

所以，第一，产业期待开源，以智源为开始，希望看到有更多的研发团队或公司可以加入开源队伍。

第二，如果要做出高质量的基础大模型，除了前期投入，关键还在于未来要有持续迭代。智源对自己的要求，包括希望看到的产业实践是，基础大模型至少三个月或半年有一个新的版本，这样才可以满足更多新知识的融入、新技术的融入。这个钱谁来掏？在科研界、产业界，现在还没有定论。“有组织的科研”这个词今年屡屡被提及。

林咏华（北京智源人工智能研究院副院长兼总工程师）

贺樑：我认为，大模型的投入应该是市场行为和政府行为相结合的，目前整个大模型领域还是美国优于我国，这也是中美在未来科技竞争中的制高点之争。这一轮大模型的竞争是因为Open Al、没有开源，导致大家有一点恐慌。因为没有开源，未来市场就会被OpenAI的生态全部抢掉。而这个技术明显将对行业产生大影响，因此很多企业纷纷为了自身的商业利益“揭竿而起”去参与研发。

这种情况下，中国还是需要有组织的科研、有组织的市场竞争，我相信政府会做好引导，也会更多支持智源这样的中立科研机构。

*拥抱大模型积极提升学习和研究，不迷信其万能性

林咏华：关于学习范式的改变，不同人有不同解读，我自己的看法，首先确实存在科研方式、人才培养范式的改变。包括我自己的孩子，一些小作文都会去问ChatGPT。所以浪潮和趋势就在那里。因此，

第一，既然辅助咱们人类的技术出现，就拥抱它，用它来提升学习效率。但这个过程中一定要火眼金睛地学会辨别，因为现在的ChatGPT、国内大模型，真的还做不到提供完全的事实真实性。所以，大模型可以辅助你，但目前不要都信它。

第二，无论是人工智能内容生成，还是未来的大模型迁移，可能改变很多领域的研发以及产品的形态，从研究和学习的角度都不妨积极考虑怎么样利用好这样的技术，改变一些不同领域的研究方法，甚至把有一些合适的技术交叉进来。这是很值得去思考去实践的。

工具还是朋友：人工智能与人类智能如何相处？

因为是工作日，不少听友请了休假不远50里前来参与

刘梁剑：主要是拥抱科技的态度。我想问一个“杞人忧天”的问题，人工智能的发展会不会取代和消灭人类智能？

*人类或许只是文化进化链上的一个起点

郦全民：6月16日在巴黎举行的科技创新展上，马斯克说，人工智能技术可能是有史以来最具颠覆性的技术。我想了想，觉得可以找到一个角度，把“可能”两个字去掉。这个角度就是“进化”。

其实，人是两种进化的主体，首先是生物进化。在遵循生物规律的同时，人在与环境作用的过程中，将心智生成的知识或者经验外化，通过口语，后来又发明文字实现外化，使得人从动物界提升出来。这个飞跃让人成为文化世界或者更广义地说信息世界的主体，从发明文字算起已有几千年了，因此，人也是文化进化的主体。400多年前，文化世界中出现了近代科学，后来又带动了技术的大发展。按照我自己的理解，到了20世纪中叶，发生了最具颠覆性的变化，标志是电子计算机的问世，从此，人类开始把心智运作的能力外化，而不仅仅是外化结果。近十几年来，随着机器学习的发展，这种外化能力的过程突然提速了，已经有了AI科学家、AI工程师。

原来，我们人类是文化世界的惟一主体，现在出现了人工的智能体，也能生成文化产品，比如文本、图画，为文化进化作出贡献。问题就来了，我们该如何为它们定位？是看作新主体还是只看作工具？假如这些AI科学家、AI作者越来越聪明，甚至有自主的意识，又该怎么看？

人工智能的主要创始人明斯基有一个观点：认为一旦出现这样的智能体，那它就是我们人类新的后代，是“智能孩子”。其实，如果承认进化论，承认人也是进化而来，很难说人类就是进化链上的最后一环，很可能是智能进化或者文化进化的起点。那么，有朝一日，这类“智能孩子”会不会把人类关起来，就像我们将动物关在动物园里一样？我说，这种担忧是人类中心主义的表现。

到底怎么看待这个问题？请教后面两位同行。

郦全民（华东师大哲学系科技哲学教授）

*如果AI打破“只是人类的工具和延伸”关系时

潘斌：人工智能和人类智能的关系是什么？人类常常持一种极为理想化的设想，即人工智能仅仅只是是人类智能的工具、延展、增强。随着技术的迭代爆发式的增长，这种想法可能只是一厢情愿的天真。设想未来出现强AI时代，即机器变得和人类一样能够理性地思考和行动，人工智能和人类智能之间的关系可能是平起平坐、各负其责。但在未来时代不排除出现超级人工智能，他们无论在速度、数量或质量方面，都具备对人类智能全方位降维打击的能力。

著名未来学家尤瓦尔·赫拉利曾大胆预言，未来世代可能将出现后人类或新人类，传统意义上的人类作为一个物种可能面临逐渐灭绝的境地，这也是学界一些专家所预言或忧虑的是否真的会出现“碳基文明被硅基文明所超越、取代甚至消灭”的风险后果。

当代学界对人工智能的伦理风险的审视与吁求，也正是基于这一具有极大不确定性、后果不可控性的风险的忧虑。

*AI也在塑造人类，人类对其依赖性窄化了智慧潜能

付长珍（华东师大哲学系伦理与智慧研究中心主任、伦理学教授）

付长珍：人和类人（AI）共生的时代，应该怎样理解和定位二者的关系？ChatGPT肯定也只是生成式AI的一个阶段。人工智能为人类提供便利，造福人类的同时也在塑造人类，在我看来应该是一个双向赋智、共生共荣的关系。但令我忧虑的是，人类对技术越来越依赖，人类潜在的智慧不仅没有更好地激发出来，反而会变得越来越脆弱，对技术的过分依赖使我们的生活越来越平面化，冗长又乏味。

*大模型训练时会设有伦理框架，但注入爱与善良依然是挑战

从伦理学角度看，这些年很多人都意识到——社会越发展，伦理越重要。科技要发展，伦理需先行。国家也多次出台相关文件，倡导科技伦理要贯穿科技活动全过程，各个环节都要有伦理在场。原有的伦理学是一种近距离伦理，主要侧重后果评估。人工智能时代的伦理学，应该阐发一种面向人类未来的新型责任伦理意识。。伦理应该成为科技发展的方向盘，需要前瞻性地预测可能存在的伦理风险。伦理与技术同向而行，确保科技向善。。

特别想请教一下林总，大模型作为底座进行研发和预训练时，对于价值观、安全性、风险等，是否也有一些具体的考量和举措？

刘梁剑：我想这里有一种矛盾，一方面用伦理规范技术，人是目的；另一方面又认为人不可能永远是目的。

林咏华：这是个很好的问题。从偏理工的脑袋来想，这是必须要考虑的问题。我们至少在几个环节去解决：第一，对大模型的预训练数据做安全过滤，包括去除伦理偏见等。目前未必所有的企业都这么做，但是智源作为开源基础大模型的提供者，为了减少后续使用者的顾虑，我们需要从源头上规范化；第二，微调训练的数据也要做这样的处理；第三，今天没展开讲的强化学习，它速成跟人类的价值观对齐。技术上就是这样的流程化处理。

用偏人文的脑袋，我也经常在思考，怎么把人类的真善美、人类的榜样注入到大模型？俗语“三岁见老”，当一个人是善良、有爱心的，没有必要告诉他很多的条条框框，实际上哪怕会犯错，也不会犯大错。但是今天做大模型机器学习时，不得不给出很多的条条框框。坦白说，做安全对齐、伦理对齐时，维度也很多。所以这是一个开放的问题。是否有机会把善良与爱注入到这个机器呢？如果不能，或许这就是机器和人很重要的区别。

解放或焦虑：大模型带来自由还是失业？

哲学系四位（靠右侧）与谈人覆盖了科技哲学、伦理学、马克思主义哲学和中国哲学

刘梁剑：即便不想有偏见，但是怎么能没有偏见呢？类似这样的难题就出来了。这里也涉及到伦理风险。马克思有一句名言，谈到一个最理想的自由社会里，可以早晨打猎，下午去钓鱼，晚上谈哲学，ChatGPT的出现有没有可能把我们带入这个理想的世界？

*依据惯性，人类未必都会善用自由时间成为自由人

潘斌：这一关于未来社会人的自由状态的论述，马克思曾在《德意志意识形态》中做出了经典描述——在共产社会，人们上午打猎，下午捕鱼，傍晚开始畜牧，晚饭之后从事哲学批判。之所以能出现这样自由状态有一个根本性的前提条件，即物质产品的极大丰富。

通用人工智能（GAI）的出现会使人类得到更多的劳动解放，拥有更多的自由时间，但我们也需要审慎地思考，人类真的就此进入自由人的境界吗？相反，在一个高度数字化、技术化的时代，借助于通用人工智能以及各类大模型，当我们能从体力和脑力劳动中解放出来后，未必就一定真正地进入自由人的状态。依据个体惯性以及数字技术的强大控制力，很多人可能还是沉溺于数字世界的娱乐与游戏之中，刷抖音、看视频、以及流连忘返于各类APP或网站之上，在一定意义上技术的进步不一定带来我们所期望的自由人状态。

相反，我们更需要去重视与思考的问题是，通用人工智能或大类大模型的出现，会不会导致很多人失业？有的人工智能专家曾预计大模型的实质性成功与商业化落地，大约50%的工作岗位会被取消。那么，我们当前特别需要思考的是：诸如ChatGPT等大模型的出现，技术进步与就业机遇之间如何保持一种适当而有机的协调？

潘斌（华东师大哲学系马克思主义哲学教授）

*世界进入老年社会，人类需要高效的机器人辅助

林咏华：短期可能会使得现有职业岗位的数量发生明显变化，但未来将促进职业种类的变化变迁。历史上有太多类似的技术变化，例如汽车替代马车，照相机的出现代替了油画、写真工作者。人类社会有很多文明的进步、技术的进步，带来工作岗位性质的改变，这是正常现象。人类总是很聪明地找到更多其他需要人类去做但未做的更好的事情。我们相信职业社会有很强的自适应调整能力。

另外从人口结构的变化来看，的确需要高效率的机器人来辅助。从全人类人口结构来看，目前100个人需要奉养30个老年人，到了2045-2050年，100个人甚至要奉养50—60个老年人，此时我们需要有更高效率的工具来辅助我们更少的人完成更多的事情。

贺樑：我的观点和林总不完全一致。我先假设，这一轮大模型带来的技术迭代速度会比现在快很多，会替代一大部分现有的工作。如果给三五天时间让我们想，多少技术是10年后的人工智能所做不到的？我想这类工作不会很多。所以我认为，马克思讲的自由的生活可能真的会到来，我们可以一周工作四天、三天、两天或一天，甚至你想得到传统意义上的工作，都会需要努力去争取。

郦全民：今天讨论的是生产力的跃升。我们知道，生产力有三个要素：劳动者、生产资料和生产对象，其中工具属于生产资料。以往的技术，基本上是生产工具，人是惟一的劳动者，但AI不一样，它可以充当劳动者，所以，对生产力的跃升定将是革命性的。

失业问题上，我提供一个有趣的例子。上个世纪50年代初，人们认为自动化出现会让很多人失业，有很多职业会消失。结果到了2016年再统计，发现与自动化直接相关的消失职业只有一个，就是开电梯的电梯工。

郦全民（持话题发言者）以“同类好”打招呼，引发听众特别聆听

*劳动是阶段性需求，“激发人的潜能成为人”是目标

刘梁剑：郦老师所说呼应了林工的想法，只是工种的变化。请教付老师，为什么失业是人类进化的一个标志？

付长珍：当我们被解放出来获得更多自由时间的时候，我觉得问题不是担心我们失业了，而是该思考如何来安排我们的闲暇？能否让我们的闲暇没有变成无聊？。

人工智能技术的涌现正是出于人的需要，为了人更好的存在。劳动只是生产力不够发达时的需要，因此应该扩展劳动的定义更有价值的劳动，在于激发出人的更大潜能，提升人的内在本质，塑造高尚人格和美好生活使人更好地成为人。

郦全民：最近，在英国一些地方正在进行UBI（全民基本收入，Universal basic income）实验：从社区里随机抽取实验者，每月可获1600英镑，随你上班或不上班，不需要承担任何义务，以此来观察这些人会有怎样的变化。我个人觉得这是人类发展的一个方向，我们会进入一个体验的时代。

通用人工智能：何时会出现，会拥有自主意识吗？

刘梁剑：形而上的讨论总能脑洞大开，走得较远，这是哲学的特性。那么从技术的角度看，通用人工智能是否有可能出现？更进一步，超强人工智能是否有可能出现？这里的关键是出现自主意识。

华东师大中国现代思想和文化研究所所长杨国荣教授开场致辞

*“涌现”能力出现，或带来了GAI出现的加速度

贺樑：这个问题挺难回答的。如果不是大模型出现，我还是持较怀疑态度。但现在来看，虽然大模型当下依然处在初级阶段，大部分能力还是由数据喂出来的，但“涌现”能力的出现让人感到非常吃惊。

什么叫“涌现”？打个比方，中国人常说“熟读唐诗三百首，不会做诗也会吟”。但是读到250首或280首时突然就会写诗了。这种“涌现”能力是一个复杂系统从量变到质变的过程。原先，我认为，量变到质变只是在物理世界里存在，在数字世界什么都是可以掌控的。

这次大模型爆发出的“涌现”能力，改变了我的想法，它给了我们指出了新的一条人工智能进阶的道路—也就是复杂到一定程度，它会自然产生质变。而且当下人工智能迭代速度一定快于想象。人工智能的通用能力会越来越强，我们现在一直在谈论厉害的ChatGPT，但未来五年十年回头看，现在的ChatGPT一定是个那时候认为的“挺智障”的人工智能。

*“数字域的囚徒”：聪明脑袋等待手脚进化来匹配

林咏华：现在ChatGPT还是一个困在数字域的囚徒。咱们希望的AI并不只是在数字域写写文档，本来以为最早被替代的是蓝领，实际最早被替代的是白领。AI+X，X的那些学科的发展并没有像人工智能那么快，这也导致机器人有一个很聪明敏捷的脑袋，但是手脚四肢的准确性、灵活性还没有匹配上。比如，在分拣上的速度，机械臂满足不了10毫秒以内的灵活柔性抓取，而人可以在一堆杂乱无章的东西里面找到有瑕疵的东西。所以使得大家期望的老有所依、为我们做风吹日晒下的事情还比较远。

主持人李念（左）与嘉宾贺樑、郦全民、林咏华、付长珍、潘斌、刘梁剑合影

*三个层次看自主意识，自主去想人类未想最关键

贺樑：关于自主意识，首先是如何界定自主意识，我还是宁愿相信AGI不会有自主意识。如果真有，站在人类角度，我认为还是尽快把它关到笼子里弃用，因为这对人类就是毁灭性的打击，人类只是历史长河中一个阶段的想法可能是真的，但我希望到来得越晚越好。

林咏华：是否会有自主意识？大家此前一直在讨论，这次大模型引领的AI是不是到了一个“奇点”？我个人分成三层来看：第一也是最低的，AI可以自主去应对人类的需求，调用有限掌握的几个工具完成人类的任务；第二它是否有能力自主地去学习还没有学过的东西；第三它是否能够自主地去创新，去突破一些我们没有让它突破的难题。比如说怎么让飞机净重减少一半，或者会自主地去看到海洋里因为污染而濒临灭绝的生物并去设想拯救方案。

现在看到，目前可以初步达到第一个层次，未来10年可以达到第二个层次，而第三个层次将会是很难达到的目标。

整理：李念

文末链接

林咏华：AI迈入大模型时代，新十年如何潮涨不落？|163-1讲堂1

作者：贺樑、郦全民、付长珍、潘斌、林咏华、刘梁剑

照片：周文强拍摄 胡杨制作

编辑：李念

责任编辑：李念

*文汇独家稿件，转载请注明出处。

关键词：