火山策略 技术的十字路口：AI发展的四大趋势与四层目标

21世纪经济报道记者孔海丽 北京报道火山策略

大模型参数，从百亿、千亿到万亿，指数级迭代和进化所揭示的，正是人工智能持续而强悍的创造力。

这并非一蹴而就。从手写识别、语音识别，到图像识别、阅读理解、语言理解，再到推理、数学计算等，经历了20多年的发展。直到前不久OpenAI发布GPT4-o，人机交互意识接近或者部分达到人类的水平（“像一个真人站在后面”），生成式AI终于实现了具身智能堪称革命性的跃升。

如果说前十年是数字化在推动商业的进步，那么从2024年起，则进入到AI尤其是生成式AI推动商业的变革时期。OpenAI首席执行官萨姆·奥特曼5月22日在微软Build 2024开发者大会上说，当前我们处在一个特殊的激动人心的创业时期，它甚至可以与2008年的移动互联网热潮相媲美。

每一次重大技术创新，在提升生产效率、影响人类活动的同时，也伴随着担忧甚至焦虑。远如蒸汽动力之于第一次工业革命、电之于第二次工业革命，近如互联网的出现，其间都伴有大量的忧虑乃至恐惧。但此前三次技术革命的担忧，可能加起来都比不上这一次。人工智能越来越聪明和强大，也意味着，人类自己面临另一个自己的挑战，不排除有失控的危险。

5月14日刚离职的OpenAI前首席科学家伊尔亚，强调大模型开发必须“与人类对齐”。科大讯飞董事长刘庆峰5月22日在BEYOND国际科技创新博览会也提到了人工智能的安全控制问题，他表示，一旦AI拥有自我意识是非常可怕的事情，“我们是不是创造了一个新物种，而且它未来会不会不可控，这是最重要的。”

虽然包括刘庆峰在内的大多数人都认为，从目前的主流技术路线观察，短期内AI还不存在失控的危险，但以大模型开发和利用为核心的生成式AI，如何更加强化对人自身的关注，并将“以人为本”的理念从语料训练起就置入机器，已引起从业人员的重度重视。正如埃森哲首席技术和创新官杜保洛（Paul Daugherty）所说，“这场关乎工作、生活和学习方式的重大转型，将加速零售、娱乐、医药、制造等各行各业前所未有的变革浪潮。企业应当采取人性化的方式，平衡好各类关系，公平且负责任地运用这些技术。”

技术为人而生，但并非所有的技术发展都是正向的、有益的。如果我们设计的工具，只有人类的能力、人类的智慧，却没有人类的良知，那我们创造的东西可能对社会和个人都带来损害。从这个意义上说，这一次，我们正站在技术的十字路口。

埃森哲近日发布《技术展望2024》，认为AI呈现向“人性化”重大转变的四大趋势：一是AI伙伴：从知识到智识的革新。人工智能等技术的普及正重新组织数据的应用，朝着推理判断、甚至模仿人类创造力的方向进展。二是智能体：AI互联的生态系统。人工智能将成为个人生活和工作中的代理，并与其他代理相互联动，形成一个庞大的生态系统。

三是空间计算：发掘虚拟实感的价值。将物理的二维世界扩展到利用空间计算、元宇宙、数字孪生和增强现实/虚拟现实（AR/VR）等技术创建的全新三维环境中，能够创建出令人耳目一新、内容丰富的沉浸式人际互动世界。四是人机互通：技术解码人类意图。有94%的高管都认为，人性化的界面技术将使我们更准确地理解行为和意图，革新人机交互模式。

无独有偶，微软亚洲研究院近期也提出了人工智能与人类价值观对齐的四层目标。第一层，人类指令（Human Instructions）：让大模型能够理解丰富多样的人类指令并遵循指令来完成任务。第二层，人类偏好（Human Preferences）：让大模型不仅能够遵循指令完成任务，同时保证采用符合人类偏好和利益的方式。第三层，价值准则（Value Principles）：让大模型根据一系列价值准则来指导自身行为，比如“不能输出有害言论”等。第四层，基本价值观（Basic Values）：让大模型与特定的基本价值观分布进行对齐。

批判的武器不能代替武器的批判。如果说，机器的深度学习浩如烟海，与此同时，人类自己的深度学习也永无止境。

（编辑：张伟贤）火山策略