联想集团CTO芮勇详解混合AI框架：微调、压缩、隐私保护

10月24日，联想集团在举行的Tech World上公布了其迄今为止最全面的人工智能产品技术，以及“AI for All”的愿景。今年的活动是联想举办的第9届活动，重点关注联想如何释放人工智能的力量，推动人们生活的方方面面和每个行业的智能转型――从口袋到云端，为全球的行业、企业和个人提供专用的人工智能设备、基础设施、解决方案和服务。

联想集团高级副总裁、首席技术官芮勇博士全面阐释了混合AI框架，联想正在为这个混合AI框架开发哪些创新技术？芮勇博士展示了联想的3项技术：私域大模型的微调、个人大模型的模型压缩以及混合AI框架下的数据管理+隐私保护技术。

1，私域大模型是如何训练的，以及它是如何在企业内部使用的？

首先，有一个尚未训练过的初始模型。然后，使用互联网规模的公开领域通用数据来训练该模型。经过训练，它成为一个了解通用知识并能够处理通用任务的大模型。然后使用企业数据对该大模型进行训练。经过训练，它成为一个既能处理通用任务又能处理企业特定任务的大模型。

私域大模型现在可以处理企业特定的任务。然而，为了获得更精确的结果，接下来需要集成来自企业知识向量数据库的信息。此外，还需要集成来自现有企业子系统（如ERP、CRM和MES）。这种结合模型微调与向量数据库方法能有效地处理企业特定任务。

2，如何获得在个人设备上运行的个人大模型？

从一个大模型开始，它有数百亿甚至数千亿个参数。我们首先识别网络中所有的关联子结构，如一个神经元及其连接，然后估计这些子结构的重要性。重要性越高，就用多一些比特来做量化。重要性中等，就少用一些比特来做量化。对于不重要的子结构，这个数字是零比特，所以它们会被删除。这种同时裁剪和量化方法显著缩小了大模型的大小，但同时保持了良好的性能。

现在，该模型已经变得更小，可以直接在设备上运行，就像我们所展示的个人人工智能双胞胎（Personal AI twin）那样。

3，如何解决数据安全和隐私保护问题？

用户任务将首先通过一个“数据安全和隐私管理”模块，该模块将评估任务的隐私级别并将其分配给不同的大模型。不涉及隐私的一般任务将被发送到公共大模型。对于其他任务，它们可能有点复杂，可能涉及公共、私域或个人信息。所以，我们将需要进行任务理解、任务拆分、敏感信息脱敏和反脱敏。在这种情况下，三种类型的大模型必须联合共同完成任务。