听6位专家畅谈AI大模型落地实践：场景和人才是关键

本文分享自华为云社区《听6位专家畅谈AI大模型落地实践：场景和人才是关键》，作者：华为云社区精选。

随着人工智能技术的不断突破，越来越多的行业开始应用AI技术来提高效率、降低成本、改善用户体验等方面。

在过去的一年里，以大模型为代表的AI技术以超乎想象的速度进化。回顾大模型技术在企业的应用过程中，我们不禁要问：大模型在落地方面带来了哪些改变？开发者如何应对大模型的变革？在AI大模型的驱动下，企业的未来又会走向何方？在《华为云DTT年度收官盛典：AI创造无限可能》的直播活动中，我们听听来自华为云DTSE技术布道师徐毅、华为云EI DTSE技术布道师夏飞、华为云媒体DTSE技术布道师左雯、华为云DTSE技术布道师肖斐、今日人才联合创始人&VP徐伟招和华为昇思MindSpore学生布道师周汝霖等6位专家，他们是如何看待的。

1 AI时代的大模型实践之道

2023 年，AI大模型技术非常火热，可谓是实现了跨越式发展。这些进步不仅体现在模型的规模和性能上，更体现在其越来越丰富的实践应用中。

“我观察到在应用业务场景中，AI大模型有许多典型的实践和诉求。”作为AI行业的资深从业者，华为云EI DTSE技术布道师夏飞举例道，在智能客服领域，大模型提升了回答的流畅度和自然度，同时增强多人对话上下文理解能力；在文本生成方面，大模型广泛应用于政府公文、电商营销文案、医疗报告和病例等，大大提高工作效率。此外，大模型还能辅助生成常见算法和函数代码，甚至前端界面，为研发人员节省大量时间。

不难看出，这些实践和诉求证明了大模型在提升企业效率和生产力方面的巨大潜力。大模型正加速进化，为了更好地应用大模型，企业需要深入了解其技术原理和应用场景，并选择合适的大模型工具，探索如何发挥大模型的能力，基于大模型做更多事情。

今日人才联合创始人&VP徐伟招讲到，大模型作为一个“大脑”，我们可以通过优化交互能力，使其更好地发挥价值。

• 首先，我们需要精准描述问题，并建立清晰的问题结构，以便大模型更好地理解问题；

• 此外，我们可以让大模型扮演不同角色，以更好地理解问题背景。为了增强大模型的记忆能力，我们可以采用基于检索增强的生成技术，为其添加外部存储库或数据库。

• 最后，我们还应教会大模型使用各种工具，如计算器和搜索工具，以提升其计算能力和实时掌握数据的能力。

提及到大模型的应用领域，就不得不提“数字人”了。大模型对数字人行业产生了重大影响，使其成为大模型优先落地的领域之一。大模型的应用显著提高了数字人在各个环节的效率和品质，如形象建模、声音克隆和大脑智能等。

华为云媒体DTSE技术布道师左雯表示，相比传统技术，大模型使得数字人模型的构建时间大大缩短，声音克隆只需少量语句，就能使其具有情感和语调。数字人与大模型的结合将促进其向更高效率和更高质量的方向发展，进一步推动数字人的应用和普及。

若想推动上文所提到的数字人、智能客服等大模型应用场景落地，无疑需要更多开发者的加入。开发者大赛作为企业开发者甚至高校学生接触最新技术及技术实践最佳的场所，更是得到众多的开发者们的参加和比拼。来自华为昇思MindSpore学生布道师周汝霖，在2023华为开发者大赛中带领团队开发了基于昇思MindSpore框架的睡眠呼吸诊疗方案，并获得全国赛学生赛道铜奖，深圳赛区区域赛金奖。

周汝霖讲到，对于大模型在智慧医疗领域的应用，容易出现将一些边界问题模糊化的大模型幻觉问题，这也是当下智慧医疗领域面临的实际困难。医学是一门严谨的学科，任何结论都需要经过严格的验证和解释。医疗大模型的推出需要充分考虑患者的利益，确保其辅助诊断功能不会引发伦理问题。

谈到比赛的过程，他表示，比赛中遇到医疗数据孤岛的难题，导致在大模型训练中出现数据量少、数据标注质量低的现象。针对这个问题，我们是通过联邦学习和强化学习等方法解决。其次就是不同医院的成像效果存在差异，如每个医院的机器成像的像素、比例等等都有很大区别，可以通过无监督预适应等方法解决，达到一个比较好的效果。

最后，肖斐还补充道，当前的大模型还会出现“一本正经的胡说八道”的“幻觉”现象。原因在于大模型的原理是基于概率推断，但有时会出现不符合事实的情况。我们可以引入知识图谱能力解决这个问题，利用事实性的内容知识来修正概率性的问题。

2 AI大模型落地需要关注的二三事

尽管“AI大模型”的潜力巨大，但将大模型应用到专业场景中，会遇到如计算资源少、数据质量差、投入成本高、专业经验少等现实问题的挑战。

在算力方面，大模型通常具有复杂的结构和参数，导致其解释性和可控性较差。在专业领域的应用中，会面临小概率大风险的问题。

肖斐表示，面对这些问题可采用可解释性强、可控性高的模型结构和算法。同时，基于知识图谱和LLM结合的模型，可以通过增加模型的透明度和可追溯性，来提高模型的可解释性和可控性。

除了算力方面，数据作为大模型训练的底料，数据质量和规模都对模型的性能有着至关重要的影响，包括数据安全也是当前亟需解决的问题。

大模型是基于互联网全网数据进行训练，我们需要对大模型的使用进行规范性的约束，对涉及隐私的问题进行保护，以使其适用我们的应用场景。在数据安全、信息隐私和敏感性方面，徐伟招从企业实际应用中分享了几点见解：

• 数据加密存储和加密传输：所有敏感信息都会进行加密存储和加密传输，以确保数据不被泄露；
• 脱敏处理：对于涉及个人信息的内容，可以进行脱敏处理，即将敏感信息进行遮盖或删除，以保护个人隐私；
• 匿名化处理：对于大模型中包含的个人信息，可以进行匿名化处理，即将个人信息进行隐藏或替换，以保护个人隐私。

徐伟招表示，通过这些技术手段，可以有效地保护企业的数据安全，同时确保数字员工能够为企业提供安全可靠的服务。

不仅如此，在大模型应用中，隐私安全合规至关重要。左雯分享到，在做数字人开发者中，为确保合规，数字人首先要遵循国家和行业法规，获取用户同意，并采取安全措施。其次，建立完善的数据安全管理体系，包括数据加密、备份和访问控制。对敏感信息进行脱敏或匿名化处理。此外需要建立内容审核机制，对数字人生成内容严格把关。与用户明确隐私协议和授权机制，提供申诉和维权渠道。通过以上措施，保障数字人应用的隐私安全合规，为用户提供安全可靠的服务。

“在应用大模型时，需要面临模型选型、技术方案选择和数据处理等问题。”夏飞补充道，在准备数据时，有时候不需要大量的数据，几百条至一千条即可达到较好的效果，过多数据反而可能导致模型遗忘原有知识。

3 看AI大模型技术如何助推企业及开发者的成长

大模型发展为企业应用创新及开发者成长打开巨大想象空间。生成式AI的出现，更是以前所未有的创新力引领企业和开发者踏上激动人心的未来之旅。在这场技术道路上，开发者关注的，是如何借助AI大模型的能力提高研发效率；企业关注的，是如何借助AI大模型来迭代业务产品抢占市场。

要利用大模型技术为企业创造价值，需认识到大模型的价值和应用情况。徐伟招讲到，企业需要技术积累，尤其是人才的积累，因为技术靠人实现。此外，数据也非常关键，因为大模型是通用的，但企业的数据是独有的，可以利用数据进行增强训练或微调。这样企业就能发挥大模型的领先优势，创造更多价值。

企业和个人需要探索大模型在自己所在领域的应用场景，场景是最重要的。AI就是生产力，不仅提升了生产效率，还改变了人机交互方式，使自然语言交互更自然、高效和便捷。肖斐强调到，选人用人时，重视具备AI Agent技术的人才。

“对于学生开发者而言，选择好的平台至关重要。”周汝霖表示，华为云ModelArts平台提供一站式AI开发服务，包括数据收集、清洗、模型训练和推理等，平台还预置了大模型。对于大模型业务，强大的算力是关键，华为云提供了免费算力支持。

大模型和人工智能在降本增效和创新方面起到重要作用，但不会完全取代某些角色，如产品经理。左雯以数字人为例讲到，数字人结合大模型在多个场景中帮助提升效率，如创新营销、视频制作和直播等。虽然数字人可以快速生成视频和IP，但仍然需要人工参与创意和定制化工作。在智能客服、员工和接待场景中，大模型有助于提高效率，但复杂的个人问题仍需人工解决。因此，大模型和人工智能将与各行各业结合，助力降本增效和创新。

AI开发工程师在技术不断发展的背景下，需要持续关注和学习新技术，以提供更符合业务需求的解决方案。夏飞表示，尽管大模型可能会改变开发者的角色，但AI开发工程师的专业技术知识和经验仍然不可替代。他们能够解决复杂的技术问题，提供定制化解决方案，并为业务提供咨询和指导。因此，AI开发工程师的作用不仅不会被削弱或取代，反而会更加突出。

4 最后

毋庸置疑，大模型已经成为未来技术发展方向的重大变革。当下已有大批企业及开发者涌入这一赛道，随着行业的共同努力，未来大模型可能会建立更完善的行业落地场景和机制，促使大模型在各个领域真正落地并发挥作用。

点击关注，第一时间了解华为云新鲜技术~