技术合集｜企业AI应用落地的关键问题和应对方法

2022年11月，OpenAI正式推出ChatGPT，短短一年的时间里，人类被迫重温了文字语言在人类文明中的重要作用——

承载着一切的思维表达与沟通实现。

这一年，ChatGPT在自然语言领域的发展以不可抵挡之势席卷了全球，基于大模型研发的生成式人工智能，它能够对复杂的任务进行拆解，自我学习，不断与其它工具集成（插件和API）。

很快我们发现，创作小说、诗歌、剧本乃至于商业分析报告都仅仅是它的基础技能，阅读、分析、总结、翻译一切与文字所相关的任务都不在话下。

当ChatGPT能够与人类开展深入、逻辑严谨的对话时，人类便开始憧憬一个能够理解业务或专业、思考解答专业问题，甚至能够组织、管理和创新业务的机器的可能性。对企业的数字化转型进程而言，生成式AI技术带来的潜在影响很容易让人将之类比于交通史上铁路系统的发明、亦或动力系统中对交流电的引入。

在生成式AI技术的崭露头角之前，数字化转型已成为企业在新的商业环境中保持竞争优势、创造新的商业机会的重要战略。早在2011年，Gartner便提出了数字化转型的概念，其涵盖了从IT现代化到利用数字技术进行业务优化或业务模式创新的广泛战略举措。近年来，数字化转型的重心已逐渐转向企业数据资产的建立。

然而，企业在日常经营活动中产生了大量无法被结构化处理的数据。这些数据蕴含着极高的价值和知识，但传统的数据处理和分析方法对其束手无策，导致高价值的信息无法被有效提取。这也意味着企业可能错过了重要的决策依据、市场洞察和创新机会。

生成式AI技术的发展问世，让这些数据有望得到更好的利用。具有泛化能力的生成式AI技术可以对其进行加工处理，系统化地提炼出散落在员工脑中的知识体系，甚至提取出人工难以觉察和萃取的更高价值的知识。这些是之前的大数据分析、建模技术、Specific AI技术等所无法实现的技术创新。随着生成式 AI技术的不断的进步和完善，它对企业知识的处理能力会从精度、广度和深度这三个维度上不断提升。

生成式AI技术的出现，为企业数字化转型， 注入了强大且更为直接的新动能。

另外一方面，云计算+互联网、大数据+BI/SAI（Specific AI），以及生成式 AI+企业知识治理三股技术浪潮在大多数企业内部是交织叠加在一起的，在数字化转型的节奏中，企业不会按照这三股技术浪潮的先后顺序逐一实现。

因此，企业需要从后天的视角来审视今天的现状，从而规划明天的行动。比如对云能力的引入，需要考虑算力资源和 MaaS战略选择；数据治理，则需要扩展到对非结构化数 据的治理、管理和利用；而 MLOps的探索，需要立刻思考和 LLMOps的整合；至于业务需求的满足，场景的创新，生成式 AI的相关技术尝试和引入，则成为一项重要的举措。

而支持生成式AI技术的应用开发框架和平台，则需要提早设计。

总体来说，逐步构建出数据 /语料和业务智能之间的飞轮效应，将是企业在即将到来的数字化转型的智能时代中，获取决胜竞争力的关键举措。

企业的 AI战略不仅仅关注技术的开发和应用，而更应强调在整个组织中实施人工智能， 需要确保其实现在业务战略制定和运营过程中保持有协同和兼容。 生成式 AI的核心特征，有助于我们理解对人才和组织的要求。它有这样的一些特征：

随着生成式AI技术的蓬勃发展，许多企业表现出强烈的兴趣并积极采用这一新兴技术。尽管市场上出现了各种生成式AI模型在企业中的实践应用，但至今仍未出现所谓的“爆款”应用。同时，建设的方法论和技术架构也在不断变化和调整中。

这部分原因归因于生成式AI技术的固有限制，如token的经济性、可控性和准确性问题；另一部分原因是生成式AI技术的快速迭代更新，企业需要组建专门的研究团队跟进最新的技术进展。

更为关键的是，生成式AI项目的落地实施面临许多挑战。在生成式AI技术的实施过程中，企业面临从模型选择与定制、场景价值挖掘到成本优化、算力配置、知识权威、用户体验优化、安全合规保障、现有技术整合利用和学习成本控制等一系列挑战。

因此，企业急需一个全面的生成式AI架构，该架构应具备快速搭建模型、算力、数据和场景四大层面的能力，并能通过持续迭代实现高业务价值和低技术边际成本的效果。同时，该架构应展示大模型相关的协作架构和职责角色区隔，以在企业内有效打通从生成式AI技术到业务场景的通道。

为解决生成式 AI落地企业的一系列问题，神州数码推出了一站式大模型集成平台：神州问学。

神州问学（参考下图）在一个平台上，为企业提供模型、算力、数据和应用的连接能力，它既是企业的大模型集成平台也是 企业的大模型运营平台。神州问学从模型、数据、算力、应用四个角度打通各项资源，屏蔽繁缛的技术细节， 协助企业投产和运营自己的大模型应用。

神州问学——企业生成式 AI 应用落地参考架构示意