本资料面向希望以通俗易懂的方式了解人工智能的专业人士、管理者、创业者和技术团队，同时帮助他们认识在企业环境中使用 AI 所需的数据、安全和基础设施要求。
人工智能的历史：从一个哲学问题到全球性基础设施
在“人工智能”这个词出现之前，科学家们就已经在尝试把推理转化为形式化的程序。电子计算诞生于一个军事计算、数理逻辑和信息论开始交汇的时代。ENIAC 这样的机器表明，过去依赖人力的运算可以以前所未有的速度实现自动化，但编程当时仍是一项物理性的、费力的工作。
1950 年，艾伦·图灵发表了《计算机器与智能》，把讨论从“机器真的能思考吗？”转向一个可操作的问题：机器能否在对话中表现得足够令人信服，以至于被误认为是人类？所谓的模仿游戏，成为这一领域的思想里程碑之一。
1955 年，约翰·麦卡锡、马文·明斯基、纳撒尼尔·罗切斯特和克劳德·香农提出了一个达特茅斯暑期项目。1956 年的这次会议被普遍视为人工智能作为一门学科的诞生。该提案的核心很有雄心：学习和智能的各个方面都可以被精确地描述，以至于让机器去模拟它们。
从那时起，AI 经历了热情与失望交替的周期。20 世纪 60 和 70 年代，出现了符号系统以及 ELIZA 之类的实验。当承诺超出了硬件、数据和算法的能力时，所谓的“AI 寒冬”便到来了，即投资减少的时期。20 世纪 80 年代，专家系统通过为特定领域编码人类专家的规则，重新赢得了关注。
1997 年，IBM 的“深蓝”超级计算机在六局比赛中击败了加里·卡斯帕罗夫。这一壮举展示了大规模并行搜索和专用硬件的威力。它还不是今天的生成式 AI，但改变了公众对计算机能力的认知。
下一个转折点来自大规模数据、GPU 和深度神经网络。2012 年，AlexNet 在 ImageNet 上取得了远胜于对手的成绩，帮助深度学习确立为计算机视觉的主流方法。2016 年，AlphaGo 以 4 比 1 击败李世石，结合了神经网络、搜索和强化学习，证明系统可以学会极其复杂的策略。
2017 年，论文《Attention Is All You Need》提出了 Transformer 架构。注意力机制不再只是逐步处理序列，而是开始以极高的并行效率关联上下文的不同部分。这一架构基础为当今的大语言模型铺平了道路。
2022 年 11 月 30 日，ChatGPT 以对话的形式推出，加速了公众对生成式 AI 的采纳。2023 年至 2026 年间，前沿技术朝着多模态模型、推理、视频生成、编程以及能够使用工具的智能体方向发展。企业层面的讨论也发生了变化：问题不再只是“AI 能回答什么？”，而是“它能在哪些数据、控制和基础设施之上，执行哪些流程？”
核心观点：AI 的历史并不是一条直线。进步来自三个因素的结合：更好的算法、更多的数据和更强的计算能力。其中任何一个落后，进展都会放缓。
从 ENIAC 到 AI 数据中心
最早的电子计算机与现代集群之间的对比颇有启发。ENIAC 占满了整个房间，需要通过线缆和面板来重新编程。如今，一套 AI 基础设施汇聚了数千个加速器、超高速网络和分布式存储。物理规模再次变得至关重要，如今是为了支撑拥有数十亿乃至数万亿参数的模型以及持续不断的推理工作负载。
用通俗的话说，什么是人工智能
人工智能是计算机科学的一个领域，致力于研究能够执行我们通常与感知、学习、推理、预测、语言、内容生成或决策相关联的任务的系统。这个定义之所以宽泛，是因为 AI 并非单一产品：它是一系列技术和架构的总称。
垃圾邮件过滤器、推荐系统、欺诈检测器、识别视频中物体的模型，以及撰写报告的助手，都可以被视为 AI 应用，尽管它们使用的技术各不相同。
对初学者来说，最有用的区分是把 AI、机器学习、深度学习和生成式 AI 分开。机器学习是 AI 的一个子集，其中模型从数据中学习模式。深度学习是机器学习的一个子集，基于多层神经网络。生成式 AI 是一类系统，通常基于深度学习，经过训练以创造新内容。
不要把自动化与 AI 混为一谈：自动化可以遵循固定规则而无需学习任何东西。当系统需要识别模式、处理不确定性、理解语言或生成回答时，AI 才变得重要。许多企业解决方案同时结合了两者。
机器如何学习：数据、训练与推理
在传统编程中，开发者编写明确的规则，软件把这些规则应用到数据上。在机器学习中，我们提供示例，由算法调整参数以减少误差。这个过程的结果就是模型。
训练是模型调整其参数的阶段。推理则是已训练的模型接收新数据并产出预测、分类、推荐或生成结果的时刻。这一区别对基础设施有直接影响：训练通常需要大规模的 GPU 集群和较长的计算时间；推理则视模型大小和期望延迟，既可以运行在 CPU 上，也可以运行在加速器集群上。
常见的有三种范式。在监督学习中，每个示例都有标签，模型学习把输入与输出关联起来。在无监督学习中，系统在没有明确标签的数据中寻找结构。在强化学习中，智能体通过反复试错来学习，以最大化奖励。
在企业实践中，ML 周期包括数据收集、处理、训练/测试集划分、训练、验证、部署和监控。当世界的行为发生变化时，模型会退化，这种现象称为漂移（drift）。这就是为什么生产环境中的 AI 是一项持续的运营工作，而不是在首次部署后就结束的项目。
教学示例——客户流失预测：一家运营商可以利用使用历史、通话、付款和退订记录来训练模型。目标不是随机“猜测”，而是学习与已流失客户相关的模式。在推理时，模型会计算在网客户的流失概率。当这一预测被整合进行动——一次优惠、一次服务支持或一次商业干预——价值才被创造出来。
神经网络与深度学习：为什么实现飞跃
人工神经网络是由按层组织的数学单元组成的模型。每个连接都带有权重，并在训练过程中被调整。架构越深、越适合问题，学习复杂表示的能力就越强。
深度学习的进步并非来自某一项发明。GPU 使大量运算得以并行运行；大型数据集提供了样本；新的训练技术提升了稳定性和泛化能力；而软件库则让开发走向大众。
卷积神经网络在图像领域崭露头角。循环网络及其变体对序列很重要。Transformer 在语言领域占据主导，并扩展到视觉、音频和多模态。共同的原则是直接从数据中学习表示，减少手工指定所有相关特征的需要。
为什么用 GPU？训练神经网络需要海量的矩阵乘法。GPU 为高度并行的计算而设计，因此成为许多 AI 工作负载的基础。在 GPU、CPU 或其他加速器之间如何选择，取决于模型、预算、延迟和规模。
生成式 AI 与 LLM：新一代技术如何运作
生成式 AI 基于所学的模式来创造新内容。在语言模型中，基本机制是在先前上下文的条件下预测 token 序列。这个描述看似简单，但大规模模型能学到语言规律、事实知识、代码结构和语义关系，足以支撑各种截然不同的任务。
Token 是文本被切分成的单元。嵌入（embedding）把 token 或段落表示为数值向量。Transformer 应用注意力机制来计算在每一步中上下文的哪些部分最相关。随后，模型估计下一个 token 的概率分布，并重复这一过程，直到生成完整的回答。
LLM 不是传统的数据库。它把模式压缩进参数里，可能产生看似合理但与现实不符的信息。这就解释了“幻觉”现象。任务的关键性越高，就越需要限定来源、要求提供依据、记录决策，并在必要时保留人工验证。
上下文是另一个重要概念。每个模型都有一个上下文窗口，决定了它在一次交互中可以考虑多少内容。更大的上下文有助于处理长文档，但并不能消除对架构的需求。把整个企业档案都塞进提示词既昂贵又缓慢，还不安全；RAG 和搜索工具只会挑选真正重要的内容。
好的提示词会明确目标、上下文、约束、格式和质量标准。在专业应用中，提示词只是其中一层。质量还取决于模型、数据、工具、编排和测试。
微调还是 RAG？当主要问题是引入最新的、可追溯的知识时，适合使用 RAG。微调则更适合改变某个领域中的行为、风格、格式或性能。许多架构会同时结合两者。
RAG：连接企业数据的 AI
RAG 是检索增强生成（Retrieval-Augmented Generation）的缩写，它在生成之前增加了一个信息检索步骤。当用户提问时，应用会在授权的来源中查找相关片段，并把这些证据发送给模型。随后，回答就可以基于最新的企业内容来撰写。
典型的实现从文档摄取、清洗、分块、生成嵌入，以及在向量或混合搜索引擎中建立索引开始。在查询时，问题同样会被转换为嵌入，系统检索候选内容，应用过滤器并可能使用重排序器，然后才为 LLM 组装最终的上下文。
RAG 提升了可追溯性和时效性，但并不能自动保证真实。检索可能取回错误的文档、漏掉重要的段落，或在未经授权的情况下暴露内容。成熟的系统会在来源层面应用访问控制、元数据、过滤器、引用、评估和日志。
企业示例：内部助手可以通过获取文档的当前版本、引用所使用的片段并尊重用户的权限，来回答“这类环境的备份策略是什么？”。这与仅依赖模型的通用记忆截然不同。
AI 智能体：从回答到执行
AI 智能体拓展了模型的角色。智能体不再只是生成文本，而是接收一个目标、规划步骤、调用工具、观察结果，并决定下一步该做什么。工具可以包括 API、数据库、CRM、ITSM、浏览器、代码仓库、电子表格或内部系统。
这种能力使智能体对多步骤流程很有吸引力：筛选销售线索、汇总客户数据、准备方案、对工单分类、排查事件、生成代码、验证文档，或执行受控的例行任务。但自主性需要与之相称的治理。
行动能力越强，出错的风险就越大。只有只读权限的智能体，与能够删除数据、批准付款或更改基础设施的智能体，风险特征截然不同。恰当的设计包括最小权限、操作限制、参数校验、人工审批、日志和回滚机制。
黄金法则：自主性应当通过证据来赢得。从“协助”开始，进而“推荐”，然后“经审批后执行”，最后才针对低风险、可观测性高的任务评估自主执行。
AI 在企业中创造价值的地方
最好的 AI 项目不是从“我们该用哪个模型？”开始，而是从“我们想改进哪个流程，又如何衡量？”开始。高价值的用例通常结合了规模、重复性、可用的数据和经济影响。
在客户服务中，AI 可以对联系进行分类、总结历史、建议回复并检索政策。在销售中，它可以调研客户、丰富 CRM、准备跟进并确定商机的优先级。在运维中，它可以总结事件、关联告警并加快排障。在开发中，它可以生成、评审和测试代码。在文档处理中，它可以提取字段、比较条款并生成摘要。
在数据中心和云环境中，AI 可以支持容量规划、故障预测、日志分析、异常检测、能耗优化、辅助 NOC 和技术支持。当 AI 与可靠的运营数据和现有工作流相连时，收益更大。
| 领域 | 用例 | 典型架构 | 价值指标 |
|---|---|---|---|
| 客户服务 | 基于政策的辅助回复 | LLM + RAG + CRM | 平均处理时间、解决率、质量 |
| 销售 | 商机调研与准备 | 智能体 + CRM + 授权来源 | 每个客户耗时、转化率、销售管道 |
| IT 运维 | 事件摘要与分诊 | LLM + 日志 + ITSM + 规则 | MTTR、积压量、准确率 |
| 文档 | 提取与比对 | 多模态/OCR + LLM + 校验 | 耗时、错误、生产力 |
| 工程 | 代码与测试 copilot | LLM + 代码仓库 + 受控 CI/CD | 交付周期、缺陷、覆盖率 |
| 数据中心/NOC | 异常与运维关联分析 | 时序 ML + 智能体 + 可观测性 | 事件、可用性、能耗 |
AI 基础设施：GPU、存储、网络与数据中心
AI 是软件，但用户体验受限于物理基础设施。大型模型需要加速计算、高带宽内存、能够为数据集和检查点供数的存储、低延迟网络，以及稳定的电力和散热运维。
容量规划从工作负载类型开始。从零开始训练模型是最耗费资源的场景，对一般企业来说很少有必要。微调可能只需要一个或几个节点，具体取决于模型和技术。推理可以运行在专属 GPU、共享 GPU、云加速器上，对于小型模型甚至可以运行在 CPU 上。
除了加速器之外，内存同样关键。如果模型放不进可用内存，可能需要量化、分布到多个 GPU 上，或选择更小的模型。存储也会影响整个周期：数据集、嵌入、产物、日志和检查点增长很快。兼容 S3 的对象存储对于大规模的数据集和产物尤其有用。
当多个 GPU 协同工作时，网络会成为瓶颈。对于训练集群，加速器之间的带宽和延迟起决定性作用。在企业推理中，应用、数据与模型之间的连接也会影响最终体验。
最后，电力、散热、物理安全和可用性也是设计的一部分。高密度服务器所需的单机架功率可能远高于传统环境。为 AI 工作负载准备的数据中心需要评估密度、冗余、散热和扩展能力。
云、本地部署还是混合？
没有放之四海而皆准的答案。云加速实验并提供弹性。本地部署或裸金属可以为稳定的工作负载提供可预测性、掌控力和成本节约。当敏感数据留在私有环境、而峰值或特定模型使用外部容量时，混合架构很常见。
LLM 即服务（LLMaaS）
LLMaaS 通过托管的 API 或端点提供模型，使每家公司无需自行搭建整个推理服务层。对企业客户而言，最重要的标准包括隔离、隐私、SLA、模型选择、成本控制、可观测性和数据驻留。
面向 AI 的裸金属
当工作负载需要直接访问硬件、高利用率、特定配置或性能的可预测性时，裸金属服务器就很有意义。经济模型应当比较总成本、实际占用率、能耗、支持和升级周期。
S3 存储与 AI
数据集、文档、图像、音频、检查点和产物都可以作为对象存储。架构应当规划版本管理、加密、保留策略、吞吐量和数据迁移成本。
AI 安全、隐私与治理
企业的 AI 政策需要涵盖数据、模型、用户、工具和决策。风险不只存在于模型：它来自整条链路。敏感数据可能被发送到不合适的端点；RAG 系统可能忽略权限；智能体可能执行不当的操作；恶意的提示词可能试图扭转指令。
数据分类是第一道控制措施。组织必须界定哪些内容可以发送到外部服务，哪些必须保留在私有环境中，以及哪些信息需要匿名化或脱敏。合同、保留期限和使用目的也需要评估。
提示词注入（prompt injection）是一类攻击，用户或文档内容试图改变系统的行为。在智能体中，这可能导致不期望的工具调用。防御措施包括指令分离、工具白名单、参数校验、最小权限、对关键操作进行确认，以及内容清洗。
幻觉既是质量风险，也是安全风险。调低温度并不能解决所有问题。关键的回答应当以来源为依据，由规则或验证模型进行评估，必要时提交人工复核。
可观测性至关重要。应依据隐私政策记录提示词和回答、检索到的来源、调用的工具、延迟、成本、错误和反馈。没有遥测，就很难判断一个 AI 系统究竟是改进了流程，还是仅仅增加了复杂性。
LGPD 与 AI：在巴西，处理个人数据的 AI 项目必须结合 LGPD 的适用原则和义务来设计。本指南仅供教育用途，不能取代针对每个具体情形的法律或隐私分析。
- 针对用户、模型和工具的身份与访问控制。
- 传输中与静态数据的加密；对机密和密钥的安全管理。
- 在把数据发送给模型之前对其进行过滤和分类。
- 在来源层面具备访问控制，并按租户或角色隔离的 RAG。
- 针对智能体操作的日志和审计轨迹。
- 对质量、安全、偏见和回归进行持续评估。
- 对金融、法律、基础设施或高影响决策采用人在回路（human-in-the-loop）。
- 针对 AI 应用的专门事件响应预案。
如何在企业中部署 AI，而不让 PoC 变成永无止境的项目
许多 AI 项目失败，并不是因为模型能力不足，而是因为问题定义得不好。PoC 的存在是为了检验具体假设：最低质量、集成、延迟、成本、安全和运营影响。
从一个有责任人、有数据、有指标的流程开始。设计一个人工或现有系统的基线。然后在选定最终供应商之前，构建一个具有代表性的测试集。这样可以避免仅凭几次令人印象深刻的演示来衡量质量。
在迈向生产时，要重新评估基础设施、治理、支持、可观测性和恢复能力。notebook 原型并不是运营架构。对于关键系统，应明确 SLO/SLA、容量、应急预案、提示词/模型的版本管理以及回滚标准。
扩大 AI 项目规模之前的检查清单：
- 问题和 KPI 是否清晰？
- 是否有足够且可合法使用的数据？
- 权限是否已经界定？
- 是否有具有代表性的测试集？
- 解决方案是否具备可观测性？
- 每笔交易的成本是否可以接受？
- 是否有针对故障、不可用和回滚的预案？
- 是否有业务负责人批准结果？
2026 年的 AI 格局：规模、智能体与基础设施
斯坦福 2026 年 AI Index 显示，企业层面的采纳仍在增长，并且在受访的很大一部分组织中，生成式 AI 已经出现在业务职能里。与此同时，报告强调了投资增加、算力扩张加速，以及对治理的更多关注。
这一图景表明成熟度正在发生转变。生成式 AI 的第一阶段由通用聊天主导。第二阶段则由集成来定义：模型与数据、工具、企业系统以及针对成本和延迟优化的基础设施相连接。
在许多业务职能中，智能体仍处于早期阶段，这一点很重要：预期应当合理校准。价值是真实存在的，但自主系统需要证明其可靠性。竞争差异化往往会从“能否使用同一个模型”转向数据质量、集成、流程、体验、安全和运维。
对于数字基础设施企业来说，这带来了直接的机会。AI 提高了对算力、存储、连接、能源、韧性和托管服务的需求。换句话说：AI 的增长，也意味着支撑它所需的基础设施的增长。
NGG Tech 如何支持 AI 之旅
企业的 AI 战略需要把应用与基础设施连接起来。NGG Tech 深耕数字基础设施，提供数据中心、虚拟云、裸金属、兼容 S3 的存储、连接及相关服务的解决方案。这使得我们既能为传统应用，也能为新兴的人工智能工作负载设计环境。
对于 AI 项目，讨论可以从工作负载开始：模型规模、文档量、用户数量、延迟、可用性、隐私和预期成本。在此基础上，可以评估云、裸金属、数据中心或混合架构。
起点不必是一个庞大的集群。许多企业利用现有模型、RAG 以及与自身数据相连的智能体就创造了价值。基础设施应当依据需求和流程的关键性来增长。
- 虚拟云，用于应用、API、数据库和编排组件。
- 专属裸金属，用于需要可预测性能和直接访问硬件的工作负载。
- S3 存储，用于数据、文档、产物、备份和数据集。
- 数据中心与托管机房，用于关键任务环境和容量扩展。
- 连接与安全，用于整合用户、数据和 AI 服务。
AI 基本术语表
| 术语 | 定义 |
|---|---|
| AI 智能体 | 利用模型规划并借助工具执行操作的系统。 |
| 算法 | 解决问题的步骤或规则集合。 |
| API | 系统之间用来交换命令和数据的接口。 |
| 注意力 | 对上下文中不同部分之间的关系进行加权的机制。 |
| Chunk（分块） | 为了建立索引和检索而对文档进行划分所得的段落。 |
| 上下文窗口 | 模型在一次交互中所能考虑的最大 token 数量。 |
| 深度学习 | 基于深度神经网络的机器学习。 |
| 嵌入（Embedding） | 捕捉语义关系的向量表示。 |
| 微调（Fine-tuning） | 为特定行为或领域对模型进行的额外调整。 |
| GPU | 许多 AI 工作负载使用的高度并行处理器。 |
| 幻觉 | 看似合理、但不正确或缺乏可靠来源支持的输出。 |
| 推理 | 使用已训练的模型产生新的输出。 |
| LLM | 大语言模型（Large Language Model），大规模语言模型。 |
| LLMOps | 运营、评估、观测和治理 LLM 的实践。 |
| 机器学习 | 模型从数据中学习模式的方法。 |
| 模型服务（Model serving） | 使模型可以接收请求的那一层。 |
| 多模态 | 能够处理多种模态（例如文本和图像）的模型。 |
| 提示词（Prompt） | 发送给生成式模型的指令和上下文。 |
| 提示词注入（Prompt injection） | 试图通过恶意内容改变或扭转系统指令的行为。 |
| 量化 | 降低数值精度，以减少内存和计算成本。 |
| RAG | 在生成回答之前先检索相关来源的架构。 |
| 重排序器（Reranker） | 对检索结果重新排序以提高相关性的组件。 |
| 强化学习 | 通过试错并获得奖励来学习。 |
| S3/对象存储 | 适用于文档、数据集和产物的对象存储。 |
| Token | 文本被表示成可供模型处理的单元。 |
| Transformer | 基于注意力的架构，是许多现代模型的核心。 |
| 向量数据库 | 为存储和检索向量/嵌入而优化的系统。 |
常见问题
什么是人工智能？
它是开发能够执行与感知、语言、学习、预测、生成或决策相关任务的系统的领域。AI 是一个宽泛的领域。机器学习是 AI 中的一种方法，模型从数据中学习模式。
什么是生成式 AI？
它是一类基于所学模式来创造新内容（如文本、代码、图像、音频或视频）的系统。
什么是 LLM？
它是经过训练、用于处理和生成语言序列的大语言模型。目前许多对话式助手都使用 LLM。
AI 中的 RAG 是什么？
RAG 是一种架构，它在生成回答之前，先从外部来源检索信息，并把相关片段发送给模型。
什么是 AI 智能体？
它们是把模型与工具、记忆和规则相结合，用来执行多步骤任务的系统。
企业需要训练自己的模型吗？
在大多数情况下不需要。现有模型结合 RAG、微调或工具，就能满足企业的大部分需求。
AI 需要 GPU 吗？
不一定。较小的模型可以在 CPU 上运行。大型模型、低延迟和高并发量通常能从 GPU 或加速器中受益。
AI 应该选云还是裸金属？
这取决于工作负载的特征。云有利于弹性；裸金属有利于掌控力和可预测性；混合架构则结合两者。
使用 AI 时如何保护数据？
对数据进行分类，确定允许使用的供应商和环境，并应用加密、访问控制、日志、数据隔离和回答验证。
企业的第一个 AI 项目应该是什么？
从一个重复性强、可衡量、有可用数据且运营风险较低的问题入手。在构建 PoC 之前先确定 KPI。
如何衡量 AI 项目的回报？
使用耗时、成本、转化率、错误率、满意度、MTTR、可用性或处理量等指标，将解决方案与基线进行比较。
参考来源
- Alan M. Turing，Computing Machinery and Intelligence，Mind，1950。
- McCarthy、Minsky、Rochester 和 Shannon，A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence，1955。
- Krizhevsky、Sutskever 和 Hinton，ImageNet Classification with Deep Convolutional Neural Networks，NeurIPS 2012。
- Vaswani 等，Attention Is All You Need，2017。
- Google DeepMind，AlphaGo。
- OpenAI，Introducing ChatGPT，2022 年 11 月 30 日。
- Stanford HAI，The 2026 AI Index Report。
编者注：本资料仅供参考。市场数据和参考文献反映的是所查阅的来源，应定期复核，因为人工智能行业变化迅速。