人工智能趋势判断

内容大纲

技术转型趋势
个人该如何做
组织转型方法
- 技术团队转型

技术转型趋势

以LLM为代表的AI技术得以突破，得益于算法和架构的突破、海量的训练数据、计算能力的显著提升。当前局限在于知识的截止日期、可能出现幻觉、上下文窗口限制以及复杂推理方面的挑战。人的优势是批判性思维、判断力、创造力以及伦理监督。

深度学习 -> Transformer -> Chat -> Tool -> Vibe -> Claw。

LLM在颠覆代码开发范式，未来将是少量专家配合大量Agent工作模式。

LLM本质擅长文字语言，代码是一种计算机语言。可用作训练的代码数据非常大。因此Anthropic的Claude Code最先在代码研发上极速变革。在2025年初Cursor等工具需要人工大幅参与，且写出的代码可维护性并不高。年中Sonnet 4.5出来后，效果大幅提升。去年12月，Opus 4.6出来后，人工几乎不用参与了。整个过程中进化非常快速。
测试质量 -> 前端 -> 后端 -> 安全 -> 算法。各技术岗位的代码难易程度有比较大的区分，测试类型的代码都是一些最基础的校验逻辑，最先容易被替代。前端代码只涉及界面展示与交互，其次被替代。
少量专家 + 大量Agent：专家负责高阶决策（如策略调整、异常处理），Agent处理重复任务。

从开发传统软件到Agent。

商业
- Agent将成为新流量入口。OpenAI ChatGPT正在演变为类似微信的超级入口，Agent正在取代传统网页和App，成为商业流量分发入口。各类商户愿意为了流量接入ChatGPT付费，比如沃尔玛和Shopify在ChatGPT下单时，商户需要支付服务费。传统的广告模式（如百度、Meta、Google等）正面临挑战，AI时代将在ChatBox内完成搜索、广告、下单支付等所有流程的闭环，并不会跳转至外部页面或应用，以提高体验和转化率。
安全
- Agent运行安全。越来越多的Agent满足需求时具备动态生成代码的能力，而且和Agent本身运行在一个环境中，导致当遭到提示词注入时，就能获取到各类密钥凭证。目前看下来，应该通过类似切面能力，将密钥凭证注入到网络请求Header中，来进行传输与认证，这样Agent生成的代码就无法直接拿到。

传统代码审计工具被颠覆。传统基于规则与模式匹配的代码审计工具最大的瓶颈在于，无法理解业务语义，导致对于各类业务层的逻辑漏洞束手无策。当AI已经能够理解代码这种语言，那对代码所产生的风险，无论是质量还是安全，都是顺手牵羊就能做掉。所有传统代码审计工具都将被替代，代码安全风险的发现范式也将发生巨变。

LLM在代码安全审计上的挑战。多参数或复杂分支逻辑、长调用链路、极端情况枚举等场景的语义推理能力不足；漏洞很多时候由于多个小问题组合起来的，LLM受限于上下文窗口只能分析部分代码片段，对于全局安全策略（拦截器或外挂安全防御能力）、配置型逻辑分支、上下游依赖链路、三方软件包代码缺失等导致的代码上下文不全问题；LLM对于编程知识掌握较好，但目前模型对于安全知识掌握一般，对于业务产品知识更是极其薄弱。对于如何区分功能和漏洞在不同的业务场景下判定不一致、没法完全遵守企业内部的安全规范、业务领域知识匮乏。代码审计经历过，LLM配合处理SAST风险 -> LangGraph实现流程的确定性 -> Claude Code聚焦在安全专家经验的迭代上 -> 放弃Function/Tool Caling调用MCP，使用Meta-Tooling通过Python代码调用工具，解决工具调用效率问题 -> 通过Skill沉淀各应用/岗位安全领域知识，并能够迭代分享。

代码已不再是公司最重要资产。在传统软件时代，互联网企业最重要的资产就是人员与代码，但在编程行业被AI接管后，代码的开发成本已经急剧降低，大部分代码已经不构成技术壁垒了。代码安全性也应该发生变化，原先围绕代码知识产权保护已经不再适应当前时代。为了更高研发效率，应当允许研发工程师使用最顶尖的外部工具和模型来开发内部代码，只要代码中不包含独特算法实现、密钥凭证以及特殊业务规则等不适合公开的信息。

从软件自动化到大模型自动化。软件自动化技术（脚本/Workflow/RPA/Shortcuts等）已经持续多年，建立在已知场景的固定输入和逻辑判断上。但大模型时代，处理的是非结构化数据输入、依赖各类意图与隐形经验，以及结合各类变化的上下文变化决策判断。于是出现两条极端的路线，一是以Dify/n8n为代表的将AI能力集成进传统Workflow流程中，一是Claude Code为代表的使用纯自然语言描述任务。在前期，两种模式效果都不如人意，传统Workflow集成AI后，单点能力是提升了，确定性/可控/可服用更有优势，代价是效率提升不明显，对于专家经验型的经验需要使用程序员的视角进行各类逻辑分支编排。Claude Code通过Prompt，上手极快，但复杂流程的遵守、Prompt迭代/演进与分享都成为新的问题。后来Claude Code通过基础模型的提升，能够实现上百步的指令遵循。发布Skill，解决了经验的沉淀效率与迭代分享。

Prompt和Agent工程都会随着基础模型能力的提升而失效，基础模型吞噬一切。越靠近基础模型的优化，越容易随着时间贬值。比如原先由于模型无法稳定执行某些步骤，我们探索的自然语言的workflow，在基础模型提升指令遵循能力后就立马失去意义。我们曾构建过基于LangChain、LangGraph甚至自研AI平台，最终发现Claude Code效果最好。

岗位的经验是大模型时代最稀缺最具有复利效用的资产。

Claw。

类Claw工具本质上是一个特权木马。
文件系统或许是探索和检索上下文的合适抽象层。

SEO转变到GEO。

通过与各类GPT软件聊天，诱导其说出一些恶意信息，并生成分享链接，进行引流投放。

个人该如何做

人工智能时代人的核心能力。

授权：决定哪些工作由AI完成，哪些工作由人完成。
描述：能与AI进行清洗的沟通。
判断力：能以批判的眼光评估AI的输出和行为。准确性、适当性、连贯性、相关性。
尽职调查：确保以负责人的方式与AI互动。

知识工具化（2022-2025），大模型的普及让多数人触手可得，能够辅助回答人类各类专业问题，大幅提升个人生产效率。问问题的成本急剧降低，问问题的频率增高，更频繁的探索未知，拓展自己的认知边界。同时能够不断追问，不只是想知道答案，也想知道为什么，甚至底层逻辑，从获得原始问题答案到探寻本源。能够不断提出更好的问题，不断的抽象，看到底层逻辑，让思考变成了一种高频的习惯。让我持续思考，而不会像原先互联网搜索引擎时代被摩擦成本打断。AI时代答案极其廉价，主动提问并追问，并能将知识系统沉淀为自己的理解。

其实回顾同学之间，知识的差距不大，但最后的人生差距很大。很重要的一个原因是怎么样运用知识，在什么方向上运用，为谁运用。

使用国内外各个AI工具
高频主动提问并追问
及时使用自己语言将知识体系沉淀在网站中。构建稳定的知识框架，不断补充迭代内容。
按照沉淀知识实践并优化

工作自动化（2025-2028），大模型与软件结合，已经能画图、生成视频、写代码、写文章、做分析、生成方案、优化流程、执行决策，各类标准化、流程化的执行类工作，能干各类坐在办公室电脑前白领的工作，客服、程序员、法务、财务、安全等。基层人员会被替代、中层管理会被压缩、企业变成主要少数人员和AI协同为主。AI时代，人的核心能力是定义问题和创造方向。技术会变，但解决的问题不变。人类从蒸汽机到电气时代到互联网再到如今AI，工具一直在变，但解决的问题没变。核心还是降低信息成本、提高决策效率、扩大人类能力边界。超级个体将成为可能，很小的团队甚至个人公司能够做出原先几十上百人的公司工作，传统的靠堆人促增长的模式将失效。

快速适应能力。熟悉了解各种AI工具与技术能力，以及优劣势。
捕捉机会快速落地能力。捕获定义痛点问题，研究可行性，应该做成什么样，通过AI工程化实现，投放观察效果。
全才发展。AI能力已经逼近各行业专才，人类应该朝全才发展，类似企业CEO的视角发展，雇佣各种专业技能的人来为自己服务。

组织转型方法

前车之鉴。新技术或模式带来的效率提升，引发的增量经济的正向影响，远大于其对原有岗位的人员的影响。主要影响并不会是裁人，而是放缓招人，尤其是低阶基础工作人员。

外包模式对正式用工的影响。大约1/4的工作岗位内容容易受到外包威胁，但十几年后，正式岗位还是继续保持了健康的增长。
工业机器人对就业的影响。
软件工程行业。GitHub上的开源软件出来后，大家觉得软件工程师会减少。云计算出现时，大家说基础设施的人会减少。当黑盒和白盒测试出现时，人们说漏洞会减少。漏洞防御措施出现时，人们说漏洞不能被利用了。移动无线端出现时，人们说PC桌面软件研发就消失了。某些岗位会萎缩，基础的代码扫描、审计、测试、告警运营等，但更多的机会也会出现，AI安全、AI for Security、Agent安全、Skill等供应链安全、身份。历史上，每当某一类漏洞消失后，新的漏洞又会到来。现在的 Vibe Coding，让AI访问各种代码、控制机器、跨越原先的传统软件边界、功能模糊化，现在网络安全人员最不应该的就是悲观。就像每次股市下跌，我总会想，这次会不一样嘛？保持好奇心、学习新技术、提升AI技能、多动手实践。

组织转型的目的是借助AI降本提效，让同等或更少的人创造更大的价值。AI能力提升 -> 单人产出大幅提升 -> 完成同等工作所需人员更少 -> 用更少的人，做更多的事情。

这里有个重大的认知Gap：AI会提升工作效率，但并不会让人变得空闲起来。你如果用了Claude Code / CodeX，并使用最好的模型。你会发现研发效率急剧上升，你会更快的完成更多的需求，解决更多的问题。很难停下来，就像是刷抖音一样。

未来是少数专家和大量Agent协作。

少数专家。
- 控制增量人员。暂停增量工作的HC审批，先回答清楚是否可以AI化。推动主动求变。
- 提升AI重视、学习使用、激励、淘汰工作。
  - AI作为团队、主管、个人的OKR。
  - 主管以身作则，带头学习研究和使用AI。减少纯协调/总结工作。项目经理、月报。降低自身管理工作，指挥Agent工作。
  - 让所有员工接触最先进的AI模型和工具，最少在自己一个工作场景中进行应用，用过就再也回不来了。
  - 人员分层AI培训与学习使用，衡量指标：Token消耗。
  - 识别激励AI人才，盘点当前人员的AI能力，将突出人员投入重点场景，通过各形式的激励倾斜，让这部分人先被看到和激励，降低抗拒心态，加速其他人参与度。
  - 裁撤负责简单基础的外包。
  - 裁撤不适应AI的人员。
- 组织更加扁平，不再设置多层汇报关系。
  - 缩短汇报层级，更少的协作成本，管理者管理工作降低。
  - 弱化职能边界，更多以项目制方式组织。产品和研发、研发和质量以及安全、产品和数据、前端和后端等都可能模糊甚至融合将成为趋势。
大量Agent。
- 让各方向最优秀的人将日常工作抽象成工作方法（Skill）。让工作方法可以像代码一样被开发、复用、测试、发布和演进，专家的经验不再随着人员离职而流失。盘点日常工作，降低初级和中级工作比例。让其他人跟着AI实现同等水平产出。让更优秀的人抽出时间做更高价值的事情。衡量指标：Skill数量、Skill复用次数、Skill节省时间成本。
- 建设更低边际成本使用的AI基础设施。每新增一个 Agent / 工具 / Skill 的边际成本趋近于 0，低成本的建设、共享、使用Agent、工具、Skill。
  - 可以用更先进的工具模型，增加工具成本投入。
  - 各种工具的共享平台。
  - 各种SKILL的共享平台。（决策结构、判断标准、数据使用方式、输出格式）
  - 自然语言的工具调用、任务执行、判断
  - 测试数据集共享（典型、异常）
  - 快速修改调试、发布更新的平台（版本控制、测试回归、灰度环境），可以对比/AB Test。
  - 多种任务处理方式（定时执行任务、事件触发任务、对话交互任务）
协作。
- 明确能力边界，AI辅导和AI主导。
  - 人工确认Agent的输出是否合理。降低错漏风险，逐步优化判断标准。提升单位时间的判断次数
    和决策准确率。不要过早轻易让Agent直接接管，定义清楚Agent能力边界，做好二次确认和优化。
  - Agent没法负责，要清晰明确定义责任。所有的决策判断都可以被记录、复现和优化。
- 专家设计规则、评估系统、优化模型。

技术团队转型

软件交付流程原本是围绕人机协作而设计。

基于本地IDE的代码自动补全 —（当前所处位置）–> 基于本地的Agent Coding -> 基于云端全流程研发。

本地研发的效能瓶颈。基于本地的Agent Coding，通过工作树、更多终端窗口、更多电脑来运行越来越多的Agent，每次需要人工输入提示词，处理越来越多的代码侧需求。Coding Agent占据个人的机器和注意力，当人下班后的10多小时，机器也随即进入休眠状态，所有服务都会停止。

本地开发还存在各类环境问题，环境的配置、环境不一致导致的复现问题。新员工最痛的点，能极大降低上手时间。

个人编码速度的提升并不会让整个周期时间大幅提升。Agent Coding让编码速度指数级提升，但从更大的研发周期来看，影响有限，积压的工作量会更多。调研研发人员，各团队需要坐下来讨论，梳理时间花在哪里，每个领域、岗位、需求类型都不尽相同。哪些瓶颈需要优先解决，不一定是我们拍脑袋想的这些。

本地研发到云端研发。类似设计领域的Figma，为什么后端研发需要本地？云端配备可并行化、可预测且隔离的云开发环境，包括完整的工具链、测试套件，可以通过需求、PR、钉钉沟通、漏洞工单、告警、数据异常等触发。无需人强介入，成为效能瓶颈。做到快速响应、并发运行、始终待命。（观察指标：来自云端研发平台的PR占比）

隔离环境。可以免除不断的确认，控制最终的影响范围。

研发人员的职责边界模糊。一个人身兼多职，编写代码、审查代码、测试代码。

参考