国科智安CEO赵菲菲：在数据要素化进程中构建安全、可信的新一代人工智能

11月26日上午，由上海市数据局指导，北京新视野科技有限公司主办，中国联合网络通信集团有限公司上海市分公司协办，上海市发展改革研究院、中央财经大学中国互联网经济研究院、上海智慧城市发展研究院共同支持的“2025全球数商大会数智战略领军人才与创新发展交流活动”在上海国际会议中心隆重举行。作为2025全球数商大会的重要组成部分，活动以“人才引领创新，数智赋能未来”为主题，汇聚政、学、产、研领域各方嘉宾，共同探讨人才培育与数智产业创新发展协同机制，为打造全球数智人才高地、推动数据产业高质量发展贡献智慧力量。

会上，国科智安CEO、中科闻歌副总裁赵菲菲以《数据视角下人工智能安全与发展》为题发表主旨演讲，从最新技术演进、产业落地难点以及安全与治理三大维度，系统分享了她对人工智能产业化进程的思考。

AI第四次浪潮来临：从大模型收敛到智能体爆发

赵菲菲指出，随着以GPT为代表的生成式AI兴起，人工智能经历了符号主义、连接主义到深度学习的一系列演进，当前已进入以生成式大模型为代表的“第四次浪潮”，基础模型格局正在加速收敛。

无论国内外，大模型在架构、开发框架和应用形式上逐渐趋同，国产模型在多项任务上取得显著进展。她同时指出，当前产业结构可被概括为算力、模型与数据三层。其中，算力仍存在一定差距；模型能力不断提升并进入全球第一梯队；而数据要素体系的建设将成为未来竞争的核心变量。

在技术趋势方面，多模态大模型正从图文拼接式训练走向统一编码的端到端模式，具备对复杂场景的综合理解能力。深度思考类大模型通过延长思考链条，使推理能力显著增强。与此同时，智能体（Agent）逐渐成为推动AI应用落地的关键力量，通过自动规划、任务拆解和闭环执行，实现模型从“回答问题”向“完成任务”的跃迁。

AI落地的“冰山结构”：10%模型能力与90%工程挑战

谈及AI产业落地，赵菲菲提出“冰山结构”模型。她指出，大模型本身只解决了约10%的问题，真正决定AI能否落地的是冰山之下的工程体系、数据体系和组织体系。当前，行业普遍面临两大瓶颈：一是高质量领域数据供给不足，高价值数据深藏于政府与行业机构内部，确权、流转与合规难题突出；二是大模型的概率性输出与金融、医疗、科研等行业对稳定性和可验证性要求之间存在天然矛盾，使模型难以在核心业务场景中真正发挥作用。

她指出，许多企业仍停留在“在流程中嵌入几个AI工具”的浅层阶段，未能形成业务与AI的深度耦合。要突破这一困局，需要以工程化为牵引，通过架构设计、数据工程、领域工程和流程重构，让大模型从“实验室能力”变成可部署、可运维、可评估的行业基础设施。同时，以通用大模型为核心，结合行业知识与场景数据，构建一系列专用模型和智能体，形成可在不同场景复用的智能解决方案体系。

在数据要素建设方面，赵菲菲强调，未来的数据体系应从“静态数据仓库”转向“动态数据引擎”，以预训练数据、SFT数据、推理数据及安全评测数据为多层结构，形成可持续驱动模型演进的“AI Ready数据资产”，让数据真正“长在模型上”，而非一次性输入。

从安全到伦理：技管协同打造治理边界

在人工智能全面爆发的当下，安全问题日益成为全球关注的焦点。赵菲菲提到，从上海人工智能大会上形成的“上海共识”到我国今年密集出台的相关政策，产业界和监管机构都在强调：发展人工智能必须“安全可控、可负责任”。

从模型内生风险，到应用安全风险，再到信息生态和国家安全层面的系统性风险，AI正在带来前所未有的挑战。例如数据投毒、模型偏见、幻觉问题仍未完全解决；医疗教育应用中的隐私泄露与误导风险持续存在；机器生成内容大规模渗透互联网，使信息环境面临“真假难辨”的风险；同时模型输出已经开始对金融市场等关键领域产生外溢影响，亟需前瞻性治理。

针对上述挑战，她提出要从数据源头、模型训练和系统治理三个层面构建AI安全能力体系。首先，通过建设高质量安全数据集，为模型提供可靠的数据基底；其次，通过价值观对齐、对抗训练、安全靶场等方式提升模型安全韧性；最后，加快构建系统化安全评测与伦理治理框架，包括多维度安全基准体系、科研平台与安全体系协同建设，以及覆盖公平、隐私、可解释性、责任等方面的综合治理指标体系，为行业提供可遵循的标准和依据。

赵菲菲强调，人工智能的竞争已从“模型能力竞争”转向“工程能力与治理能力竞争”。谁能在数据要素、工程体系和安全治理方面形成体系化优势，谁就能在未来AI发展中掌握主动权。

她表示，国科智安将持续在大模型研发、数据工程建设及AI安全治理方面加大投入，与政府、科研机构和产业伙伴携手，推动人工智能在安全可控的前提下更好服务经济社会发展。