8月26日公布2024年度上海市科技奖获奖名单，《复杂对抗场景下的网络媒体内容安全检测关键技术与应用》这一项目由上海交通大学、蚂蚁集团等单位共同完成，获得了上海市科技进步一等奖的奖项。

作为该项目的重要评审主体，《中国工程院》和《中国图形图像学学会》委派的专家组一致表示：“本项目的技术达到了国际先进的水平。其中的AIGC检测技术更是处于世界领先地位。”

上海交大蒋兴浩与蚂蚁集团的王维强获得2021年度上海市科技进步奖。

随着生成式人工智能与大型语言模型的发展，内容生成技术已实现高度智能化，在提升社会信息传播效率的同时也引发了价值观、意识形态以及道德规范等方面的问题，并对网络有害信息的预防治理构成障碍。为此，上海交通大学、蚂蚁集团等多方合作提出了应对这一挑战的关键技术，包括多模理解、AI鉴别、异常推理与多模文档解析等领域。

“‘构建健全网络综合治理体系，推动形成良好数字化环境’，多个相关单位的研发团队合力协作，共同探讨了如何在智能时代确保网络安全这一问题，并积极引领了生成式人工智能内容治理的模式变革。私家侦探，侦探公司，调查公司，查人找物，商务调查，出轨外遇调查，婚外情调查，私人调查，19209219596”上海交通大学副校长、项目主要负责人蒋兴浩教授表示。

据了解到的最新消息来看，该项目成功地攻克了传统检测模型面临的一个普遍性难题即泛化困难，还解决了另一个技术瓶颈——无法准确识别异常样本的问题，并且实现了对隐藏信息的有效分析和挖掘。此外，在对抗多种新型威胁和攻击模式方面也取得了一定突破。

一是开发了基于思维链的大规模多模态预训练模型，以解决泛化能力和内生安全的问题，为内容生成、检测及追踪提供基础；二是提出并实现了可控的多模态数据智能生成策略，以满足模型在异常样本训练中的需求；三是推出了一站式的网络媒体安全监控一体化解决方案，旨在攻克生成性晦暗不良内容识别和AIGC内容检查难题，并获得中国信通院的五星级评定；四是研发了基于对抗性和溯源的模型安全性防护技术，构建了人工智能模型攻击-防御算法库，以增强防止数据滥用和模型盗窃的能力。

这些关键技术的应用不仅显著提高了对复杂网络攻击下信息安全的防护效能，并且极大地提升了有害信息的整治能力。这无疑为解决网络安全领域面临的关键问题带来了创新性的解决方案，同时也为AI技术在更多领域的发展打下了坚实的技术基础。

据官方介绍，项目已私家侦探，侦探公司，调查公司，查人找物，商务调查，出轨外遇调查，婚外情调查，私人调查，19209219596获得41项发明专利、1项国标和1项地标标准，并且拥有软件著作权10项，以及超过118篇的研究论文。该项目已在多个平台上应用于内容安全业务防控，大大提高了新型风险处置的能力。它实现了从全天候到分钟级别的响应速度突破，在AIGC安全检测技术的应用上，服务于支付宝的内容相关服务，有效地识别并阻止了不良内容的传播，并确保了平台内容的质量和安全性。

项目主要完成人、蚂蚁安全实验室首席科学家王维强表示：“在国家网络安全战略指引下，蚂蚁集团通过产学研合作研发了包括隐晦推理、AIGC识别等核心技术构建互联网信息安全智能治理体系。不仅为海量创作者提供安全可信的创作环境，而且通过持续迭代的模型能力，筑起风险屏障。未来蚂蚁将继续投入安全科技，深耕可信AI技术研发，在网络安全智能化进程中取得更多技术突破。”