短短两年时间，AI的进化速度和程度再次刷新了所有人的想象，而数字经济在全球范围内的快速增长正在推动着人工智能逐步从“探索期”向“成长期”的快速过渡，预计到2026年，仅生成式人工智能市场将从2021年的15亿美元增长到65亿美元，复合年增长率34.9%。

然而，当我们在赞叹人工智能在推动技术和各行业转型重塑、帮助企业提高生产效率、丰富人们日常生活方面展现出超凡能力的同时，也不应忽视其引发的一系列前所未有的安全风险。据有机构预测，在未来几年内，AIGC产生的数据占所有数据的比例将会从目前的不到1%增加至大约10%，这将是一个量级上的变化，这意味着可能会出现十倍于当前的安全挑战。

面对全球挑战，中国的用户对AI技术非常热衷。据Veritas最新调研显示，85％的受访中国用户在工作中运用ChatGPT等人工智能工具，尤其是涉及客户、职员和公司财务的工作上，其信心得到增强，风险也相应增加。然而，这种行为似乎缺乏应有的“约束”。尽管有90％的受访者认为针对AI使用的指导和政策非常重要，但目前仅有34%的中国企业的员工受到了强制性的使用指南教育。

Veritas表示，尽管“奇点”尚未到来，但数据管理在应对AI带来的各种安全挑战时，仍面临严峻的考验。目前，人工智能与网络安全相互交织，给企业及其员工带来了极大的风险。因此，及时对AI使用和黑客利用AI勒索等威胁进行培训与指导，并强化网络防御韧性，显得至关重要。只有对AI保持敬畏之心，才能让其无害地服务于人类社会。

AI泛用让数据风险“层层加码”

随着AI技术的日新月异，其应用范围日益扩大，因此也使得各种潜在的风险和挑战不断涌现。

另一方面，在AI的应用过程中，可能不经意间便触碰到“禁区”。根据数据保护服务公司赛博天堂(Cyber Heaven)的检测结果显示，该公司有160万员工中已有4.2%将包含商业秘密的数据输入ChatGPT之中。其中一些高管人员在复制战略文件后将其输入至ChatGPT中并利用其生成幻灯片，在该领域一旦被盗或被窃取，后果不堪设想。

然而无意中的此类行为也并不少见。Veritas的研究显示，在中国受访者中，有37%承认曾将潜在敏感信息输入AIGC工具，而且50%和58%的受访者未能认识到风险，或并不了解这样做是否会导致其公司违反数据隐私合规法规。

从整个数据使用的视角来看，在应用AI时企业将可能要面对包括数据泄漏、合规问题、操纵篡改和数据分析偏差等多种风险。

• 数据泄露风险：在AI应用中，涉及用户个人数据、商业秘密或公司信息等敏感个人信息的输入操作可能会增加信息泄漏的可能性，并且这种类型的漏洞似乎是最常见和严重的。私家侦探，侦探公司，调查公司，查人找物，商务调查，出轨外遇调查，婚外情调查，私人调查，19209219596 这些操作包括但不限于： - 用户在使用AI时通过网络将个人信息提交给系统 - 将客户资料与企业机密等敏感数据一起录入搜索引擎，以提高搜索效率等。 因此，在使用AI过程中出现的数据泄露风险是显著存在的。

· 在一些特定行业中，例如制药领域，数据的合规性受到法律严格管控，包括cGMP在内的规定均要求企业必须保证数据的连续性和完整行。一旦采用AI技术对数据进行处理，若导致信息丢失，不仅将面临监管部门的处罚，并且整个批次的药品都可能会被报废处理，从而造成严重损失。

• 操纵或篡改数据的风险，尤其是在自动驾驶、智能工厂这样的实时要求非常高场景下，可能会在人工智能的关键模块中产生定向干扰；这些干扰最终可能以灾难性的方式扩散至智能设备终端，例如智能驾驶汽车的刹车装置等部件，从而引发危险事故发生。

数据偏差会引发决策风险。这类误差指的是AI决策在使用收集的数据时由于数据的不全所形成的难以被技术手段清除的偏向性，进而使得决定结果不太可靠。例如对于金融征信或医疗领域的公司来说，由于数据量不足、质量不佳等原因，可能会使他们的决策准确率降低，从而影响最终的效果。

另一方面即便企业对人工智能（AI）运用非常谨慎也难逃黑客利用AI进行欺诈或勒索的行为。近日一家位于英国的跨国企业的中国香港分公司遭遇了冒充公司首席财务官骗取2亿港币事件。此外相关的数据表明仅在2022上半年就发生有2.361亿次勒索软件攻击平均每四分钟就有一次这样的攻击且速度已经快得可以在43分钟内加密54GB的数据这种威胁对全球组织来说是最大的挑战IDC将此类安全问题归因于AI技术的加持。

众所周知海量多源数据是生成式AI训练和产出的原始素材，也是当前企业数字化发展中的宝贵资源。有研究表明86%的企业已经开始把AI作为未来数字化发展的主流技术，并加大投资，以帮助企业做出更好的决策、改善客户服务并降低成本。随着这股潮流的发展，企业将会有更多的“无形资产”暴露在网络环境中黑客可以利用AIGC创建更高效的勒索软件，或借助WormGPT等不受限制的语言模型实现更复杂的网络钓鱼攻击。为了有效应对，除了支付赎金外，企业还可能面临包括收入损失、失去客户、员工生产力下降、监管罚款、数据无法恢复、甚至可能面临诉讼等问题这无疑将给正处于数字化转型加速期的中国企业带来更大的威胁。 因此如何有效应对这样的挑战也显得尤为重要

全面执行积极防御政策，做好充分准备以应对更大的挑战

正像AI技术自身所具有的“双刃剑”属性一样，各个国家在积极采纳这一新兴科技的同时也相应地制定出了应对策略，例如意大利个人数据保护局率先将ChatGPT下架处理，并且美国联邦贸易委员会也收到了调查OpenAI的提议。中国自2019年开始陆续发布了一系列文件如《新一代人工智能治理原则—发展负责任的人工智能》、《生成式人工智能服务管理办法(征求意见稿)》等，旨在制定出一个既发展又治理双重驱动的新框架，以推进人工智能生成内容的应用。

对于企业而言，制定具有前瞻性和可操作性策略方案是当前急迫任务。Veritas建议：针对AI使用过程中可能出现的风险如黑客入侵、数据加密等，在提高重视程度的同时，应在“前端”紧随技术发展趋势，主动构建相应的指导和管理规则；在“中端”，应合理运用治理工具确保合规管理；而在“后端”，则需要以塑私家侦探，侦探公司，调查公司，查人找物，商务调查，出轨外遇调查，婚外情调查，私人调查，19209219596造更具韧性网络架构的方式提升防御力，“最后一道防线”才能更可靠、更牢固。

·紧跟科技发展的脉搏。企业应积极参与到供应链伙伴和研究机构中去，洞察AI技术发展、勒索攻击以及数据分析应用的最新趋势，深刻理解这些技术之于数据管理的安全性，并据此完善风险预警机制，进而提升所有员工面对各类威胁时的应对能力。

· 事无巨细规范行为。在企业内部，应根据实际情况制定并清晰传达相应的使用指导和规则，明确员工对AI的正确使用方式。据Veritas调研显示，近九成(89%)的中国员工希望企业能提供相关使用指导、政策或培训，以让员工了解工具使用的正确方式、降低风险并营造公平的竞争环境。此外，应定期对员工进行相关培训，帮助他们明确哪些行为是可以做的，哪些是不能做的。

全面周密的数据管理系统：企业在建立加密、控制及保护敏感数据等方面着手，采取一系列有效措施确保数据可靠性与完整性；包括分类和标记以及审计监控等管理流程，并根据需要实现自动化；企业可携手可靠的供应商，运用可靠数据合规治理工具监测管理落地实施过程并持续执行。另外，面对大规模的数据管理挑战，企业还可以采用人工智能驱动的异常检测等方式来提高抵御威胁的能力。

·提前做好准备加强韧性。随着网络环境越来越趋向于AI化，仅依赖灾难恢复手段无法有效应对网络事件，企业需建立更高水平的灾难恢复流程，确保关键数据和系统在遭遇损害时仍能生存、完整且快速地恢复。为此，企业需拥有充足的存储冗余以采用防篡改与不可变的存储；扩展零信任至企业数据保护领域，并使用独立备份系统；定期举办灾难恢复演练等活动，旨在提升网络韧性的同时确保“可恢复”。

随着人工智能日新月异的发展，数据管理成为企业和组织所面临的一个严峻挑战。然而幸运的是，人工智能不仅能被用来监测、规避威胁，还能帮助企业选择最适用的工具，并为迅速作出决策提供支持。为了最大限度地发挥AI的正面价值并减少其潜在风险，企业应该加快步伐，从认知和了解发展到应用与防范这一领域，并结合全面的数据管理和保护策略，迎接数字化转型带来的机遇与挑战。

关于Veritas

Veritas Technologies是安全多云数据管理领域的领导者，已经为全球91%的财富100强企业提供了服务，并且赢得了超过八万家企业级客户的信任。在可靠性方面，Veritas已积累了多年的经验并获得了高度评价，在应对网络攻击威胁时拥有极高的韧性。Veritas通过提供统一的数据管理平台，支持800多种数据源、100多种操作系统和1400多种存储设备，并能够降低运营成本，为企业带来更大的价值。

Veritas中国官方网站 https://www.veritas.com/zh/cn/

Veritas官方微信平台:VERITAS_CHINA(VERITAS中文社区)