AI与科技出海生态平台

安全为先,智能加速:思科如何护航AI应用未来

人工智能技术飞速发展,全球企业对AI的需求正以前所未有的速度激增。然而,这股热潮背后,安全风险如影随形,隐患层出不穷,令人深思。

“在拥抱人工智能时,企业和技术领导者绝不能为追求速度而牺牲安全。” 思科全球执行副总裁兼首席产品官Jeetu Pate如是说。

近日,思科人工智能防御系统(Cisco AI Defense)正式推出,该系统结合了网络可见性与深度控制,旨在帮助企业安全地开发、部署和管理人工智能应用,同时应对多云、多模型环境下的新兴威胁。

思科亚太、日本及大中华区总裁Dave West表示,未来企业的生存与发展将愈发依赖AI,安全防护的重要性不言而喻。思科人工智能防御系统聚焦两个核心领域:AI应用的开发与部署安全,以及终端用户的访问安全。

安全防护层的必要性

众所周知,在人工智能飞速发展的今天,其潜力已然深入企业管理、生产制造及消费服务等诸多领域。然而,技术革新之路从未平坦,人工智能技术出错的风险如同悬顶之剑,始终威胁着企业数字化转型的安全基石。

根据思科发布的《2024年人工智能就绪指数》,中国大陆地区的AI应用现状令人警醒:仅有29%的受访企业能够全面检测并防止未经授权的篡改。这一数据揭示了一个不容忽视的问题——尽管AI正在成为企业的重要驱动力,但其安全防护的成熟度却未能与应用广度同步提升。

伴随AI应用的广泛部署,企业从单一模型走向多模型、多云协作的复杂环境。这样的架构转变不仅提升了技术灵活性,也带来了新的安全挑战。传统的安全体系常以固定规则和静态防护为核心,但AI的动态性使得漏洞可能随时发生,无论是在模型层还是应用层。例如,某个模型的更新可能引入未知的行为偏差,而应用层的安全性又可能因数据输入的不规范而被攻破。

更令人担忧的是,AI安全风险的责任边界尚不清晰。在开发者、终端用户和供应商之间,谁该为安全问题负责?这种“灰色地带”让企业在构建AI项目时面临更多的不确定性。尤其是当企业从利用公共数据转向自有专有数据的模型训练时,数据泄露、隐私侵害以及知识产权纠纷等问题将变得更加复杂且难以预防。

为释放AI的创新潜力并推动其更广泛的应用,企业亟需一个能够覆盖整个AI生命周期的安全防护层。这一防护层的意义不仅在于应对已知威胁,更在于预防潜在的安全隐患,为用户和应用构建可靠的信任基础。

思科人工智能防御系统(Cisco AI Defense)通过精准应对两大核心风险,成为企业推进AI转型的有力工具。

AI应用的“护城河”

在思科看来,企业在未来几年中可能会开发并管理成百上千种AI应用程序。这种数量级的增长为技术创新带来了机遇,同时也意味着安全风险呈指数级上升。面对这样的趋势,开发者急需一套能够适配所有应用场景的AI安全防护措施,以确保开发过程的高效和部署环境的安全性。

思科人工智能防御系统为开发者提供了端到端的安全解决方案:

AI检测: 安全团队可实时了解应用开发主体以及所用的训练数据源。例如,在多云环境中,该系统能够精准检测出未经授权或潜在有害的AI应用。

模型验证: 动态AI模型的输出可能因调整而产生意外结果。为避免此类情况,思科通过自动化测试识别数百种潜在的安全问题。其基于人工智能的“算法红队”功能,更可针对模型漏洞提出定制化的防护建议。

运行时安全: 在实际运行过程中,思科人工智能防御系统能有效阻止提示注入、拒绝服务(DoS)攻击及敏感数据泄露等安全威胁。

这些功能如同一道坚固的“护城河”,为AI的开发和部署筑起了难以攻破的安全屏障。

如果说AI检测和模型验证是为开发者提供的“前沿武器”,那么思科人工智能防御系统的访问安全功能则是终端用户的“后勤保障”。在企业内部,随着越来越多的员工开始使用AI工具提高工作效率,企业面临着数据泄露与专有信息污染的双重风险。

该系统通过以下措施构建安全防线:

全面可视化: 企业能够清晰监控员工使用的AI工具,包括哪些是授权应用,哪些可能带来潜在威胁;访问控制: 思科提供了灵活的策略管理,帮助企业限制员工访问未经授权的AI工具,从而减少风险敞口;数据与威胁防护: 系统持续监控数据流动,防范机密数据泄露,并确保企业始终遵循行业法规及合规要求。

AI安全的协作力量

思科人工智能防御系统的成功背后,是其在技术创新与合作上的持续投入。与传统安全措施不同,思科人工智能防御系统并非一项独立的工具,而是一种贯穿整个AI生态的综合性解决方案。它基于思科独有的机器学习算法和Talos威胁情报数据,不断优化自身能力,以应对快速变化的安全挑战。

此外,该系统通过与第三方平台(如Splunk)的无缝集成,为用户提供更丰富的上下文警报。这种“生态协作”的理念不仅帮助企业增强了安全能力,也标志着行业正向着开放与共享的方向迈进。

思科全球人工智能软件和平台副总裁DJ Sampath特别强调了该系统的两大核心能力:大规模验证和大规模保护。通过利用思科专有的机器学习模型和Talos威胁情报数据,系统能够快速适应不断演变的AI安全威胁。

在实际操作中,该系统通过攻击树和剪枝技术优化了验证流程,使得大规模测试更高效。此外,思科还与行业领先的公司如Scale AI合作,共享数据和技术资源,不断提升系统性能和精度。

为了实现更广泛的适用性,思科人工智能防御系统已深度集成于思科的统一安全平台“思科安全云”中。这不仅为用户提供了卓越的可视化体验,还支持与Splunk等第三方工具的无缝集成,从而简化了企业的安全管理流程。

思科认为,AI应用的广泛推广将极大提升企业的生产力,但如果没有强有力的安全措施,这一切都可能得不偿失。在圆桌会中,思科强调其解决方案为企业提供了速度与安全的平衡点。

据悉,企业只需花费约5分钟便可完成系统部署,无论是公有云、私有云还是混合环境,均能实现快速上手。而且,系统的高效性几乎不会对性能造成显著影响,为企业用户提供了流畅的使用体验。

思科在人工智能防御系统中同样注重伦理与责任。Dave West表示:“未来成功的企业将是那些懂得与人工智能协作的企业。通过自动化解决繁琐任务,AI不仅能释放员工的潜力,还能推动整个行业迈向负责任的发展。”

为了进一步推动行业标准化,思科积极参与与MITRE、OWASP和NIST等机构的合作,共同制定AI安全行业标准。这种开放与协作的态度,体现了思科在AI安全领域的领导力与责任感。

结语:迎接AI时代的挑战与机遇

思科人工智能防御系统的推出无疑为全球企业的AI转型注入了一剂强心针。

正如思科所言,思科的使命是为所有人创造一个更加互联和包容的未来。业界相信,借助这一创新解决方案,企业将在AI时代的激烈竞争中获得新的优势,同时也为整个行业的健康发展铺平道路。

思科人工智能防御系统计划于2025年3月正式上线,企业用户现已可以通过官网申请提前体验。这一新技术的推出,标志着AI安全进入了一个全新的发展阶段。

 

 

 

赞(30)
未经允许不得转载:维端网 » 安全为先,智能加速:思科如何护航AI应用未来
分享到

AI与科技出海生态平台

联系我们关于维端

登录

找回密码

注册