技术在交通、安防、能源等领域的广泛应用,大量AI模型部署于边缘终端,面临数据隐私泄露、模型被恶意攻击、算法失控等新型安全风险。如何构建可信、可控、可管的AI系统,已成为保障关键基础设施安全运行的重要课题。
面对行业共性难题,首席安全官王滨带领科研团队聚焦人工智能安全保护需求,历经多年技术攻关。从人工智能算法模型的可信训练、评测增强、应用管控三个层面,构建起全方位的安全防护体系,成功填补了国内外多项技术空白。
在城市智能化建设中,不同部门掌握的交通、安防、环境等数据往往彼此隔离,形成“数据孤岛”,若直接共享,可能引发隐私泄露风险。该项目创新提出多域时空数据高可信协同训练与隐私保护方法,在确保各参与方数据“可用不可见”的前提下,打破“数据孤岛”,实现物信融合场景下训练数据的隐私保护和安全共享,确保数据在流动中生产价值,同时严守安全底线。
针对AI模型一旦被植入恶意样本或遭对抗攻击,可能导致识别失效、误判误报,甚至被远程操控的问题。团队构建了适用于智能物联终端模型的多维度安全评测与防护增强系统,可以对算法模型脆弱性进行深度检测,并在兼顾可用性的前提下,大幅提升模型的抗攻击能力和鲁棒性。
面对海量边缘设备分布在城市各个角落,资源有限、管理分散,一旦出现异常难以及时发现的痛点。团队提出了边缘智能算法应用的安全风险监测与管控框架,极大提高了智能算法应用安全威胁的实时感知能力与精准防控效率,确保每一台边缘设备都在安全可控的状态下运行。
目前,该项目成果已在公共安全、智慧能源、城市管理等多个领域实现规模化落地,为千行百业的智能终端提供安全赋能,为数字化转型构筑起坚实的安全屏障。
随着智能设备数量持续增长,更多智能化场景落地,安全将不再是“附加项”,而是“必选项”。唯有技术进步与安全防护同步推进,才能让智能化发展,既快又稳。海康威视相关人士表示,将继续秉持创新驱动发展的理念,持续深化在网络安全领域的探索与实践,与合作伙伴携手共建安全、可信、繁荣的物联网生态。
Copyright © 2002-2024 U8国际电子监控有限公司 版权所有 Powered by EyouCms TEL: 025-83700868
地址:南京市鼓楼区三步两桥145号 邮箱:bafanglaicai@126.com