近年来,生成式人工智能(AIGC)让人们看到了未来世界的无限潜力。然而随着技术成果的涌现,滥用AIGC技术导致了一系列问题。这些问题包括生成虚假信息危害社会安定团结、损害个人和企业名誉。侵权内容引发法律纠纷、生成的“问题代码”威胁网络和软件供应链安全,以及利用AIGC欺骗智能识别系统和泄露核心数据等。在伦理框架下,合规构建和提供安全可信的AIGC服务已成为智能软硬件创新研发和生态构建的研究热点。
2024年3月29日,由OPPO广东移动通信有限公司主办,陕西省计算机学会、ACM SIGSAC China、IEEE Xi'an SMC&CS Chapter、西安交通大学网络空间安全学院联合承办的2024 1EEE-OPPO暨第四届泛终端安全技术论坛于2024年03月29日在西安交通大学创新港校区举行,旨在进一步深化OPPO技术人员与业界安全专家学者的沟通与交流,促进学术界与工业界的技术转化、落地、合作共赢。
这一系列活动和倡议旨在确保AIGC的安全、透明和可解释性,以便更好地应对其带来的挑战和机遇。
来自清华大学、浙江大学、武汉大学、香港科技大学(广州)、上海交通大学、华中科技大学、西北工业大学、西安电子科技大学、西安理工大学、西安交通大学以及OPPO终端安全实验室的多位著名专家齐聚一堂。研讨会旨在深入探讨生成式人工智能(AIGC)的安全性研究和泛终端安全领域的前沿问题。各位专家不仅介绍前沿的理论知识,还通过实践案例诠释如何将这些知识应用到实际场景中,也为参与者提供了一个互动平台,促进思想交流和经验分享。
西安交通大学网络空间安全学院沈超主持会议,陕西省计算机学会副理事长/学术工委主任尚学群、ACM SIGSAC China主席王骞致辞、与参会专家学者进行了专题研讨。研讨会上,上海交通大学朱浩瑾作“智能驱动的物联网安全”分享交流报告;西安电子科技大学沈玉龙作“智能系统内生安全”分享交流报告;浙江大学刘振广作“智能合约安全漏洞检测:图神经网络方法和模糊测试方法”分享报告;华中科技大学胡胜山作“深度学习攻击对抗研究”报告分享;清华大学丛天硕作“人工智能安全隐私威胁分析报告分享;香港科技大学何新磊作“生成式人工智能时代下的内容安全机遇与挑战”。
参会专家还进行了圆桌讨论,从企业和高校两个视角对AIGC内容伪造和安全防范进行了交流、分享和展望。