2024年7月24日,由中国科学技术网络空间安全学院主办的第六届网络安全和数据隐私国际研讨会(6th International Workshop on Cyber Security and Data Privacy, CSDP)在合肥中科大高新校区CT-C102圆满落幕。本次研讨会邀请了复旦大学大数据研究院内生安全所所长陈平研究员、中科院信工所的陈恺研究员、中科院信工所的贾世杰副研究员和华中科技大学的周威副研究员,就当下的大模型安全保障,安全功能大模型,以及网络安全相关细分领域的科技化、产业化进程和未来等方面为中国科大的同学们带来了精彩的学术报告,并进行了深入的分享,探讨和交流,让同学们对网络空间安全的研究前沿有了更深入的了解。
图 陈平研究员分享大模型赋能下的漏洞挖掘技术
陈平研究员在报告中为大家详细的剖析了如何发挥好大模型这种新兴技术的主观能动性,将新兴科技转化为新质生产力。陈老师也详细介绍了漏洞挖掘面临着若干的技术难点,指出大模型有帮助漏洞挖掘解决难点的潜力。
图 陈恺研究员分享大模型安全保障相关技术
陈恺研究员在报告中指出大模型的出现对安全研究产生了重要影响,一方面它可赋能传统攻防手段,使其更为智能和高效;另一方面,其自身的安全问题,如“越狱”问题、“幻觉”问题、隐私问题等,也引发了人们在使用大模型时的担忧。对此,陈恺研究员介绍了他带领团队在模型的对抗与隐私安全,模型的理解和模型输出内容的版权这三个研究领域的大量优秀成果,并分享了对这些研究热点领域的长期观察和深入思考。
图 贾世杰副研究员为同学们作报告
贾世杰副研究员在报告中强调,密码技术只有被正确、有效使用,才能发挥其在信息安全中的基石性作用。然而,在实际密码工程应用中,正确理解与使用复杂的密码技术存在较大门槛,导致密码技术被误用,存在大量安全漏洞。
图 周威副研究员与大家分享研究心得
周威副研究员指出,除了类似关键密码基础设施等顶层架构的安全,在当前的万物互联时代,新一代底层终端的安全也至关重要。过去,许多工作集中在分析基于Linux的固件。仅有少部分研究团队基于MCU的物联网设备的安全状况展开深入的调研。对此周威副研究员团队提出了的一个针对真实物联网设备的大规模MCU固件数据集,在此领域里作出了突出贡献。此外,周威老师还与科大的同学们分享了自己的科研心得。
研讨会最后,中国科学技术大学林璟锵教授进行了总结发言,他指出网络安全是一个不断发展的领域,只有通过持续的研究和创新,才能应对日益复杂的安全挑战。他鼓励同学们积极参与到网络安全的研究中来,为国家的网络安全事业贡献自己的力量。