网安学院郭山清教授团队在智能软件系统安全领域取得重要成果-k8体育

近日，网络空间安全学院郭山清教授团队在智能软件系统安全领域的研究成果“demistify: identifying on-device machine learning models stealing and reuse vulnerabilities in mobile apps”被国际顶级软件工程会议icse 2024录用。论文的第一作者是学院博士研究生任鹏程，通讯作者为郭山清和香港城市大学助理教授赵晴川，山东大学是该论文的第一作者和通讯作者单位。

随着机器学习（ml）技术的不断发展，越来越多的应用程序开始将机器学习模型集成到移动设备中，以提供更智能、更个性化的用户体验。然而，这种技术在实现中必须将ml模型部署到本地的智能设备上，因此容易遭受模型窃取攻击。为应对此类风险，开发人员已采取多项安全措施，但这些保护仍存在不足。郭山清团队提出了一种新型本地化模型窃取攻击方法，从模型重用的角度对功能模块进行重构。该方法通过对相关的执行组件进行分析，自动生成脚本来窃取和重用目标 ml 模型。团队对1511个高下载量的ml应用程序进行了评估，其中1250个（82.73%）成功被重用攻击。此外，团队还针对实验结果设计对抗用例，验证了重用攻击的有效性。该研究成果揭示了当前智能系统在模型部署的脆弱性，为保障设计更安全高效的保护措施提供参考。上述系列研究工作得到了国家自然科学基金、山东省重点研发计划等项目的资助。

icse（international conference on software engineering，ccf-a类会议）是国际公认的软件工程领域顶级会议，由国际计算机学会（acm）、电气与电子工程师协会（ieee）联合主办。该会议创办于1975年，是领域内从业者分享和探讨最新研究成果和发展趋势的重要平台。