前言：2024年4月13日上午，我与实验室的诸位伙伴共聚江西南昌的玉泉岛大酒店，参加了为期一天半的全国多媒体取证暨第三届多媒体智能安全学术研讨会（MAS’2024）。本届学术研讨会由江西省计算机学会、江西省数字经济学会主办，南昌大学承办。来自国内多媒体取证与人工智能安全的专家、学者代表等共计100余人次相聚豫章故郡，共同参与此次会议。以下为本人的会议笔记。
特邀报告 * 5场
智能化恶意软件检测与对抗 —— 纪守领
恶意软件检测是一个二分类任务，主要面临数据和模型两个层面的困难：
- 数据层面：样本分布不均衡、样本标签不准确（Virus Total 标注工具）
- 模型层面：恶意软件种类多、软件特征提取过程依赖强
报告中提到恶意软件检测的后门攻击、逃逸攻击以及鲁棒训练都是AI安全领域的分支，被迁移到恶意软件检测这个应用场景同样适用。
智能驱动的物联网安全 —— 朱浩瑾
这个报告关注：1）移动设备（如手机）以及车联网设备的语音识别及用户认证；2）CV领域基于隐写的后门攻击，TDSC 2021；3）NLP模型的供应链安全，CCS 2021；4）基于内生指纹的数据集与模型鉴权，CVPR 2022，NDSS 2023
大模型安全与隐私：现状及挑战 —— 李进
这个报告讲了一个综述，从数据、模型和输出内容三个角度阐述了面临的安全与隐私的挑战。
隐私侵犯程度探测工具 ProPILE， NeurIPS 2023
针对LLM的复合式后门攻击：Composite Backdoor Attacks Against Large Language Models, arXiv 2024.
神经网络后门的检测与利用 —— 陈恺
从 Neural Cleanse, S&P 2019 出发，提出模型后门新型检测方法 Neural Sanitizer, TIFS 2024
基于深度学习的侧信道分析 —— 沈剑
侧信道分析这个概念不太了解，报告上说是衡量密码技术的绝对安全。POI（Point of Interest）概念出现。
学术报告 * 10场
基于语义解耦的AI生成图像取证技术研究 —— 丁峰，南昌大学
主要讲deepfake的，指出不同语义的伪程度（含伪量）不尽相同
非凸优化的定性分析 —— 李晓龙，北交大
太高深了，没怎么听懂……
对抗性取证 —— 王金伟，南信大
主动对抗性取证
PS：可以通过 Grad-CAM 查找嵌入位置
文本内容安全 —— 刘玉玲，湖南大学
刘老师分享了一些智慧政务，智慧城市，智慧司法的相关工作，挺有意思的
浅谈融合密码技术的人工智能模型版权保护研究 —— 杨文元，中山大学
杨老师报告内容基本围绕联邦学习场景。
水印的作用：1）版权验证；2）访问控制
- 版权验证：基于零知证明的联邦学习所有权认证，arXiv 2023，
Zero Knowledge：知道有版权，但是不知道版权是什么。
- 访问控制：
- Passport（NeurIPS 2019）;
- FedIPR（TPAMI 2023）
- FedSOV（arXiv 2023）
避免节点之间的水印冲突；秘密信息互斥；分级授权的概念
生成模型性能无损水印技术 —— 陈可江
当可证安全隐写遇上生成模型：
- Provably Secure Generative Steganography Based on Autoregressive Model（IWDW 2018）
- Distribution-Preserving Steganography Based on Text-to-Speech Generative Models（TDSC 2021）
- Performance-lossless Black-box Model Watermarkin（arXiv 2023）
陈老师还讲了一些模型水印相关工作，比如 Stable Signature（ICCV 2023），TreeRing（NIPS 2023），以及他们组做的 Gaussian Shading（CVPR 2024）……
其他报告因为时间原因没有来得及听：
- 无监督范式下的深度伪造人脸检测 —— 乔通，杭州电子科技大学
- 迈向可信赖的人脸生理感知和安全系统 —— 余梓彤，大湾区大学
- 音频主动标识和被动取证研究 —— 苏兆品，合肥工业大学
- 图像隐写与取证的新进展 —— 李伟祥，深圳大学
后记：去年同时期参会的时候还处于懵懵懂懂的状态，换方向之后积累了研究基础，数场报告听下来收获更大。个人感觉，还是要有一定的学术积淀再去听报告……不然更多是浪费时间。（当然，如果是为了去Social，则另当别论）