|
个人简介Personal Profile
马晓静：博士，教授，博士生导师，微软亚洲研究院“铸星计划”青年学者，美国密苏里大学哥伦比亚分校访问学者。主要研究方向为多媒体安全，人工智能安全。主持三项国家自然科学基金项目，参与了国家重点基础研究发展计划（973计划），国家重点研发计划等研究课题。在包括CCS、NDSS、NIPS、ICML、ACL、ACM Multimedia、TCSVT、TETC、TCC、TOMM在内的国内外知名期刊/会议上发表多篇学术论文。
部分工作描述：
深度神经网络模型与大模型完整性保护
为了判断模型是否被修改（如后门注入等），生成高敏感指纹样本，在模型未察觉的前提下根据反馈结果检验模型完整性。
深度神经网络对抗攻防
针对人脸识别、目标检测等应用，研究对抗样本的构建与防御。
大模型越狱攻击与防御
针对大模型，研究越狱攻击与防御。
大模型应用安全
研究RAG和智能体应用安全威胁与防护。
大模型水印
为了区分ChatGPT生成内容与人类语言，提出ChatGPT生成文字的水印注入方案，在保持语义一致性的同时实现了轻量化的水印注入与识别。
办公图像溯源
为了溯源办公图像，基于深度学习产生针对办公图像的高质量不可察暗水印，能应对现实场景中拍摄角度、光线変換、色彩偏移等不利因素帯来的影响，在打印拍照后仍能成功提取水印信息以对图像进行溯源。