CVPR 2026 将于 2026 年 6 月在丹佛举办，而备受瞩目的第六届对抗机器学习计算机视觉研讨会（6th AdvML@CV）也将同期举行。本次 Workshop将于 6 月 3 日至 4 日举行，主题聚焦于 Vision-Language Agents（视觉-语言智能体）的安全与鲁棒性，这预示着 AI 安全领域即将Agent 智能体迎来新的发展浪潮。
多模态大模型的崛起推动了视觉理解、生成与推理能力的巨大进步，使得 Vision-Language Agents成为“感知——语言推理——行动规划”一体化的新范式，并在 无人驾驶、智能机器人等领域展现出广阔的应用前景。然而，随着智能体自主性的增强，其面临的攻击面也从传统的像素级扰动扩展到更复杂的安全风险。本次研讨会旨在汇聚计算机视觉、多模态学习与 AI Safety社区的研究者与工程实践者，共同探讨如何构建安全、鲁棒、可信的视觉-语言智能体。
对抗攻击与防御：智能体安全的关键
本次研讨会重点关注 对抗提示（Adversarial prompts）、指令注入（Instruction Injection）、Jailbreak 操控等新型攻击手段对智能体造成的威胁。这些攻击可能扰乱推理链条、误导感知决策，甚至诱发危险行为。因此，提升智能体的鲁棒性，构建有效的防御机制，成为当前 AI 安全领域的核心议题。研讨会将深入探讨针对视觉-语言智能体的攻击与防御方法，包括如何检测和抵御 对抗攻击，以及如何提高模型在各种环境下的稳定性。
数据集与评估：衡量智能体安全性的标准
为了评估 Vision-Language Agents的安全性，研讨会将重点关注相关的数据集和基准测试。这些数据集将模拟各种潜在的攻击场景，用于衡量智能体在不同攻击下的表现。通过构建标准化的评估体系，研究人员可以更好地比较不同防御方法的有效性，并推动 AI 安全技术的快速发展。本次研讨会也鼓励研究者分享和完善现有的数据集和评估方法，以促进整个社区的进步。
前沿技术与未来展望
本次研讨会还涵盖了诸如解释模型鲁棒性、特别是 Agentic AI的研究，以及面向社会公益的对抗攻击等前沿话题。投稿类型包括 Long Paper和 Extended Abstract，论文需匿名并使用 CVPR2026 Author Kit 模板撰写。重要日期包括 2026 年 3 月 5 日的摘要和论文提交截止日期，以及 2026 年 4 月 1 日的最终稿提交截止日期。研讨会官网和投稿入口已经开放，欢迎有志于 AI 安全研究的学者和工程师积极参与。
你认为在未来的 多模态大模型发展中，安全问题会成为关键的制约因素吗？
发布者：Ai探索者，转载请注明出处：https://javaforall.net/237829.html原文链接：https://javaforall.net
