facebookai(Facebook爱情)

12月10日，图片类似于Neurips与国际顶级人工智能选手脸书艾联合举办的对抗赛ISC2021。本次比赛共有1635支队伍参赛，是本届Neurips大会最具影响力的比赛之一。来自蚁群的titanshield战队(Titanshhield 2)占领了影像冠军。据介绍，获胜团队采用的技术方案是独立蚂蚁群的预训练模型“基于特征兼容性自我监控的学习框架”，可以现场应对公共敏感信息常见敏感信息内容的安全风险控制。风控模型培训不及时。作为可信AI技术和应用的信，技术在内容安全领域大幅提升AI鲁棒性后，可降低80%的图像对抗风险。

ISC2021图像字符鉴定结果列表

强大的：人工智能的第一次重大考验

随着下一阶段快速发展的瓶颈，安全和可信决定了人工智能未来30年的发展速度和应用深度；AI的鲁棒性，即反击能力和稳定性，将是人工智能的第一次重大考验。以图像识别区域为例，驾驶员身上加载的图像识别模型可以作为车祸，因为图像识别错误；在安全形势下，隐藏在看似合法的图片中与参与相关的黄色信息，是黑产团伙的习惯。“如果你能承受攻击，鉴定结果不可信，那么AI模型不仅失去意义，还会成为另一个风险暴露。”

Trusted Ai：丁海珍针内容安全战场

对于所有人来说，敏感信息非常复杂多变，模型的训练样本不足。是企业安全控制的核心痛点。比如新加入的个人版权人，潮流商品的版权，不仅有潮流，还需要风控后的回应；在儿童软色情场景下，由于模型训练样本不足，如何让AI实现有效风控是个问题。不仅如此，今天，今天，今天，各类企业和商家已经形成了一个庞大的生态服务链。任何一个薄弱环节都可能成为黑产的突破口，对企业本身和相关公司产生巨大的负面影响。然而，由于训练样本的敏感性，如何实现联合通风成为业界面临的两难问题。

在本次大赛中，“特征兼容的自我监控学习框架”和基于特征兼容的自我监控学习框架的预训练模型，极大地缓解和回应了图像识别领域的上述问题。首先，这项技术可以根据公开数据集进行预训练，帮助AI提前完成同类型风险。其次，在传统AI识别中，模型根据人工投入识别“特征”样本；比如模型在识别熊猫的图片，你需要“学习”熊猫的特征——“眼睛里的黑毛”、“经常一起出现的竹子”等等。通过“自监督者学习”技术，模型可以通过自主学习掌握“特性”，减少70%的标记数量，将训练时间从原来的一周缩短到3天。同时，创新的“功能兼容”解决方案可以实现风险相关的防范，有两个业务场景或两个公司。

据悉，该模型及相关技术是蚂蚁集团内容安全风控决策引擎的重要组成部分。目前已在支付宝内容安全场景全面上线，可降低80%的图片对抗风险。

来源网络