RobuSTAI:我们是由伦敦帝国学院和伦敦国王学院的四名博士生组成的团队它们都是UKRI CDT安全可靠的AI的组成部分。我们正在为安永进行AI健壮性项目 源

罗布斯塔 关于RobuSTAI项目 问题域:ML分类设置中的鲁棒性与NLP的交集 有待探索的问题: 如果您下载了经过预先训练且体重中毒的模型,然后对该模型进行微调以完成其他任务,那么微调会消除或减少体重中毒的影响吗? 哪些型号(例如LSTM和变压器)更容易受到重量中毒攻击? 如果下载了预先训练的体重中毒模型,如何检测到这些体重中毒攻击? 数据集: 我们的两个数据集都在研究多类分类问题。 推理任务: 仇恨语音检测任务: 型号: 变形金刚 发作:如所述体重中毒 中毒检测方法:待定 接触 亚历克斯·加斯凯(Alex Gaskell) 麦肯齐·乔根森(Mackenzie Jorgensen) Fabrizio 肖恩·巴卡斯(Sean Baccas) 项目链接: 致谢