代理偏见也可能进入模型,例如当用户应用邮政编码功能时。邮政编码具有较高的代理性,因为它们与种族和民族具有很高的相关性。因此,用户在不知不觉中将代理偏见引入模型,可能会根据他们的位置歧视某些群体。
这种模特行为可能对某些品牌造成经济和声誉上的不利影响。负责任的人工智能可确保在模型投入生产之前发现任何偏见,从而进行调整,防止出现不必要、不准确和不公平的结果。
除了避免出现偏见之外,组织还必须准 智利电话号码数据 备好应对模型漂移。无论模型是用于预测欺诈、批准贷款还是定位广告,模型准确性的微小变化都可能对利润产生重大影响。随着时间的推移,即使是高度准确的模型也容易随着传入数据偏离原始训练集而衰退。
可能发生的模型漂移有三种类型:概念漂移、特征漂移和标签漂移。在概念漂移的情况下,特征和结果之间的潜在关系发生了变化。在贷款申请的情况下,如果宏观经济发生变化,导致具有相同特征值(例如收入、信用评分、年龄)的申请人获得金融贷款的风险增加或减少,就会发生概念漂移。
当模型输入的分布发生变化时,就会发生特征漂移。例如,在特定时间范围内,贷款申请模型可能会从特定地理区域的申请人那里收到更多数据点。另一方面,标签漂移表示模型的输出分布发生了变化 批准预测与不批准预测的比率可能高于正常水平。