AI预测离职和信用评分,普通人能不能要求给个解释
AI开始被企业用于预测离职、消费和信用风险,涉及自动化决策和个人信息处理。读者可向平台申请告知、解释、更正或删除,重点查隐私政策里的自动化决策和算法推荐条款。
能要。你要的不是那套模型的源代码,而是知道这次决定是不是机器单独拍板的、它拿了你哪些信息、有没有一个真人愿意为结果负责。这几件事法律都留了入口,只是入口的名字不叫「解释算法」,叫「说明」和「查阅复制」。
打分落在不同场景里的分量完全不一样。信贷和消费场景中,结果直接砸到你头上,你被拒了、你看到的价格比别人高,你至少知道自己有东西可以问。离职预测不是这样,它算出来的分数不给你看,给的是你的主管和 HR。你既没被告知被算过,也没被告知算出来多少,自然想不到要去问什么。麻烦就麻烦在这儿:一次对你影响极大的评估,在你这边是完全静音的。
法律到底给了你什么
《个人信息保护法》第二十四条管的就是这件事。它要求用个人信息做自动化决策时,必须保证决策透明、结果公平公正;作出对个人权益有重大影响的决定,个人有权要求处理者说明,也有权拒绝仅由自动化决策作出决定。往上看还有第十七条的告知义务,处理你的信息之前要讲明处理目的、处理方式、信息种类和保存期限;第四十五条给了查阅、复制的权利;第五十条要求企业建立便捷的权利申请通道,拒绝你的申请必须说明理由。
这几条摆在一起,逻辑很清楚:企业不需要教会你算法,但必须让你知道自己的信息被怎么用了,而且必须有人回应你。
企业那句「算法是商业秘密」,挡得住什么
这是最常出现的挡箭牌,有效范围却很窄。它能挡住模型怎么设计、特征怎么加权、训练数据从哪来,这些确实可能构成商业秘密。它挡不住「你的哪些信息被处理了、用来干什么、保存多久」,这块义务写在第十七条里,跟你懂不懂算法没有半点关系。它更挡不住第五十条那句「拒绝要说明理由」。所以当客服回你「系统综合评估」四个字,那不是答复,那是一个没有内容的动作。
算法解释权真正值钱的地方,是逼出一个能推翻结果的人
很多人以为争取解释是为了看懂模型。看懂了又怎样,你还是改不了权重。真正有用的是另一件事:一旦企业必须对你的个案给出说明,就必须有人签字、有人复核,那个原本空着的位置被填上了。你争的不是知识,是一个能说出「这个结果我不同意」的人。
反过来看更清楚。如果一家公司永远只回你「系统自动判定」,它等于在告诉你:这个决定没有人负责。这句话听着像推卸,其实是一次难得的坦白。
从哪一步开始问,怎么问才不是白问
别问「你们为什么拒绝我」,这个问题客服背过标准答案。要问的是能落到纸面上的那句:「请告知本次自动化决策所依据的个人信息种类、决策的基本逻辑,以及对我个人的具体影响,我需要一份可以保存的书面或电子答复。」这句话把请求从情绪变成了记录,也把对方从「解释给你听」推到了「必须留痕」。
顺序上,先在 App 里找入口,一般在设置里的「个人信息」或「隐私」一栏,正规产品都会放查阅、复制、更正、注销这些按钮,有的还会单列一条「自动化决策说明」。没有回音再往上走,隐私政策末尾通常留了个人信息保护负责人的邮箱,那比客服对口得多。再往后才是 12377 和属地网信部门。给自己定个时间点,两周没动静就升一级,别在同一层反复耗。
征信这条线,另有一套更硬的通道
如果你的问题是信用评分,不用先跟平台缠。《征信业管理条例》给了异议权,你认为报告里的信息存在错误、遗漏,可以向征信机构或者信息提供者提出异议,要求更正,这条路径有明确的责任主体和处理时限。另外你每年有两次免费拿到本人信用报告的机会,很多人一次都没查过,被拒贷了都不知道报告上到底写了什么。先把报告调出来看一遍,比追问模型高效得多。
同一件商品,你的价格比别人高,该问什么
第二十四条第一款把这条写死了:不得对个人在交易价格等交易条件上实行不合理的差别待遇。怀疑被杀熟的时候,别停在「我觉得我贵了」,要把问题变得可核对:同一时间、同一商品、同样的优惠条件,我的成交价和别人差在哪里,这个差异基于我的哪些个人信息。截图、录屏、比价记录都留着。价格类纠纷讲的是证据,你能证明差异存在,才谈得上要求解释。
有些情况,你问了也拿不到答案
如果最终决定是人做的,AI 只给了一个参考值,那第二十四条里「拒绝仅由自动化决策」这一条就不适用。不少公司恰恰靠这一步把责任转出去:模型给建议,主管签字,整件事就变成了人的决定。遇到这种答复,你的问题要换方向,问的是这个参考值在你的评价体系里占多大比重、有没有被写进你的考核档案。
还有一类不算自动化决策,比如按统一规则算出来的违约金、按固定公式排的班次,这些是规则运算,不是针对你的个性化评估,不在这一条的管辖范围内。分不清这两者,你的每一次追问都会打空。
回到最开始那个问题。能不能要求解释,答案是能,但前提是你得先知道自己被算过。这周可以只做一件小事:打开常用的三个 App,在设置里搜「个人信息」,看看有没有查阅、复制和自动化决策说明的入口。有,就点进去,看一眼自己被存了什么;没有,这个「没有」本身就是你要问的第一个问题。AI 打分最该警惕的地方不在它算错,而在它算对了,却没有任何一个人需要为此出面。
常见问题
公司说离职风险评分是系统自动出来的,拒绝说明理由,这样合法吗?
不合法。第二十四条写得很清楚,作出对个人权益有重大影响的决定,个人有权要求说明;第五十条还要求企业拒绝你的申请时必须给出理由。「系统自动」是一句描述,不是理由。你可以书面要求告知这次决策用了哪些个人信息、大致逻辑是什么、对你有什么影响。
我想查自己被哪些平台算过、算了什么,第一步该做什么?
先从 App 内的个人信息入口进去,正规产品在设置里都放了查阅和复制通道,这是第四十五条给你的权利,不需要企业额外同意。找不到入口就翻隐私政策末尾的联系邮箱,直接把请求发给个人信息保护负责人,比找在线客服有效。两周没有回音,再向 12377 或属地网信部门反映。
信用报告上的信息有误,或者被 AI 拒贷了,异议该找谁?
找征信机构或者信息提供者,这是《征信业管理条例》给异议权留的两条路径,不用先跟放贷平台的客服耗。你每年还有两次免费获取本人信用报告的机会,先调报告确认问题出在哪一环,再决定是提异议还是向监管部门反映。报告本身没错误、只是模型不给你过,那走的是另一条申诉路线。
本文所引法律条文以官方最新公布文本为准,维权路径与结果因个案和地区而异,不构成法律意见。
相关文章
- 新生入学被要求填父母收入和车辆价格,能拒绝吗2026-09-19
- 催收爆通讯录违法吗这个问题判决书早就答过了2026-09-19
- 把文件传给AI之前,先看清哪几类东西不该上传2026-09-17
- 上传合同照片给AI之前,怎么查会不会被拿去训练2026-09-17
- 普通人怎么关掉个性化推荐和算法杀熟2026-09-16