辛普森悖论:用同一个数据集能证明相反观点?
2018-10-26 13:24

辛普森悖论:用同一个数据集能证明相反观点?

编译:胡笳、狗小白、张弛、钱天培,原文标题:《迷人又诡异的辛普森悖论:同一个数据集是如何证明两个完全相反的观点的?》。


想象一下下面这个场景。


你和你的小伙伴准备找个地方搓一顿,但在两家餐厅的选择上争执不休。


于是乎,秉持“数据驱动人生”的你俩搬出了小众点评网的评分数据。


你发现,你想去的这家餐厅的评分果然比另一家高。


正当你得意不已的时候,你的小伙伴宣布了TA的发现:另一家餐厅的评分更高。


这是咋回事呢?莫非评论网站的数据还出错了不成?


事实上,你和你的小伙伴都是对的,你们只是在不知不觉中掉进了辛普森悖论的诡计。


在辛普森悖论中,餐馆可以同时比竞争对手更好或更差,锻炼可以降低和增加疾病的风险,同样的数据集能够用于证明两个完全相反的论点。


相比于晚上出去大餐,你和小伙伴也许更值得讨论这个吸引人的统计现象。


辛普森悖论指的是,数据集分组呈现的趋势与数据集聚合呈现的趋势相反的现象。


在上面餐厅推荐的例子中,你可以通过看男性和女性各组的评分,也可以看整体的评分。如下图所示。



Carlo’s 在男性和女性推荐率上都赢了,但却输在了总体推荐率上!


图中数据清楚地表明,当单独考虑每组数据时,结果显示Carlo’s 优胜,但当合并数据后,结果却是Sophia’s 优胜!


这怎么可能呢?这里的问题在于,只查看单独各组数据的百分比会忽略掉样本的大小,也就是评论者的人数。每个百分比都由推荐用户数与相对应的评论人数计算得到。Carlo’s 有更多的男性评论者,而Sophia’s 有更多的女性评论者,因此导致了矛盾的结果。


要想回答该去哪家餐厅的问题,我们需要考虑数据是否可以合并,或者是否应该单独考虑。我们是否应该合并数据取决于数据的生成过程——即数据的因果模型。在下一个例子中,我们将介绍这一具体含义以及如何解决辛普森悖论。


相关性反转


辛普森悖论的另一个有趣的现象表现在,分层组数据表现的相关性方向与整体数据表现的相关性方向截然相反。我们来看一个简化后的例子。假设我们有每周运动小时数与两组患者(分别为50岁以下和50岁以上的患者)患病风险的对比数据。以下是各组运动数据与患病可能性的散点图。


根据年龄分层后的患病率与每周运动小时数据关系图(左侧:小于50岁,右侧:大于50岁)


从图中我们可以清楚地看到数据负相关,表明增加每周运动量与两组患者患病率的风险降低相关。下面让我们将数据合并在一起再来看看他们的关系:


合并后的患病率与运动数据图


相关性完全逆转了!如果只给出这张图结果,我们会得到这样的结论:运动增加了患病风险,这与我们从分层数据散点图中得到的结论完全相反。


运动如何既减少又增加疾病风险呢?其实并不然,要想弄清如何解决这个悖论,我们需要从数据的生成过程来考虑展示的数据和原因——是什么产生了这些结果。


解决悖论


为了避免辛普森悖论导致得出两个相反的结论,我们需要选择将数据分组还是合并。这听起来似乎很简单,但到底应该如何抉择?答案就是因果性思考:数据是如何产生的?并且在此基础上,哪些我们没看到的因素在影响结果?


在运动与疾病的例子中,我们直观地知道运动不是影响发病率的唯一因素。这里还有其他因素,如饮食、环境、遗传因素等。但是,在上图中,我们只看到了发病率与运动时间的关系。在这个假设的例子中,我们假设疾病是由运动和年龄引起的。用下面的疾病概率的因果模型来表示他们的关系。


发病率的因果模型中有两个因素


数据中存在两种不同的因素与发病率相关,但对于汇总后的数据,我们只观察了发病率与运动时间的关系,却完全忽略了第二个因素——年龄。如果我们进一步画出发病率与年龄的关系,就能发现患者的年龄与发病率强相关。


按年龄分层后的发病率与年龄关系图(左侧:小于50岁;右侧:大于50岁)


随着患者年龄的增加,她/他患病的风险随之增加,这表明即使运动量相同情况下,年长者也比年轻者更容易患病。因此,为了单独评估运动对疾病的真正影响,我们希望保持患者的年龄不变,并改变每周运动量。


一种实现的方式是将数据分成几组,通过这种方式,我们可以看到,对于给定年龄组,运动可以降低患病风险。也就是说,在控制年龄因素的情况下,运动与低患病率相关。根据数据生成过程和应用因果模型,我们可以通过数据分层来控制附加因素解决辛普森悖论。


思考需要回答的问题也可以帮助我们解决悖论。在餐厅的例子中,我们想知道哪家餐厅最有可能让我和小伙伴都满意。虽然除了餐厅本身质量,还可能存在其他因素影响评论,但在没有这些潜在数据的情况下,我们希望将所有评论结合在一起来看看整体平均结果。在这种情况下,分析合并后的数据更有意义。


在运动与疾病案例中需要提出的相关问题是,我们自己是否应该增加运动来减少个体患病风险?由于我们的年龄或者处于小于50/大于50两个区间内(这里不考虑年龄正好为50岁的情况),我们需要根据具体年龄观察对应的数据组,而且无论我们属于哪组,结论都显示确实应该多锻炼。


想想数据生成过程,要回答我们的问题所需要的不仅仅是观察数据本身。这几乎揭示了辛普森悖论中最关键的一点:数据本身是不够的。数据从来都不是完全客观的,特别是当我们只看最后展示的图表时,我们需要考虑是否看到了全貌。


我们可以尝试观察得更全面,通过思考什么生成了数据,又有哪些未展示因素对数据产生了影响。这些问题的回答常常揭示着我们实际应该得出完全相反的结论!


现实生活中的辛普森悖论


辛普森悖论与其它一些统计概念不同,它并非是人为发明的纯理论概念,在现实生活中会实实在在地发生。


事实上,已经有很多著名的辛普森悖论案例了。


其中一个案例是关于两种肾结石治疗效果的数据。单独看治疗效果方面的数据,A疗法对治疗两种大小的肾结石的效果都更好,但是将数据合并后发现,B疗法针对所有情况的疗效更优。下表展示了康复率:


治疗肾结石的数据


这怎么可能呢?这个悖论可以用涉及相关专业知识的数据生成过程,或者说因果模型,来解决。若小结石被视为不严重的病症,那么A疗法相较B疗法开的创口更大。因此,对于小结石,医生们常推荐B疗法,由于病情本身也不严重,因此病人康复率也较高。但对于严重的大结石,医生们常选用创口更大、疗效也更好的A疗法。虽然A疗法在针对这些病症时表现得更好,但由于情况更严重,整体的康复率还是比B疗法要差一些。


在这则现实例子中,肾结石的大小,或者说病症的严重性,被称为混淆因子;它对自变量(治疗方法)和因变量(康复率)都有影响。我们在数据表里是看不到混淆因子的,但它们可以体现在因果关系图中:


含混淆因子的因果关系图


这个例子中的结果,康复率,受到疗法和结石大小(病症严重性)的双重影响。此外,疗法的选择取决于结石的大小,从而结石大小是一个混淆因子。要找到究竟哪种疗法效果更好,我们需要控制混淆因子,进行分组对比康复率,而非对不同的群组数据进行简单合并。这样,我们得出结论,A疗法更优秀。


或者还可以这样看待这个问题:对小结石而言,A疗法更优;严重一些的大结石,依然是A疗法更优。因此,不论结石的大小程度,A疗法总是最优——悖论解决。


合并数据有时很有用,但有些情况下却对真实情况产生了干扰。


证明一个论点,又能证明其相反的观点


辛普森悖论也是政客们的常用伎俩。



下面这个例证展示了,辛普森悖论是如何证明两个相反的政治观点的。


下表表明,在福特总统的1974~1978年的任期中,他对每个收入人群都进行了减税,但此期间全国性的税收额有明显上涨。数据展示如下:


所有个人税率都下降了,但整体税率有所上升


我们可以清晰地看到1974~1978年间,每个纳税区间的税率都有所下降,但整体税率却上升了。现在,我们知道了如何解决悖论:寻找影响整体税率的其它因素。整体税率不仅受每个纳税区间影响,还取决于每个纳税区间的可征税收入数额。因通货膨胀影响(名义工资上涨),1978年有更多的收入落入更高税率的税收区间,而收入落入较低税率的税收区间有所下降,因此整体税率有所上涨。


是否要合并数据,取决于在数据生成过程之外,还包括我们想了解什么问题,又或者是我们的政治观点究竟是什么。从个人角度来说,我们只是一个个体,关心的是在个人的税收区间内的税率。要搞清楚从1974年到1978年间,个人所得税到底有没有增长,必须要弄清楚我们税收区间的税率是否发生了变化,以及我们的税收区间是否到了一个新的区间中。个人所得税受两个因素影响,但这张表格的数据只展示了其中一个。


辛普森悖论有何意义


辛普森悖论的重要性在于它揭示了我们看到的数据并非全貌。我们不能满足于展示的数字或图表,我们需要考虑整个数据生成过程,考虑因果模型。一旦我们理解了数据产生的机制,我们就能从图表之外的角度来考虑问题,找到其它影响因素。


大部分数据科学家并没有学习因果思考的模式,而这种思考模式对我们而言至关重要,因为它能防范我们从数据中得出错误结论。除了使用数据,我们需要运用经验和业务知识,或者向专家学习,来更好地进行决策。


此外,虽然我们的直觉常常很准,但在现有信息不全的情况下直觉还是会不准。我们倾向于对只关注眼前的东西(所见即所得)而不是用我们理性而迟缓的思考去挖掘更深层的东西。我们需要对数字本身持怀疑态度,尤其是当别人想向我们营销产品或项目计划时。


数据是一个有力的武器,它既能被用来澄清现实,也能被用来混淆是非。


相关报道:

https://towardsdatascience.com/simpsons-paradox-how-to-prove-two-opposite-arguments-using-one-dataset-1c9c917f5ff9                             


编译:胡笳、狗小白、张弛、钱天培。 

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com

正在改变与想要改变世界的人,都在虎嗅APP

赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定

读了这篇文章的人还读了...

回顶部
收藏
评论
点赞1