因果推断（zz）

资料仓库  收藏
0 / 841

因果推断review

A Survey on Causal Inference

因果推理，其覆盖众多的研究领域，如何从观测数据中估计因果效应是主要的研究内容。常说‘关系不代表因果’. 比如，一项研究表面，吃早餐的女孩比不吃早餐的女孩更瘦，因此得出结论：‘吃早餐能减肥‘。 但事实上，吃早餐和瘦这2件事也许只是存在相关性，瘦并不是吃早餐的 果，也就是它们并不存在因果关系；事实上，也许吃早餐的女孩瘦是因为她有很多好的生活习惯比如：起得早，睡得早，健身等，最终使他变瘦。我们把’吃早餐和瘦‘ 之间的其他能够影响结论的变量称之为 混淆变量(coudounding variables), 如健身。

做因果推断最行之有效的方法是做随机对照实验(randomized controlled trials, rct).也就是 A/B test. 然而很多时候，做rct需要费时费力，而且有时候，随机对照实验是受限制的，不一定在任何情况下都可以做随机对照实验。如有时候，会收到道德问题的约束：观测数据通常是由研究者简单的观察每个样本收集得到的，收集期间，不对其做任何的干预，从观测到的数据中能获取样本的行为，结果，但是至于他们为什么会这样，rct并不能解释，对已经观测得到的数据，还有一个核心的问题是我们拿不到 ‘反事实’(counterfactual outcomes), 比如说 “对某个病人，他已经注射了100ml的药物，没有产生副作用(事实 factual outcomes)， 但我们想知道如果他注射200ml会怎么样(反事实)“，这样做其一是不道德的，其二是他已经被注射了100ml，再注射就不是随机对照了，已经破坏了控制变量的条件。rct的另一个缺点是关注的是样本的平均层面，但忽略了每个独立的样本本身的特点。

为了解决因果推断领域的这些个问题，一共产生了2套框架，分别是

  • potential outcome framework()潜在结果架构) , 通常也叫做 Neyman-Rubin Potential Outcomes 或者 the Rubin Causal Model, RCM)
  • structural causal model(SCM)

在上面提到的例子中，为了去评估吃早餐对女孩所带来的因果效应，我们必须拿到同一个人在同种情况下的不同结果，也就是这个人，吃早餐/不吃早餐所带来的体重变化。显然，在同一时间段内，同时看到这两种结果(potential outcomes)时不可能的，不管怎么做，始终都会存在其中一个结果的缺失。而RCM就是去做这件事情的。RCM的目标时预估潜在结果，从而计算诊疗效果(treatment effect).
另一种模型就是SCM，因果推理中的另一个有影响力的框架是结构因果模型（SCM），其中包括因果图和结构方程式。结构因果模型描述了系统的因果机制，其中一组变量和它们之间的因果关系由一组联立结构方程式建模
因果推断和机器学习有着千丝万缕的关系，从某种程度上说，机器学习促进了因果推断在潜在结果预估方面的成效，同时，因果推断有帮助如推荐系统等算法更好的决策。目前，潜在结果模型有三个假设，其他的所有因果推理的方法，基本上都是在这三个假设下进行的。
目前有如下的一些方法

  • re-weighting
  • stratification
  • matching-based
  • tree-based
  • representation-based
  • muti-task
  • meta-learning

因果推断基础

总的来算，因果推断所做的任务就是当treatment改变的时候，去预估这个改变所带来的结果，比如说：对于同一批人，我一开始并未给他推荐某个产品，他没有购买，但如果给他推荐的话，他会不会购买？这里的推荐/不推荐就是treatment，会不会购买就是potential outcome。再例如，假设可以对患者使用两种治疗方法：药物A和药物B。将药物A应用于感患者时，恢复率为70％，而将药物B应用于相同患者时，恢复率为90％，恢复率就是潜在结果，恢复率的变化是treatment effect。但是上述的实验，基本上只能通过近似的随机对照实验来获取结果，但rct非常的消耗资源，因此从已观测到的数据进行treatment effect预估变得很有价值。
通常来说，观测数据包含接受到不同treatment的对象，以及treatment下不同的结果，这些结果可能还有更多的信息，这样的观察数据使研究人员能够研究根本的问题，而无需进行随机实验即可了解某种治疗的因果效应

名词定义

causal inference：因果推理/因果推断
causal effect 因果效应
treatment: 干预/治疗

  • WW表示reatment，W∈{0,1,2...n}W∈{0,1,2...n}， 通常在大部分情况下，treatment是二值化的，即要么treat要么不treat，非0即1

potential outcome: 潜在结果，Y=(W=w)Y=(W=w)

  • factual outcom:
    • YF=(W=w)YF=(W=w) ，事实结果，已经做了某个treatment并观测到的结果
  • counterfactual outcome
    • YCF=(W=w′)YCF=(W=w′), 反事实结果，如果这个对象做了这个treatment，他的结果会是怎么样的？当treatment是二值化的时候，YCF=Y(W=1−w)YCF=Y(W=1−w)

treatment effect：治疗效果
治疗效果可以从三个层面去衡量：全集，子集和个体。同时针对不同的层面，会有不同的计算effect的方式，有ATE,CATE,ITE等
unit：单个的实验对象，可以是一个人，一个物体，一个对象
pre-treatment varialble/post-treatment varialble:干预前变量

  • coufounding variable：混淆变量，对治疗和结果都有影响的变量

randomized controlled trials: RCT随机对照实验

三个重要的假设

假设1：Stable Unit Treatment Value Assumption(SUTVA)
这个假设强调两点：

  • 每个单元的独立性，即单元之间没有交互作用。在上面的示例中，一个患者的结果不会影响其他患者的结果
  • 每种治疗的单一性，在上面的示例中，在SUTVA假设下，具有不同剂量的药物A是不同的治疗方法。

假设2：Ignorability
在给定的条件下(可以理解为对象的特征) treatment与潜在结果相独立

W⊥⊥(Y(w=0),Y(W=1)|X)W⊥⊥(Y(w=0),Y(W=1)|X)

该假设同样包含2点

  • 如果两名患者具有相同的条件变量X，则无论治疗方案如何，其潜在结果均应相同
  • 如果两名患者具有相同的条件变量X，则他们的治疗分配机制都应该相同
    假设3：Positivity
    对于任何条件X，治疗方案都是不确定的,也就是说，无论做什么treatment，在任何时候，只有一个outcome

P(W=w|X=x)>0P(W=w|X=x)>0

这个条件对于 treatme