18  이질적 처치효과와 개인화

예측에서 인과추론으로

지난 장에서는 머신러닝(ML) 모델을 간단히 살펴봤습니다. 머신러닝 모델은 제가 예측이라고 부른 일, 좀 더 기술적으로 말하면 조건부 기댓값 함수 \(E[Y|X]\)를 추정하는 도구입니다. 다시 말해 머신러닝은 이미 알고 있는 입력 \(X\)(영어 문장, 이번 달 매출, 뇌 스캔 영상 등)를 처음에는 모르지만 명확하게 정의된 출력 \(Y\)(일본어 문장, 다음 달 매출, 암 진단 등)로 대응시킬 때 놀라울 만큼 유용합니다. 이처럼 머신러닝이 다루는 것이 예측, 즉 \(E[Y|X]\) 추정이므로 머신러닝을 쓸모 있게 활용하려면 풀려는 문제가 무엇이든 \(E[Y|X]\) 추정이 핵심인 예측 문제로 바꿔 정의해야 합니다. 지난 장에서 바로 그런 예를 살펴봤습니다. 거기서는 고객별 특성으로 고객 수익성, 즉 \(E[NetValue|Age, Income, Region]\)을 예측해야 했습니다. 이 정보는 아주 유용했습니다. 수익성 없는 고객과는 거래하지 않고, 수익성 있는 고객을 붙잡는 데 노력을 집중할 수 있었기 때문입니다. 이 문제에서는 수익성을 잘 예측하는 것이 관건입니다.

이 방식은 추정하는 사람이 데이터 생성 과정(data generating process) 밖에 머문다는 점에서 수동적인 추정 방식입니다. 앞의 예에서는 고객 수익성 NetValue가 주어진 것이라고 가정했습니다. 할 일은 그 값을 추정하는 것뿐이었습니다. 다시 말해 고객 수익성을 두고는 예측 말고 할 수 있는 일이 없다고 가정한 셈입니다. 수익성을 높일 수도, 낮출 수도 없었습니다. 하지만 현실이 늘 그렇지는 않습니다. 사실 기업에는 고객 수익성을 높이는 데 쓸 수 있는 레버가 있는 경우가 많습니다. 이런 레버는 프리미엄 고객 서비스나 더 저렴한 고객 서비스부터 할인, 가격, 마케팅까지 다양합니다. 업계에서는 데이터 생성 과정 안에 들어가 그 과정에 영향을 줄 수 있는 경우가 흔합니다. 그래서 업계에서 일하는 데이터 과학자는 어떤 비즈니스 지표를 최적화하려면 어떤 조치가 최선인지, 어떤 개입을 해야 하는지에 답해야 할 때가 많습니다. 그 지표는 대개 수익성이고, 전환, 비용, 매출 같은 중간 지표일 때도 있습니다.

수동적인 관찰자로 머물지 않는 이런 세계에서는 \(E[Y|X]\)를 추정하는 것만으로 전체 그림을 볼 수 없습니다. 바로 여기서 인과추론(causal inference)이 등장합니다. 조건부 기댓값 함수에 조각 하나를 더 끼워 넣어야 합니다. 데이터 생성 과정에 우리가 참여하는 부분을 모델링하는 조각, 바로 처치(treatment)입니다.

\[ E[Y|X, T] \]

이제 맥락 특성 또는 외생 특성 \(X\)와 처치 \(T\)를 구분해야 합니다. 둘 다 결과(outcome) \(Y\)에 영향을 주지만, \(X\)는 우리가 통제할 수 없는 반면 \(T\)는 어떤 값을 가질지 정하거나 적어도 개입할 수 있습니다. 구체적인 예를 들어 보겠습니다. \(Y\)는 하루 매출이고, \(X\)는 직전 며칠의 평균 매출처럼 통제할 수는 없지만 매출에 관한 정보를 주는 맥락 특성이며, \(T\)는 가격, 재고 수준, 마케팅처럼 매출을 늘리려고 개입할 수 있는 처치변수입니다. 그러면 인과추론은 맥락 \(X\) 아래에서 \(T\)와 \(Y\)의 인과관계를 추정하는 과정입니다. 이 인과관계만 추정해 내면 \(Y\)를 최적화하는 일은 처치 \(T\)를 최적의 값으로 정하는 문제일 뿐입니다.

\[ \underset{T}{argmax} \ E[Y|X, T] \]

이런 의미에서 인과추론에는 실증적(positive) 측면을 넘어 규범적(normative) 동기도 있습니다.

1부에서는 이런 질문에 답하려 했습니다. 학교 교육의 가치는 얼마일까? 법을 바꾸면 흡연율을 낮출 수 있을까? 긍정적인 마음가짐을 가지면 학업 성취도가 오를까? 음주는 사망률에 어떤 영향을 줄까? 모두 세상이 어떻게 돌아가는지 이해하려는 순수한 과학의 관점에서 흥미로운 질문입니다. 하지만 그 뒤에는 실용적인 동기도 있습니다. 교육이 소득에 미치는 영향을 알면 교육에 얼마를 치르는 것이 합리적인지 판단할 수 있습니다. 수학으로 표현하면 교육의 인과효과를 추정하고 \(\underset{Educ}{argmax} \ E[Income|X, Educ]\)처럼 최적화하는 것입니다.

1부는 처치가 전반적으로 긍정적인지, 효과가 강한지, 아니면 효과가 없는지에 답하는 데 집중했습니다. 예를 들어 교육에 투자하는 것이 대체로 좋은 생각인지 알고 싶었습니다. 또 1부에서 \(X\)는 두 가지 역할을 했습니다. 첫째, \(X\)에는 교란 요인(confounder)이 들어 있을 수 있고, 이때는 \(X\)를 고려하거나 보정해야만 인과효과를 식별할 수 있었습니다. 둘째, \(X\)는 인과효과 추정의 분산을 줄이는 역할을 할 수도 있었습니다. \(X\)가 \(Y\)를 잘 예측한다면 이를 이용해 \(Y\)의 분산을 설명해 덜어 낼 수 있고, 그만큼 인과효과가 더 뚜렷하게 드러납니다.

이제부터는 흑과 백으로 딱 잘라 말하기 어려워집니다. 평균 처치효과(average treatment effect) 이상의 것을 알고 싶기 때문입니다. 처치가 어떤 사람에게는 긍정적인 영향을 주지만 다른 사람에게는 그렇지 않을 수 있다고 인정하겠습니다. 맥락 특성 \(X\)는 대상의 유형을 나누는 역할을 하며, 유형마다 처치에 다르게 반응할 수 있습니다. 이제는 처치를 개인화(personalization)해서 처치에 가장 잘 반응하는 대상에게만 주고 싶습니다. 평균 처치효과만 신경 쓰던 세계에서 이질적 처치효과(heterogeneous treatment effect)를 알고 싶은 세계로 넘어가는 것입니다.

ATE에서 CATE로

지금까지 처치의 인과효과를 추정할 때마다 구한 것은 평균 처치효과(ATE)였습니다(때로는 국지적 평균 처치효과였습니다).

\[ E[Y_1−Y_0] \]

연속형 처치라면 다음과 같습니다.

\[ E[y'(t)] \]

여기서 \(y'(t)\)는 반응 함수, 즉 결과를 처치로 미분한 도함수입니다. 지금까지 처치가 전반적으로 얼마나 효과적인지 밝혀내는 기법을 배웠습니다. ATE 추정은 인과추론의 토대이자, 흔히 프로그램 평가(program evaluation)라고 부르는 의사결정 문제에 아주 유용한 도구입니다. 프로그램 평가에서는 처치를 모집단 전체에 시행해야 하는지를 알고 싶어 합니다. 공공 정책 용어라고 해서 헷갈릴 필요는 없습니다. 국가 교육 프로그램이나 보건 프로그램의 효과를 추정하는 기법은 신제품 출시가 회사 수익에 미치는 영향을 알아보는 데도 똑같이 쓸 수 있습니다. 여기서 눈여겨볼 점은 내리려는 결정이 처치를 할지 말지라는 것입니다.

이번에는 다른 종류의 결정에 필요한 정보를 얻으려 합니다. 바로 누구에게 처치할 것인가입니다. 이제 결정이 대상마다 달라질 수 있습니다. 어떤 대상에게는 처치하는 편이 이롭지만 다른 대상에게는 그렇지 않을 수 있습니다. 처치를 개인화하고 싶은 것입니다. 좀 더 기술적으로 말하면 조건부 평균 처치효과(conditional average treatment effect, CATE)를 추정하려 합니다.

\[ E[Y_1−Y_0 | X] \ \text{or} \ E[y'(t)|X] \]

\(X\)로 조건을 건다는 것은 처치효과가 각 대상의 특성에 따라 달라질 수 있다고 허용한다는 뜻입니다. 다시 말하지만, 여기서는 모든 개체가 처치에 똑같이 잘 반응하지는 않는다고 봅니다. 그리고 이 이질성을 활용하려 합니다. 이진 처치라면 처치할 만한 대상에게만 처치하고, 연속형 처치라면 대상마다 최적의 처치 수준이 얼마인지 알아내고 싶습니다.

예를 들어 고객마다 받을 수 있는 대출 금액을 정해야 하는 은행이라면, 모두에게 돈을 왕창 빌려주는 건 좋은 생각이 아니라고 장담할 수 있습니다. 물론 어떤 고객에게는 그래도 괜찮을 수 있습니다. 처치(대출 금액)를 영리하게 정해야 합니다. 고객의 신용점수(\(X\))를 보고 적절한 대출 금액을 알아낼 수 있을지도 모릅니다. 물론 큰 기관만 개인화를 활용할 수 있는 것은 아닙니다. 개인화가 적용되는 예는 차고 넘칩니다. 1년 중 어느 날에 세일을 해야 할까요? 어떤 제품이든 가격을 얼마로 매겨야 할까요? 사람마다 어느 정도부터가 과한 운동일까요?

이렇게 생각해 보세요. 고객이 여럿 있고 처치(가격, 할인, 대출 등)가 하나 있습니다. 이 처치를 개인화해서, 예를 들어 고객마다 할인을 다르게 주고 싶습니다.

그러려면 고객을 세분화해서 처치에 다르게 반응하는 그룹을 만들어야 합니다. 예를 들어 할인에 잘 반응하는 고객과 잘 반응하지 않는 고객을 찾고 싶을 것입니다. 그런데 고객이 처치에 어떻게 반응하는지는 조건부 처치효과 \(\frac{\delta Y}{ \delta T}\)로 나타납니다. 그러니 어떻게든 이 값을 고객마다 추정할 수 있다면, 처치에 아주 잘 반응하는 고객(처치효과가 큰 고객)끼리, 그리고 잘 반응하지 않는 고객끼리 묶을 수 있습니다. 그렇게 하면 고객 공간을 대략 다음 그림처럼 나누게 됩니다.

그러면 분할마다 처치효과, 즉 민감도(sensitivity)를 따로 추정할 수 있으니 아주 멋진 일입니다. 민감도는 \(T\)에서 \(Y\)로 가는 직선이나 함수의 기울기일 뿐이라는 점에 주목하세요. 따라서 기울기, 즉 민감도가 서로 다른 분할을 만들 수 있다면 각 분할에 속한 개체들은 처치에 반응하는 정도가 다르다는 뜻입니다.

다시 말해 \(Y\) 자체를 예측하는 데서 벗어나, 대상마다 \(Y\)를 \(T\)로 미분한 값 \(\frac{\delta Y}{ \delta T}\)를 예측해야 합니다. 예를 들어 \(Y\)가 아이스크림 판매량이고 \(T\)가 아이스크림 가격이며 각 대상 \(i\)가 하루라고 해 봅시다. 논의를 위해 윤리 문제는 잠시 접어 두고, 아이스크림 가격을 매일 바꿀 수 있다고 가정하겠습니다. \(\frac{\delta Sales}{ \delta Price}\)가 작은 날을 어떻게든 찾아낼 수 있다면, 그런 날에는 판매량을 크게 잃지 않고 가격을 올릴 수 있습니다. 연휴 시즌에 가격을 올리는 것처럼, 이미 이렇게 하고 있을지도 모릅니다. 요점은 가격 민감도를 기준으로 날을 구분하는 것이 유용하다는 것입니다. 가격을 최적으로 정하는 근거가 되기 때문입니다.

좋습니다. 하지만 이건 좀 까다롭지 않으냐고 반문할 수도 있습니다. 보이지도 않는 민감도 \(\frac{\delta Sales}{ \delta Price}\)를 어떻게 예측하느냐고요. 아주 좋은 지적입니다. 민감도는 본질적으로 개별 대상 수준에서 관측할 수 없습니다. 게다가 낯선 개념이기도 합니다. 사람은 어떤 양의 변화율보다 양 그 자체로 생각하는 데 훨씬 익숙합니다. 그래서 민감도를 더 잘 이해할 수 있도록 작은 요령을 하나 소개하겠습니다. 각 개체에는 \(Y_i\) 값(이 예에서는 판매량)뿐만 아니라 개별 민감도 \(\frac{\delta Y_i}{\delta T_i}\)도 있다고 생각하는 것입니다. 민감도는 \(T\)에 따라 \(Y\)가 얼마나 변하는지를 나타내므로, 각 개체마다 기울기 계수 \(\frac{\delta Y}{ \delta T}_i\)가 하나씩 붙어 있다고 생각할 수도 있습니다. 이 예에서라면 날마다 가격이 판매량에 미치는 기울기 계수가 하나씩 있다고 말할 수 있습니다.

물론 이런 개별 기울기 계수는 볼 수 없습니다. 개별 기울기를 보려면 같은 날을 서로 다른 두 가격에서 관측하고, 가격마다 판매량이 어떻게 달라지는지 계산해야 합니다.

\[ \frac{\delta Y_i}{ \delta T_i} \approx \frac{Y(T_i) - Y(T_i + \epsilon)}{T_i - (T_i + \epsilon)} \]

다시 인과추론의 근본적인 문제로 돌아왔습니다. 같은 대상을 서로 다른 처치 조건에서 보는 일은 결코 불가능합니다. 그럼 어떻게 해야 할까요?

민감도 예측하기

상황이 꽤 복잡해졌습니다. \(\frac{\delta Y_i}{ \delta T_i}\)를 예측해야 한다는 데는 동의했지만, 안타깝게도 이 값은 관측할 수 없습니다. 그러니 머신러닝 알고리즘을 가져와 이 값을 목표 변수로 넣을 수도 없습니다. 하지만 \(\frac{\delta Y_i}{ \delta T_i}\)를 예측하는 데 꼭 그 값을 관측해야 하는 것은 아닐지도 모릅니다.

아이디어가 하나 있습니다. 선형회귀(linear regression)를 쓰면 어떨까요?

데이터에 다음 선형 모델을 적합한다고 해 봅시다.

\[ y_i = \beta_0 + \beta_1 t_i + \beta_2 X_i + e_i \]

이 식을 처치로 미분하면 다음을 얻습니다.

\[ \frac{\delta y_i}{\delta t_i} = \beta_1 \]

위 모델을 추정하면 \(\hat{\beta_1}\)을 얻을 수 있으니, 과감하게 민감도를 관측할 수 없어도 예측할 수는 있다고 말할 수도 있겠습니다. 다만 위의 경우는 꽤 단순한 예측입니다. 모든 대상에게 같은 상수 \(\hat{\beta_1}\)을 예측하기 때문입니다. 그것만으로도 의미는 있지만 아직 원하는 것은 아닙니다. 이건 CATE가 아니라 ATE입니다. 모든 대상이 똑같은 민감도 예측값을 받으므로, 처치에 반응하는 정도에 따라 개체를 묶는 작업에는 도움이 되지 않습니다. 하지만 다음처럼 간단히 바꿔 볼 수 있습니다.

\[ y_i = \beta_0 + \beta_1 t_i + \beta_2 X_i + \beta_3 t_i X_i + e_i \]

그러면 이번에는 다음과 같은 민감도 예측값을 얻습니다.

\[ \widehat{\frac{\delta y_i}{\delta t_i}} = \hat{\beta_1} + \hat{\beta_3}X_i \]

여기서 \(\beta_3\)는 \(X\)에 담긴 특성들의 계수 벡터입니다.

이제 \(X_i\)가 다른 개체는 서로 다른 민감도 예측값을 갖습니다. 다시 말해 \(X\)가 바뀌면 민감도 예측값도 바뀝니다. 이렇게 회귀분석으로 CATE \(E[y'(t)|X]\)를 추정할 길이 열렸습니다.

마침내 진전이 생겼습니다. 위 모델로 개체마다 민감도를 예측할 수 있습니다. 이 예측값이 있으면 더 쓸모 있는 그룹을 만들 수 있습니다. 예측 민감도가 높은 대상끼리 묶고, 예측 민감도가 낮은 대상끼리도 똑같이 묶으면 됩니다. 결국 민감도 예측값을 이용해 처치에 얼마나 반응할 것 같은지에 따라 개체를 그룹으로 나눌 수 있습니다.

이론은 이쯤 해 두겠습니다. 이런 민감도 모델을 만드는 과정을 예제로 따라가 볼 차례입니다. 앞의 아이스크림 예를 다시 생각해 봅시다. 각 대상 \(i\)는 하루입니다. 날마다 평일인지 아닌지, 아이스크림을 만드는 데 든 비용(비용은 품질을 대신하는 지표로 생각해도 됩니다), 그날의 평균 기온을 알고 있습니다. 이것들이 특성 공간 \(X\)를 이룹니다. 그리고 처치인 가격과 결과인 아이스크림 판매량이 있습니다. 이 예제에서는 지금 당장 편향(bias)을 걱정하지 않아도 되도록 처치가 무작위로 배정되었다고 가정하겠습니다.

코드
import pandas as pd
import numpy as np
from matplotlib import pyplot as plt

import seaborn as sns
import statsmodels.formula.api as smf
import statsmodels.api as sm

from sklearn.ensemble import GradientBoostingRegressor
from sklearn.model_selection import train_test_split
코드
prices_rnd = pd.read_csv("./data/ice_cream_sales_rnd.csv")
print(prices_rnd.shape)
prices_rnd.head()
(5000, 5)
temp weekday cost price sales
0 25.8 1 0.3 7 230
1 22.7 3 0.5 4 190
2 33.7 7 1.0 5 237
3 23.0 4 0.5 5 193
4 24.4 1 1.0 3 252

여기서 목표를 다시 떠올려 봅시다. 그날그날의 특성인 temp, weekday, cost에 따라 언제 가격을 올리고 언제 내릴지 정해야 합니다. 목표가 이것이라면, 처치효과 이질성 모델도 이 목표를 달성하는 데 얼마나 쓸모 있는지를 기준으로 평가해야 합니다. 이 내용은 잠시 뒤에 다루고, 다음 장에서 훨씬 자세히 살펴보겠습니다. 지금은 데이터셋을 훈련 셋과 테스트 셋으로 나누기만 하겠습니다.

코드
np.random.seed(123)
train, test = train_test_split(prices_rnd)

훈련 데이터가 준비됐으니, 이제 가격 민감도가 높은 날과 낮은 날을 구분할 수 있는 모델을 만들어야 합니다. 방법은 단순합니다. 가격 민감도를 그대로 예측하면 됩니다. 정확히 어떻게 할까요? 먼저 다음 선형 모델을 생각해 봅시다.

\[ sales_i = \beta_0 + \beta_1 price_i + \pmb{\beta_2}X_i + e_i \]

이 모델의 매개변수를 살펴보면 민감도 예측값이 어떤 모습일지 알 수 있습니다.

코드
m1 = smf.ols("sales ~ price + temp+C(weekday)+cost", data=train).fit()
m1.summary().tables[1]
coef std err t P>|t| [0.025 0.975]
Intercept 186.7113 1.770 105.499 0.000 183.241 190.181
C(weekday)[T.2] -25.0512 0.924 -27.114 0.000 -26.863 -23.240
C(weekday)[T.3] -24.5834 0.901 -27.282 0.000 -26.350 -22.817
C(weekday)[T.4] -24.3807 0.897 -27.195 0.000 -26.138 -22.623
C(weekday)[T.5] -24.9036 0.894 -27.850 0.000 -26.657 -23.150
C(weekday)[T.6] -24.0921 0.903 -26.693 0.000 -25.862 -22.323
C(weekday)[T.7] -0.8635 0.888 -0.972 0.331 -2.605 0.878
price -2.7515 0.106 -25.970 0.000 -2.959 -2.544
temp 1.9848 0.060 33.117 0.000 1.867 2.102
cost 4.4718 0.528 8.462 0.000 3.436 5.508

\(m1\)에서 가격 민감도 예측값 \(\widehat{\dfrac{\delta y_i}{\delta t_i}}\)는 \(\hat{\beta_1}\)이고, 여기서는 -2.75입니다. 아이스크림 가격을 1헤알(BRL) 올릴 때마다 판매량이 약 3개씩 줄어들 것으로 예상된다는 뜻입니다.

이 \(m1\)은 모든 날에 똑같은 민감도를 예측한다는 점에 주목하세요. 따라서 어떤 날에 사람들이 아이스크림 가격에 덜 민감한지 알고 싶다면 썩 좋은 모델이 아닙니다. 지금 필요한 것은 CATE인데, 이 모델은 ATE를 추정합니다. 목표는 개체를 나눈 뒤 각 분할마다 처치(가격)를 개인화하고 최적화하는 것이었습니다. 모든 예측값이 같다면 아무것도 나눌 수 없습니다. 민감한 대상과 민감하지 않은 대상을 구분하지 못하는 것입니다. 이 문제를 바로잡기 위해 두 번째 모델을 생각해 봅시다.

\[ sales_i = \beta_0 + \beta_1 price_i + \beta_2 price_i * temp_i * + \pmb{\beta_3}X_i + e_i \]

두 번째 모델에는 가격과 기온의 상호작용(interaction) 항이 들어 있습니다. 이렇게 하면 기온에 따라 민감도가 달라질 수 있습니다. 사실상 사람들이 가격 인상에 민감한 정도가 기온에 따라 달라진다고 말하는 셈입니다.

코드
m2 = smf.ols("sales ~ price*temp + C(weekday) + cost", data=train).fit()
m2.summary().tables[1]
coef std err t P>|t| [0.025 0.975]
Intercept 192.4767 4.371 44.037 0.000 183.907 201.046
C(weekday)[T.2] -25.0805 0.924 -27.143 0.000 -26.892 -23.269
C(weekday)[T.3] -24.5871 0.901 -27.290 0.000 -26.354 -22.821
C(weekday)[T.4] -24.4225 0.897 -27.231 0.000 -26.181 -22.664
C(weekday)[T.5] -24.8953 0.894 -27.844 0.000 -26.648 -23.142
C(weekday)[T.6] -24.1269 0.903 -26.726 0.000 -25.897 -22.357
C(weekday)[T.7] -0.8581 0.888 -0.966 0.334 -2.599 0.883
price -3.6299 0.618 -5.873 0.000 -4.842 -2.418
temp 1.7459 0.176 9.912 0.000 1.401 2.091
price:temp 0.0366 0.025 1.443 0.149 -0.013 0.086
cost 4.4558 0.529 8.431 0.000 3.420 5.492

모델을 추정하고 나면 민감도 예측값은 다음과 같습니다.

\[ \widehat{\frac{\delta sales_i}{\delta price_i}} = \hat{\beta_1} + \hat{\beta_2}temp_i \]

\(\hat{\beta_2}\)는 0.03으로 양수이고, 기준 민감도 \(\beta_1\)(\(0C^o\)일 때의 민감도)은 -3.6입니다. 평균적으로 가격을 올리면 판매량이 줄어든다는 뜻이니 이치에 맞습니다. 또 기온이 1도 오를 때마다 사람들이 아이스크림 가격 인상에 덜 민감해진다는 뜻이기도 합니다(정도가 크지는 않습니다). 예를 들어 \(25C^o\)에서는 가격을 1헤알 올릴 때마다 판매량이 2.8개 줄어듭니다 \((-3.6 + (0.03 * 25))\). 하지만 \(35C^o\)에서는 가격을 1헤알 올려도 판매량이 2.5개만 줄어듭니다 \((-3.6 + (0.03 * 35))\). 이것도 어느 정도 직관과 맞습니다. 날이 더워질수록 사람들은 아이스크림에 돈을 더 낼 마음이 생깁니다.

여기서 더 나아갈 수도 있습니다. 다음 모델은 특성 공간 전체에 상호작용 항을 넣습니다. 그러면 민감도가 기온, 요일, 비용에 따라 달라집니다.

\[ sales_i = \beta_0 + \beta_1 price_i + \pmb{\beta_2 X_i}*price_i + \pmb{\beta_3}X_i + e_i \]

코드
m3 = smf.ols("sales ~ price*cost + price*C(weekday) + price*temp", data=train).fit()

위 모델에 따르면 대상 수준의 민감도, 즉 CATE는 다음과 같습니다.

\[ \frac{\delta Sales}{\delta Price} = \beta_1 + \pmb{\beta_2 X_i} \]

여기서 \(\beta_1\)은 가격 계수이고 \(\pmb{\beta_2}\)는 상호작용 계수 벡터입니다.

마지막으로 민감도를 실제로 예측하는 방법을 알아봅시다. 한 가지 방법은 모델에서 민감도 매개변수를 꺼내 위 공식에 넣는 것입니다. 하지만 여기서는 좀 더 범용적인 근사를 쓰겠습니다. 민감도는 결과를 처치로 미분한 값일 뿐이므로 미분의 정의를 그대로 이용할 수 있습니다.

\[ \frac{\delta y}{\delta t} = \dfrac{y(t+\epsilon) - y(t)}{ (t + \epsilon) - t } \]

여기서 \(\epsilon\)은 0으로 갑니다. \(\epsilon\)을 1로 바꾸면 이 정의를 근사할 수 있습니다.

\[ \frac{\delta y}{\delta t} \approx \hat{y}(t+1) - \hat{y}(t) \]

여기서 \(\hat{y}\)는 모델의 예측값입니다. 말로 풀면, 모델로 예측을 두 번 합니다. 한 번은 원래 데이터를 넣고, 다른 한 번은 원래 데이터에서 처치만 1만큼 늘려서 넣습니다. 두 예측값의 차이가 CATE 예측값입니다.

아래에 이 작업을 하는 함수가 있습니다. 모델을 추정할 때 훈련 셋을 썼으니 이제 테스트 셋으로 예측하겠습니다. 먼저 첫 번째 ATE 모델인 \(m1\)을 써 봅시다.

코드
def pred_sensitivity(m, df, t="price"):
    return df.assign(**{
        "pred_sens": m.predict(df.assign(**{t:df[t]+1})) - m.predict(df)
    })

pred_sensitivity(m1, test).head()
temp weekday cost price sales pred_sens
2648 18.6 7 0.5 10 185 -2.751463
2456 26.0 3 0.5 10 200 -2.751463
4557 23.7 3 0.3 8 192 -2.751463
4884 28.9 4 1.5 6 213 -2.751463
92 23.7 1 0.5 8 207 -2.751463

\(m1\)으로 민감도를 예측하는 건 그다지 재미가 없습니다. 보다시피 모든 날에 똑같은 값을 예측합니다. 이 모델에는 상호작용 항이 없기 때문입니다. 하지만 \(m3\)로 예측하면 날마다 다른 민감도 예측값이 나옵니다. 이제는 민감도, 즉 처치효과가 그날그날의 특성에 따라 달라지기 때문입니다.

코드
pred_sens3 = pred_sensitivity(m3, test)

np.random.seed(1)
pred_sens3.sample(5)
temp weekday cost price sales pred_sens
4764 31.1 6 1.0 3 212 1.144309
4324 24.8 7 0.5 10 182 -9.994303
4536 25.0 2 1.5 6 205 0.279273
3466 26.0 3 1.5 3 205 0.308320
115 19.3 3 0.3 9 177 -0.349745

예측값이 대략 -9에서 1 사이에 있다는 점에 주목하세요. 이 값은 수백 단위인 판매량 열을 예측한 값이 아닙니다. 가격을 1만큼 올리면 판매량이 얼마나 달라질지를 예측한 값입니다. 그런데 보자마자 이상한 숫자가 눈에 띕니다. 예를 들어 4764번 날을 보세요. 양의 민감도를 예측하고 있습니다. 아이스크림 가격을 올리면 판매량이 늘어난다고 예측하는 것입니다. 경제학적 직관과는 맞지 않습니다. 아마 모델이 이 예측에서 이상한 외삽(extrapolation)을 하고 있을 것입니다. 다행히 이 문제는 크게 걱정하지 않아도 됩니다. 최종 목표는 대상을 처치에 얼마나 민감한지에 따라 나누는 것이지, 세상에서 가장 정확한 민감도 예측값을 내놓는 것이 아니라는 점을 기억하세요. 이 목표에는 민감도 예측값이 대상을 민감한 정도에 따라 제대로 줄 세우기만 하면 충분합니다. 다시 말해 1.1이나 0.5 같은 양의 민감도 예측값 자체는 별 의미가 없더라도 순서만 맞으면 됩니다. 예측값이 1.1인 대상이 0.5인 대상보다 가격 인상의 영향을 덜 받기만 하면 됩니다.

좋습니다. 민감도 모델, 즉 CATE 모델이 생겼습니다. 하지만 아직 궁금한 점이 하나 남아 있습니다. 머신러닝 예측 모델과 비교하면 어떨까요? 지금 바로 해 보겠습니다. 가격, 기온, 요일, 비용을 특성 \(X\)로 써서 아이스크림 판매량을 예측하는 머신러닝 알고리즘을 쓰겠습니다.

코드
X = ["temp", "weekday", "cost", "price"]
y = "sales"
ml = GradientBoostingRegressor()
ml.fit(train[X], train[y])

# make sure the model is not overfiting.
ml.score(test[X], test[y])
0.9124088322890126

이 모델은 날마다 판매량이 얼마나 될지 예측할 수 있습니다. 하지만 정말로 원하는 일에 맞는 모델일까요? 다시 말해 사람들이 아이스크림 가격에 더 민감한 날을 이 모델로 가려낼 수 있을까요? 가격 민감도에 따라 가격을 얼마로 매길지 정하는 데 도움이 될까요?

어느 모델이 더 쓸모 있는지 보기 위해, 두 모델을 대상 세분화에 써 보겠습니다. 모델마다 대상을 두 그룹으로 나눕니다. 한 그룹은 가격 인상에 크게 반응하고 다른 그룹은 그렇지 않기를 기대합니다. 그렇게 된다면 이 그룹들을 중심으로 사업을 운영할 수 있습니다. 반응이 큰 그룹에 속하는 날에는 가격을 너무 높게 잡지 않는 편이 좋습니다. 반응이 작은 그룹에서는 판매량을 크게 걱정하지 않고 가격을 올릴 수 있습니다.

코드
bands_df = pred_sens3.assign(
    sens_band = pd.qcut(pred_sens3["pred_sens"], 2), # create two groups based on sensitivity predictions 
    pred_sales = ml.predict(pred_sens3[X]),
    pred_band = pd.qcut(ml.predict(pred_sens3[X]), 2), # create two groups based on sales predictions
)

bands_df.head()
temp weekday cost price sales pred_sens sens_band pred_sales pred_band
2648 18.6 7 0.5 10 185 -10.301045 (-10.597999999999999, -0.00555] 186.878081 (161.089, 198.735]
2456 26.0 3 0.5 10 200 0.036165 (-0.00555, 1.389] 203.188327 (198.735, 257.746]
4557 23.7 3 0.3 8 192 -0.132057 (-10.597999999999999, -0.00555] 188.800637 (161.089, 198.735]
4884 28.9 4 1.5 6 213 0.860663 (-0.00555, 1.389] 210.430813 (198.735, 257.746]
92 23.7 1 0.5 8 207 -9.953698 (-10.597999999999999, -0.00555] 209.044522 (198.735, 257.746]

다음으로 두 세분화 방식 중 어느 쪽이 더 나은지 비교해야 합니다. CATE 모델 평가는 다음 장에서야 다룰 예정이라 조금 앞서 나가는 것일 수도 있지만, 어떤 느낌인지 맛보기 정도는 보여 드릴 수 있을 것 같습니다. 이런 분할 방식이 얼마나 좋은지(여기서 좋다는 건 쓸모 있다는 뜻입니다) 확인하는 아주 간단한 방법은 분할마다 가격과 판매량의 회귀선을 그려 보는 것입니다. Seaborn의 regplot과 FacetGrid를 함께 쓰면 쉽게 그릴 수 있습니다.

아래는 민감도 예측값으로 나눈 분할입니다. 이 모든 작업은 테스트 셋에서 한다는 점을 기억하세요.

코드
g = sns.FacetGrid(bands_df, col="sens_band")
g.map_dataframe(sns.regplot, x="price", y="sales")
g.set_titles(col_template="Sens. Band {col_name}");

보다시피 이 분할 방식은 쓸모가 있어 보입니다. 첫 번째 분할은 가격 민감도가 높습니다. 가격이 오르면 판매량이 크게 떨어집니다. 반면 두 번째 분할에서는 가격이 올라도 판매량이 거의 그대로입니다. 오히려 가격을 올릴수록 판매량이 늘어나는 것처럼 보이기까지 하지만, 아마 잡음일 것입니다.

머신러닝 예측 모델로 나눈 분할과 비교해 봅시다.

코드
g = sns.FacetGrid(bands_df, col="pred_band")
g.map_dataframe(sns.regplot, x="price", y="sales")
g.set_titles(col_template="Pred. Band {col_name}");

저는 이 그래프가 정말 마음에 듭니다. 아주 중요한 점을 보여 주기 때문입니다. 보다시피 예측 모델의 분할은 대상을 y축 방향으로 나눕니다. 첫 번째 분할에 속한 날에는 아이스크림이 많이 팔리지 않고, 두 번째 분할에 속한 날에는 더 많이 팔립니다. 이 점이 정말 놀랍습니다. 예측 모델이 정확히 제 할 일, 즉 판매량 예측을 해내고 있기 때문입니다. 이 모델은 아이스크림이 적게 팔릴 날과 많이 팔릴 날을 구분할 수 있습니다.

문제는 여기서는 그 예측이 별로 쓸모가 없다는 것입니다. 결국 알고 싶은 것은 언제 가격을 올려도 되고 언제 올리면 안 되는지입니다. 그런데 예측 모델로 나눈 분할에서 직선의 기울기를 보면 별로 다르지 않습니다. 다시 말해 예측 모델이 나눈 두 분할은 가격 인상에 반응하는 정도가 거의 같습니다. 이래서는 가격을 올려도 되는 날이 언제인지 알 수 있는 실마리가 별로 없습니다. 가격이 판매량에 전혀 영향을 주지 않는 것처럼 보이기 때문입니다.

핵심 요약

드디어 조건부 평균 처치효과라는 개념을 정식으로 정리하고, 이것이 개인화에 어떻게 쓰일 수 있는지 살펴봤습니다. 각 대상이 처치에 어떻게 반응하는지 이해할 수 있다면, 즉 처치효과의 이질성을 이해할 수 있다면 대상의 개별 특성에 따라 가장 좋은 처치를 줄 수 있습니다.

또 이 목표를 예측 모델의 목표와 대비해 봤습니다. 추정 과제를 \(Y\) 자체를 예측하는 것에서 \(Y\)가 \(T\)에 따라 어떻게 변하는지, 즉 \(\frac{\delta y}{\delta t}\)를 예측하는 것으로 다시 생각해 본 것입니다.

아쉽게도 이런 모델을 어떻게 만들어야 하는지는 전혀 분명하지 않습니다. 민감도는 직접 관측할 수 없으니 이를 예측하는 모델을 만들기 어렵습니다. 하지만 선형회귀가 구원 투수로 등장했습니다. \(Y\)를 예측하도록 적합한 회귀 모델을 이용해 \(\frac{\delta y}{\delta t}\)도 예측하는 방법을 찾았습니다. 처치와 특성의 상호작용 항도 넣어야 했습니다. 그 덕분에 고객마다 민감도 예측값이 달라졌습니다. 다시 말해 이제 \(E[Y'(t) | X]\)를 추정하게 된 것입니다. 이렇게 얻은 민감도 예측값으로 대상을 처치에 더 민감한 그룹과 덜 민감한 그룹으로 나눴고, 결국 그룹마다 처치 수준을 정하는 데 도움을 받았습니다.

여기서 자연스럽게 떠오르는 질문이 하나 있습니다. 선형회귀 대신 일반적인 머신러닝 모델을 써서 민감도를 예측할 수 있을까요? 답은 ’그렇다’이지만 몇 가지 주의할 점이 있습니다. 이 장에서 아주 단순한 CATE 모델을 쓴 것은 선형회귀로 설명해야 그 바탕에 깔린 개념을 이해하기 쉽다고 생각했기 때문입니다. 그래도 걱정하지 마세요. 앞으로 나올 장에서 더 정교한 모델을 살펴볼 것입니다. 다만 그 전에 아주 중요한 주제부터 다뤄야 합니다. 두 CATE 모델을 비교해 어느 쪽이 더 나은지 판단하는 방법입니다.

참고 자료

여기 쓴 내용은 대부분 제 머릿속에서 나온 것으로, 경험으로 배운 것들입니다. 그래서 직접 소개할 참고 문헌이 없고, 좋은 과학이라면 보통 거치는 학계의 엄밀한 검증도 통과하지 않았습니다. 실무에서 통하는 것들을 이야기하면서도 왜 그런지는 길게 설명하지 않았다는 점을 눈여겨보세요. 말하자면 길거리 과학인 셈입니다. 대신 누구나 검토할 수 있게 공개해 두었으니, 터무니없는 내용을 발견하면 주저하지 말고 이슈를 열어 주세요. 최선을 다해 답하겠습니다.

기여하기

Causal Inference for the Brave and True는 과학의 통계학이라 할 수 있는 인과추론을 다루는 오픈소스 자료입니다. 파이썬 기반의 무료 소프트웨어만 사용하며, 돈이 없어도, 배경지식이 많지 않아도 누구나 볼 수 있는 자료를 목표로 합니다. 이 책이 도움이 되었고 후원하고 싶다면 Patreon을 방문해 주세요. 금전적으로 기여하기 어렵다면 오타를 고치거나, 수정할 부분을 제안하거나, 이해하기 어려웠던 부분에 의견을 주는 것으로도 도울 수 있습니다. 책의 저장소에서 이슈를 열어 주세요. 마지막으로 이 내용이 마음에 들었다면 도움이 될 만한 사람들과 공유하고 GitHub에서 스타를 눌러 주세요.

힌트옮긴이

한국어판의 오역이나 오탈자는 한국어판 이슈 페이지에 알려 주세요. 한국어판이 도움이 되었다면 한국어판 저장소에도 스타를 부탁드립니다.

의견 나누기

번역이 어색한 곳, 더 쉬운 설명, 궁금한 점을 남겨 주세요. GitHub 계정으로 로그인하면 댓글을 달 수 있고, 남긴 의견은 GitHub Discussions에 장별로 모입니다.