An Ensemble Approach to CATE estimation with Super Learner in RCTs

Abstract

Previous studies have focused on average treatment effects rather than individual treatment effects in causal inference. Recently, with the growing interest in precision medicine, there has been a substantial increase in research on Conditional Average Treatment Effect (CATE) estimation and Individualized Treatment Rules (ITR). CATE estimation is a method for estimating the average treatment effect for individuals with identical feature attributes. Various parametric and non-parametric methods have been proposed for CATE estimation, but recent studies indicate that no method has been found to be uniformly superior to the others across all criteria. To address this inconsistency, one study applied an ensemble method, such as causal stacking, to improve the consistency of CATE estimation. In this context, we proposed the Super Learner approach for CATE estimation to improve the performance metrics. Super Learner has the advantage of dividing data using cross-validation, which helps prevent overfitting and enables the generation of optimal results, compared to stacking or other methods. Simulation results demonstrate that the proposed method has less MSE and outperformed in various performance metrics. These results indicate that, instead of relying on a single CATE estimation method for treatment decisions, utilizing the Super Learner to combine results from multiple methods provides a more robust and reliable framework for optimizing patient care. Furthermore, the Super Learner approach proves to be a practical and effective tool for developing individualized treatment rules, offering significant potential for optimizing patient care.

이전 연구들은 인과 추론에서 개별 치료 효과보다는 평균 치료 효과에 초점을 맞춰왔다. 그러나 정밀 의학에 대한 관심이 높아짐에 따라, 최근에는 조건부 평균 치료 효과(CATE) 추정과 개별 치료 규칙(ITR)에 대한 연구가 크게 증가하고 있다. CATE 추정은 동일한 특성 속성을 가진 집단에 대한 평균 치료 효과를 추정하는 방법이다. CATE 추정을 위해 다양한 모수적(parametric) 및 비모수적(non-parametric) 방법이 제안되었으나, 최근 연구들은 특정 기준에서 모든 방법보다 항상 우수한 방법은 없다는 것을 보여준다. 이러한 한계를 해결하기 위해, 한 연구에서는 인과 스태킹(causal stacking)과 같은 앙상블 방법을 적용하여 CATE 추정의 일관성을 향상시키고자 하였다. 이러한 맥락에서, 우리는 다양한 성능평가 지표에서 우수한 결과를 얻기 위해 Super Learner를 활용한 CATE 추정방법을 제안했다. Super Learner는 데이터를 교차 검증(cross-validation)을 사용하여 분할하는 장점이 있어 과적합(overfitting)을 방지하고, 스태킹이나 다른 개별 추정방법들에 비해 최적의 결과를 도출할 수 있다. 시뮬레이션 결과, 본 논문에서 제안한 방법은 다른 방법들에 비해 MSE가 더 낮았으며 다양한 성능 지표에서 우수한 성능을 보였다. 이러한 결과는 치료 결정을 위해 단일 CATE 추정 방법에 의존하기보다는 여러 방법의 결과를 결합하기 위해 Super Learner를 활용하는 것이 더 견고하고 신뢰할 수 있는 환자 치료 최적화 프레임워크를 제공함을 시사한다. 결과적으로 Super Learner 접근법은 개별화된 치료 규칙을 개발하는 데 있어 실질적이고 효과적인 도구가 될 수 있고 환자 치료 최적화를 위한 상당한 가능성을 제공할 것이라 예상한다.