Rで機械学習:勾配ブースティング(分類)

# ライブラリの読み込み
library(xgboost)
library(caret)
library(dplyr)

# 再現性のための乱数シード設定
seed <- 20250817
set.seed(seed)

# データ生成
n_customers <- 1000
# 解約する顧客のデータ (リスクが高いプロファイル)
churn_yes <- data.frame(
  tenure = rpois(200, lambda = 8),
  monthly_charges = rnorm(200, mean = 90, sd = 15),
  technical_support_calls = rpois(200, lambda = 3),
  contract_type = factor(sample(c("月契約", "1年契約", "2年契約"), 200, replace = TRUE, prob = c(0.8, 0.15, 0.05))),
  has_streaming_tv = factor(sample(c("はい", "いいえ"), 200, replace = TRUE, prob = c(0.4, 0.6))),
  churn = "はい"
)
# 継続する顧客のデータ (リスクが低いプロファイル)
churn_no <- data.frame(
  tenure = rpois(800, lambda = 40),
  monthly_charges = rnorm(800, mean = 65, sd = 20),
  technical_support_calls = rpois(800, lambda = 0.8),
  contract_type = factor(sample(c("月契約", "1年契約", "2年契約"), 800, replace = TRUE, prob = c(0.3, 0.4, 0.3))),
  has_streaming_tv = factor(sample(c("はい", "いいえ"), 800, replace = TRUE, prob = c(0.6, 0.4))),
  churn = "いいえ"
)
customer_data <- rbind(churn_yes, churn_no)
customer_data$churn <- factor(customer_data$churn, levels = c("はい", "いいえ")) # 「はい」を陽性クラスに

# 1. データを訓練用とテスト用に分割
# データを訓練用(80%)とテスト用(20%)に分割します。
train_indices <- createDataPartition(customer_data$churn, p = 0.8, list = FALSE)
train_data <- customer_data[train_indices, ]
test_data <- customer_data[-train_indices, ]

# 2. クロスバリデーションの設定
# 分類タスクでは、ROCなどを計算するためsummaryFunctionとclassProbsを設定
cv_control <- trainControl(
  method = "cv", number = 10,
  summaryFunction = twoClassSummary,
  classProbs = TRUE
)

# 3. チューニングするハイパーパラメータのグリッドを作成
xgb_grid_class <- expand.grid(
  nrounds = c(50, 100),
  max_depth = 6,
  eta = 0.1,
  gamma = 0,
  colsample_bytree = 0.8,
  min_child_weight = 1,
  subsample = 0.8
)

# 4. モデルの学習とチューニング
# 評価指標(metric)として、クラスの不均衡に強い"ROC"を指定
xgb_model_class <- train(
  churn ~ .,
  data = train_data,
  method = "xgbTree",
  trControl = cv_control,
  tuneGrid = xgb_grid_class,
  metric = "ROC",
  verbosity = 0
)

cat("--- 定量的な評価結果 ---\n")
cat("■ クロスバリデーションによるチューニング結果:\n")
print(xgb_model_class)

# 5. 最終的なモデル性能の評価
cat("\n■ テストデータによる最終性能評価:\n")
cat("チューニングで得られた最適なモデルを、未知のテストデータに適用し、その性能を評価します。\n")
predictions_class <- predict(xgb_model_class, test_data)

# 混同行列(Confusion Matrix)で性能を評価
# positive="はい"で、「はい」を正しく予測できたかを基準に評価
conf_matrix <- confusionMatrix(predictions_class, test_data$churn, positive = "はい")
print(conf_matrix)