ENTR

Bir ürün deneyinin başarılı olup olmadığını nasıl değerlendirirsin?

Model cevap

Model cevapBaşarı değerlendirmesi deney başladıktan sonra değil, başlamadan önce başlar. Eğer ana metriği ve anlamlılık (significance) eşiğini baştan tanımlamadıysan, p-hacking riskine açıksındır. Deney sonrası şu sorulara bakarsın: Ana metrikte istatistiksel anlamlılığa ulaştık mı? Koruyucu metriklerde ne oldu? Toplam verinin gizlediği segment farkları var mıydı? Ayrıca yenilik etkisini (novelty effect) kontrol edersin, etkileşim ilk gün artıp sonra düştü mü? İyi bir deney sadece metrikleri değil, hipotezi cevaplar.

Framework · A/B Test Tasarımı

  1. HHipotez kontrolü
    Sonuç belirtilen hipotezi doğruladı mı yoksa çürüttü mü? Her iki durumda da dürüst ol
  2. MMetrik bütünlüğü
    Birincil metrik anlamlılığı + koruyucu metrikler — ikisi de geçmeli
  3. SSegment analizi
    Etki bir cohort'ta mı yoğunlaştı? Asıl içgörü burada olabilir
  4. DSüre ve yenilik etkisi
    Etkileşim stabilize oldu mu yoksa sadece geçici bir artış mıydı? 2. ve 3. hafta verilerine bak

İlgili sorular

Metrik & Analiz

Bu kategorideki case çalışmaları

Bu kategoride pratik yap