طرق Bootstrap للانحراف المعياري

Bootstrap: الثورة الإحصائية في عصر الحاسوب

إعادة العينات بطريقة Bootstrap هي تقنية إحصائية قوية تقدّر توزيع أخذ العينات لأي إحصائية من خلال إعادة أخذ العينات المتكرر من بياناتك المُلاحظة. قدّمها برادلي إيفرون عام 1979، وأحدثت ثورة في الاستدلال الإحصائي من خلال تمكين تحليل إحصاءات معقدة دون الاعتماد على صيغ رياضية أو افتراضات توزيعية.

الرؤية الأساسية وراء Bootstrap بسيطة وأنيقة: عينتك هي أفضل تقدير للمجتمع. من خلال إعادة أخذ العينات من عينتك (مع الإرجاع)، تحاكي ما سيحدث لو استطعت أخذ عينات متكررة من المجتمع. هذا النهج قيّم بشكل خاص للانحراف المعياري، حيث تفترض صيغ فترات الثقة التقليدية التوزيع الطبيعي — وهو افتراض يفشل غالبًا في الممارسة العملية.

أصبح Bootstrap ضروريًا في علم البيانات الحديث لأنه يعمل مع أي إحصائية (الوسيط، الارتباط، معاملات الانحدار، أوزان الشبكة العصبية) ولا يفترض شيئًا عن التوزيع الأساسي لبياناتك.

لماذا Bootstrap للانحراف المعياري؟

تفترض فترات الثقة التقليدية للانحراف المعياري أن بياناتك تأتي من توزيع طبيعي. عندما يفشل هذا الافتراض (وهو شائع)، يمكن أن تكون هذه الفترات خاطئة تمامًا. Bootstrap يوفر بديلاً حرًا من التوزيع.

المزايا الرئيسية لـ Bootstrap للانحراف المعياري:

• لا افتراضات توزيعية: يعمل بنفس الكفاءة مع البيانات الطبيعية والملتوية والثقيلة الأطراف
• أداء مع العينات الصغيرة: غالبًا أكثر دقة من الطرق البارامترية مع n < 30
• يتعامل مع إحصاءات معقدة: نفس النهج يعمل مع الانحراف المعياري المقتطع وMAD أو مقاييس تباين مخصصة
• رؤية بصرية: توزيع Bootstrap يُظهر لك ما يحدث وليس فقط الأرقام النهائية

إجراء Bootstrap

خوارزمية Bootstrap بسيطة بشكل ملحوظ. من عينتك الأصلية المكونة من n ملاحظة:

كم عدد عينات Bootstrap؟ B = 1,000 غالبًا كافٍ للتقديرات التقريبية واختبارات الفرضيات. لفترات الثقة، B = 10,000 يوفر مئينات مستقرة. لفترات BCa بجودة النشر، يُوصى بـ B = 15,000 أو أكثر.

طرق فترات الثقة بـ Bootstrap

توجد عدة طرق لبناء فترات الثقة من عينات Bootstrap، لكل منها مفاضلات:

1. طريقة المئين (الأبسط)

النهج الأكثر بديهية: خذ المئينات من توزيع Bootstrap مباشرة.

لـ 10,000 عينة Bootstrap، هذه هي القيمة رقم 250 والقيمة رقم 9,750 مرتبة. بسيطة لكن يمكن أن تكون متحيزة عندما يكون توزيع Bootstrap ملتويًا.

2. Bootstrap الأساسي (المحوري)

يستخدم العلاقة بين إحصائية العينة وإحصاءات Bootstrap:

حيث θ̂ هو الانحراف المعياري للعينة الأصلية. هذا “يعكس” فترة المئين حول تقدير العينة.

3. BCa (المصحح للتحيز والمُسرَّع)

المعيار الذهبي للدقة. يعدّل BCa لكل من التحيز في توزيع Bootstrap والتسريع (كيف يتغير الخطأ المعياري مع قيمة المعلمة). أكثر تعقيدًا في الحساب لكنه يوفر فترات دقيقة من الدرجة الثانية.

مثال محلول: بيانات غير طبيعية

تأمل 15 قياسًا لأوقات الاستجابة (بالمللي ثانية): 245, 312, 287, 456, 234, 298, 267, 523, 289, 301, 278, 645, 256, 289, 312. هذه البيانات ملتوية نحو اليمين (بعض الاستجابات بطيئة جدًا).

فترة ثقة Bootstrap غير متماثلة (أوسع على الجانب العالي)، مما يعكس الطبيعة الملتوية نحو اليمين للبيانات. فترة مربع كاي لا تلتقط هذا عدم التماثل.

التطبيق بلغة Python

تطبيق Bootstrap كامل مع طرق فترات ثقة متعددة:

import numpy as np
from scipy import stats

def bootstrap_sd_ci(data, n_bootstrap=10000, ci=0.95, method='percentile'):
    """
    Bootstrap confidence interval for standard deviation.

    Parameters:
    -----------
    data : array-like - Original sample
    n_bootstrap : int - Number of bootstrap samples
    ci : float - Confidence level (e.g., 0.95)
    method : str - 'percentile', 'basic', or 'bca'

    Returns:
    --------
    tuple : (lower_bound, upper_bound, bootstrap_sds)
    """
    data = np.array(data)
    n = len(data)
    original_sd = np.std(data, ddof=1)

    # Generate bootstrap samples and calculate SDs
    bootstrap_sds = np.array([
        np.std(np.random.choice(data, size=n, replace=True), ddof=1)
        for _ in range(n_bootstrap)
    ])

    alpha = 1 - ci

    if method == 'percentile':
        lower = np.percentile(bootstrap_sds, 100 * alpha/2)
        upper = np.percentile(bootstrap_sds, 100 * (1 - alpha/2))

    elif method == 'basic':
        lower = 2*original_sd - np.percentile(bootstrap_sds, 100*(1-alpha/2))
        upper = 2*original_sd - np.percentile(bootstrap_sds, 100*alpha/2)

    elif method == 'bca':
        # Bias correction
        prop_less = np.mean(bootstrap_sds < original_sd)
        z0 = stats.norm.ppf(prop_less)

        # Acceleration (jackknife estimate)
        jackknife_sds = np.array([
            np.std(np.delete(data, i), ddof=1) for i in range(n)
        ])
        jack_mean = jackknife_sds.mean()
        a = np.sum((jack_mean - jackknife_sds)**3) / \
            (6 * np.sum((jack_mean - jackknife_sds)**2)**1.5)

        # Adjusted percentiles
        z_alpha = stats.norm.ppf([alpha/2, 1-alpha/2])
        adj_percentiles = stats.norm.cdf(
            z0 + (z0 + z_alpha) / (1 - a*(z0 + z_alpha))
        ) * 100
        lower = np.percentile(bootstrap_sds, adj_percentiles[0])
        upper = np.percentile(bootstrap_sds, adj_percentiles[1])

    return lower, upper, bootstrap_sds

# Example usage
response_times = [245, 312, 287, 456, 234, 298, 267, 523, 289, 301, 278, 645, 256, 289, 312]

for method in ['percentile', 'basic', 'bca']:
    lower, upper, _ = bootstrap_sd_ci(response_times, method=method)
    print(f"{method.upper():12s} 95% CI: [{lower:.1f}, {upper:.1f}]")