Bootstrapmetoder för standardavvikelse

Bootstrap: Den datorbaserade statistiska revolutionen

Bootstrap-omsampling är en kraftfull statistisk teknik som skattar urvalsfördelningen för valfri statistika genom att upprepat dra nya stickprov ur observerade data. Metoden introducerades av Bradley Efron 1979 och revolutionerade statistisk inferens genom att möjliggöra analys av komplexa statistikor utan att förlita sig på matematiska formler eller fördelningsantaganden.

Grundidén bakom bootstrap är elegant enkel: ditt stickprov är din bästa uppskattning av populationen. Genom att dra nya stickprov ur ditt stickprov (med återläggning) simulerar du vad som skulle hända om du upprepade gånger kunde dra stickprov från populationen. Detta tillvägagångssätt är särskilt värdefullt för standardavvikelse, där traditionella konfidensintervallformler förutsätter normalfördelning – ett antagande som ofta inte håller i praktiken.

Bootstrap har blivit oumbärlig inom modern dataanalys eftersom metoden fungerar med vilken statistika som helst (median, korrelation, regressionskoefficienter, vikter i neurala nätverk) och inte kräver några antaganden om den underliggande fördelningen.

Varför bootstrap för standardavvikelse?

Traditionella konfidensintervall för standardavvikelse förutsätter att data kommer från en normalfördelning. När detta antagande brister (vilket är vanligt) kan intervallen bli kraftigt missvisande. Bootstrap erbjuder ett fördelningsfritt alternativ.

Viktiga fördelar med bootstrap för standardavvikelse:

• Inga fördelningsantaganden: Fungerar lika bra med normalfördelade, skeva eller tungsvansade data
• Bra vid små stickprov: Ofta mer exakt än parametriska metoder när n < 30
• Hanterar komplexa statistikor: Samma tillvägagångssätt fungerar för trimmad SA, MAD eller egna spridningsmått
• Visuell insikt: Bootstrapfördelningen visar dig vad som händer, inte bara slutsiffror

Bootstrapproceduren

Bootstrapalgoritmen är anmärkningsvärt enkel. Utifrån ditt ursprungliga stickprov med n observationer:

Hur många bootstrapstickprov? B = 1 000 räcker ofta för grova skattningar och hypotestest. För konfidensintervall ger B = 10 000 stabila percentiler. För publikationskvalitativa BCa-intervall rekommenderas B = 15 000+.

Metoder för bootstrap-konfidensintervall

Det finns flera metoder för att konstruera konfidensintervall från bootstrapstickprov, var och en med sina avvägningar:

1. Percentilmetoden (enklast)

Det mest intuitiva tillvägagångssättet: ta percentilerna ur bootstrapfördelningen direkt.

För 10 000 bootstrapstickprov är detta det 250:e och det 9 750:e ordnade värdet. Enkelt men kan vara snedvridet när bootstrapfördelningen är skev.

2. Grundläggande (pivotbaserad) bootstrap

Använder sambandet mellan stickprovsstatistikan och bootstrapstatistikorna:

Där θ̂ är den ursprungliga stickprovs-SA:en. Denna metod “speglar” percentilintervallet runt stickprovsskattningen.

3. BCa (Bias-Corrected and Accelerated)

Guldstandarden för precision. BCa justerar för både bias i bootstrapfördelningen och acceleration (hur standardfelet ändras med parametervärdet). Mer komplex att beräkna men ger konfidensintervall med andra ordningens noggrannhet.

Genomarbetat exempel: Icke-normalfördelade data

Betrakta 15 mätningar av svarstider (i ms): 245, 312, 287, 456, 234, 298, 267, 523, 289, 301, 278, 645, 256, 289, 312. Dessa data är högersnedfördelade (några mycket långsamma svar).

Bootstrap-KI:t är asymmetriskt (bredare på den höga sidan), vilket speglar datas högersnedfördelning. Chi-kvadrat-KI:t fångar inte denna asymmetri.

Python-implementering

Komplett bootstrap-implementering med flera KI-metoder:

import numpy as np
from scipy import stats

def bootstrap_sd_ci(data, n_bootstrap=10000, ci=0.95, method='percentile'):
    """
    Bootstrap confidence interval for standard deviation.

    Parameters:
    -----------
    data : array-like - Original sample
    n_bootstrap : int - Number of bootstrap samples
    ci : float - Confidence level (e.g., 0.95)
    method : str - 'percentile', 'basic', or 'bca'

    Returns:
    --------
    tuple : (lower_bound, upper_bound, bootstrap_sds)
    """
    data = np.array(data)
    n = len(data)
    original_sd = np.std(data, ddof=1)

    # Generate bootstrap samples and calculate SDs
    bootstrap_sds = np.array([
        np.std(np.random.choice(data, size=n, replace=True), ddof=1)
        for _ in range(n_bootstrap)
    ])

    alpha = 1 - ci

    if method == 'percentile':
        lower = np.percentile(bootstrap_sds, 100 * alpha/2)
        upper = np.percentile(bootstrap_sds, 100 * (1 - alpha/2))

    elif method == 'basic':
        lower = 2*original_sd - np.percentile(bootstrap_sds, 100*(1-alpha/2))
        upper = 2*original_sd - np.percentile(bootstrap_sds, 100*alpha/2)

    elif method == 'bca':
        # Bias correction
        prop_less = np.mean(bootstrap_sds < original_sd)
        z0 = stats.norm.ppf(prop_less)

        # Acceleration (jackknife estimate)
        jackknife_sds = np.array([
            np.std(np.delete(data, i), ddof=1) for i in range(n)
        ])
        jack_mean = jackknife_sds.mean()
        a = np.sum((jack_mean - jackknife_sds)**3) / \
            (6 * np.sum((jack_mean - jackknife_sds)**2)**1.5)

        # Adjusted percentiles
        z_alpha = stats.norm.ppf([alpha/2, 1-alpha/2])
        adj_percentiles = stats.norm.cdf(
            z0 + (z0 + z_alpha) / (1 - a*(z0 + z_alpha))
        ) * 100
        lower = np.percentile(bootstrap_sds, adj_percentiles[0])
        upper = np.percentile(bootstrap_sds, adj_percentiles[1])

    return lower, upper, bootstrap_sds

# Example usage
response_times = [245, 312, 287, 456, 234, 298, 267, 523, 289, 301, 278, 645, 256, 289, 312]

for method in ['percentile', 'basic', 'bca']:
    lower, upper, _ = bootstrap_sd_ci(response_times, method=method)
    print(f"{method.upper():12s} 95% CI: [{lower:.1f}, {upper:.1f}]")