Wikipedia 统计学核心概念 (Wikipedia Statistics Concepts)

来源: Wikipedia (英文维基百科)
编译时间: 2026-06-01
状态: 中英对照编译
基于: Statistical inference, Bayesian statistics 等条目

---

📚 目录 (Table of Contents)

1. 统计推断基础
2. 假设检验
3. 置信区间
4. 贝叶斯统计基础
5. 贝叶斯定理
6. 先验与后验分布
7. 马尔可夫链蒙特卡洛

---

1. 统计推断基础 (Statistical Inference Basics)

英文定义 (English Definition):

Statistical inference is the process of using data analysis to deduce properties of an underlying distribution of probability. Inferential statistical analysis infers properties of a population, for example by testing hypotheses and deriving estimates.

中文翻译 (Chinese Translation):

统计推断是使用数据分析来推断潜在概率分布性质的过程。推断性统计分析推断总体的性质，例如通过假设检验和得出估计。

核心概念 (Key Concepts):

英文	中文	说明
Population	总体	研究对象的全部个体
Sample	样本	从总体中抽取的部分个体
Parameter	参数	描述总体的数值特征
Statistic	统计量	描述样本的数值特征
Estimation	估计	用样本推断参数
Hypothesis testing	假设检验	检验关于参数的假设

推断方法分类 (Inference Methods):

统计推断
├── 参数推断 (Parametric inference)
│   ├── 点估计 (Point estimation)
│   ├── 区间估计 (Interval estimation)
│   └── 假设检验 (Hypothesis testing)
├── 非参数推断 (Nonparametric inference)
│   ├── 秩检验 (Rank tests)
│   └── 自助法 (Bootstrap)
└── 贝叶斯推断 (Bayesian inference)
    ├── 先验分布 (Prior distribution)
    └── 后验分布 (Posterior distribution)

---

2. 假设检验 (Hypothesis Testing)

英文定义:

Hypothesis testing is a statistical method that is used in making statistical decisions using experimental data. It is basically a systematic way of testing claims or ideas about data.

中文翻译:

假设检验是一种使用实验数据做出统计决策的统计方法。它本质上是系统性地检验关于数据的主张或想法的方法。

基本步骤 (Basic Steps):

1. 提出假设 (State the hypotheses)
2. 原假设 (Null hypothesis) H₀

3. 备择假设 (Alternative hypothesis) H₁

4. 选择显著性水平 (Choose significance level)

5. 常用值：α = 0.05, 0.01, 0.10

6. 计算检验统计量 (Calculate test statistic)

7. 如：t 统计量、z 统计量、卡方统计量

8. 计算 P 值 (Calculate p-value)

9. P 值是在原假设为真的情况下，观察到当前或更极端结果的概率

10. 做出决策 (Make a decision)

11. 如果 P < α，拒绝 H₀
12. 如果 P ≥ α，不拒绝 H₀

常见检验类型 (Common Tests):

检验	英文	用途	假设条件
t 检验	t-test	比较均值	正态分布、方差齐性
z 检验	z-test	大样本均值检验	已知方差或大样本
卡方检验	Chi-square test	独立性/拟合优度	期望频数≥5
ANOVA	ANOVA	多组均值比较	正态、方差齐性
Mann-Whitney U	Mann-Whitney U	非参数两样本比较	无需正态假设

P 值的解释 (Interpretation of P-value):

英文:

The p-value is the probability of obtaining test results at least as extreme as the results actually observed, under the assumption that the null hypothesis is correct. A small p-value (typically ≤ 0.05) indicates strong evidence against the null hypothesis.

中文:

P 值是在原假设正确的前提下，获得至少与实际观察结果一样极端的检验结果的概率。较小的 P 值（通常≤ 0.05）表明有强有力的证据反对原假设。

常见误解 (Common Misconceptions):

误解	正确理解
P 值是 H₀为真的概率	P 值是在 H₀为真条件下数据的概率
P > 0.05 证明 H₀正确	P > 0.05 只是证据不足，不能证明 H₀
P 值越小效应越大	P 值受样本量影响，不直接反映效应大小

---

3. 置信区间 (Confidence Intervals)

英文定义:

A confidence interval is a range of values, derived from sample statistics, that is likely to contain the value of an unknown population parameter. The confidence level represents the frequency with which the interval would contain the parameter if the estimation procedure were repeated many times.

中文翻译:

置信区间是从样本统计量导出的一个值范围，可能包含未知总体参数的值。置信水平表示如果重复多次估计过程，区间包含参数的频率。

置信区间公式 (Confidence Interval Formula):

对于总体均值μ的置信区间（已知σ）：

\[ CI = \bar{x} \pm z_{\alpha/2} \cdot \frac{\sigma}{\sqrt{n}} \]

其中： - \(\bar{x}\): 样本均值 (sample mean) - \(z_{\alpha/2}\): 标准正态分布的临界值 (critical value) - \(\sigma\): 总体标准差 (population standard deviation) - \(n\): 样本量 (sample size)

对于总体均值μ的置信区间（未知σ）：

\[ CI = \bar{x} \pm t_{\alpha/2, n-1} \cdot \frac{s}{\sqrt{n}} \]

其中： - \(t_{\alpha/2, n-1}\): t 分布的临界值 - \(s\): 样本标准差

置信水平的解释 (Interpretation of Confidence Level):

英文:

A 95% confidence interval does not mean that there is a 95% probability that the parameter lies within the interval. Rather, it means that if we were to take many samples and construct a confidence interval from each, approximately 95% of those intervals would contain the true parameter.

中文:

95% 置信区间并不意味着参数有 95% 的概率落在区间内。而是说，如果我们抽取许多样本并从每个样本构建置信区间，大约 95% 的区间会包含真实参数。

置信区间 vs 假设检验 (CI vs Hypothesis Testing):

方面	置信区间	假设检验
输出	参数范围	拒绝/不拒绝决策
信息量	提供估计精度	提供显著性
解释	直观易懂	需要理解 P 值
使用场景	参数估计	假设验证

---

4. 贝叶斯统计基础 (Bayesian Statistics Basics)

英文定义:

Bayesian statistics is a theory in the field of statistics based on the Bayesian interpretation of probability where probability expresses a degree of belief in the occurrence of an event. The degree of belief may be based on prior knowledge about the event, such as results from previous experiments, or personal beliefs about the event.

中文翻译:

贝叶斯统计是统计学领域的一个理论，基于概率的贝叶斯解释，其中概率表达对事件发生程度的信念。这种信念程度可以基于关于事件的先验知识，如先前实验的结果，或关于事件的个人信念。

贝叶斯学派 vs 频率学派 (Bayesian vs Frequentist):

方面	频率学派 (Frequentist)	贝叶斯学派 (Bayesian)
概率定义	长期频率	主观信念程度
参数	固定但未知	随机变量，有分布
推断基础	样本数据	先验 + 样本数据
结果解释	置信区间、P 值	后验概率、可信区间
计算复杂度	相对简单	通常更复杂

贝叶斯推断流程 (Bayesian Inference Process):

┌─────────────┐     ┌─────────────┐     ┌─────────────┐
│  先验分布   │  +  │   似然函数  │  →  │  后验分布   │
│   Prior     │     │  Likelihood │     │  Posterior  │
│  P(θ)       │     │  P(D\|θ)    │     │  P(θ\|D)     │
└─────────────┘     └─────────────┘     └─────────────┘
      ↓                   ↓                   ↓
  关于参数的          数据提供的          更新后的
  初始信念            信息                信念

---

5. 贝叶斯定理 (Bayes' Theorem)

英文定义:

Bayes' theorem describes the probability of an event, based on prior knowledge of conditions that might be related to the event. In mathematical terms:

\[ P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)} \]

中文翻译:

贝叶斯定理描述事件的概率，基于可能与该事件相关的条件的先验知识。用数学术语表示：

\[ P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)} \]

公式组件 (Formula Components):

符号	名称	含义
P(A|B)	后验概率 (Posterior)	在 B 发生条件下 A 的概率
P(B|A)	似然 (Likelihood)	在 A 发生条件下 B 的概率
P(A)	先验概率 (Prior)	A 的初始概率
P(B)	证据 (Evidence)	B 的边际概率

贝叶斯定理在统计推断中的应用 (Application in Statistical Inference):

对于参数θ和数据 D：

\[ P(\theta|D) = \frac{P(D|\theta) \cdot P(\theta)}{P(D)} \]

其中： - \(P(\theta|D)\): 后验分布 - 观察到数据 D 后θ的概率分布 - \(P(D|\theta)\): 似然函数 - 给定参数θ时数据 D 的概率 - \(P(\theta)\): 先验分布 - 观察数据前θ的概率分布 - \(P(D)\): 边际似然 - 数据 D 的总概率（归一化常数）

示例：医学诊断 (Example: Medical Diagnosis):

假设： - 某种疾病的患病率为 1%：P(Disease) = 0.01 - 检测的灵敏度为 99%：P(Positive|Disease) = 0.99 - 检测的特异度为 95%：P(Negative|No Disease) = 0.95

问题：如果检测结果为阳性，真正患病的概率是多少？

英文:

Using Bayes' theorem:

P(Disease|Positive) = P(Positive|Disease) × P(Disease) / P(Positive)

P(Positive) = P(Positive|Disease)×P(Disease) + P(Positive|No Disease)×P(No Disease) = 0.99×0.01 + 0.05×0.99 = 0.0594

P(Disease|Positive) = 0.99×0.01 / 0.0594 ≈ 0.167 (16.7%)

中文:

使用贝叶斯定理：

P(患病 | 阳性) = P(阳性 | 患病) × P(患病) / P(阳性)

P(阳性) = P(阳性 | 患病)×P(患病) + P(阳性 | 无病)×P(无病) = 0.99×0.01 + 0.05×0.99 = 0.0594

P(患病 | 阳性) = 0.99×0.01 / 0.0594 ≈ 0.167 (16.7%)

关键洞察 (Key Insight): 即使检测准确率很高（99% 灵敏度，95% 特异度），由于疾病罕见（1% 患病率），阳性结果中真正患病的比例仍然较低（16.7%）。这被称为基础率谬误 (Base Rate Fallacy)。

---

6. 先验与后验分布 (Prior and Posterior Distributions)

先验分布 (Prior Distribution)

英文:

The prior distribution expresses what is known about a parameter before observing the data. Priors can be: - Informative: Based on previous knowledge or expert opinion - Weakly informative: Provides some regularization without strong assumptions - Non-informative: Minimal influence on the posterior

中文:

先验分布表达在观察数据前关于参数的已知信息。先验可以是： - 信息性先验: 基于先前知识或专家意见 - 弱信息先验: 提供一些正则化但没有强假设 - 无信息先验: 对后验影响最小

常见先验类型 (Common Prior Types):

先验	英文	用途	示例
共轭先验	Conjugate prior	数学处理方便	Beta-Binomial
信息性先验	Informative prior	纳入领域知识	基于文献的参数
无信息先验	Non-informative prior	让数据说话	均匀分布、Jeffreys 先验
正则化先验	Regularizing prior	防止过拟合	高斯先验 (L2 正则)

共轭先验示例 (Conjugate Prior Example):

Beta-Binomial 共轭:
- 似然：Binomial(n, θ)
- 先验：Beta(α, β)
- 后验：Beta(α + k, β + n - k)

其中 k 是成功次数，n 是总试验次数

后验分布 (Posterior Distribution)

英文:

The posterior distribution represents the updated belief about the parameter after observing the data. It combines prior knowledge with the information from the data through Bayes' theorem.

中文:

后验分布表示观察数据后对参数的更新信念。它通过贝叶斯定理将先验知识与数据信息结合起来。

后验分布的性质 (Properties of Posterior):

1. 后验均值 (Posterior Mean)
2. 点估计的一种

3. E[θ|D] = ∫θ·P(θ|D)dθ

4. 后验众数 (Posterior Mode / MAP)

5. 最大后验估计

6. argmax P(θ|D)

7. 可信区间 (Credible Interval)

8. 贝叶斯的区间估计
9. P(θ ∈ CI|D) = 1 - α

后验 vs 置信区间 (Credible Interval vs Confidence Interval):

方面	可信区间 (贝叶斯)	置信区间 (频率)
解释	参数有 95% 概率在区间内	95% 的区间会包含参数
计算	直接从后验分布	基于抽样分布
纳入先验	是	否
直观性	更直观	较难解释

---

7. 马尔可夫链蒙特卡洛 (Markov Chain Monte Carlo, MCMC)

英文定义:

MCMC methods are a class of algorithms for sampling from a probability distribution based on constructing a Markov chain of the desired distribution. The Markov chain is run for a number of steps, and the state at the end is recorded as a sample.

中文翻译:

MCMC 方法是一类基于构建期望分布的马尔可夫链来从概率分布中采样的算法。马尔可夫链运行若干步，结束时的状态被记录为样本。

为什么需要 MCMC？(Why MCMC?):

英文:

In Bayesian inference, the posterior distribution often involves complex integrals that cannot be solved analytically. MCMC provides a way to approximate these distributions by generating samples.

中文:

在贝叶斯推断中，后验分布通常涉及无法解析求解的复杂积分。MCMC 通过生成样本来近似这些分布。

常见 MCMC 算法 (Common MCMC Algorithms):

算法	英文	特点	适用场景
Metropolis-Hastings	Metropolis-Hastings	基础算法，接受 - 拒绝	通用
Gibbs Sampling	Gibbs Sampling	无需调参，逐个变量更新	条件分布已知
Hamiltonian Monte Carlo	HMC	高效，利用梯度信息	高维连续参数
No-U-Turn Sampler	NUTS	HMC 的自适应版本	默认推荐

MCMC 流程 (MCMC Process):

1. 初始化参数 θ₀
   ↓
2. 提议新参数 θ* (从提议分布)
   ↓
3. 计算接受概率 α = min(1, P(θ*|D)/P(θₜ|D))
   ↓
4. 以概率α接受θ*，否则保持θₜ
   ↓
5. 重复步骤 2-4 直到收敛
   ↓
6. 丢弃老化期 (burn-in) 样本
   ↓
7. 使用剩余样本估计后验

收敛诊断 (Convergence Diagnostics):

诊断方法	英文	说明
轨迹图	Trace plot	可视化参数随迭代的变化
R-hat 统计量	Gelman-Rubin statistic	多条链的方差比，应接近 1
有效样本量	Effective sample size	独立样本的等价数量
自相关图	Autocorrelation plot	样本间的自相关性

Python 实现示例 (Python Implementation):

import pymc as pm
import numpy as np

# 数据
data = np.random.normal(0, 1, 100)

# 贝叶斯模型
with pm.Model() as model:
    # 先验
    mu = pm.Normal('mu', mu=0, sigma=10)
    sigma = pm.HalfNormal('sigma', sigma=1)

    # 似然
    likelihood = pm.Normal('y', mu=mu, sigma=sigma, observed=data)

    # MCMC 采样
    trace = pm.sample(2000, tune=1000, chains=4)

# 后验分析
pm.summary(trace)
pm.plot_trace(trace)

---

📊 频率学派 vs 贝叶斯学派对比

完整对比表 (Comprehensive Comparison)

维度	频率学派 (Frequentist)	贝叶斯学派 (Bayesian)
哲学基础
概率定义	长期相对频率	主观信念程度
参数性质	固定但未知	随机变量
推断目标	估计真实参数	更新对参数的信念
方法特点
先验信息	不使用	明确纳入
计算复杂度	通常较低	通常较高 (需 MCMC)
小样本表现	可能不稳定	先验可稳定估计
结果解释
区间估计	置信区间	可信区间
假设检验	P 值、显著性	贝叶斯因子、后验概率
决策依据	错误率控制	期望效用最大化
适用场景
优势场景	大样本、客观推断	小样本、纳入先验
典型应用	A/B 测试、质量控制	医学诊断、风险评估

---

🔑 关键术语对照表 (Glossary)

English	中文	定义
Statistical inference	统计推断	从样本推断总体性质
Hypothesis testing	假设检验	检验关于参数的假设
P-value	P 值	原假设为真时极端结果的概率
Confidence interval	置信区间	参数的可能范围 (频率学派)
Bayesian inference	贝叶斯推断	使用贝叶斯定理更新信念
Prior distribution	先验分布	观察数据前的参数分布
Posterior distribution	后验分布	观察数据后的参数分布
Likelihood	似然	给定参数时数据的概率
Conjugate prior	共轭先验	使后验与先验同族的先验
Credible interval	可信区间	参数的概率区间 (贝叶斯)
MCMC	马尔可夫链蒙特卡洛	从后验分布采样方法
Bayes factor	贝叶斯因子	两个假设的相对证据
Maximum likelihood	最大似然	使数据最可能的参数估计
MAP estimation	最大后验估计	后验概率最大的参数值

---

📖 学习建议 (Study Recommendations)

理解检查 (Comprehension Check)

问题 1: P 值和后验概率有什么区别？

点击查看答案

P 值是在原假设为真条件下数据的概率 P(D|H₀)，而后验概率是在观察到数据后假设为真的概率 P(H|D)。两者含义完全不同。

问题 2: 为什么贝叶斯方法在小样本时更有优势？

点击查看答案

贝叶斯方法可以通过先验分布纳入领域知识，在数据有限时提供正则化，避免过拟合。频率学派方法在小样本时可能不稳定。

问题 3: 共轭先验的好处是什么？

点击查看答案

共轭先验使后验分布与先验分布属于同一分布族，可以解析求解后验，无需数值积分或 MCMC。

---

延伸阅读 (Further Reading)

1. 频率学派统计:
2. Casella, G., & Berger, R. L. (2002). Statistical Inference

3. Wasserman, L. (2004). All of Statistics

4. 贝叶斯统计:

5. Gelman, A., et al. (2013). Bayesian Data Analysis

6. Kruschke, J. K. (2014). Doing Bayesian Data Analysis

7. 在线资源:

8. Statistical Inference (Coursera)
9. Bayesian Statistics (Stanford Online)

---

编译完成时间: 2026-06-01
来源: Wikipedia Statistical inference, Bayesian statistics 等条目
关联文档: decision-science-concepts-zh-en.md

---

**Wikipedia 统计学核心概念 | 中英对照版** [返回顶部](#目录-table-of-contents)