CONCEPT / probability

随机变量与概率分布:从随机结果到可计算的数值规律

把随机变量定义为样本空间上的可测函数,统一理解分布函数、概率质量函数、概率密度、支持集与变量变换。

尚未开始仅保存在此浏览器
先修probability-axiomsfunctions-and-graphs

本页目标

  1. 从概率空间出发区分样本点、事件、随机变量取值和取值集合。
  2. 使用分布函数统一计算离散、连续与混合分布的区间概率。
  3. 判断概率质量函数与概率密度的适用条件,避免把密度值当作点概率。
  4. 通过原像或分布函数法求一维变量变换后的分布。
本页目录

从随机试验到数值问题

概率空间 (Ω,F,P)(\Omega,\mathcal F,P) 描述随机试验可能出现的基本结果、允许讨论的事件以及事件概率。掷两次硬币时,一个样本点可以写成“正反”,事件“恰有一次正面”则包含“正反”和“反正”两个样本点。许多实际问题并不关心样本点的全部细节,而只关心由结果计算出的数值,例如正面次数、等待时间、总损失或传感器读数。

随机变量把每个基本结果映射为一个数:

X:ΩR.X:\Omega\to\mathbb R.

名称中的“变量”容易造成误解。XX 在数学上是一条确定的函数;随机性来自输入样本点 ω\omega 尚未确定。试验一旦给出 ω\omega,取值 X(ω)X(\omega) 便被函数规则唯一确定。不同随机变量可以定义在同一个概率空间上,分别提取同一试验的不同特征。

随机变量的严格定义

定义

给定概率空间 (Ω,F,P)(\Omega,\mathcal F,P),若函数 X:ΩRX:\Omega\to\mathbb R 满足对每个实数 xx,集合

{ω:X(ω)x}F,\{\omega:X(\omega)\le x\}\in\mathcal F,

则称 XX 为实值随机变量。该条件称为可测性。

可测性保证由数值条件产生的原像是可赋概率的事件。于是下式中的概率具有定义:

P(Xx)=P({ω:X(ω)x})P(X\le x) =P\bigl(\{\omega:X(\omega)\le x\}\bigr)

具有意义。在有限或可数样本空间的初等问题中,若 F\mathcal F 包含全部子集,可测性通常自动满足;在连续样本空间和极限运算中,它是确保概率表达式合法的必要结构。

应区分四个对象:XX 是函数,X(ω)X(\omega) 是某个样本点下的数值,{Xx}\{X\le x\} 是事件,P(Xx)P(X\le x) 是数。把这些层次混在一起会产生“事件等于概率”或“随机变量等于一次观测值”等类型错误。

分布是从样本空间推送到数轴的概率

随机变量 XX 的分布把实数集合 AA 的概率定义为

PX(A)=P(XA)=P(X1(A)).P_X(A)=P(X\in A)=P\bigl(X^{-1}(A)\bigr).

X1(A)X^{-1}(A) 是集合 AA 在样本空间中的原像。分布只记录 XX 的取值规律,不保留产生这些值的全部样本机制。两个随机变量可以定义在完全不同的试验上,只要对每个可测集合给出相同概率,它们就具有相同分布。

分布函数又称累积分布函数,定义为

FX(x)=P(Xx).F_X(x)=P(X\le x).

它适用于离散、连续和混合随机变量,具有四项基本性质:值域位于 [0,1][0,1];随 xx 单调不减;右连续;当 xx\to-\infty 时趋于零、当 xx\to\infty 时趋于一。反过来,满足这些性质的函数可以确定某个实值概率分布。

区间概率可由分布函数统一计算。例如

P(a<Xb)=FX(b)FX(a),P(a < X\le b)=F_X(b)-F_X(a),

而点概率由跳跃大小给出:

P(X=x)=FX(x)FX(x).P(X=x)=F_X(x)-F_X(x^-).

其中 FX(x)F_X(x^-) 表示从左侧趋近 xx 的极限。端点是否包含必须与公式一致,离散分布在端点处可能有正的点质量。

离散分布与概率质量函数

XX 的可能取值至多可数,可定义概率质量函数

pX(x)=P(X=x).p_X(x)=P(X=x).

它满足 pX(x)0p_X(x)\ge0 且对全部可能取值求和为一。任意集合的概率通过求和得到:

P(XA)=xApX(x).P(X\in A)=\sum_{x\in A}p_X(x).

离散分布的分布函数是阶梯状的,每个取值处的跳跃高度等于该点的概率质量。支持集是质量为正的取值集合。写概率表时既要列出取值,也要核对概率非负、总和为一;缺少取值或重复计数都会破坏归一化。

例题一:两次掷硬币的正面次数

例 1:从样本空间构造质量函数和分布函数

独立掷两次公平硬币,取

Ω={HH,HT,TH,TT},\Omega=\{HH,HT,TH,TT\},

四个样本点概率均为 1/41/4。令 XX 表示正面次数,则

X(HH)=2,X(HT)=X(TH)=1,X(TT)=0.X(HH)=2,\quad X(HT)=X(TH)=1,\quad X(TT)=0.

把相同取值对应的样本点概率相加,得到

pX(0)=14,pX(1)=12,pX(2)=14.p_X(0)=\frac14,\qquad p_X(1)=\frac12,\qquad p_X(2)=\frac14.

分布函数按区间写成

FX(x)={0,x<0,14,0x<1,34,1x<2,1,x2.F_X(x)= \begin{cases} 0,&x<0,\\ \frac14,&0\le x<1,\\ \frac34,&1\le x<2,\\ 1,&x\ge2. \end{cases}

例如 P(0<X2)=FX(2)FX(0)=11/4=3/4P(0 < X\le2)=F_X(2)-F_X(0)=1-1/4=3/4。若问题改为 P(0X2)P(0\le X\le2),左端点的质量也应包含,答案为一。这个例子显示随机变量可能把多个样本点压缩为同一数值,分布的质量来自相应原像的概率总和。

还可从阶梯图读取每个点质量:零、一、二处的跳跃依次为四分之一、二分之一、四分之一,跳跃总和正好为一。

连续分布与概率密度

若存在非负函数 fXf_X,使每个区间概率满足

P(a<Xb)=abfX(t)dt,P(a < X\le b)=\int_a^b f_X(t)\,dt,

fX(t)dt=1\int_{-\infty}^{\infty}f_X(t)\,dt=1,则称分布绝对连续,fXf_X 是概率密度。此时

FX(x)=xfX(t)dt,F_X(x)=\int_{-\infty}^{x}f_X(t)\,dt,

在分布函数可导的点有 FX(x)=fX(x)F_X'(x)=f_X(x)

密度不是点概率。连续随机变量在任意单点的概率都为零,因为长度为零的区间积分为零;概率来自区间下面积。密度值可以大于一,只要总积分为一。例如区间 [0,0.1][0,0.1] 上的均匀密度为 1010,每个点的概率仍为零,而整个区间的概率为一。

并非每个分布都有密度。离散分布的分布函数含跳跃;混合分布可以同时包含点质量和连续部分;更一般的分布甚至既无离散质量表也无普通密度。分布函数是三类情形都可使用的共同表示。

支持集、参数与同名分布

支持集描述概率集中的取值范围。离散分布常把支持写成具体集合,连续密度则应说明在哪些区间为正。公式离开支持集后通常取零。只写 f(x)=2xf(x)=2x 而不写 0x10\le x\le1,无法确定合法分布,因为同一表达式在整条实线上既不非负归一,也不具有有限积分。

分布族还带有参数。只取零和一、用参数表示成功概率的模型称为 Bernoulli 分布;指数分布的率参数决定等待尺度,正态分布由均值和方差决定位置与扩散。相同分布族的不同参数给出不同分布;符号约定也需核对,例如指数分布有时使用率 λ\lambda,有时使用尺度 1/λ1/\lambda

随机变量的函数与原像

给定随机变量 XX 和确定函数 gg,新变量 Y=g(X)Y=g(X) 仍是从样本空间到数轴的函数。求 YY 的分布时,可靠起点是原像:

FY(y)=P(Yy)=P(g(X)y).F_Y(y)=P(Y\le y)=P(g(X)\le y).

gg 严格单调且可逆,可以把不等式转换到 XX;若 gg 非单调,必须合并多个原像区间。对连续变量,单调可微变换常写成密度公式

fY(y)=fX(g1(y))ddyg1(y),f_Y(y)=f_X(g^{-1}(y)) \left|\frac{d}{dy}g^{-1}(y)\right|,

绝对值来自区间长度缩放。非一一映射需要对全部逆分支求和,直接代入单个平方根会漏掉概率质量。

例题二:均匀变量平方后的分布

例 2:非单调变换必须合并两个原像

XX[1,1][-1,1] 上均匀,密度为 fX(x)=1/2f_X(x)=1/2。令 Y=X2Y=X^2。显然 YY 的支持集为 [0,1][0,1]。当 0y10\le y\le1 时,

FY(y)=P(X2y)=P(yXy)=2y2=y.F_Y(y)=P(X^2\le y) =P(-\sqrt y\le X\le\sqrt y) =\frac{2\sqrt y}{2}=\sqrt y.

因此完整分布函数为

FY(y)={0,y<0,y,0y<1,1,y1.F_Y(y)= \begin{cases} 0,&y<0,\\ \sqrt y,&0\le y<1,\\ 1,&y\ge1. \end{cases}

0<y<10 < y < 1 上求导得到

fY(y)=12y.f_Y(y)=\frac{1}{2\sqrt y}.

密度在 y0+y\to0^+ 时趋于无穷,但积分仍有限:01(2y)1dy=1\int_0^1(2\sqrt y)^{-1}dy=1。该尖峰表示许多靠近零的正负 XX 值经平方后聚集到较小的 YY 区间,不表示 P(Y=0)P(Y=0) 为无穷或为正;单点概率仍为零。

作为复核,P(Y1/4)=FY(1/4)=1/2P(Y\le1/4)=F_Y(1/4)=1/2;回到原变量,这正是 P(1/2X1/2)=1/2P(-1/2\le X\le1/2)=1/2。两条计算路径给出相同结果。

在支持端点处,分布函数从零连续进入 y\sqrt y,并在一处达到一;没有跳跃也再次说明 YY 不含点质量。

反例与常见误解

随机变量是一串随机变化的数

随机变量首先是一条定义在样本空间上的确定函数。数据表中的观测值是该函数在多次试验结果上的实现。没有样本空间和映射规则时,一串数可以是固定序列、测量结果或模拟输出,不能仅凭外观判断其概率模型。

密度大于一仍可构成合法分布

f(x)=2f(x)=20x1/20\le x\le1/2,其余位置为零。该密度最大值为二,但非负且总积分 2×1/2=12\times1/2=1,所以是合法密度。概率由面积给出,例如 P(0X0.1)=0.2P(0\le X\le0.1)=0.2。把密度限制在 [0,1][0,1] 是把密度值误当成概率。

连续变量点概率为零表示该值不可能出现

均匀分布在 [0,1][0,1] 上对每个单点都给出零概率,但一次试验仍会得到区间中的某个数。概率为零表示该单点事件在连续模型下没有正质量,不等于逻辑上的空事件。实际测量还有有限精度,仪器报告“等于某值”通常对应一个舍入区间。

只要写出非负函数就得到概率密度

密度还必须在支持集上积分为一。f(x)=exf(x)=e^{-x} 若限定 x0x\ge0 是归一化密度;若把相同公式放在整条实线上,负方向积分发散。支持集与归一化常数属于定义的一部分。

适用条件与模型检查

用分布建模前应明确试验单位、取值精度、支持集和抽样机制。计数数据通常离散,测量值常用连续近似,但传感器饱和、四舍五入和检测下限可能造成点质量或截断。选择常见分布族还要核对生成机制:二项模型要求固定试验次数和相同成功概率,指数等待模型依赖特定无记忆结构,正态模型不适合直接表示必为正且严重偏斜的量。

经验直方图和经验分布函数可以帮助检查形状,却不能凭有限样本证明总体分布。参数拟合、拟合优度和模型比较属于后续统计推断;当前层次先保证随机变量、事件、分布函数与密度的对象类型清楚。

练习

练习

随机变量 XX 取值 1,0,2-1,0,2,对应概率分别为 0.2,0.5,0.30.2,0.5,0.3。写出分布函数,并计算 P(1<X2)P(-1 < X\le2)

查看解答

x<1x<-1FX(x)=0F_X(x)=0;当 1x<0-1\le x<0 时为 0.20.2;当 0x<20\le x<2 时为 0.70.7;当 x2x\ge2 时为一。所求概率为 FX(2)FX(1)=10.2=0.8F_X(2)-F_X(-1)=1-0.2=0.8,左端点不包含,所以去掉 X=1X=-1 的质量。

练习

函数 f(x)=c(1x)f(x)=c(1-x)0x10\le x\le1 上作为密度,其余位置为零。求 cc,再求 P(X>1/2)P(X>1/2)

查看解答

归一化要求 c01(1x)dx=c/2=1c\int_0^1(1-x)dx=c/2=1,故 c=2c=2。于是 P(X>1/2)=1/212(1x)dx=1/4P(X>1/2)=\int_{1/2}^1 2(1-x)dx=1/4。点 1/21/2 是否包含不影响连续分布的结果。

练习

XX[0,1][0,1] 上均匀,Y=1XY=1-X。用分布函数法求 YY 的分布,并解释为什么不能只比较两个变量的取值范围。

查看解答

0y10\le y\le1FY(y)=P(1Xy)=P(X1y)=yF_Y(y)=P(1-X\le y)=P(X\ge1-y)=y,区间外分别为零和一,所以 YY 也服从 [0,1][0,1] 均匀分布。相同支持集并不能单独确定分布;这里还利用了 XX 的均匀概率和变换对区间长度的保持。

知识关系

可信资源

lecture · 2013

MIT 6.041SC Probabilistic Systems Analysis and Applied Probability

John Tsitsiklis

课程包含讲授、习题、解答和考试,适合系统检验概率计算。

打开官方来源

MIT OpenCourseWare 的概率课程材料从概率空间、离散与连续随机变量进入联合分布,可用于核对分布函数、密度和变量变换的标准推导。

book · 2023

Introductory Statistics 2e

Barbara Illowsky, Susan Dean

提供大量分步例题和练习,适合巩固分布、期望、方差与协方差的计算。

打开官方来源

OpenStax 官方开放教材提供离散随机变量、连续分布和应用例题,适合结合图表练习区分概率质量、密度与累积概率。正文中的两个例题均已给出完整样本空间或密度条件,可以独立复算。

两项资源分别偏向理论课程与入门统计应用。对照阅读时应保持事件端点、支持集和参数化一致,再比较不同教材使用的符号。

后续学习

先分别阅读 离散概率分布连续概率分布,熟悉典型分布族的支持和参数;随后进入 期望、方差与协方差,学习如何从完整分布提取可运算摘要。可以先为同一取值范围构造两个不同分布函数,检验“支持相同不代表分布相同”。需要研究多个量之间的依赖时,再学习 联合分布与条件分布,用联合与边缘分布处理多变量问题。

作者one-forth-core
最近修订2026-07-11
审阅状态待独立人工审阅