CONCEPT / probability
随机变量与概率分布:从随机结果到可计算的数值规律
把随机变量定义为样本空间上的可测函数,统一理解分布函数、概率质量函数、概率密度、支持集与变量变换。
本页目标
- 从概率空间出发区分样本点、事件、随机变量取值和取值集合。
- 使用分布函数统一计算离散、连续与混合分布的区间概率。
- 判断概率质量函数与概率密度的适用条件,避免把密度值当作点概率。
- 通过原像或分布函数法求一维变量变换后的分布。
本页目录
从随机试验到数值问题
概率空间 描述随机试验可能出现的基本结果、允许讨论的事件以及事件概率。掷两次硬币时,一个样本点可以写成“正反”,事件“恰有一次正面”则包含“正反”和“反正”两个样本点。许多实际问题并不关心样本点的全部细节,而只关心由结果计算出的数值,例如正面次数、等待时间、总损失或传感器读数。
随机变量把每个基本结果映射为一个数:
名称中的“变量”容易造成误解。 在数学上是一条确定的函数;随机性来自输入样本点 尚未确定。试验一旦给出 ,取值 便被函数规则唯一确定。不同随机变量可以定义在同一个概率空间上,分别提取同一试验的不同特征。
随机变量的严格定义
给定概率空间 ,若函数 满足对每个实数 ,集合
则称 为实值随机变量。该条件称为可测性。
可测性保证由数值条件产生的原像是可赋概率的事件。于是下式中的概率具有定义:
具有意义。在有限或可数样本空间的初等问题中,若 包含全部子集,可测性通常自动满足;在连续样本空间和极限运算中,它是确保概率表达式合法的必要结构。
应区分四个对象: 是函数, 是某个样本点下的数值, 是事件, 是数。把这些层次混在一起会产生“事件等于概率”或“随机变量等于一次观测值”等类型错误。
分布是从样本空间推送到数轴的概率
随机变量 的分布把实数集合 的概率定义为
是集合 在样本空间中的原像。分布只记录 的取值规律,不保留产生这些值的全部样本机制。两个随机变量可以定义在完全不同的试验上,只要对每个可测集合给出相同概率,它们就具有相同分布。
分布函数又称累积分布函数,定义为
它适用于离散、连续和混合随机变量,具有四项基本性质:值域位于 ;随 单调不减;右连续;当 时趋于零、当 时趋于一。反过来,满足这些性质的函数可以确定某个实值概率分布。
区间概率可由分布函数统一计算。例如
而点概率由跳跃大小给出:
其中 表示从左侧趋近 的极限。端点是否包含必须与公式一致,离散分布在端点处可能有正的点质量。
离散分布与概率质量函数
若 的可能取值至多可数,可定义概率质量函数
它满足 且对全部可能取值求和为一。任意集合的概率通过求和得到:
离散分布的分布函数是阶梯状的,每个取值处的跳跃高度等于该点的概率质量。支持集是质量为正的取值集合。写概率表时既要列出取值,也要核对概率非负、总和为一;缺少取值或重复计数都会破坏归一化。
例题一:两次掷硬币的正面次数
独立掷两次公平硬币,取
四个样本点概率均为 。令 表示正面次数,则
把相同取值对应的样本点概率相加,得到
分布函数按区间写成
例如 。若问题改为 ,左端点的质量也应包含,答案为一。这个例子显示随机变量可能把多个样本点压缩为同一数值,分布的质量来自相应原像的概率总和。
还可从阶梯图读取每个点质量:零、一、二处的跳跃依次为四分之一、二分之一、四分之一,跳跃总和正好为一。
连续分布与概率密度
若存在非负函数 ,使每个区间概率满足
且 ,则称分布绝对连续, 是概率密度。此时
在分布函数可导的点有 。
密度不是点概率。连续随机变量在任意单点的概率都为零,因为长度为零的区间积分为零;概率来自区间下面积。密度值可以大于一,只要总积分为一。例如区间 上的均匀密度为 ,每个点的概率仍为零,而整个区间的概率为一。
并非每个分布都有密度。离散分布的分布函数含跳跃;混合分布可以同时包含点质量和连续部分;更一般的分布甚至既无离散质量表也无普通密度。分布函数是三类情形都可使用的共同表示。
支持集、参数与同名分布
支持集描述概率集中的取值范围。离散分布常把支持写成具体集合,连续密度则应说明在哪些区间为正。公式离开支持集后通常取零。只写 而不写 ,无法确定合法分布,因为同一表达式在整条实线上既不非负归一,也不具有有限积分。
分布族还带有参数。只取零和一、用参数表示成功概率的模型称为 Bernoulli 分布;指数分布的率参数决定等待尺度,正态分布由均值和方差决定位置与扩散。相同分布族的不同参数给出不同分布;符号约定也需核对,例如指数分布有时使用率 ,有时使用尺度 。
随机变量的函数与原像
给定随机变量 和确定函数 ,新变量 仍是从样本空间到数轴的函数。求 的分布时,可靠起点是原像:
若 严格单调且可逆,可以把不等式转换到 ;若 非单调,必须合并多个原像区间。对连续变量,单调可微变换常写成密度公式
绝对值来自区间长度缩放。非一一映射需要对全部逆分支求和,直接代入单个平方根会漏掉概率质量。
例题二:均匀变量平方后的分布
设 在 上均匀,密度为 。令 。显然 的支持集为 。当 时,
因此完整分布函数为
在 上求导得到
密度在 时趋于无穷,但积分仍有限:。该尖峰表示许多靠近零的正负 值经平方后聚集到较小的 区间,不表示 为无穷或为正;单点概率仍为零。
作为复核,;回到原变量,这正是 。两条计算路径给出相同结果。
在支持端点处,分布函数从零连续进入 ,并在一处达到一;没有跳跃也再次说明 不含点质量。
反例与常见误解
随机变量首先是一条定义在样本空间上的确定函数。数据表中的观测值是该函数在多次试验结果上的实现。没有样本空间和映射规则时,一串数可以是固定序列、测量结果或模拟输出,不能仅凭外观判断其概率模型。
令 当 ,其余位置为零。该密度最大值为二,但非负且总积分 ,所以是合法密度。概率由面积给出,例如 。把密度限制在 是把密度值误当成概率。
均匀分布在 上对每个单点都给出零概率,但一次试验仍会得到区间中的某个数。概率为零表示该单点事件在连续模型下没有正质量,不等于逻辑上的空事件。实际测量还有有限精度,仪器报告“等于某值”通常对应一个舍入区间。
密度还必须在支持集上积分为一。 若限定 是归一化密度;若把相同公式放在整条实线上,负方向积分发散。支持集与归一化常数属于定义的一部分。
适用条件与模型检查
用分布建模前应明确试验单位、取值精度、支持集和抽样机制。计数数据通常离散,测量值常用连续近似,但传感器饱和、四舍五入和检测下限可能造成点质量或截断。选择常见分布族还要核对生成机制:二项模型要求固定试验次数和相同成功概率,指数等待模型依赖特定无记忆结构,正态模型不适合直接表示必为正且严重偏斜的量。
经验直方图和经验分布函数可以帮助检查形状,却不能凭有限样本证明总体分布。参数拟合、拟合优度和模型比较属于后续统计推断;当前层次先保证随机变量、事件、分布函数与密度的对象类型清楚。
练习
随机变量 取值 ,对应概率分别为 。写出分布函数,并计算 。
查看解答
当 时 ;当 时为 ;当 时为 ;当 时为一。所求概率为 ,左端点不包含,所以去掉 的质量。
函数 在 上作为密度,其余位置为零。求 ,再求 。
查看解答
归一化要求 ,故 。于是 。点 是否包含不影响连续分布的结果。
设 在 上均匀,。用分布函数法求 的分布,并解释为什么不能只比较两个变量的取值范围。
查看解答
对 , ,区间外分别为零和一,所以 也服从 均匀分布。相同支持集并不能单独确定分布;这里还利用了 的均匀概率和变换对区间长度的保持。
知识关系
- 概率公理 给事件概率提供非负性、归一化和可列可加基础。
- 函数与图像 提供映射、原像、单调性和复合函数语言。
- 离散概率分布 系统研究可数支持上的 Bernoulli、二项、几何和 Poisson 模型。
- 连续概率分布 研究密度、积分以及均匀、指数和正态分布。
- 联合分布与条件分布 把一个随机变量推广到多个变量的共同取值规律。
- 期望、方差与协方差 从分布提取中心、尺度和共同变化的数值摘要。
可信资源
MIT 6.041SC Probabilistic Systems Analysis and Applied Probability
John Tsitsiklis
课程包含讲授、习题、解答和考试,适合系统检验概率计算。
打开官方来源MIT OpenCourseWare 的概率课程材料从概率空间、离散与连续随机变量进入联合分布,可用于核对分布函数、密度和变量变换的标准推导。
Introductory Statistics 2e
Barbara Illowsky, Susan Dean
提供大量分步例题和练习,适合巩固分布、期望、方差与协方差的计算。
打开官方来源OpenStax 官方开放教材提供离散随机变量、连续分布和应用例题,适合结合图表练习区分概率质量、密度与累积概率。正文中的两个例题均已给出完整样本空间或密度条件,可以独立复算。
两项资源分别偏向理论课程与入门统计应用。对照阅读时应保持事件端点、支持集和参数化一致,再比较不同教材使用的符号。
后续学习
先分别阅读 离散概率分布 与 连续概率分布,熟悉典型分布族的支持和参数;随后进入 期望、方差与协方差,学习如何从完整分布提取可运算摘要。可以先为同一取值范围构造两个不同分布函数,检验“支持相同不代表分布相同”。需要研究多个量之间的依赖时,再学习 联合分布与条件分布,用联合与边缘分布处理多变量问题。