数理知识

文章结构概述

• 基础知识
  • • 数学期望、方差与协方差
    • 常见概率分布及其对应的期望值与方差计算

  • 参数估计相关问题

  • • 一、大数定律及中心极限定理

    • • 1 切比雪夫不等式(Chebyshev)
      • 2 大数定律(Law of Large Numbers)
      • 3 中心极限定理(central limit theorems)
      • 4 对大数定理和中心极限定理的深入理解

    • 二、 点估计(point estimator)

    • • 1 矩估计方法
      • 2 最大似然估计(maximum Likelihood)

    • 三、 区间估计(interval estimate)

    • • 置信区间(confidence interval)

    • 四、 对估计方法的评估标准

    • • 1 无偏性(unbias)
      • 2 效率性
      • 3 相合性(一致性)

Preliminaries

掌握参数估计的相关内容，需具备以下基础知识：

数学期望、方差与协方差

参考：[数理知识]机器学习入门: 概率论与信息论基础 - 数学期望、方差与协方差）

常用概率分布及其期望、方差

参考：[[数理知识]机