深圳幻海软件技术有限公司 欢迎您!

一般线性模型&混合线性模型&广义线性模型【转】

2023-03-22

1、线性回归模型适用于自变量X和因变量Y为线性关系,具体来说,画出散点图可以用一条直线来近似拟合。模型可以表达为:{y=Xβ+εε∼MVN(0,σ2In),其中ε是随机误差,MVN为多元正态分布。模型有几个基本假设:自变量之间无多重共线性;随机误差随从0均值,同方差的正态分布;随机误差项之间无相关关

1、线性回归模型

适用于自变量X和因变量Y为线性关系,具体来说,画出散点图可以用一条直线来近似拟合。

模型可以表达为:{y=Xβ+εε∼MVN(0,σ2In),其中ε是随机误差,MVN为多元正态分布。

模型有几个基本假设:自变量之间无多重共线性;随机误差随从0均值,同方差的正态分布;随机误差项之间无相关关系。

参数使用最小二乘法进行估计。

假设检验有两个,一个是参数的检验,使用t检验;另一个是整个模型的检验,使用F检验,在构造F统计量时,需要把模型的平方和进行分解,会使用到方差分析。

此外,判定系数R2和修正判定系数R¯2都需要使用到方差分析的结果。

2、线性混合模型

我记得我学过,可是没怎么用过。我的理解为在线性模型中加入随机效应项。

模型可以表达为:{Y=Xβ+Zγ+εγ∼MVN(0,G)ε∼MVN(0,R),其中Y,Xβ的意义和线性回归的意义相同,Xβ是固定效应部分,Zγ是随机效应部分,G,R都是协方差矩阵。

同时假定Cov(G,R)=0,即G和R之间无相关关系。

为了使用上的麻烦,统计学家提供了几种协方差的形式供大家使用。

3、广义线性模型

广义线性模型,是为了克服线性回归模型的缺点出现的,是线性回归模型的推广

首先自变量可以是离散的,也可以是连续的。离散的可以是0-1变量,也可以是多种取值的变量。

与线性回归模型相比较,有以下推广

(1)随机误差项不一定服从正态分布,可以服从二项、泊松、负二项、正态、伽马、逆高斯等分布,这些分布被统称为指数分布族。

(2)引入联接函数g(⋅)。因变量和自变量通过联接函数产生影响,即Y=g(Xβ),联接函数满足单调,可导。常用的联接函数有恒等(Y=Xβ),对数(Y=ln⁡(Xβ)),幂函数(Y=(Xβ)k),平方根(Y=Xβ),logit(ln⁡(Y1−Y)=Xβ)等。

根据不同的数据,可以自由选择不同的模型。大家比较熟悉的Logit模型就是使用Logit联接、随机误差项服从二项分布得到模型。
转自https://bbs.pinggu.org/thread-2996069-1-1.html

pt> script"); hm.src = "https://hm.baidu.com/hm.js?843cad737da0ae856cb26e84eafcd9bb"; var s = document.getElementsByTagName("script")[0]; s.parentNode.insertBefore(hm, s); })();