了解 statsmodels 线性回归

Question

我正在尝试拟合 statsmodels 库中实现的线性回归模型。

我对 fit() 方法有疑问。假设我有大小为 15 的数据样本，我将其分成 3 个部分并适合模型。调用每个 fit() 是否会正确适合模型，或者它会覆盖以前的值。

import numpy as np
import statsmodels.api as sm

# First call
X = [377, 295, 457, 495, 9] # independent variable
y = [23, 79, 16, 41, 40]    # dependent variable
X = sm.add_constant(X)
ols = sm.OLS(y,X).fit()
#print(ols.summary())

# Second call
X = [243, 493, 106, 227, 334]
y = [3, 5, 1, 62, 92]
X = sm.add_constant(X)
ols = sm.OLS(y,X).fit()
#print(ols.summary())

# Third call
X = [412, 332, 429, 96, 336] 
y = [30, 1, 99, 4, 33]
X = sm.add_constant(X)
ols = sm.OLS(y,X).fit()
#print(ols.summary())

scores = [9, 219, 200, 134, 499]
scores = sm.add_constant(scores)
print(ols.predict(scores))

Answer 1

每次调用 sm.OLS(y,X) 都会创建一个新的模型实例，每次调用 .fit() 都会创建一个包含对基础模型的引用的新结果实例。实例彼此独立，也就是说它们除了可能的基础数据外不共享任何属性。

但是在您的示例中，您为每个回归结果分配了相同的名称 ols，因此名称 ols 仅指最后一个实例。

更多详情：

如果不需要复制，创建像sm.OLS(y,X)这样的模型不会复制数据y和X。具体来说，如果 y 和 X 是 numpy ndarrays，则不需要复制。（从技术上讲，转换和复制行为取决于 np.asarray(y) 和 np.asarray(X)）

重复调用 fit 方法每次都会创建一个新的结果实例，但它们持有对同一模型实例的引用。例如，我们可以使用不同的 cov_type 选项调用拟合，这将使用不同的假设创建参数估计的协方差。

model = sm.OLS(y,X)
ols_nonrobust = model.fit()
ols_hc = model.fit(cov_type="HC3")

在大多数模型中，拟合的所有相关信息都附加到结果实例。在上述情况下，我们可以同时查看两个结果实例，例如比较参数标准误差

ols_nonrobust.bse
ols_hc.bse

statsmodels 在 RLM 和一些时间序列模型中仍有一些案例，其中一些拟合选项可能会改变基础模型。在这种情况下，只有 fit 创建的最后一个结果实例才会具有正确的模型属性。如果我们适合只需要最后一个实例的循环，这些情况就没问题，但如果同时使用多个结果实例并且它们引用相同的底层模型实例，则可能会显示不正确的结果。 http://www.statsmodels.org/devel/pitfalls.html#repeated-calls-to-fit-with-different-parameters

了解 statsmodels 线性回归

Understanding statsmodels linear regression

python

linear-regression

statsmodels