多項式回帰(PolynomialFeatures)における係数、パラメータ等のメモ

説明変数x_1,x_2とし(切片は考えない)、次数(degree)を1として考えると

y=ax_1+bx_2

によってできた多項式の係数は係数項の行列順(sklearnモデルのでcoef_等で出力される順)は

[a,b]

の順番である。 同様に次数(degree)を2として考えると、交互作用項を含む形で出力され

y=ax_1+bx_2+c{x_1}^2+d{x_1}{x_2}+e{x_2}^2

[a,b,c,d,e]

の順である。

切片(1の行列)を含む場合は

y=f*1+ax_1+bx_2+c{x_1}^2+d{x_1}{x_2}+e{x_2}^2

[f,a,b,c,d,e]

の順である

パラメータに関して

interaction_only : True にすると交互作用項だけを出力する

include_bias : バイアス項を入れる。デフォルトではTrueになっているので消したほうがよい。(lassoを含めsklearnのモデルでは係数項があるため)

www.haya-programming.com