計量経済学の第一歩を読んでいて目的変数を対数変換するログレベル回帰が話に出てきたが、
リンク関数がlogの線形回帰とどう違うのか分からなかったので、その違いについてまとめた。

正直、対数変換と一般化線形モデル - DTAL(旧RCEAL)留学記録のほうがわかりやすいのでこの記事を読むべき。

違い

αを傾き、βを切片、ϵを誤差項とする。

ログレベル回帰 (log-level regression)

lny=αx+β+ϵ

ログレベル回帰では目的変数yを対数変換し、lnyαx+βの差を最小化する。
このとき、誤差項ϵは右辺に存在する。

yをオリジナルスケールに戻すと、

y=expαx+β+ϵ

となる。
つまり、誤差項は指数変換した正規分布(=対数正規分布)にしたがう。

ln(y+ϵ)=αx+β

対数リンク関数を使用した線形回帰では、誤差項ϵは左辺に存在する。

yをオリジナルスケールに戻すと、

y=expαx+β+ϵ

となり、誤差項は正規分布にしたがう。

使い分け

オリジナルスケールに戻したときの誤差構造によると言える。
つまり、誤差が正規分布にしたがうと仮定しているなら対数リンク線形回帰、
誤差が対数正規分布にしたがうと仮定しているならログレベル回帰を使用する。

statsmodelsで比較

本書で使用されている5_1_income.csvを使用する。
このcsvには

  • yeduc: 教育年数
  • income: 収入
  • lincome: yeducを対数変換したもの
  • lyeduc: incomeを対数変換したもの

の4つのカラムが含まれている。

教育年数から収入を説明するモデルを、

  • ログレベル回帰 (yeduclincomeを説明する)
  • 対数リンク線形回帰 (yeducincomeを説明する)

の2パターンで作成する。

Loading
Sorry, something went wrong. Reload?
Sorry, we cannot display this file.
Sorry, this file is invalid so it cannot be displayed.

推定した回帰パラメータの値は微妙に異なっており、
ログレベル回帰と対数リンク線形回帰は別物であることがわかる。

参考