【仮説検定の方法🔥】帰無仮説はどのような場合に棄却されることになるのだろうか？計量経済学 No.40

2023年12月1日 09:41

今回は、重回帰分析における仮説検定について考察します💛

実際に推計した係数が「統計的に有意」かどうかを判定することが大切になります

今回は、個々の係数に関する仮説検定の方法について解説します📝

Introduction：計量経済学への挑戦🔥

経済学部に通う私も
いよいよ大学「学部」最終年になり
学問に全力を注ぐ時間も限られてきました👍

「知は力なり」という言葉を信じて
残りの大学生生活を満喫したいと思います

学部レベルのマクロ経済学は
個人的によく理解できたつもりです

しかしながら、本当の経済の動向を理解するには、学部レベルの知識ではお話になりません😥
また、正しい計量経済学の知識やデータ分析のリテラシーを会得しなければなりません💦

現実の経済データを、理論モデルと当てはめ
正しい計量手法によって実証分析できる力を醸成したら
きっと将来どこかで活躍できる人財になれる可能性を高めることに繋がると思います

何事もアウトプット前提のインプットが
大事であると、noteで毎日発信してきました
これは、どのような内容で
あっても当てはまります👍

先行研究の論文を一概に読んでも
記憶に残っていなかったり
大切な観点を忘れてしまっていたりしたら
学習の進捗は滞ってしまうと思います

だからこそ、この「note」をフル活用して
自分の知識を1％でも、定着させ
誰にでもわかりやすい解説をアウトプットできるように努めていきたいと思います

なお、前回のお復習いはこちらからご確認ください💗

それでは、私がこれからアウトプットする
計量経済学において最重要なパートである
時系列分析のモデル理論解説を
どうぞ最後まで、ご愛読ください📖

仮説検定の正しいアプローチ📝

今回の投稿では、個々の係数に関する仮説検定と、複数の係数制約についての仮説検定について整理していきます

前者は、t検定を用い、後者は、F検定を用いることになります
なお、個々の係数についての検定では，片側検定と両側検定がありますので、ご留意いただきたいです

今回の投稿では、前者にあたる個々の係数に関する仮説検定（両側検定）についてアウトプットします

個々の係数に関する仮説検定

以下では、個々の係数に関する仮説検定の方法について学びます
まずは、帰無仮説 $H_0: b_j =b_j^0$ 、そして対立仮説 $H_1:b_j ≠b_j^0$ を考えていくことにします

そして、帰無仮説 $H_0$ が真の時、最小二乗推定量 $\bf b$ は、次のような分布になります

$\\{\bf b} \backsim N({\bf b^0 ,\sigma^2(X'X)^{-1}} )$

ここで、 $σ^2$ は誤差項の分散で、未知パラメータです
特に $\bf b$ の要素 $b_j$ の分布は、次の通りになります

$\\b_j \backsim N(b_j^0,\sigma^2 a_{jj})$

ここで、 $a_{jj}$ は、 $\bf (X'X)^{-1}$ の $(j+1,j+1)$ 要素であり、 $a_{jj}=1/S_{xx}^j$ となります

なお、 $S_{xx}^j$ は、説明変数 $x_j$ を他の説明変数および定数項に回帰した残差の平方和、すなわち $x_j$ から他の変数の影響を除去した $x_j$ 固有の平方和となります

すると、ここから以下のような関係が導かれます

$\\\frac{b_j -b_j^0}{\sigma \sqrt{a_{jj}}}\backsim N(0,1)$

ただし、この式の分母には未知パラメータである誤差項の標準偏差σが含まれているので、このままでは適切な仮説検定ができません

そのため、 $σ$ の代わりとして、その最小二乗推定量を用いることになるのです

ここで、誤差項の分散に関する最小二乗推定量を $s^2$ で表すと、 $s^2$ は次の式で与えられることを前回の投稿でも確認しました📝

$\\s^2 =\frac{\bf e'e}{n-(k+1)}=\frac{RSS}{n-(k+1)}$

さらに、残差平方和(RSS)を誤差項の真の分散で割った値は、自由度$${n-(k+1)}のχ2分布に従いますので、次の関係も成り立っているのです

$\\\frac{\bf e'e }{\sigma ^2}=\frac{RSS}{\sigma^2} \\ \\=\frac{(n-(k+1))s^2}{\sigma^2}\backsim \chi^2 (n-(k+1))$

さらに、最小二乗推定量 $b_j$ の標準誤差は、次のような式で与えられます

$\\s.e (b_j)=s \sqrt {a_{jj}}=s/\sqrt{S_{xx}^j}$

ここで、 $z$ が標準正規分布に従う確率変数で、 $x$ が自由度 $m$ のカイ二乗分布に従う確率変数で、互いに独立であるとき、 $z/\sqrt{x/m}$ は、自由度mのt分布に従うことになります（詳細は、統計学の基礎をご参照ください🙏)

すると、 $m=n-(k+1)$ としたとき、以下のような式が成り立つことになります

$\\z =\frac{b_j -b_j^0}{\sigma \sqrt {a_{jj}}}\\ \\ \\\sqrt{\frac{x}{m}}=\sqrt{\frac{RSS/\sigma^2}{n-(k+1)}}\\ \\=\sqrt{\frac{RSS/n-(k+1)}{\sigma^2}}\\ \\=\sqrt{\frac{s^2}{\sigma^2}} =\frac{s}{\sigma}$

この式より、 $z$ と $x$ は、互いに独立であることを示すことができます
ここで、 $z$ と $\sqrt{x/m}$ の比を計算すると、以下のようになります

$\\\frac{z}{\sqrt{x/m}}=\frac{(b_j-b_j^0)/(\sigma \sqrt{a_{jj}})}{ s/ \sigma}\\ \\=\frac{b_j - b_j^0}{s \sqrt{a_{jj}}}=\frac{b_j-b_j^0}{s.e.(b_j)}$

したがって、 $z$ と $\sqrt{x/m}$ の比は、自由度 $m(=n-(k+1))$ のt分布に従うので、結局のところ

$\\\frac{b_j-b_j^0}{s.e.(b_j)} \backsim t(n-(k+1))$

が成立することになります
これが、個々の係数に関する仮説検定の基礎となります

両側検定と片側検定

以下では、帰無仮説が $H_0:b_j=b_j^0$ であり、対立仮説が $H_1:b_j≠b_j^0$ であるとき、推定された $b_j$ が、検定の対象となる $b_j^0$ とあまり離れていなければ、帰無仮説を採択し、そうでなければ、帰無仮説を棄却することになります

いま、推定された係数が $\hat {b_j}$ という特定の値であったとしましょう
すると、帰無仮説を棄却するのは、以下のような関係を満たす場合になります

$\\Pr(|b_j-b_j^0| > |\hat b_j-b_j^0|)<\alpha$

通常は、有意水準 $\alpha$ を5%として検定を行うことになります

つまり、推計された推定値と帰無仮説で想定した係数の距離が、想定した確率分布から考えて、十分にありそうもない場合には、帰無仮説を棄却することになるのです

ここで、 $Pr(|b_j-b_j^0| > | b_j^*-b_j^0|)<\alpha$ を満たすような $b=j^*$ を臨界値、もしくは境界値と呼びます

また、この式を満たすような $b_j$ の範囲を棄却域と呼びます
よって、帰無仮説は推定された係数が棄却域に落ちるとき、棄却することになります
なお、この帰無仮説が $H_0:b_j=b_j^0$ であり、対立仮説が $H_1:b_j≠b_j^0$ であるケースは両側検定と呼ばれています📝

次に、帰無仮説が $H_0:b_j=b_j^0$ であり、対立仮説が $H_1:b_j< b_j^0$ のような仮説検定も考えられます

この場合には、 $Pr(b_j-b_j^0 > \bar b_j-b_j^0)<\alpha$ であれば、帰無仮説を棄却することになります

このような検定は、片側検定と呼ばれます

統計ソフトで回帰分析を行うと、その出力には、回帰係数、標準誤差、t値、p値が出力されます

この場合のt値とは、帰無仮説において係数の真の値が、0だとして計算された統計量となります

つまり、\b_j^0=0の場合の統計量であり、係数の推計値を $b_j$ 、その標準誤差を $s.e.(b_j)$ で表せば、 $b_j/s.e.(b_j)$ が統計ソフトで出力されるt値となります

また、p値とは、係数 $/s.e.(b_j)$ の絶対値が $b_j/s.e.(b_j)$ の絶対値よりも大きくなる確率です🔥
したがって、この値(p value)が、有意水準 $\alpha$ より小さければ、係数の真の値は0であるという仮説は、棄却されるのです

本日の解説はここまでとします🔖

計量経済学モデルの特徴をしっかり理解して、卒業論文を書き進めていきたいと思います💖

なお、本投稿作成における参考文献は以下の通りです

なぜ、計量経済学を学ぶのか？？

計量経済学が時系列解析法を「理論なき計測」として退けるところからスタートしたことでよく知られているのです
1930年に創立された計量経済学会の規約第1条では、計量経済学は「理論的数量的アプローチと経験数量的アプローチの統一」と定義されていました📝
また、R・フリッシュによる『エコノメトリカ』創刊の辞では、「統計学、経済学、数学の三者の統合」と定義されているのです👍

このような定義においては、当時のハーバード景気予測に代表される時系列解析法への批判が強く意識されていたとされています

すなわち、それが29年の大恐慌の予測に失敗したのは，経済理論を無視し、時系列データの形式的な解析のみに終始したからであったということです

今後はそうした「理論なき計測」の立場を退け、「理論に基づく計測」を重視していかなければならない、という見解の重要性が増しています
このような歴史を経て、計量経済学はスタートをきったのでした

そして、何よりマクロ経済変数は
その多くが互いに影響を及ぼし合う相互依存の関係にあり、また過去の変化の影響が持続するという傾向を持ちます
これらの動向を分析したり、将来を予測したりできるようになるためには、計量経済学、ひいては「時系列分析」に対する理論や正しい実証手法への理解が必要不可欠となります
「計量経済学」シリーズの投稿では、こうしたマクロ時系列変数の実証分析に必要な計量理論と手法を習得することを目的とします

これから私がアウトプットする
時系列マクロ経済分析に関する内容について
どうぞ最後までご愛読ください💖

付録：私の卒論研究テーマについて🔖

私は「為替介入の実証分析」をテーマに
卒業論文を執筆しようと考えています📝

日本経済を考えたときに、為替レートによって
貿易取引や経常収支が変化したり
株や証券、債権といった金融資産の収益率が
変化したりと日本経済と為替レートとは
切っても切れない縁があるのです💝
（円💴だけに･･･）

経済ショックによって
為替レートが変化すると
その影響は私たちの生活に大きく影響します

だからこそ、為替レートの安定性を
担保するような為替介入はマクロ経済政策に
おいても非常に重要な意義を持っていると
推測しています

決して学部生が楽して執筆できる簡単なテーマを選択しているわけでは無いと信じています

ただ、この卒業論文をやり切ることが
私の学生生活の集大成となることは事実なので
最後までコツコツと取り組んで参ります🔥

今後も経済学理論集ならびに
社会課題に対する経済学的視点による説明など
有意義な内容を発信できるように努めてまいりますので、宜しくお願いします🥺

最後までご愛読いただき誠に有難うございました！

あくまで、私の見解や思ったことを
まとめさせていただいてますが
その点に関しまして、ご了承ください🙏

この投稿をみてくださった方が
ほんの小さな事でも学びがあった！
考え方の引き出しが増えた！
読書から学べることが多い！
などなど、プラスの収穫があったのであれば

大変嬉しく思いますし、投稿作成の冥利に尽きます！！
お気軽にコメント、いいね「スキ」💖
そして、お差し支えなければ
フォロー＆シェアをお願いしたいです👍
今後とも何卒よろしくお願いいたします！