%\parindent .2in
%\oddsidemargin -0.05in \evensidemargin -0.05in \topmargin 0pt
%\textheight 8.5in \textwidth 6.6in \linespread {1.5}
%\input{tcilatex}


\documentclass[12pt,a4paper]{amsart}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\usepackage{amssymb}
\usepackage{graphicx}
\usepackage{amsmath}
\usepackage[a4paper,ignoreall,nomarginpar]{geometry}
\usepackage[onehalfspacing]{setspace}
\usepackage[none]{hyphenat}

\setcounter{MaxMatrixCols}{10}
%TCIDATA{OutputFilter=LATEX.DLL}
%TCIDATA{Version=5.50.0.2953}
%TCIDATA{<META NAME="SaveForMode" CONTENT="3">}
%TCIDATA{BibliographyScheme=Manual}
%TCIDATA{Created=Wednesday, February 15, 2006 10:07:01}
%TCIDATA{LastRevised=Sunday, October 30, 2011 15:33:48}
%TCIDATA{<META NAME="GraphicsSave" CONTENT="32">}
%TCIDATA{<META NAME="DocumentShell" CONTENT="Standard LaTeX\Blank - Standard LaTeX Article">}
%TCIDATA{CSTFile=amsart.cst}
%TCIDATA{PageSetup=35,35,43,43,0}
%TCIDATA{Counters=arabic,1}
%TCIDATA{AllPages=
%H=28
%F=28
%}


\newtheorem{theorem}{Teorem}[section]
\newtheorem{algorithm}{Algorithm}[section]
\newtheorem{axiom}{Axiom}[section]
\newtheorem{case}{Case}[section]
\newtheorem{claim}{Claim}[section]
\newtheorem{conclusion}{Conclusion}[section]
\newtheorem{condition}{Condition}[section]
\newtheorem{conjecture}{Conjecture}[section]
\newtheorem{corollary}{Corollary}[section]
\newtheorem{criterion}{Criterion}[section]
\newtheorem{definition}{Definition}[section]
\newtheorem{example}{�rnek}[section]
\newtheorem{exercise}{Exercise}[section]
\newtheorem{lemma}{�nsav}[section]
\newtheorem{notation}{Notation}[section]
\newtheorem{problem}{Problem}[section]
\newtheorem{proposition}{�nerme}[section]
\newtheorem{remark}{A��Iklama}[section]
\newtheorem{solution}{Solution}[section]
\newtheorem{summary}{Summary}[section]
\input{tcilatex}

\begin{document}

V.C. 14.381 Ders notlar\i \footnote{%
Dersin orijinal notlar\i ndaki dipnot: Bu notlar taslak halindedir. Hata
buldu\u{g}unuzda l\"{u}tfen bana e-mail ile haber veriniz (vchern@mit.edu).}
\medskip 

\section{Regresyonun (Ba\u{g}la\c{s}\i m\i n) Temelleri}

\subsection{Regresyon ve Ko\c{s}ullu Beklenti Fonksiyonu.}

Varsayal\i m $y_{t}$ ger\c{c}ek bir tepki (response) de\u{g}i\c{s}keni ve $%
w_{t}$ birlikte de\u{g}i\c{s}kenlerin (covariates) bir d-vekt\"{o}r\"{u}
olsun. Burada ilgilendi\u{g}imiz, $y_{t}$'nin $w_{t}$ verildi\u{g}indeki ko%
\c{s}ullu ortalamas\i d\i r (beklentisidir): \ 
\begin{equation*}
g(w_{t}):=E[y_{t}|w_{t}].
\end{equation*}%
Al\i \c{s}\i lageldi\u{g}i \"{u}zere, bir regresyon denklemini de \c{s}u 
\c{s}ekilde tan\i mlayabiliriz: 
\begin{equation*}
y_{t}=g(w_{t})+\varepsilon _{t},\ \ E[\varepsilon _{t}|w_{t}]=0,
\end{equation*}%
burada $y_{t}$ bir ba\u{g}\i ml\i\ de\u{g}i\c{s}ken olarak, $w_{t}$ ba\u{g}%
\i ms\i z de\u{g}i\c{s}kenler olarak ve $\varepsilon _{t}$ bozukluklar
olarak d\"{u}\c{s}\"{u}n\"{u}lmektedir.

Regresyon fonksiyonu, kay\i plar\i n karesi de\u{g}erlendirilerek en iyi ko%
\c{s}ullu \"{o}ndeyi (conditional prediction) probleminin \c{c}\"{o}z\"{u}m%
\"{u} olarak da tan\i mlanabilir: her bir $w$ i\c{c}in \c{s}unu elde
edebiliriz 
\begin{equation*}
g(w)=\arg \min_{\tilde{g}\in \mathbb{R}}E[(y_{t}-\tilde{g})^{2}|w].
\end{equation*}%
B\"{o}yle olunca, ko\c{s}ullu ortalama fonksiyonu ko\c{s}ulsuz \"{o}ndeyi
(unconditional prediction) problemini de \c{c}\"{o}zmektedir: 
\begin{equation*}
g(\cdot )=\arg \min_{\tilde{g}(\cdot )\in \mathcal{G}}E[(y_{t}-\tilde{g}%
(w_{t}))^{2}],
\end{equation*}%
burada argmin, $w$'nin \"{o}l\c{c}\"{u}lebilir t\"{u}m fonksiyonlar\i n\i n
s\i n\i f\i\ olan $\mathcal{G}$ \"{u}zerinden hesaplanmaktad\i r. Bu d\"{u}%
zenleme ne tahmine ne de hesaplamaya kolayl\i kla \c{c}evrilebilmektedir.

Neticede, bu derste \"{o}\u{g}reneceklerimiz \c{s}unlard\i r

\begin{itemize}
\item \"{o}nce, $g(w_{t})$'nin $\beta \in \mathbb{R}^{K}$ ve orijinal ba\u{g}%
la\c{s}t\i ran\i n (regressor) d\"{o}n\"{u}\c{s}\"{u}mleri olan $x_{t}$ i%
\c{c}in $x_{t}^{\prime }\beta $ ile yakla\c{s}t\i rmas\i , 
\begin{equation*}
x_{t}=f(w_{t}),
\end{equation*}%
burada d\"{o}n\"{u}\c{s}\"{u}m\"{u}n se\c{c}imleri olan $f$ yakla\c{s}t\i
r\i m (approximation) teorisine ba\u{g}l\i\ olarak ifade edilmektedir,

\item sonra, veriyi m\"{u}mk\"{u}n olu\u{g}u kadar iyi kullanarak $%
x_{t}^{\prime }\beta ^{\prime }$y\i\ tahmin etmek ve $x_{t}^{\prime }\beta $
ve ilgili miktarlar hakk\i nda k\"{u}\c{c}\"{u}k-\"{o}rneklem ve b\"{u}y\"{u}%
k-\"{o}rneklemlere y\"{o}nelik \c{c}\i karsamalarda bulunmak.
\end{itemize}

\textbf{\"{O}rnek 1}: Engel (1857) \c{c}al\i \c{s}mas\i nda, $y_{t}$
hanehalk\i n\i n g\i da harcamas\i\ ve $w_{t}$ hanehalk\i\ geliri olarak
verilmi\c{s}tir. \.{I}yi bir yakla\c{s}t\i rma olarak \c{s}\"{o}yle bir
kuvvet serisi kullan\i labilir: $g(w_{t})=\beta _{0}+\beta _{1}w_{t}+\beta
_{2}w_{t}^{2}$. Engel asl\i nda Haar serilerini kullanm\i \c{s}t\i r (yakla%
\c{s}t\i rma bir\c{c}ok kukla terim kullan\i larak yap\i lm\i \c{s}t\i r). 
\"{O}zellikle ilgimizi \c{c}eken, gelirin g\i da t\"{u}ketimi \"{u}zerindeki
etkisidir 
\begin{equation*}
\frac{\partial g(w)}{\partial w}.
\end{equation*}

\begin{tabular}{ll}
G\i da Harcamas\i &  \\ 
& 
%TCIMACRO{%
%\FRAME{itbpF}{4.0689in}{2.5616in}{0in}{}{}{Figure}{%
%\special{language "Scientific Word";type "GRAPHIC";maintain-aspect-ratio TRUE;display "USEDEF";valid_file "T";width 4.0689in;height 2.5616in;depth 0in;original-width 8.4821in;original-height 5.3195in;cropleft "0";croptop "1";cropright "1";cropbottom "0";tempfilename 'LTVQD200.wmf';tempfile-properties "XPR";}}}%
%BeginExpansion
\ifcase\msipdfoutput
\FRAME{itbpF}{4.0689in}{2.5616in}{0in}{}{}{Figure}{%
\special{language "Scientific Word";type "GRAPHIC";maintain-aspect-ratio
TRUE;display "USEDEF";valid_file "T";width 4.0689in;height 2.5616in;depth
0in;original-width 8.4821in;original-height 5.3195in;cropleft "0";croptop
"1";cropright "1";cropbottom "0";tempfilename
'LTVQD200.wmf';tempfile-properties "XPR";}}%
\else
\includegraphics[
natheight=5.3195in, natwidth=8.4821in, height=2.5616in, width=4.0689in]
{C:/Users/Gokhan/Desktop/14-381/VCern/graphics/LTVQD200__1.pdf}%
\fi
%EndExpansion
\\ 
& \multicolumn{1}{c}{Gelir} \\ 
& \multicolumn{1}{c}{\c{S}EK\.{I}L 1}%
\end{tabular}

\textbf{\"{O}rnek 2}: Varsayal\i m, $y_{t}^{\ast }$ do\u{g}umdaki a\u{g}\i
rl\i k ve $w_{t}$ sigara i\c{c}me ya da t\i bbi bak\i m\i n kalitesi olsun. A%
\c{c}\i kt\i r ki, $E[y_{t}^{\ast }|w_{t}]$ ilgi \c{c}ekici bir hedeftir.
Varsayal\i m, $w_{t}$'nin \c{c}ok d\"{u}\c{s}\"{u}k do\u{g}um a\u{g}\i rl\i
klar\i\ \"{u}zerindeki etkisiyle ilgilenelim; bunu yapman\i n bir yolu
olarak \c{s}unu tan\i mlayabiliriz 
\begin{equation*}
y_{t}:=1\{y_{t}^{\ast }<c\},
\end{equation*}%
burada $c$ do\u{g}um a\u{g}\i rl\i \u{g}\i n\i n kritik bir seviyesidir.
Sonras\i nda \c{s}unu inceleyebiliriz 
\begin{equation*}
g(w_{t})=E[y_{t}|w_{t}]=P[y_{t}^{\ast }<c|w_{t}].
\end{equation*}%
Bu regresyon fonksiyonu u\c{c}de\u{g}er (extreme) do\u{g}um a\u{g}\i rl\i 
\u{g}\i\ ger\c{c}ekle\c{s}mesi ihtimalinin birlikte de\u{g}i\c{s}kenlere ba%
\u{g}l\i l\i \u{g}\i n\i\ \"{o}l\c{c}mektedir.\footnote{%
Di\u{g}er bir y\"{o}ntem ise $y_{t}^{\ast }$'\i n b\"{o}l\"{u}tlerine
(quantile) $w_{t}$'nin bir fonksiyonu olarak bakmakt\i r, bu da b\"{o}l\"{u}%
t regresyonunun ger\c{c}ekle\c{s}tirdi\u{g}idir.}

Varsayal\i m $E[y_{t}|w_{t}]$'i elde edebildik. Bundan nas\i l
faydalanabiliriz?

D\"{u}\c{s}\"{u}nce ak\i mlar\i :

\textbf{1. Betimsel.} \.{I}lgin\c{c} bi\c{c}imlendiren olgular\i\ (stylized
facts) ortaya \c{c}\i karmak. Sigara i\c{c}mek ortalama do\u{g}um a\u{g}\i
rl\i \u{g}\i n\i\ "azalt\i r" (ancak u\c{c}de\u{g}er do\u{g}um a\u{g}\i rl\i 
\u{g}\i n\i n ger\c{c}ekle\c{s}mesini\ azaltmaz).

\textbf{2. \.{I}\c{s}lem Etkileri.} Nedensel etkiler hakk\i nda \c{c}\i
karsamada bulunmak i\c{c}in ideal bir durum tam kontrol edilen rastsal
deneme olarak d\"{u}\c{s}\"{u}n\"{u}l\"{u}r. Tam kontrol edilen rastsal
deneme mevcut de\u{g}ilse, do\u{g}al deneyler de aranabilir.

\textbf{3. Yap\i sal Etkiler.} Ekonomik (nedensel, yap\i sal) bir modelin
parametrelerini tahmin edelim. Ekonomi bilgisini kullanarak $E[y_{t}|x_{t}]$%
'nin neden ekonomik parametreleri \"{o}zde\c{s}le\c{s}tirebilece\u{g}ini
ispat edelim. Varian'\i n ilgili b\"{o}l\"{u}m\"{u}ne bak\i n\i z.

\subsection{Kitlede ve Sonlu \"{O}rneklemde OLS (s\i radan en k\"{u}\c{c}%
\"{u}k kareler, Ordinary Least Squares)}

\subsubsection{ED\"{O} (en iyi do\u{g}rusal \"{o}ndeyici) \"{O}zelli\u{g}i}

Kitlede en k\"{u}\c{c}\"{u}k karelerin $\beta $'s\i\ a\c{s}a\u{g}\i daki
terimin enk\"{u}\c{c}\"{u}lt\"{u}c\"{u}s\"{u}d\"{u}r (argmin) 
\begin{equation*}
Q(b)=E[y_{t}-x_{t}^{\prime }b]^{2},
\end{equation*}%
dolay\i s\i yla $x_{t}^{\prime }\beta $, $y_{t}$'nin kitlede kare kay\i p
alt\i nda en iyi do\u{g}rusal \"{o}ndeyicisidir. Sonlu \"{o}rneklemlerde en k%
\"{u}\c{c}\"{u}k karelerin $\hat{\beta}^{\prime }$\i\ a\c{s}a\u{g}\i daki
terimin en k\"{u}\c{c}\"{u}lt\"{u}c\"{u}s\"{u}d\"{u}r 
\begin{equation*}
Q_{n}(\beta )=E_{n}[y_{t}-x_{t}^{\prime }\beta ]^{2},
\end{equation*}%
burada $E_{n}$ g\"{o}rg\"{u}l beklentidir ($\frac{1}{n}\sum_{t=1}^{n}$'in
k\i saltmas\i ). Yani, $x_{t}^{\prime }\hat{\beta},$ $y_{t}$'nin \"{o}%
rneklemde kare kay\i p alt\i nda en iyi do\u{g}rusal \"{o}ndeyicisidir.

$\beta $ i\c{c}in sarih bir \c{c}\"{o}z\"{u}m de belirtebiliriz. Dikkat
ederseniz $\beta $, $E[x_{t}x_{t}^{\prime }]$ tam kerteli (full rank) oldu%
\u{g}unda, \c{s}u birinci derece ko\c{s}ulu \c{c}\"{o}zmektedir%
\begin{equation*}
E[x_{t}(y_{t}-x_{t}^{\prime }\beta )]=0,\text{ yani }\beta
=E[x_{t}x_{t}^{\prime }]^{-1}E[x_{t}y_{t}],
\end{equation*}%
\"{O}rneklemde en k\"{u}\c{c}\"{u}k kareler, $E_{n}[x_{t}x_{t}^{\prime }]$
tam kerteli oldu\u{g}unda, kitle beklemlerini (moments) g\"{o}rg\"{u}l
beklemler ile de\u{g}i\c{s}tirmektedir: 
\begin{equation*}
E_{n}[x_{t}(y_{t}-x_{t}^{\prime }\hat{\beta})]=0,\text{ yani }\hat{\beta}%
=E_{n}[x_{t}x_{t}^{\prime }]^{-1}E_{n}[x_{t}y_{t}].
\end{equation*}

\subsubsection{En \.{I}yi Do\u{g}rusal Yakla\c{s}t\i rma olarak OLS}

\c{S}unu g\"{o}zlemleyebiliriz 
\begin{equation*}
Q(b)=E[y_{t}-x_{t}^{\prime }b]^{2}=E[E[y_{t}|w_{t}]-x_{t}^{\prime
}b+\varepsilon _{t}]^{2}=E[E[y_{t}|w_{t}]-x_{t}^{\prime
}b]^{2}+E[\varepsilon _{t}]^{2},
\end{equation*}%
burada $\varepsilon _{t}=y_{t}-E[y_{t}|w_{t}]$'d\i r. Yani $\beta $ \c{s}unu 
\c{c}\"{o}zmektedir 
\begin{equation*}
\min_{b}E(E[y_{t}|w_{t}]-x_{t}^{\prime }b)^{2},
\end{equation*}%
ve $x_{t}^{\prime }\beta $, ko\c{s}ullu ortalama fonksiyonu $E[y_{t}|w_{t}]$
i\c{c}in en iyi do\u{g}rusal yakla\c{s}t\i rmad\i r. Bu da yakla\c{s}\i kl\i
k teorisine bir ba\u{g}lant\i\ olu\c{s}turmaktad\i r.

\subsubsection{\.{I}\c{s}levsel Bi\c{c}imleri (Functional Form) Olu\c{s}%
turmak}

Yakla\c{s}\i kl\i k teorisine verilecek ba\u{g}lant\i , yakla\c{s}\i kl\i k
teorisinin regresyonlar\i m\i z i\c{c}in iyi i\c{s}levsel (fonksiyonel) bi%
\c{c}imler olu\c{s}turmada kullan\i labilmesi a\c{c}\i s\i ndan faydal\i d\i
r. Burada, yakla\c{s}\i kl\i k tasar\i lar\i ndan\ ekonometrik uygulamalarda
en \c{c}ok yararl\i\ olacaklar \"{u}zerine odaklanaca\u{g}\i z.\footnote{%
W. Newey'in \c{c}al\i \c{s}mas\i\ tahmin a\c{c}\i s\i ndan faydal\i\ bir
uygulama sunmaktad\i r. Yakla\c{s}\i kl\i k y\"{o}ntemlerine faydal\i\ bir ba%
\c{s}lang\i \c{c} i\c{c}in K. Judd'\i n kitab\i na bak\i n\i z.}

1. Kama (Spline) Yakla\c{s}\i kl\i \u{g}\i : Varsayal\i m $w$ tek ba\u{g}la%
\c{s}t\i ran olsun. Sonras\i nda do\u{g}rusal kama (1'inci dereceden kama),
sonlu say\i da e\c{s}it mesafeli ba\u{g}lant\i lar (knots) olan $%
k_{1},k_{2},...,k_{r}$ ile \c{s}u \c{s}ekilde ifade edilebilir: 
\begin{equation*}
x_{t}=f(w_{t})=(1,w_{t},(w_{t}-k_{1})_{+},...,(w_{t}-k_{r})_{+})^{\prime }
\end{equation*}%
burada $(u_{t})_{+}$ terimi $u$ x $1(u>0)$'\i\ ifade eder. K\"{u}bik kama 
\c{s}u \c{s}ekilde ifade edilebilir: 
\begin{equation*}
x_{t}=f(w_{t})=(1,(w_{t},w_{t}^{2},w_{t}^{3}),(w_{t}-k_{1})_{+}^{3},...,(w_{t}-k_{r})_{+}^{3})^{\prime }.
\end{equation*}%
Kamalar\i\ tan\i mlarken $x_{t}$'nin boyutu olan $K^{\prime }$yi kontrol
edebiliriz. Kamalar kullan\i larak olu\c{s}turulan fonksiyon $w\mapsto
f(w)^{\prime }b$'n\i n, herhangi $b$ i\c{c}in, $w$'da iki kez t\"{u}revi
al\i nabilir.

2. G\"{u}\c{c} (Power) Yakla\c{s}\i kl\i \u{g}\i : Varsayal\i m $w$ tek ba%
\u{g}la\c{s}t\i ran (regressor) olsun ve $[0,1]$'de d\"{o}n\"{u}\c{s}t\"{u}r%
\"{u}lm\"{u}\c{s} olsun; sonras\i nda, $r$-inci dereceden \c{c}okterimli
serileri \c{s}u \c{s}ekilde ifade edilebilir: 
\begin{equation*}
x_{t}=f(w_{t})=(1,w_{t},...,w_{t}^{r})^{\prime }.
\end{equation*}%
Chebyshev \c{c}okterimlileri \c{c}o\u{g}u kez basit \c{c}okterimliler yerine
kullan\i lmaktad\i r. Varsayal\i m $w_{t}$ $[-1,1]$ aras\i nda de\u{g}erler
alacak \c{s}ekilde d\"{o}n\"{u}\c{s}t\"{u}r\"{u}lm\"{u}\c{s} olsun.
Chebyshev \c{c}okterimlileri \c{s}u \c{s}ekilde olu\c{s}turulabilir 
\begin{equation*}
x_{t}=f(w_{t})=(cos(j\cdot cos^{-1}(w_{t})),j=0,...,r)
\end{equation*}%
(Bunlara \c{c}okterimli denme sebebi \c{s}udur: $%
f(w_{t})=(1,w_{t},2w^{2}-1,4w_{t}^{3}-3w_{t},...,)$, ve b\"{o}ylece asl\i
nda $w_{t}$ de \c{c}okterimlilerdir.)\footnote{%
Daha fazla detay i\c{c}in K. Judd'\i n kitab\i na bak\i n\i z; ayr\i ca \c{s}%
uraya da bakabilirsiniz http://mathworld.wolfram.com/}

3. Dalgac\i k (Wavelet) Yakla\c{s}\i kl\i \u{g}\i : Varsayal\i m $w$ tek ba%
\u{g}la\c{s}t\i ran olsun ve $[0,1]$'de d\"{o}n\"{u}\c{s}t\"{u}r\"{u}lm\"{u}%
\c{s} olsun; sonras\i nda, $r$-inci dereceden dalgac\i k serisi \c{s}u \c{s}%
ekilde ifade edilebilir: 
\begin{equation*}
x_{t}=f(w_{t})=(e^{j(i2\pi w_{t})},j=0,...,r),
\end{equation*}%
veya sin\"{u}s ve kosin\"{u}s tabanlar\i\ ayr\i\ ayr\i\ kullan\i labilir.

\c{C}oklu ba\u{g}la\c{s}t\i ranlar\i n oldu\u{g}u durum da benzer \c{s}%
ekilde incelenebilir: Varsayal\i m temel (basic) ba\u{g}la\c{s}t\i ranlar 
\c{s}unlar olsun $w_{1t},...w_{dt}$, sonras\i nda her bir temel ba\u{g}la%
\c{s}t\i ran i\c{c}in $d$ serileri olu\c{s}turulabilir. Sonras\i nda $d$
serilerinin t\"{u}m etkile\c{s}imleri, bunlara geren (tensor) \c{c}arp\i
mlar\i\ denir,\ olu\c{s}turulabilir ve bunlar\i n hepsi ba\u{g}la\c{s}t\i
ran vekt\"{o}r\"{u} $x_{t}$ i\c{c}inde toplanabilir. E\u{g}er temel bir ba%
\u{g}la\c{s}t\i ran i\c{c}in herbir seri $J$ terime sahipse, sonu\c{c}
(final) regresyonu\ $K\approx J^{d}$ boyutundad\i r, bu da $d$ boyutunda 
\"{u}stel olarak patlamaktad\i r (boyutsall\i k belas\i n\i n (curse of
dimensionality) tezah\"{u}r\"{u}). Geren \c{c}arp\i mlar\i n\i n d\"{u}zg%
\"{u}n bir tan\i m\i\ i\c{c}in bkz. Newey.

\begin{theorem}
\textit{Varsayal\i m $w_{t}$'nin $\mathbb{R}^{d}$'de tan\i ml\i\ bir k\"{u}%
pte s\i n\i rl\i\ bir deste\u{g}i (bounded support) ve pozitif, s\i n\i
rl\i\ bir yo\u{g}unlu\u{g}u olsun. E\u{g}er $g(w)$'nin s\i n\i rl\i\ t\"{u}%
revlerle (sabit bir $M$ ile) s-kere s\"{u}rekli t\"{u}revselli\u{g}i varsa,
yukar\i da belirtilen \c{s}ekilde $K$-terimli $x=f(w)$ serileri kullan\i
larak, yakla\c{s}\i kl\i k hatas\i\ \c{s}u \c{s}ekilde kontrol edilebilir: 
\begin{equation*}
\min_{b}[E[g(w_{t})-x_{t}^{\prime }b]^{2}]^{1/2}\leq \text{ const}_{M}\cdot
K^{-\gamma /d},
\end{equation*}%
} burada kuvvet serileri ve dalgac\i klar i\c{c}in $\gamma =s$ ve kamalar i%
\c{c}in $\gamma =\min (s,r)$ kullan\i lm\i \c{s}t\i r, $r$ ise kaman\i n
derecesidir.
\end{theorem}

Sonu\c{c}ta, $K\rightarrow \infty $ iken, yakla\c{s}\i kl\i k hatas\i\ s\i
f\i ra yak\i nsamaktad\i r. Teorem ayn\i\ zamanda d\"{u}zg\"{u}n (smooth)
bir fonksiyonun yakla\c{s}\i m\i n\i n daha kolay oldu\u{g}unu ve bir\c{c}ok
temel ba\u{g}la\c{s}t\i ranl\i\ bir fonksiyonun yakla\c{s}\i m\i n\i n daha
zor oldu\u{g}unu s\"{o}ylemektedir (boyutsall\i k belas\i n\i n ba\c{s}ka
bir tezah\"{u}r\"{u}). Dikkat \c{c}eken ba\c{s}ka bir husus da, $%
K\rightarrow \infty $ iken, yakla\c{s}\i kl\i k hatas\i\ s\i f\i ra yak\i
nsamaktad\i r ifadesinin \textit{d\"{u}zg\"{u}nl\"{u}k (smoothness)}
varsay\i mlar\i\ olmadan dahi ge\c{c}erli oldu\u{g}udur; asl\i nda $g(w)$%
'nin \"{o}l\c{c}\"{u}lebilir olmas\i\ ve kare (square) t\"{u}mlevlenebilirli%
\u{g}i (integrable) yeterlidir.

En k\"{u}\c{c}\"{u}k kareler kullan\i larak fonksiyonlar\i n yakla\c{s}\i
kl\i \u{g}\i nda kamalar\i n ve Chebyshev serilerinin kullan\i m\i n\i n
olumlu \"{o}zellikleri vard\i r, bu sadece ortalama kare yakla\c{s}\i kl\i k
hatas\i n\i\ enk\"{u}\c{c}\"{u}k yapmak i\c{c}in de\u{g}il, ayn\i\ zamanda
yakla\c{s}\i lan terime (approximand) en\c{c}ok mesafeyi elde etmede de ge%
\c{c}erlidir (son \"{o}zelli\u{g}e ortak-enk\"{u}\c{c}\"{u}kl\"{u}k
denmektedir (co-minimality)).

\newpage

\subsection{Yakla\c{s}\i kl\i k \"{O}rnekleri}

\"{O}rnek 1. (Yapay, synthetic) Varsayal\i m \c{s}u fonksiyon verilmi\c{s}
olsun $g(w)=w+2sin(w)$, ve $w_{t}$ tekd\"{u}ze (uniform) \c{s}ekilde \c{s}u
tamsay\i lar \"{u}zerinde da\u{g}\i lm\i \c{s} olsun $\{1,...,20\}$. Bu
durumda OLS kitlede \c{s}u yakla\c{s}\i kl\i k problemini \c{c}\"{o}zer: 
\begin{equation*}
\beta =\arg \min_{b}E[g(w_{t})-x_{t}^{\prime }b]^{2}
\end{equation*}%
burada $x_{t}=f(w_{t})$'dir. \c{S}imdi $f$ i\c{c}in farkl\i\ i\c{s}levsel bi%
\c{c}imleri deneyelim. Bu \"{o}rnekte, $f(w)$'yi \c{s}u \c{s}ekilde olu\c{s}%
turuyoruz (a) do\u{g}rusal kama (\c{S}ekil 2,sol) ve (b) Chebyshev serileri (%
\c{S}ekil 2,sa\u{g}), bu durumda $f(w)$'nin boyutlar\i\ ya 3 ya da 8'dir.

\begin{tabular}{ll}
{\small Do\u{g}rusal kama ile yakla\c{s}t\i rma, K=3 ve 8} & {\small %
Chebyshev serileri ile yakla\c{s}t\i rma, K=3 ve 8} \\ 
%TCIMACRO{%
%\FRAME{itbpF}{2.6109in}{2.7285in}{0in}{}{}{Figure}{%
%\special{language "Scientific Word";type "GRAPHIC";maintain-aspect-ratio TRUE;display "USEDEF";valid_file "T";width 2.6109in;height 2.7285in;depth 0in;original-width 5.2615in;original-height 5.5002in;cropleft "0";croptop "1";cropright "1";cropbottom "0";tempfilename 'LTVQD201.wmf';tempfile-properties "XPR";}}}%
%BeginExpansion
\ifcase\msipdfoutput
\FRAME{itbpF}{2.6109in}{2.7285in}{0in}{}{}{Figure}{%
\special{language "Scientific Word";type "GRAPHIC";maintain-aspect-ratio
TRUE;display "USEDEF";valid_file "T";width 2.6109in;height 2.7285in;depth
0in;original-width 5.2615in;original-height 5.5002in;cropleft "0";croptop
"1";cropright "1";cropbottom "0";tempfilename
'LTVQD201.wmf';tempfile-properties "XPR";}}%
\else
\includegraphics[
natheight=5.5002in, natwidth=5.2615in, height=2.7285in, width=2.6109in]
{C:/Users/Gokhan/Desktop/14-381/VCern/graphics/LTVQD201__2.pdf}%
\fi
%EndExpansion
& 
%TCIMACRO{%
%\FRAME{itbpF}{2.6377in}{2.7285in}{0in}{}{}{Figure}{%
%\special{language "Scientific Word";type "GRAPHIC";maintain-aspect-ratio TRUE;display "USEDEF";valid_file "T";width 2.6377in;height 2.7285in;depth 0in;original-width 5.3169in;original-height 5.5002in;cropleft "0";croptop "1";cropright "1";cropbottom "0";tempfilename 'LTVQD202.wmf';tempfile-properties "XPR";}}}%
%BeginExpansion
\ifcase\msipdfoutput
\FRAME{itbpF}{2.6377in}{2.7285in}{0in}{}{}{Figure}{%
\special{language "Scientific Word";type "GRAPHIC";maintain-aspect-ratio
TRUE;display "USEDEF";valid_file "T";width 2.6377in;height 2.7285in;depth
0in;original-width 5.3169in;original-height 5.5002in;cropleft "0";croptop
"1";cropright "1";cropbottom "0";tempfilename
'LTVQD202.wmf';tempfile-properties "XPR";}}%
\else
\includegraphics[
natheight=5.5002in, natwidth=5.3169in, height=2.7285in, width=2.6377in]
{C:/Users/Gokhan/Desktop/14-381/VCern/graphics/LTVQD202__3.pdf}%
\fi
%EndExpansion
\\ 
& \c{S}EK\.{I}L\ 2%
\end{tabular}

Sonras\i nda ise $g(w)$ fonksiyonunu grafik yard\i m\i yla do\u{g}rusal yakla%
\c{s}\i kl\i k $f(w)^{\prime }\beta $ ile kar\c{s}\i la\c{s}t\i ral\i m. 
\c{S}ekil 2'de $K=3$ olan tutumlu (parsimonious) modelin k\"{u}resel \c{s}%
ekli (global shape) ko\c{s}ullu beklenti fonksiyonunda do\u{g}ru olarak yakla%
\c{s}t\i rd\i \u{g}\i n\i\ ("b\"{u}y\"{u}k de\u{g}i\c{s}iklikler"), ancak
yerel \c{s}ekli do\u{g}ru olarak yakla\c{s}t\i ramad\i \u{g}\i n\i\ ("k\"{u}%
\c{c}\"{u}k de\u{g}i\c{s}iklikler") g\"{o}r\"{u}yoruz. Daha esnek i\c{s}%
levsel bi\c{c}imler $K=8$ parametreleri ile kullan\i ld\i \u{g}\i nda, yerel 
\c{s}ekil i\c{c}in daha iyi bir yakla\c{s}\i kl\i k elde ediliyor. Bu \"{o}%
rnekte kamalar\i n Chebyshev \c{c}okterimlilerinden \c{c}ok daha iyi
performans g\"{o}sterdiklerini g\"{o}r\"{u}yoruz.

Yakla\c{s}\i kl\i k hatas\i n\i n d\"{u}zg\"{u}n \"{o}l\c{c}\"{u}mlerine de
bakabiliriz, mesela k\"{o}k ortalama kare yakla\c{s}\i kl\i k hatas\i\ gibi
(KOKYH, root mean square approximation error, RMSAE): 
\begin{equation*}
\lbrack E[g(w_{t})-f(w_{t})^{\prime }\beta ]^{2}]^{1/2}],
\end{equation*}%
ve en\c{c}ok yakla\c{s}\i kl\i k hatas\i\ (EYH, maximum approximation error,
MAE): 
\begin{equation*}
\max_{w}|g(w)-f(w)^{\prime }\beta |.
\end{equation*}

Bu \"{o}l\c{c}\"{u}ler a\c{s}a\u{g}\i daki tabloda hesaplanm\i \c{s}t\i r: 
\newline

\begin{tabular}{ccccc}
& kama $K=3$ & kama $K=8$ & Chebyshev $K=3$ & Chebyshev $K=8$ \\ 
KOKYH & 1.37 & 0.65 & 1.39 & 1.09 \\ 
EYH & 2.27 & 0.95 & 2.19 & 1.81%
\end{tabular}

\bigskip

\"{O}rnek 2.(Reel) Burada $g(w)$ \"{u}cretin ($y$) logaritmas\i n\i n
ortalamas\i d\i r ve e\u{g}itim \"{u}zerine ko\c{s}ulludur 
\begin{equation*}
w\in \{8,9,10,11,12,13,14,16,17,18,19,20\}.
\end{equation*}%
$g(w)$ fonksiyonu kitle verisi kullan\i larak hesaplanm\i \c{s}t\i r --
kullan\i lan veriseti ABD 1990 N\"{u}fus Say\i m\i 'ndaki yeti\c{s}kin
erkeklerdir \footnote{%
Daha fazla detay i\c{c}in bkz. Angrist, Chernozhukov, Fernandez-Val, 2006,
Econometrica, \c{c}al\i \c{s}mas\i .}. Burada bu fonksiyonun ba\u{g}la\c{s}%
t\i ranlar\i n\i\ olu\c{s}turmak i\c{c}in yayg\i n yakla\c{s}t\i rma y\"{o}%
ntemleri kullan\i ld\i \u{g}\i nda, OLS taraf\i ndan ne kadar iyi yakla\c{s}%
t\i r\i ld\i \u{g}\i n\i\ bulmak istiyoruz. Problemi basitle\c{s}tirmek i%
\c{c}in, $w_{t}$'nin tekd\"{u}ze olarak da\u{g}\i ld\i \u{g}\i n\i\
varsayabiliriz (di\u{g}er durumda s\i kl\i k (frequency) ile a\u{g}\i rl\i
kland\i rabiliriz). Kitlede, OLS \c{s}u yakla\c{s}t\i rma problemini \c{c}%
\"{o}zmektedir: $\min E[g(w_{t})-x_{t}^{\prime }b]^{2}$ burada $%
x_{t}=f(w_{t})$'d\i r ve $f(w)$ \c{s}u \c{s}ekilde olu\c{s}turulur (a) do%
\u{g}rusal kama (\c{S}ekil 3,sol) ve (b) Chebyshev serileri (\c{S}ekil 3,sa%
\u{g}), bu durumda $f(w)$'nin boyutlar\i\ ya $K=3$ ya da $K=8$'dir.

\begin{tabular}{ll}
{\small Do\u{g}rusal kama ile yakla\c{s}t\i rma, K=3 ve 8\ \ \ \ \ \ \ \ \ \
\ } & {\small Chebyshev serileri ile yakla\c{s}t\i rma, K=3 ve 8} \\ 
\multicolumn{2}{l}{%
%TCIMACRO{%
%\FRAME{itbpF}{6.3754in}{2.7285in}{0in}{}{}{Figure}{%
%\special{language "Scientific Word";type "GRAPHIC";maintain-aspect-ratio TRUE;display "USEDEF";valid_file "T";width 6.3754in;height 2.7285in;depth 0in;original-width 10.3146in;original-height 4.3889in;cropleft "0";croptop "1";cropright "1";cropbottom "0";tempfilename 'LTVQD203.wmf';tempfile-properties "XPR";}}}%
%BeginExpansion
\ifcase\msipdfoutput
\FRAME{itbpF}{6.3754in}{2.7285in}{0in}{}{}{Figure}{%
\special{language "Scientific Word";type "GRAPHIC";maintain-aspect-ratio
TRUE;display "USEDEF";valid_file "T";width 6.3754in;height 2.7285in;depth
0in;original-width 10.3146in;original-height 4.3889in;cropleft "0";croptop
"1";cropright "1";cropbottom "0";tempfilename
'LTVQD203.wmf';tempfile-properties "XPR";}}%
\else
\includegraphics[
natheight=4.3889in, natwidth=10.3146in, height=2.7285in, width=6.3754in]
{C:/Users/Gokhan/Desktop/14-381/VCern/graphics/LTVQD203__4.pdf}%
\fi
%EndExpansion
} \\ 
& \c{S}EK\.{I}L\ 3%
\end{tabular}

Sonras\i nda, grafiksel olarak $g(w)$ fonksiyonunu $f(w)^{\prime }\beta $ do%
\u{g}rusal yakla\c{s}t\i rmas\i\ ile kar\c{s}\i la\c{s}t\i r\i yoruz. Ayn\i\
zamanda KOKYH ve EYH'yi kaydediyoruz. Yakla\c{s}t\i rma hatalar\i\ a\c{s}a%
\u{g}\i daki tabloda verilmi\c{s}tir:

\begin{tabular}{ccccc}
& kama $K=3$ & kama $K=8$ & Chebyshev $K=3$ & Chebyshev $K=8$ \\ 
KOKYH & 0.12 & 0.08 & 0.12 & 0.05 \\ 
EYH & 0.29 & 0.17 & 0.30 & 0.12%
\end{tabular}

\newpage

\textsc{\ Referanslar:}

1. Newey, Whitney K. Convergence rates and asymptotic normality for series
estimators. J. Econometrics 79 (1997), no. 1, 147--168. (Regresyon kamalar\i
n\i n tan\i mlar\i\ bu referans\i\ takip etmektedir).

2. Judd, Kenneth L. Numerical Methods in Economics. MIT Press, Cambridge,
MA, 1998. (B\"{o}l\"{u}m: Approximation Methods. Bu olduk\c{c}a ileri seviye
bir referanst\i r, ancak bir\c{c}ok ekonometrik ve ekonometrik olmayan
uygulama i\c{c}in faydal\i d\i r.)

3. Hal R. Varian. Microeconomic Analysis (B\"{o}l\"{u}m: Econometrics. Bu
kitap Yap\i sal Ekonometri (Structural Econometrics) hakk\i nda \c{c}ok iyi
bir okumad\i r ve i\c{c}inde bir\c{c}ok ilgin\c{c} fikir mevcuttur).

Bahsedilen materyaller \c{s}u adrese eklenmi\c{s}tir: stellar.mit.edu.

\newpage

\section{Regresyon Cebiri (Regression Calculus)}

\subsection{Matris (Dizey, Matrix) Hesaplamalar\i}

A\c{s}a\u{g}\i daki hesaplamalar sonlu \"{o}rneklem \c{c}\i karsamalar\i\ i%
\c{c}in faydal\i d\i r. $Y=(y_{1},...,y_{n})^{\prime }$ olsun ve $X$ de $%
n\times K$ boyutlu bir matris olsun: bu matrisin sat\i rlar\i\ \c{s}unlard\i
r $x_{t}^{\prime }$, $t=1,...,n$. Bu g\"{o}sterim ile \c{s}u ifadeyi
yazabiliriz 
\begin{equation*}
\hat{\beta}=\arg \min\limits_{b\in \mathbb{R}^{k}}(Y-Xb)^{\prime }(Y-Xb),
\end{equation*}%
E\u{g}er kerte$(X)=K$ ise, yukar\i daki ifadenin Hessian'\i\ olan $%
2X^{\prime }X$ pozitif tan\i ml\i d\i r; bu da kat\i\ d\i \c{s}b\"{u}keyli%
\u{g}i sa\u{g}lar ve \c{c}\"{o}z\"{u}m\"{u}n tekil (unique) oldu\u{g}unu
ifade eder. $\hat{\beta}$'n\i n \c{c}\"{o}z\"{u}m\"{u} normal denklemler
(normal equations) denen birinci derece ko\c{s}ullar\i\ (first-order
conditions, foc) taraf\i ndan belirlenir: 
\begin{equation}
X^{\prime }(Y-X\beta )=0.  \label{foc}
\end{equation}%
Bu denklemler \c{c}\"{o}z\"{u}l\"{u}nce \c{s}u ifade elde edilir 
\begin{equation*}
\hat{\beta}=(X^{\prime }X)^{-1}X^{\prime }Y.
\end{equation*}%
Uyumlu (fitted) veya \"{o}ndeyilen (predicted) de\u{g}erler \c{s}u vekt\"{o}%
rler (y\"{o}ney, vector) ile ifade edilir 
\begin{equation*}
\widehat{Y}:=X\hat{\beta}=X(X^{\prime }X)^{-1}X^{\prime }Y=P_{X}Y,
\end{equation*}%
Kal\i nt\i lar (residual) da \c{s}u \c{s}ekilde tan\i mlan\i r:%
\begin{equation*}
\hat{e}:=Y-X^{\prime }\hat{\beta}=(I-P_{X})Y=M_{X}Y.
\end{equation*}

\textbf{Geometrik yorumlama:} $L:=$yay\i lma (span)$(X):=\{Xb:b\in \mathbb{R}%
^{k}\}$ $X$'in s\"{u}tunlar\i\ taraf\i ndan yay\i lan do\u{g}rusal uzay
(linear space) olsun. $P_{X}$ matrisi izd\"{u}\c{s}\"{u}m matrisi
(projection matrix) olarak adland\i r\i l\i r, \c{c}\"{u}nk\"{u} $Y$'nin $L$ 
\"{u}zerine izd\"{u}\c{s}\"{u}m\"{u}n\"{u} verir. $M_{X}$ matrisi ise $Y$%
'nin $L$'ye dikeysel (orthogonal) olan alt uzay (subspace) \"{u}zerine olan
izd\"{u}\c{s}\"{u}m\"{u}n\"{u} veren izd\"{u}\c{s}\"{u}m matrisidir.

Asl\i nda, LS (en k\"{u}\c{c}\"{u}k kareler tahmincisi) \c{s}u problemi \c{c}%
\"{o}zer:%
\begin{equation*}
\min_{Y^{\ast }\in L}(Y-Y^{\ast })^{\prime }(Y-Y^{\ast })
\end{equation*}%
\c{C}\"{o}z\"{u}m olan $Y^{\ast }=\widehat{Y}$ ise Y'nin L\ \"{u}zerine olan
dikeysel izd\"{u}\c{s}\"{u}m\"{u}d\"{u}r, yani 
\begin{equation*}
\text{ (i) }\hat{Y}\in L\ \ \text{ (ii) }S^{\prime }\widehat{e}=0,\ \forall
S\in L,\ \widehat{e}:=(Y-\widehat{Y})=M_{X}Y.
\end{equation*}

Bunu g\"{o}z\"{u}m\"{u}zde canland\i rmak i\c{c}in \c{s}\"{o}yle bir basit 
\"{o}rnek kullanal\i m: $n=2$, tek boyutlu ba\u{g}la\c{s}t\i ran olsun ve
kesme (intercept) olmas\i n, yani \c{s}unlar ge\c{c}erli olsun $%
Y=(y_{1},y_{2})^{\prime }\in \mathbb{R}^{2}$, $X=(x_{1},x_{2})^{\prime }\in 
\mathbb{R}^{2}$ ve $\beta \in \mathbb{R}$.

Dikkat etmemiz gereken baz\i\ \"{o}zellikler \c{s}unlard\i r:

1. E\u{g}er regresyonda kesme varsa, yani $X$'in bir s\"{u}tunu \c{s}u ise $%
\mathbf{1}=(1,..,1)^{\prime }$, bu takdirde $\bar{Y}=\bar{X}^{\prime }\hat{%
\beta}$'dir. Regresyon do\u{g}rusu verinin ortalamalar\i n\i n i\c{c}inden ge%
\c{c}mektedir. Buna e\c{s}de\u{g}er olarak, $\mathbf{1}\in L$ oldu\u{g}u i%
\c{c}in, $\mathbf{1}^{\prime }\hat{e}=0$ veya $\bar{\hat{e}}=0$'d\i r.

2. \.{I}zd\"{u}\c{s}\"{u}m ("\c{s}apka" (hat)) matrisi $P_{X}=X(X^{\prime
}X)^{-1}X^{\prime }$ simetriktir ($P_{X}^{\prime }=P_{X}$) ve denkg\"{u}\c{c}%
l\"{u}d\"{u}r (idempotent) ($P_{X}P_{X}=P_{X}$). $P_{X}$ bir dikey izd\"{u}%
\c{s}\"{u}m i\c{s}lemcisidir ve $\mathbb{R}^{n}$'deki vekt\"{o}rleri $L$ ile
e\c{s}le\c{s}tirir (mapping). \"{O}zellikle, $P_{X}X=X$, $P_{X}\hat{e}=%
\mathbf{0}$, $P_{X}Y=X\hat{\beta}$'d\i r.

3. \.{I}zd\"{u}\c{s}\"{u}m matrisi $M_{X}=I-P_{X}$ de simetrik ve denkg\"{u}%
\c{c}l\"{u}d\"{u}r. $M_{X}$ ise $\mathbb{R}^{n}$'deki vekt\"{o}rleri $L$'ye
dikey olan do\u{g}rusal uzayla e\c{s}le\c{s}tirir. \"{O}zellikle, $M_{X}Y=%
\widehat{e}$, $M_{X}X=0$, ve $M_{X}\hat{e}=\hat{e}$'d\i r. Ayr\i ca dikkat
ediniz, $M_{X}P_{X}=0$'d\i r.

\subsection{B\"{o}l\"{u}nt\"{u}l\"{u} (Partitioned) veya K\i smi (Partial)
Regresyon}

$X_{1}$ ve $X_{2},$ $X$'i \c{s}u \c{s}ekilde b\"{o}l\"{u}nt\"{u}lesinler 
\begin{equation*}
X=[X_{1},X_{2}]
\end{equation*}%
ve sonra bir regresyon modeli d\"{u}\c{s}\"{u}nelim 
\begin{equation*}
Y=X_{1}\beta _{1}+X_{2}\beta _{2}+\varepsilon .
\end{equation*}%
\ Daha sonra ise, $P_{X_{2}}=X_{2}(X_{2}^{\prime }X_{2})^{-1}X_{2}^{^{\prime
}}$ ve $M_{X_{2}}=I-P_{X_{2}}$ olsun. \ Ek olarak, $\hat{V}%
_{1}=M_{X_{2}}X_{1}$ ve $\hat{U}=M_{X_{2}}Y$ olsun, yani $X_{1}$'in s\"{u}%
tunlar\i n\i n $X_{2}$ \"{u}zerine olan regresyonundan $\hat{V}_{1}$ kal\i
nt\i\ matrisi olarak elde edilsin ve $Y$'nin $X_{2}$ \"{u}zerine olan
regresyonundan $\hat{U}$ kal\i nt\i\ matrisi olarak elde edilsin.

\begin{theorem}
\label{FW} \ \c{S}u tahminciler e\c{s}de\u{g}erlidir: 1. $Y$'nin $X_{1}$ ve $%
X_{2}$ \"{u}zerine regresyonundan elde edilen $(\hat{\beta}_{1}^{\prime },%
\hat{\beta}_{2}^{\prime })^{\prime }$ vekt\"{o}rler tahmininin $\hat{\beta}%
_{1}$ bile\c{s}eni$,$ 2. $Y$'nin $\hat{V}_{1}$ \"{u}zerine regresyonundan
elde edilen $\tilde{\beta}_{1},$ 3. $\hat{U}$'in $\hat{V}_{1}$ \"{u}zerine
regresyonundan elde edilen $\bar{\beta}_{1}$.
\end{theorem}

\textbf{\.{I}spat}. Yukar\i da denklem (\ref{foc}) de g\"{o}sterilen olguyu
hat\i rlay\i n\i z: 
\begin{equation}
\text{ $\hat{\gamma}$ , ancak ve ancak }Z^{\prime }(Y-Z\hat{\gamma})=0\text{
ise, }Y\text{'nin }Z\text{ \"{u}zerindeki OLS'idir$.$ }  \label{fact}
\end{equation}%
\ \c{S}unu yazal\i m%
\begin{equation*}
Y=X_{1}\hat{\beta}_{1}+X_{2}\hat{\beta}_{2}+\hat{e}=\hat{V}_{1}\hat{\beta}%
_{1}+\underset{\hat{\eta}}{\underbrace{(X_{1}-\hat{V}_{1})\hat{\beta}%
_{1}+X_{2}\hat{\beta}_{2}+\hat{e}}}.
\end{equation*}%
Yukar\i daki olgu (\ref{fact}) kullan\i larak $\hat{\beta}_{1}=\bar{\beta}%
_{1}$ e\c{s}itli\u{g}i ancak ve ancak $\hat{V}_{1}^{\prime }\hat{\eta}=0$
ise ger\c{c}ekle\c{s}ir. Son \c{c}\i karsama \c{s}uradan gelir: $\hat{V}%
_{1}=M_{X_{2}}X_{1}\in $yay\i lma$(X)$'den dolay\i\ $\hat{V}_{1}^{\prime }%
\hat{e}=0$, $X_{2}^{\prime }\hat{V}_{1}=X_{2}^{\prime }M_{X_{2}}X_{1}=0$ ve $%
(X_{1}-\hat{V}_{1})^{\prime }\hat{V}_{1}=(P_{X_{2}}X_{1})^{\prime
}M_{X_{2}}X_{1}=0$.

$\hat{\beta}_{1}=\bar{\beta}_{1}$ e\c{s}itli\u{g}ini g\"{o}stermek i\c{c}in, 
\c{s}\"{o}yle yazal\i m 
\begin{equation*}
M_{X_{2}}Y=M_{X_{2}}(X_{1}\hat{\beta}_{1}+X_{2}\hat{\beta}_{2}+\hat{e}),
\end{equation*}%
bu da e\c{s}de\u{g}er olarak \c{s}u \c{s}ekilde belirtilebilir ($%
M_{X_{2}}X_{2}=0$ oldu\u{g}una dikkat ediniz) 
\begin{equation*}
\widehat{U}=\widehat{V}_{1}\hat{\beta}_{1}+M_{X_{2}}\hat{e}.
\end{equation*}%
$\widehat{V}_{1}^{\prime }M_{X_{2}}\hat{e}=(M_{X_{2}}X_{1})^{\prime
}(M_{X_{2}}\hat{e})=X_{1}^{\prime }M_{X_{2}}\hat{e}=\hat{V}_{1}^{\prime }%
\hat{e}=0$ oldu\u{g}u i\c{c}in$,$ \c{s}u sonu\c{c} elde edilir $\hat{\beta}%
_{1}=\bar{\beta}_{1}.$ \newline

\newpage

\textbf{K\i smi Regresyonun Uygulamalar\i :}

1. Yorum: $\hat{\beta}_{1}$ bir \textit{k\i smi} regresyon katsay\i s\i d\i
r. \newline

2. Ortalamadan Fark Alma (De-meaning): \ E\u{g}er $X_{2}=\mathbf{1}$ ise, bu
taktirde $M_{X_{2}}=I-\mathbf{1}(\mathbf{1}^{\prime }\mathbf{1})^{-1}\mathbf{%
1}^{\prime }=I-\mathbf{1}\mathbf{1}^{\prime }/n$ ve $M_{X_{2}}Y=Y-\mathbf{1}%
\bar{Y}$, $M_{X_{2}}X_{1}=X_{1}-\mathbf{1}\bar{X}_{1}^{\prime }$'d\i r. \ Bu
sebeple, $Y$'nin bir sabit $X_{2}=\mathbf{1}$ ve di\u{g}er ba\u{g}la\c{s}t\i
ranlar\i n bir k\"{u}mesi olan $X_{1}$ \"{u}zerine regresyonu\ \c{s}u \c{s}%
ekilde elde edilenlerle ayn\i\ e\u{g}im katsay\i lar\i n\i\ verir: (1) $Y$%
'nin kendi ortalamas\i ndan sapmas\i n\i n $X_{1}$'in kendi ortalamas\i ndan
sapmas\i\ \"{u}zerine regresyonu,\ veya (2) $Y$'nin $X_{1}$'in kendi
ortalamas\i ndan olan sapmas\i\ \"{u}zerine regresyonu. \newline

3. Ayr\i\ Regresyonlar: E\u{g}er $X_{1}$ ve $X_{2}$ dikeysel ise, yani $%
X_{1}^{\prime }X_{2}=0$, sonras\i nda $Y$'nin $X_{1}$ ve $X_{2}$ \"{u}zerine
regresyonundan elde edilen $\hat{\beta}_{1}$, $Y$'nin $X_{1}$ \"{u}zerine
regresyonundan elde edilen $\tilde{\beta}_{1}$'e e\c{s}de\u{g}erdir. Bunu g%
\"{o}stermek i\c{c}in \c{s}\"{o}yle yazal\i m $Y=X_{1}\hat{\beta}_{1}+(X_{2}%
\hat{\beta}_{2}+\hat{e})$ ve, dikkat ediniz, $X_{1}^{\prime }X_{2}=0$ ve $%
X_{1}^{\prime }\hat{e}=0$ kullan\i larak $X_{1}^{\prime }(X_{2}\hat{\beta}%
_{2}+\hat{e})=0$'d\i r. Olgu (\ref{fact}) kullan\i larak, $\hat{\beta}_{2}=%
\tilde{\beta}_{2}$ elde edilir. \newline

4. D\i \c{s}lanm\i \c{s} De\u{g}i\c{s}ken Yanl\i l\i \u{g}\i\ (Omitted
Variable Bias): E\u{g}er $X_{1}$ ve $X_{2}$ dikeysel de\u{g}il ise, yani $%
X_{1}^{\prime }X_{2}\neq 0$, sonras\i nda $Y$'nin $X_{1}$ ve $X_{2}$ \"{u}%
zerine regresyonundan elde edilen $\hat{\beta}_{1}$, $Y$'nin $X_{1}$ \"{u}%
zerine regresyonundan elde edilen $\tilde{\beta}_{1}$'e e\c{s}de\u{g}er de%
\u{g}ildir. Ancak, \c{s}unu g\"{o}sterebiliriz 
\begin{equation*}
\tilde{\beta}_{1}=(X_{1}^{\prime }X_{1})^{-1}X_{1}^{\prime }(X_{1}\hat{\beta}%
_{1}+X_{2}\hat{\beta}_{2}+\hat{e})=\hat{\beta}_{1}+(X_{1}^{\prime
}X_{1})^{-1}X_{1}^{\prime }(X_{2}\hat{\beta}_{2}).
\end{equation*}%
Yani, "k\i sa" regresyondaki katsay\i , "uzun" regresyondaki katsay\i\
art\i\ "d\i \c{s}lanm\i \c{s}" terim olan $X_{2}\hat{\beta}_{2}$'nin
regresyona dahil olan $X_{1}$ ba\u{g}la\c{s}t\i ran\i\ \"{u}zerine yap\i lan
regresyonundan elde edilen katsay\i ya e\c{s}ittir. Buradaki ili\c{s}kinin
kitle i\c{c}in de kolayl\i kla kullan\i labilece\u{g}ini g\"{o}rebiliriz.

\bigskip

\textbf{\"{O}rnek:} Varsayal\i m $Y$ kazan\c{c}, $X_{1}$ e\u{g}itim ve $%
X_{2} $ g\"{o}zlemlenemeyen yetenek olsun. "Uzun" katsay\i\ $\hat{\beta}_{1}$
ile "k\i sa" katsay\i\ $\tilde{\beta}_{1}$'i kar\c{s}\i la\c{s}t\i ral\i m.

\subsection{\.{I}zd\"{u}\c{s}\"{u}mler (Projections), $R^{2}$ ve Varyans (De%
\u{g}i\c{s}irlik) \c{C}\"{o}z\"{u}mlemesi (ANOVA)}

Faydal\i\ bir uygulama $R^{2}$'nin t\"{u}retimidir; bu kriter, $Y$'deki de%
\u{g}i\c{s}imin ne kadar\i n\i n $X$'deki de\u{g}i\c{s}im ile a\c{c}\i
kland\i \u{g}\i n\i\ g\"{o}sterir. Orijinden ge\c{c}en regresyonda, a\c{s}a%
\u{g}\i daki varyans \c{c}\"{o}z\"{u}mlemesi ayr\i \c{s}t\i rmas\i n\i\ g%
\"{o}sterebiliriz (analysis of variance, ANOVA) 
\begin{equation*}
Y^{\prime }Y=\widehat{Y}^{\prime }\widehat{Y}+\widehat{e}^{\prime }\widehat{e%
}.
\end{equation*}%
Buradan $R^{2}:=\widehat{Y}^{\prime }\widehat{Y}/Y^{\prime }Y=1-\widehat{e}%
^{\prime }\widehat{e}/Y^{\prime }Y$ ve olu\c{s}um gere\u{g}i $0\leq
R^{2}\leq 1$.

E\u{g}er regresyon kesme i\c{c}eriyorsa, yukar\i daki de\u{g}erlerin
ortalamadan fark\i n\i\ almak mant\i kl\i d\i r. Bu durumda form\"{u}l \c{s}%
una d\"{o}n\"{u}\c{s}\"{u}r 
\begin{equation*}
(Y-\bar{Y})^{\prime }(Y-\bar{Y})=(\hat{Y}-\bar{Y})^{\prime }(\hat{Y}-\bar{Y}%
)+\widehat{e}^{\prime }\widehat{e},
\end{equation*}%
ve 
\begin{equation*}
R^{2}:=(\widehat{Y}-\bar{Y})^{\prime }(\widehat{Y}-\bar{Y})/((Y-\bar{Y}%
)^{\prime }(Y-\bar{Y}))=1-\widehat{e}^{\prime }\widehat{e}/(Y-\bar{Y}%
)^{\prime }(Y-\bar{Y}),
\end{equation*}%
burada $0\leq R^{2}\leq 1$'d\i r ve kal\i nt\i lar tan\i m gere\u{g}i, a\c{s}%
a\u{g}\i da g\"{o}sterildi\u{g}i gibi, s\i f\i r ortalamas\i na sahiptir.

\newpage

\section{Sonlu \"{O}rneklemlerde Tahmin ve Basit \c{C}\i karsama}

\subsection{Gauss-Markov (GM) Modelinde Tahmin ve \c{C}\i karsama}

GM modeli $(Y,X)$ verisi i\c{c}in ihtimal yasalar\i n\i n $\{P_{\theta
},\theta \in \Theta \}$ bir toplam\i d\i r ve \c{s}u \"{o}zelliklere
sahiptir:%
\begin{equation*}
\begin{array}{llll}
\text{GM1} & Y=X\beta +\varepsilon , & \beta \in \mathbb{R}^{k} & \text{do%
\u{g}rusall\i k} \\ 
\text{GM2} & \text{kerte}(X)=k &  & \text{\"{o}zde\c{s}le\c{s}tirme
(identification)} \\ 
\text{GM3} & E_{\theta }[\varepsilon \mid X]=0 & \forall \;\theta \in \Theta
& 
\begin{array}{l}
\text{dikeysellik, do\u{g}ru belirginle\c{s}tirme } \\ 
\text{(specification), d\i \c{s}sall\i k (exogeneity)}%
\end{array}
\\ 
\text{GM4} & E_{\theta }[\varepsilon \varepsilon ^{\prime }\mid X]=\sigma
^{2}I_{n\times n} & \forall \;\theta \in \Theta & \text{k\"{u}resellik
(sphericality)}%
\end{array}%
\end{equation*}

Burada, ihtimal modeli $P_{\theta }$'y\i\ tan\i mlayan $\theta $ parametresi 
\c{s}unlardan olu\c{s}ur 
\begin{equation*}
(\beta ,\sigma ^{2},F_{\varepsilon |X},F_{X}),
\end{equation*}%
burada $\beta $ regresyon parametre vekt\"{o}r\"{u}, $\sigma ^{2}$ bozukluk
varyans\i\ (variance of disturbances), $F_{\varepsilon |X},$ $\epsilon $
hatalar\i n\i n $X$ verildi\u{g}inde ko\c{s}ullu da\u{g}\i l\i m fonksiyonu
(conditional distribution function) ve $F_{X}$ ise $X$'in da\u{g}\i l\i m
fonksiyonudur. Hem $F_{\epsilon |X}$ hem de $F_{X}$ belirginle\c{s}tirilmemi%
\c{s}lerdir (unspecified), yani parametrik de\u{g}illerdir (non-parametric).

Bu model hakiki (actual) verinin bir\c{c}ok ger\c{c}ek\c{c}i \"{o}zelli\u{g}%
ini yok sayar, ancak analiz i\c{c}in faydal\i\ bir ba\c{s}lang\i \c{c}
noktas\i d\i r. Ayr\i ca, bu b\"{o}l\"{u}m\"{u}n ilerki k\i s\i mlar\i nda
hatalar\i n\i n da\u{g}\i l\i m\i n\i\ normal da\u{g}\i l\i m takip edecek 
\c{s}ekilde k\i s\i tlayaca\u{g}\i z.

\textbf{GM1 \& GM3:} Bu varsay\i mlar birlikte de\u{g}erlendirilmelidir,
ancak GM3'ten a\c{s}a\u{g}\i da daha detayl\i\ bahsedilecektir. Model,
parametrelerin ve hata teriminin do\u{g}rusal bir fonksiyonu olarak yaz\i
labilir, yani $y_{i}=\beta ^{\prime }x_{i}+\varepsilon _{i},$ burada GM3 $%
E[\epsilon _{i}|x_{i}]=0$ oldu\u{g}unu, ve, a\c{s}a\u{g}\i da da bahsedildi%
\u{g}i gibi, asl\i nda daha fazlas\i n\i\ da belirtir.

Burada ifade edilen, $Y$'nin ko\c{s}ullu ortalama fonksiyonunu
parametrelerde do\u{g}rusal olan bir i\c{s}levsel bi\c{c}im ile do\u{g}ru 
\c{s}ekilde belirginle\c{s}tirdi\u{g}imizdir. Bu noktada, i\c{s}levsel bi%
\c{c}imleri yakla\c{s}t\i rma teorisi ile nas\i l olu\c{s}turdu\u{g}umuzu
hat\i rlayabiliriz. Bahsedilen noktada, $x_{t}$'yi baz\i\ basit ba\u{g}la%
\c{s}t\i ranlar olan $f(w_{t})$'nin d\"{o}n\"{u}\c{s}\"{u}mleri
(transformations) olarak olu\c{s}turmu\c{s}tuk. Neticede, GM1 ve GM3
varsay\i mlar\i\ \c{s}unu belirtecek \c{s}ekilde yorumlanabilir: $%
E[y_{t}|w_{t}]=E[y_{t}|x_{t}]=x_{t}^{\prime }\beta $, bu da bir tam
(perfect) i\c{s}levsel bi\c{c}imle ve yakla\c{s}t\i rma hatas\i\ n\"{u}merik
olarak \"{o}nemsemeye de\u{g}mez oldu\u{g}unda \c{c}al\i \c{s}t\i \u{g}\i
m\i z bir varsay\i md\i r. Bir \c{c}ok ekonomik i\c{s}levsel bi\c{c}im
belirtilen varsay\i mlar ile gayet iyi e\c{s}le\c{s}mektedir.\footnote{\"{O}%
rne\u{g}in, Cobb-Douglas \"{u}retim fonksiyonu gibi do\u{g}rusal olmayan bir
model $y_{i}=AK_{i}^{\alpha }L_{i}^{1-\alpha }e^{\varepsilon _{i}}$
logaritmalar al\i narak kolayl\i kla do\u{g}rusal bir modele d\"{o}n\"{u}%
\c{s}t\"{u}r\"{u}lebilir:%
\begin{equation*}
\ln y_{i}=\ln A+\alpha \ln K_{i}+\left( 1-\alpha \right) \ln
L_{i}+\varepsilon _{i}
\end{equation*}%
Bu ayn\i\ zamanda daha \"{o}nce t\"{u}retti\u{g}imiz \c{c}okterimli yakla%
\c{s}t\i rmalara g\"{u}zel bir ba\u{g}lant\i\ olu\c{s}turur. Asl\i nda,
yukar\i daki denkleme $(\ln L)^{2}$ ve $(\ln K)^{2}$ gibi ek terimler kat\i
ld\i \u{g}\i nda bir translog i\c{s}levsel bi\c{c}imi elde edilir ve bu da
ikinci dereceden bir \c{c}okterimli yakla\c{s}t\i rmas\i d\i r. A\c{c}\i
kt\i r ki, yakla\c{s}t\i rma teorisi ve ekonomik modelleme aras\i ndaki ba%
\u{g}lant\i lar\i\ ke\c{s}fetmek i\c{c}in ilgin\c{c} bir f\i rsat mevcuttur.}

\textbf{GM2:} \textbf{\"{O}zde\c{s}le\c{s}tirme.}\footnote{%
Bu \"{o}rnek ve a\c{s}a\u{g}\i daki \"{o}rneklerden baz\i lar\i\ Raymond
Guiterras taraf\i ndan haz\i rlanm\i \c{s}t\i r.} Bu varsay\i m a\c{c}\i
klay\i c\i\ de\u{g}i\c{s}kenlerin do\u{g}rusal olarak ba\u{g}\i ms\i z
olduklar\i n\i\ ifade etmektedir. Takip eden \"{o}rnek bu ko\c{s}ulun
arkas\i ndaki d\"{u}\c{s}\"{u}ncenin alt\i n\i\ \c{c}izmektedir. Varsayal\i
m \c{s}u \"{u}cret denklemini tahmin etmek istiyorsunuz: 
\begin{equation*}
\log (\ddot{u}cret_{i})=\beta _{1}+\beta _{2}e\breve{g}itim_{i}+\beta _{3}s%
\ddot{u}re_{i}+\beta _{4}tecr\ddot{u}be_{i}+\varepsilon _{i}
\end{equation*}%
burada $e\breve{g}itim_{i}$ ka\c{c} y\i l okul e\u{g}itimi al\i nd\i \u{g}\i
n\i , $s\ddot{u}re_{i}$ mevcut i\c{s}te \c{c}al\i \c{s}\i lan s\"{u}reyi ve $%
tecr\ddot{u}be_{i}$ i\c{s}g\"{u}c\"{u}ndeki tecr\"{u}beyi (yani \c{s}u anki i%
\c{s} dahil olmak \"{u}zere t\"{u}m i\c{s}lerde \c{c}al\i \c{s}\i lan toplam
s\"{u}reyi) g\"{o}stermektedir.

Ancak \"{o}rneklemde hi\c{c} kimsenin i\c{s}ini de\u{g}i\c{s}tirmedi\u{g}ini
d\"{u}\c{s}\"{u}nelim, yani t\"{u}m $i$'ler i\c{c}in $s\ddot{u}re_{i}=tecr%
\ddot{u}be_{i}$ olsun. Bu e\c{s}itli\u{g}i regresyon denkleminde yerine koydu%
\u{g}umuzda \c{s}unu g\"{o}r\"{u}r\"{u}z:%
\begin{equation*}
\log (\ddot{u}cret_{i})=\beta _{1}+\beta _{2}e\breve{g}itim_{i}+(\beta
_{3}+\beta _{4})tecr\ddot{u}be_{i}+\varepsilon _{i}.
\end{equation*}%
Sonu\c{c}ta $\beta _{3}+\beta _{4}$ do\u{g}rusal kombinasyonunu tahmin
edebilirken $\beta _{3}$ ve $\beta _{4}$'\"{u} ayr\i\ ayr\i\ tahmin
edemeyiz. Bu olay \textit{k\i smi \"{o}zde\c{s}le\c{s}tirme} (\textit{%
partial identification) }olarak bilinir. Ekonometride bu durumla d\"{u}\c{s}%
\"{u}n\"{u}ld\"{u}\u{g}\"{u}n\"{u}n tersine s\i k\c{c}a kar\c{s}\i la\c{s}\i
l\i r.

\textbf{GM3:} \textbf{Dikeysellik veya Kat\i\ D\i \c{s}sall\i k (Strict
Exogeneity).} Burada, bozukluk teriminin beklenen de\u{g}eri a\c{c}\i klay\i
c\i\ de\u{g}i\c{s}kenlere ba\u{g}l\i\ de\u{g}ildir:%
\begin{equation*}
E\left[ \varepsilon |X\right] =0.
\end{equation*}%
Dikkat ederseniz, bu sadece $E\left[ \varepsilon _{i}|x_{i}\right] =0$ oldu%
\u{g}unu degil, ayn\i\ zamanda t\"{u}m $j$'ler i\c{c}in $E\left[ \varepsilon
_{i}|x_{j}\right] =0$ oldu\u{g}unu ifade eder. Yani, $i$ g\"{o}zlemi i\c{c}%
in bozukluk teriminin beklenen de\u{g}eri sadece o g\"{o}zlemin a\c{c}\i
klay\i c\i\ de\u{g}i\c{s}kenlerine de\u{g}il, ayn\i\ zamanda di\u{g}er t\"{u}%
m g\"{o}zlemlerin a\c{c}\i klay\i c\i\ de\u{g}i\c{s}kenlerine de ba\u{g}l\i\
de\u{g}ildir. Son ifade zaman serileri i\c{c}in mant\i ks\i z bir ko\c{s}ul
olabilse de, bu ko\c{s}ulu bir sonraki b\"{o}l\"{u}mde kald\i raca\u{g}\i z.
Ek olarak, daha \"{o}nce de vurguland\i \u{g}\i\ \"{u}zere, bu varsay\i m ko%
\c{s}ullu ortalama fonksiyonunda tam yakla\c{s}t\i rma (perfect
approximation) oldu\u{g}unu varsayd\i \u{g}\i\ i\c{c}in de mant\i ks\i z
olabilir.

Bu varsay\i m\i n neden dikkatle de\u{g}erlendirilmesi gerekti\u{g}ine y\"{o}%
nelik ba\c{s}ka bir sebep de vard\i r. Ekonometrik analizin esas ama\c{c}%
lar\i ndan birinin nedensel ya da yap\i sal etkileri ortaya \c{c}\i kartmak
oldu\u{g}unu hat\i rlay\i n\i z. E\u{g}er regresyonun nedensel bir
yorumlamas\i\ olacaksa, do\u{g}ru nedensel denklemin bozukluklar\i\ 
\begin{equation*}
y_{i}=x_{i}^{\prime }\gamma +u_{i}
\end{equation*}%
$E[u_{i}|x_{i}]=0$ gibi dikeysellik k\i s\i tlamalar\i n\i\ sa\u{g}lamak
zorundad\i r. Bu ger\c{c}ekle\c{s}irse, sonras\i nda nedensel etki
fonksiyonu $x_{i}^{\prime }\gamma $ regresyon denklemi $x_{i}^{\prime }\beta 
$ ile \c{c}ak\i \c{s}acakt\i r.

A\c{s}a\u{g}\i daki standart \"{o}rnek bu fikri netle\c{s}tirmemizde yard\i
mc\i\ olacakt\i r. Gelir ve e\u{g}itim seviyesi ili\c{s}kisi ve ger\c{c}ek
model hakk\i ndaki d\"{u}\c{s}\"{u}ncemiz \c{s}\"{o}yledir:%
\begin{equation*}
y_{i}=\gamma _{1}x_{i}+u_{i},\ \ u_{i}=\gamma _{2}A_{i}+\varepsilon _{i}
\end{equation*}%
burada $x_{i}$ e\u{g}itim seviyesi iken, $u_{i}$ ise yetenek etkisi olan $%
\gamma _{2}A_{i}$'den ve $x_{i}$, $A_{i}$ ve $\varepsilon $'dan ba\u{g}\i
ms\i z olan ikinci bir kal\i nt\i\ $\varepsilon _{i}$'den olu\c{s}maktad\i
r. Varsayal\i m hem e\u{g}itimin hem de yetene\u{g}in ortalamadan fark\i\
al\i ns\i n, yani, $x_{i}$ ortalama e\u{g}itimden sapmay\i\ \"{o}l\c{c}s\"{u}%
n ve $A_{i}$ ortalama yetenekten sapma olsun. Genel olarak, e\u{g}itim ile
yetenek alakal\i d\i r, yani 
\begin{equation*}
E[u_{i}|x_{i}]=\gamma _{2}E[A_{i}|x_{i}]\neq 0.
\end{equation*}%
Bu nedenle, dikeysellik bozulmaktad\i r ve $\gamma _{1}$'i $y_{i}$'nin $x_{i}
$ \"{u}zerine regresyonu\ ile tahmin etmek m\"{u}mk\"{u}n de\u{g}ildir.
Ancak dikkat ederseniz, e\u{g}er yetenek olan $A_{i}$'yi g\"{o}%
zlemleyebilsek ve $y_{i}$'nin e\u{g}itim $x_{i}$ ve yetenek $A_{i}$ \"{u}%
zerine uzun regresyonunu\ yapabilseydik, bu taktirde regresyon katsay\i
lar\i\ olan $\beta _{1}$ ve $\beta _{2}$ vas\i tas\i yla nedensel
fonksiyonun katsay\i lar\i\ olan $\gamma _{1}$ ve $\gamma _{2}$
hesaplanabilecekti.

\textbf{GM4}: \textbf{K\"{u}resellik.} Bu varsay\i m iki \"{o}nemli gereklili%
\u{g}i i\c{c}erir. Bunlardan birincisi \emph{e\c{s}it yay\i l\i m'd\i r
(homoscedasticity)}: $E\left[ \varepsilon _{i}^{2}|X\right] =\sigma ^{2},\ \
\,\forall \,i.$ Bunun manas\i , her bir bozukluk teriminin ko\c{s}ullu
varyans\i n\i n (conditional variance) t\"{u}m g\"{o}zlemler i\c{c}in ayn\i\
olmas\i d\i r. Bu genellikle ger\c{c}ek\c{c}ilikten olduk\c{c}a uzak bir
varsay\i md\i r.

\.{I}kinci ko\c{s}ul ise \emph{kendiyle ilgile\c{s}im olmamas\i 'd\i r
(nonautocorrelation)}: $E\left[ \varepsilon _{i}\varepsilon _{j}|X\right]
=0\,\ \ \ \forall \,i\neq j.$ Bunun manas\i\ da herhangi iki farkl\i\ g\"{o}%
zleme ait bozukluklar\i n ilgile\c{s}imsiz (uncorrelated) olmas\i d\i r.
Zaman serisi verisinde bozukluklar \c{c}o\u{g}u kez kendiyle ilgile\c{s}%
imlidir.

Ek olarak, bu varsay\i m dolayl\i\ olarak bir\c{c}ok ikili tepki modelini
(binary response models) (ve di\u{g}er kesikli tepki (discrete response)
modellerini) ortadan kald\i r\i r. \"{O}rne\u{g}in, varsayal\i m $y_{i}\in
\{0,1\}$ olsun, bu durumda 
\begin{equation*}
y_{i}=E[y_{i}|x_{i}]+\varepsilon _{i}=Pr[y_{i}=1|x_{i}]+\varepsilon _{i},
\end{equation*}%
burada $\varepsilon _{i}$'nin varyans\i\ $%
P[y_{i}=1|x_{i}](1-P[y_{i}=1|x_{i}])$'dir ve bu da $x_{i}$'ye ba\u{g}\i ml\i
d\i r; bunun istisnas\i\ ilgimizi \c{c}ekmeyen $P[y_{i}=1|x_{i}]$ durumudur,
bu da $x_{i}$'ye ba\u{g}\i ml\i\ de\u{g}ildir.

\subsection{Gauss-Markov Modelinde OLS'nin \"{O}zellikleri}

\.{I}lgimizi \c{c}eken, $\beta $'n\i n \c{c}e\c{s}itli i\c{s}levselleridir, 
\"{o}rne\u{g}in,

\begin{itemize}
\item $\beta _{j}$, $\beta $'n\i n ilgilenebilece\u{g}imiz bir $j$-inci bile%
\c{s}eni,

\item $(x_{1}-x_{0})^{\prime }\beta $, ba\u{g}la\c{s}t\i ran de\u{g}%
erlerindeki bir de\u{g}i\c{s}iklikten kaynaklanan ko\c{s}ullu ortalaman\i n
bir k\i smi fark\i\ (partial difference),

\item $\frac{\partial x(w)}{\partial w_{k}}^{\prime }\beta $, ko\c{s}ullu
ortalaman\i n temel (elementary) ba\u{g}la\c{s}t\i ran $w_{k}$ ile bir k\i
smi t\"{u}revi.
\end{itemize}

Bu i\c{s}levseller \c{s}u bi\c{c}im ile olu\c{s}ur 
\begin{equation*}
c^{\prime }\beta \ \text{ ge\c{c}erli oldu\u{g}u }\ c\in \mathbb{R}^{K}\text{
i\c{c}in}.
\end{equation*}%
Bu durumda, $\hat{\beta}$'n\i n etkinli\u{g}ini (efficiency) bu t\"{u}r i%
\c{s}levselleri m\"{u}mk\"{u}n olabildi\u{g}i kadar kesin (precise) tahmin
etme yetene\u{g}i olarak tan\i mlamak mant\i kl\i d\i r.

Belirtilen varsay\i mlar ile, \c{s}u durumlar elde edilir 
\begin{equation*}
E_{\theta }[\hat{\beta}|X]=E_{\theta }[(X^{\prime }X)^{-1}X^{\prime }(X\beta
+\varepsilon )\mid X]=I\beta +0=\beta \ \ \forall \theta \in \Theta .
\end{equation*}%
Bu \"{o}zellik ortalama-yans\i zl\i k (mean-unbiasedness) olarak adland\i
r\i l\i r. Bunun manas\i\ da, \"{o}zellikle, do\u{g}rusal i\c{s}levsellerin
tahminlerinin de yans\i z oldu\u{g}udur $E_{\theta }[c^{\prime }\hat{\beta}%
|X]=c^{\prime }\beta $.

\c{S}imdi, regresyon katsay\i s\i\ $\beta $ i\c{c}in OLS'nin etkinli\u{g}ini
di\u{g}er tahminciler ile kar\c{s}\i la\c{s}t\i ral\i m. Rekabet edecek aday
tahminci $\tilde{\beta}$ do\u{g}rusal ve yans\i z olsun. Do\u{g}rusall\i 
\u{g}\i n manas\i\ $\tilde{\beta}=a+AY$ olmas\i d\i r, burada $a$ ve $A,$ $X$%
'in \"{o}l\c{c}\"{u}lebilir fonksiyonudur (measurable function) ve t\"{u}m $%
\Theta $ i\c{c}indeki $\theta $ i\c{c}in $E_{\theta }[\tilde{\beta}|X]=\beta 
$'d\i r. Dikkat ederseniz, yans\i zl\i k ko\c{s}ulu t\"{u}m $\beta \in 
\mathbb{R}^{k}$ i\c{c}in $a+AX\beta =\beta $ olmas\i n\i\ gerektirir. Yani, 
\begin{equation*}
AX=I\text{ ve }a=0\text{'d\i r}.
\end{equation*}

\begin{theorem}
Gauss-Markov Teoremi. GM\ modelinde, $X$ \"{u}zerine ko\c{s}ullu olarak, $%
\beta $'n\i n en k\"{u}\c{c}\"{u}k varyans do\u{g}rusal yans\i z tahmincisi
(EVDYT, minimum variance linear unbiased estimator, MVLUE) $\hat{\beta}$'d\i
r; bunun manas\i\ da herhangi bir di\u{g}er do\u{g}rusal yans\i z tahminci $%
\tilde{\beta}$'n\i n \c{s}u ili\c{s}kiyi sa\u{g}layaca\u{g}\i d\i r: 
\begin{equation*}
\text{Var}_{\theta }[c^{\prime }\tilde{\beta}\mid x]\geq \text{Var}_{\theta
}[c^{\prime }\hat{\beta}\mid X],\;\ \ \ \forall c\in \mathbb{R}^{K},\;\ \ \
\forall \theta \in \Theta .
\end{equation*}
\end{theorem}

\noindent Yukar\i daki \"{o}zellik \c{s}una denktir: $c^{\prime }\text{Var}%
_{\theta }[\tilde{\beta}\mid X]c-c^{\prime }\text{Var}_{\theta }[\hat{\beta}%
\mid X]c\geq 0\;\ \ \ \forall c\in \mathbb{R}^{K},\;\ \ \ \forall \theta \in
\Theta ,$ bu da \c{s}unu s\"{o}ylemekle ayn\i d\i r 
\begin{equation*}
\text{Var}_{\theta }[\tilde{\beta}\mid X]-\text{Var}_{\theta }[\hat{\beta}%
\mid X]\ ,\text{ }\forall \theta \in \Theta \text{ i\c{c}in \textit{pozitif} 
\textit{tan\i ml\i d\i r}}.
\end{equation*}%
\newline

\textbf{\"{O}rnek.} Varsayal\i m $y_{t}$ kazan\c{c}lar\i , $x_{t}$ al\i nan e%
\u{g}itim s\"{u}resini temsil etsin. E\u{g}itim s\"{u}resindeki de\u{g}i\c{s}%
ikli\u{g}in ortalama etkisi \c{s}udur $E[y_{t}\mid x_{t}=x^{\ast
}]-E[y_{t}\mid x_{t}=x]=(x^{\ast }-x)^{\prime }\beta $. GM Teoremi kullan\i
larak, $(x^{\ast }-x)^{\prime }\beta $ i\c{c}in $(x^{\ast }-x)^{\prime }\hat{%
\beta}$ EVDYT'dir. \newline

\textbf{\"{O}rnek.} OLS'in bir rakibi WLS'dir (weighted least squares, a\u{g}%
\i rl\i kl\i\ en k\"{u}\c{c}\"{u}k kareler) ve a\u{g}\i rl\i klar\i\ $W=%
\text{diag}(w(x_{1}),...,w(x_{n}))$'dir. WLS \c{s}unu \c{c}\"{o}zer: $%
\min_{\beta }E_{n}[(y_{t}-x_{t}^{\prime }\beta )^{2}w(x_{t})]$, veya, denk
olarak $\min_{\beta }(Y-X\beta )^{\prime }W(Y-X\beta )$. \c{C}\"{o}z\"{u}m $%
\hat{\beta}_{WLS}=(X^{\prime }WX)^{-1}X^{\prime }WY$'d\i r ve $\hat{\beta}%
_{WLS}$ do\u{g}rusal ve yans\i zd\i r (bunu g\"{o}steriniz). GM1-GM4
varsay\i mlar\i\ alt\i nda WLS, OLS\ ile \c{c}ak\i \c{s}mad\i \u{g}\i\ m\"{u}%
ddet\c{c}e, OLS'ten daha az etkindir.

\subsection{GM Teorem'inin \.{I}spat\i .}

Notasyonda, $\theta $ ile endekslemeden vazge\c{c}elim. Yans\i zl\i \u{g}\i
n sa\u{g}lamas\i\ yukar\i da yap\i lm\i \c{s}t\i . Herhangi bir ba\c{s}ka
yans\i z tahminciyi ele alal\i m: $\tilde{\beta}=AY.$ Yans\i zl\i k \"{o}%
zelli\u{g}i ile, $AX=I$'d\i r$.$ \c{S}u hususlar\i\ g\"{o}zlemleyebiliriz: $%
\text{var}[c^{\prime }\tilde{\beta}\mid X]=c^{\prime }AA^{\prime }c\sigma
^{2}$ ve $\text{var}[c^{\prime }\hat{\beta}\mid X]=c^{\prime }(X^{\prime
}X)^{-1}c\cdot \sigma ^{2}$. A\c{s}a\u{g}\i daki e\c{s}itli\u{g}i g\"{o}%
stermemiz yeterlidir 
\begin{equation*}
\text{var}[c^{\prime }\tilde{\beta}\mid X]-\text{var}[c^{\prime }\hat{\beta}%
\mid X]=\text{var}[c^{\prime }\tilde{\beta}-c^{\prime }\hat{\beta}\mid X],
\end{equation*}%
\c{c}\"{u}nk\"{u} sa\u{g} taraf negatif de\u{g}ildir. \c{S}unu yazal\i m 
\begin{eqnarray*}
\text{var}[c^{\prime }\tilde{\beta}-c^{\prime }\hat{\beta}\mid X] &=&\text{%
var}[\underset{M}{\underbrace{c^{\prime }(A-(X^{\prime }X)^{-1}X^{\prime })}}%
(X\beta +\epsilon )\mid X] \\
&=&\text{var}[M\varepsilon \mid X]=E[M\varepsilon \varepsilon ^{\prime
}M^{\prime }\mid X]=MM^{\prime }\sigma ^{2}\quad \text{(A4'ten dolay\i )} \\
&=&c^{\prime }[AA^{\prime }-(X^{\prime }X)^{-1}]c\cdot \sigma ^{2}\quad
(\Longleftarrow AX=I) \\
&=&{c^{\prime }AA^{\prime }c\sigma ^{2}}-{c^{\prime }(X^{\prime
}X)^{-1}c\cdot \sigma ^{2}}\square
\end{eqnarray*}

\textbf{A\c{c}\i klama:} Bu ispat, portf\"{o}y teorisi ve Hausman-t\"{u}r%
\"{u} testler gibi bir\c{c}ok yerde kullan\i lan genel bir prensibi g\"{o}%
stermektedir. Dikkat ederseniz, fark\i n varyans\i ,\ kovaryans\i\ (e\c{s}de%
\u{g}i\c{s}irlik, covariance) gerektirmeyen \c{c}ok basit bir yap\i ya
sahiptir: 
\begin{equation*}
\text{var}[c^{\prime }\tilde{\beta}-c^{\prime }\hat{\beta}\mid X]=\text{var}%
[c^{\prime }\tilde{\beta}\mid X]-\text{var}[c^{\prime }\hat{\beta}\mid X]
\end{equation*}%
Bunun sebebi \c{s}udur 
\begin{equation*}
\text{cov}[c^{\prime }\tilde{\beta},c^{\prime }\hat{\beta}\mid X]=\text{var}%
[c^{\prime }\hat{\beta}\mid X].
\end{equation*}%
Bunun manas\i\ da etkinsiz tahmin (inefficient estimate) $c^{\prime }\tilde{%
\beta}$ \c{s}una e\c{s}ittir: etkin bir tahmin olan $c^{\prime }\hat{\beta}$
art\i\ etkin tahmin ile ilgile\c{s}imsiz (uncorrelated) ek bir tahmin
rastsal\i\ (noise).

\subsection{OLS'in Rakipleri ve Alternatifleri. B\"{o}l\"{u}m I}

\c{S}u \"{o}rnekleri de\u{g}erlendirelim. \newline

\textbf{\"{O}rnek} [\textit{Uzman (expert) Tahminlerine kar\c{s}\i\ OLS}]
Bir uygulama olarak, varsayal\i m $\beta =(\beta _{1},...\beta _{k})^{\prime
}$ olsun; burada $\beta _{1}$ bir \"{u}r\"{u}n\"{u}n talep elastikiyetini 
\"{o}l\c{c}er. Bahsetti\u{g}imiz tan\i mlar ve GM\ teoremi \c{c}er\c{c}%
evesinde, iki tahminciyi analiz edelim ve kar\c{s}\i la\c{s}t\i ral\i m:
sabit tahmin $\beta _{1}^{\ast }=1$ bir end\"{u}striyel organizasyon
uzman\i\ taraf\i ndan sa\u{g}lanm\i \c{s} olsun ve $\hat{\beta}_{1}$ s\i
radan enk\"{u}\c{c}\"{u}k kareler tahmini olarak elde edilsin.

\begin{itemize}
\item Hangi durumda bunlardan birini di\u{g}erine tercih edersiniz?

\item GM\ teoremi bu karar ile alakal\i\ m\i d\i r?
\end{itemize}

Uzman tahmini, OLS'ten ortalama kare hata a\c{c}\i s\i ndan daha iyi
olabilir: 
\begin{equation*}
E_{\theta }[(\beta ^{\ast }-\beta )^{2}]<E_{\theta }[(\hat{\beta}-\beta
)^{2}]
\end{equation*}%
bu baz\i\ veya bir\c{c}ok $\theta \in \Theta $ de\u{g}erleri i\c{c}in ge\c{c}%
erlidir, bu da do\u{g}rusal i\c{s}levsellerin daha k\"{u}\c{c}\"{u}k tahmin
hatas\i\ yapt\i \u{g}\i\ manas\i na gelir. Karar\i n kritik y\"{o}n\"{u} $%
\Theta $'n\i n de\u{g}eri hakk\i nda ne d\"{u}\c{s}\"{u}nd\"{u}\u{g}\"{u}m%
\"{u}zd\"{u}r. Daha detayl\i\ bilgi i\c{c}in B\"{o}l\"{u}m 3.9'a da bak\i
n\i z. \newline

\textbf{\"{O}rnek} [\textit{Fire (shrinkage) Tahminlerine kar\c{s}\i\ OLS}]
Fire tahmincileri \"{o}\u{g}renme teorisinde yeniden g\"{u}ndeme
gelmektedir, bu da regresyon \c{c}\"{o}z\"{u}mlemesi demenin modern bir
yoludur.

Fire tahmincilerinin bir \"{o}rne\u{g}i, \c{s}u \"{o}rne\u{g}i \c{c}\"{o}%
zendir: 
\begin{equation*}
\min_{b}[(Y-Xb)^{\prime }(Y-Xb)/2+\lambda (b-\beta ^{\ast })X^{\prime
}X(b-\beta ^{\ast })]
\end{equation*}%
\.{I}lk terime sadakat/do\u{g}ruluk (fidelity) denir, \c{c}\"{u}nk\"{u} uyum
iyili\u{g}ini (goodness of fit) s\"{o}zkonusu veri i\c{c}in \"{o}d\"{u}%
llendirir. \.{I}kinci terime ise fire denir, \c{c}\"{u}nk\"{u} $Xb$'nin 
\textit{\"{o}nsel} (a priori) olarak (teori ya da ba\c{s}ka verisetleri ile
yap\i lan tahmin sonu\c{c}lar\i\ vs de\u{g}erlendirildi\u{g}inde) makul oldu%
\u{g}unu d\"{u}\c{s}\"{u}nd\"{u}\u{g}\"{u}m\"{u}z $X\beta ^{\ast }$ de\u{g}%
erlerinden sapmalar\i n\i\ cezaland\i r\i r. Yukar\i daki tahminci i\c{c}in
normal denklemler \c{s}u \c{s}ekilde ifade edilir: 
\begin{equation*}
X^{\prime }(Y-X\tilde{\beta})+\lambda X^{\prime }X(\tilde{\beta}-\beta
^{\ast })=0,
\end{equation*}%
ve $\tilde{\beta}$ i\c{c}in \c{c}\"{o}z\"{u}ld\"{u}\u{g}\"{u}nde \c{s}u elde
edilir 
\begin{equation*}
\tilde{\beta}=(X^{\prime }X(1+\lambda ))^{-1}(X^{\prime }Y+\lambda X^{\prime
}X\beta ^{\ast })=\frac{\hat{\beta}}{1+\lambda }+\frac{\lambda }{1+\lambda }%
\beta ^{\ast }
\end{equation*}%
Dikkat ederseniz, $\lambda =0$'a e\c{s}itlendi\u{g}inde OLS'in $\hat{\beta}$%
's\i\ elde edilir ve $\lambda \approx \infty $ oldu\u{g}unda uzman tahmini $%
\beta ^{\ast }$ elde edilir.

$\lambda $'n\i n se\c{c}imi s\i k\c{c}a uygulamac\i lara (practitioners) b\i
rak\i l\i r. Tahmin amac\i na y\"{o}nelik olarak, $\lambda $ ortalama kare
hatay\i\ minimize edecek \c{s}ekilde se\c{c}ilebilir. Bu da \textit{\c{c}%
apraz ge\c{c}erleme }(cross-validation) denen bir yolla elde edilebilir.

\newpage

\subsection{GM'da Normallik Varsay\i m\i\ Alt\i nda Sonlu \"{O}rneklem \c{C}%
\i karsamas\i}

\c{C}\i karsama amac\i yla, OLS'nin varyans\i n\i\ tahmin etmemiz gerekir. $%
\sigma ^{2}(X^{\prime }X)^{-1}$ i\c{c}in yans\i z bir tahmini $%
s^{2}(X^{\prime }X)^{-1}$ olarak olu\c{s}turabiliriz; burada 
\begin{equation*}
s^{2}=\widehat{e}^{\prime }\widehat{e}/(n-K)\text{'d\i r}.
\end{equation*}%
$E_{\theta }[s^{2}|X]=\sigma ^{2}$'in yans\i zl\i \u{g}\i\ \c{s}uradan gelir 
\begin{eqnarray}
&&E_{\theta }[\widehat{e}^{\prime }\widehat{e}|X]=E_{\theta }[\varepsilon
^{\prime }M_{X}\varepsilon |X]=E_{\theta }[tr(M_{X}\varepsilon \varepsilon
^{\prime })|X]  \notag \\
&=&tr(M_{X}E[\varepsilon \varepsilon ^{\prime }|X])=tr(M_{X}\sigma ^{2}I) 
\notag \\
&=&\sigma ^{2}tr(I-P_{X})=\sigma ^{2}(tr(I_{n})-tr(P_{X}))=\sigma
^{2}(tr(I_{n})-tr(I_{K}))=\sigma ^{2}(n-K),  \notag
\end{eqnarray}%
burada \c{s}unlar\i\ kulland\i k: $tr(AB)=tr(BA)$, iz'in (trace) ve beklenti
i\c{s}lemcisinin do\u{g}rusall\i \u{g}\i\ ve $tr(P_{X})=tr((X^{\prime
}X)^{-1}X^{\prime }X)=tr(I_{K})$ oldu\u{g}u.

Ayn\i\ zamanda \"{o}nemli bir ek varsay\i m\i\ da eklememiz gerekti: 
\begin{equation}
\text{ GM5. }\ \ \ \varepsilon |X\sim N(0,\sigma ^{2}I)\ \ \ \ \ \text{
Normallik }  \notag
\end{equation}%
Bu \c{s}ekilde, $Y$'nin $X$ verildi\u{g}indeki ko\c{s}ullu da\u{g}\i l\i m
modelimiz parametrik hale geldi ve ko\c{s}ullu da\u{g}\i l\i m\i n parametre
vekt\"{o}r\"{u}n\"{u} $\theta =(\beta ,\sigma ^{2})$'a eksiltti (reduced).

Normallik varsay\i m\i\ nas\i l hakl\i\ \c{c}\i kart\i labilir? Baz\i\
deneme yan\i lma y\"{o}ntemleri tart\i \c{s}\i labilir.

\begin{theorem}
\label{basic normality results} GM.1-GM.5 varsay\i mlar\i\ alt\i nda \c{s}%
unlar do\u{g}rudur:

\begin{itemize}
\item[1.] $\hat{\beta}|X\sim N(\beta ,\sigma ^{2}(X^{\prime }X)^{-1})$, $%
Z_{j}:=(\hat{\beta}_{j}-\beta _{j})/\sqrt{\sigma ^{2}(X^{\prime }X)_{jj}^{-1}%
}\sim N(0,1)$.

\item[2.] $(n-K)s^{2}/\sigma ^{2}\sim \chi ^{2}(n-K)$.

\item[3.] $s^{2}$ ve $\hat{\beta}$ ba\u{g}\i ms\i zd\i rlar.

\item[4.] $t_{j}:=(\hat{\beta}_{j}-\beta _{j})/se(\hat{\beta}_{j})\sim
t(n-K)\approx N(0,1),$ \c{s}unun i\c{c}in $se(\hat{\beta}_{j})=\sqrt{%
s^{2}(X^{\prime }X)_{jj}^{-1}}$; \newline
\ \ yakla\c{s}\i kl\i k $\approx $ ise $(n-K)\geq 30$ oldu\u{g}unda do\u{g}%
rudur (accurate).
\end{itemize}
\end{theorem}

\subsection{ \protect\ref{basic normality results} Teoreminin ispat\i .}

\c{S}u olgular\i\ kullanaca\u{g}\i z:

\begin{itemize}
\item[(a)] bir normal da\u{g}\i l\i m\i n do\u{g}rusal fonksiyonu bir
normaldir, yani e\u{g}er $Z\sim N(0,\Omega )$ ise, o zaman $AZ\sim
N(0,A\Omega A^{\prime })$,

\item[(b)] e\u{g}er iki normal vekt\"{o}r ilgile\c{s}imsiz ise, o zaman
ikisi ba\u{g}\i ms\i zd\i rlar,

\item[(c)] e\u{g}er $Z\sim N(0,I)$ ve $Q$ simetrik ve denkg\"{u}\c{c}l\"{u}
(idempotent) ise, o zaman $Z^{\prime }QZ\sim \chi ^{2}$kerte$(Q))$'d\i r,

\item[(d)] e\u{g}er bir standart normal de\u{g}i\c{s}ken $N(0,1)$ ve ki-kare
(chi-square) de\u{g}i\c{s}ken $\chi ^{2}(J)$ ba\u{g}\i ms\i z iseler, o
zaman $t(J)=N(0,1)/\sqrt{\chi ^{2}(J)/J}$ bir $J$ serbestlik dereceli
(degrees of freedom) Student t de\u{g}i\c{s}keni (Student's t) olarak
adland\i r\i l\i r.
\end{itemize}

\"{O}zelllik (a)-(c)'nin ispat\i n\i\ \"{o}dev olarak g\"{o}steriniz.

\c{S}imdi \c{s}u iddialar\i n herbirini ispatlayal\i m:

\begin{itemize}
\item[(1)] $\hat{e}=M_{X}\varepsilon $ ve $\hat{\beta}-\beta =(X^{\prime
}X)^{-1}X^{\prime }\varepsilon $ s\i f\i r ortalama ile birle\c{s}ik olarak
normaldirler, \c{c}\"{u}nk\"{u} bir normal vekt\"{o}r\"{u}n do\u{g}rusal
fonksiyonu normaldir.

\item[(2)] $\hat{e}$ ve $\hat{\beta}$ ilgile\c{s}imsizdirler, \c{c}\"{u}nk%
\"{u} kovaryanslar\i\ $\sigma ^{2}(X^{\prime }X)^{-1}X^{\prime }M_{X}=0$'a e%
\c{s}ittir ve bu sebeple birle\c{s}ik normallikten dolay\i\ ba\u{g}\i ms\i
zd\i rlar. $s^{2}$ ise $\hat{e}$'in bir fonksiyonudur, yani $\hat{\beta}$%
'ten ba\u{g}\i ms\i zd\i r.

\item[(3)] 
\begin{equation*}
(n-K)s^{2}/\sigma ^{2}=(\varepsilon /\sigma )^{\prime }M_{X}(\varepsilon
/\sigma )\sim \chi ^{2}(\text{kerte}(M_{X}))=\chi ^{2}(n-K).
\end{equation*}

\item[(4)] \"{O}zellikler 1-3 ile \c{s}unlar\i\ g\"{o}sterebiliriz 
\begin{equation*}
t_{j}=Z_{j}\Big /\sqrt{(s^{2}/\sigma ^{2})}\sim N(0,1)\Big /\sqrt{\chi
^{2}(n-K)/(n-K)}\sim t(n-K).
\end{equation*}
\end{itemize}

$\square$

\"{O}zellik 4 \"{o}nsav s\i namas\i\ (hypothesis testing) yapmam\i z\i\ ve g%
\"{u}ven aral\i klar\i\ (confidence intervals) kurmam\i z\i\ sa\u{g}lar. 
\c{S}u olaya (event) sahibiz 
\begin{equation*}
t_{j}\in \lbrack t_{\alpha /2},t_{1-\alpha /2}]\text{ 'nin ihtimali }%
1-\alpha \text{'d\i r},
\end{equation*}%
burada $t_{\alpha },$ bir $t(n-K)$ de\u{g}i\c{s}keninin $\alpha $-b\"{o}l%
\"{u}t\"{u}n\"{u} ifade eder. Bu nedenle, $\beta _{j}$'yi $1-\alpha $
ihtimali ile kapsayan bir g\"{u}ven b\"{o}lgesi (confidence region) \c{s}u 
\c{s}ekilde ifade edilir%
\begin{equation*}
I_{1-\alpha }=[\hat{\beta}_{j}\pm t_{1-\alpha /2}se(\hat{\beta}_{j})].
\end{equation*}%
Bu da olay $\beta _{j}\in I_{1-\alpha }$'n\i n olay $t_{j}\in \lbrack
t_{\alpha /2},t_{1-\alpha /2}]$'a e\c{s}de\u{g}er olmas\i ndan ortaya \c{c}%
\i kar.

Ayr\i ca, \c{s}unu s\i namak i\c{c}in 
\begin{equation*}
H_{o}:\beta _{j}=0\text{ kar\c{s}\i\ }H_{a}:\beta _{j}>0
\end{equation*}%
$t_{j}=(\hat{\beta}_{j}-0)/se(\hat{\beta}_{j})\geq t_{1-\alpha }$'in bir
kritik de\u{g}er olarak sa\u{g}land\i \u{g}\i n\i\ kontrol ediyoruz.
Geleneksel uygulama, kritik de\u{g}er $t_{1-\alpha }$'\i n \"{o}yle se\c{c}%
ilmesidir ki, s\i f\i r \"{o}nsav\i n\i\ (null hypothesis) do\u{g}ru iken
hatal\i\ \c{s}ekilde reddetmenin ihtimali \c{c}ok k\"{u}\c{c}\"{u}k bir de%
\u{g}er olan $\alpha $'ya e\c{s}it olsun; burada $\alpha $'n\i n kanonik
(canonical) se\c{c}imi $0.01$, $0.05$ veya $0.1$'e e\c{s}ittir. S\i f\i r 
\"{o}nsav\i\ alt\i nda, $t_{j}$ bir $t(n-K)$ da\u{g}\i l\i m\i\ takip eder, $%
t_{1-\alpha }$ de\u{g}erini de standart tablolardan bulabiliriz.

\c{S}unu test etmek i\c{c}in 
\begin{equation*}
H_{o}:\beta _{j}=0\text{ kar\c{s}\i\ }H_{a}:\beta _{j}\neq 0
\end{equation*}%
$|t_{j}|\geq t_{1-\alpha /2}$ olup olmad\i \u{g}\i na bak\i yoruz. Kritik de%
\u{g}er $t_{1-\alpha /2}$ ise hatal\i\ ret ihtimali $\alpha $ olacak \c{s}%
ekilde se\c{c}ilir.

Sadece "reddet" veya "reddetme" sonu\c{c}lar\i n\i\ bildirmek yerine p-de%
\u{g}erini (p-value) -- s\i f\i r \"{o}nsav\i\ alt\i nda $t_{j}$'ye e\c{s}it
ya da bundan b\"{u}y\"{u}k bir istatisti\u{g}i g\"{o}rme ihtimalini,
bildirmek de yayg\i n bir uygulamad\i r: 
\begin{equation*}
P_{j}=1-Pr[t(n-K)\leq t]\Big |_{t=t_{j}}
\end{equation*}%
tek yanl\i\ alma\c{s}\i klar (one sided alternatives) i\c{c}in, ve $|t_{j}|$ 
\begin{equation*}
P_{j}=1-Pr[-t\leq t(n-K)\leq t]\Big |_{t=|t_{j}|}
\end{equation*}%
ise iki yanl\i\ alma\c{s}\i klar i\c{c}indir. $Pr[t(n-K)\leq t]$ ihtimali, $%
t(n-K)$'nin da\u{g}\i l\i m fonksiyonudur, bu da Student da\u{g}\i l\i m\i\
ile s\i ralan\i r (tabulated).

P-de\u{g}erleri, \"{o}nsav s\i namas\i\ i\c{c}in t-istatistiklerini
kullanmaya e\c{s}de\u{g}er \c{s}ekilde kullan\i labilir. Ger\c{c}ekten de,
bir \"{o}nsav\i\ e\u{g}er $P_{j}\leq \alpha $ ise reddedebiliriz.

\textbf{\"{O}rnek. Temin'in Roma Bu\u{g}day Fiyatlar\i .} Temin, bir mesafe
indirim modeli (distance discount model) tahmin etmi\c{s}tir: 
\begin{equation*}
fiyat_{i}=\beta _{1}+\beta _{2}\cdot mesafe_{i}+\epsilon _{i},\ \ i=1,...,6
\end{equation*}%
burada $fiyat_{i}$ Roma eyaletlerinde bu\u{g}day\i n fiyat\i\ ve $mesafe_{i}$
ise $i$ eyaletinin Roma'ya olan uzakl\i \u{g}\i d\i r. Tahmin edilen model 
\c{s}udur 
\begin{equation*}
fiyat_{i}=-\underset{(0.49)}{1.09}-\underset{(0.0003)}{0.0012}\cdot
mesafe_{i}+\hat{\epsilon}_{i},\ \ R^{2}=0.79,
\end{equation*}%
standart hatalar parantez i\c{c}inde g\"{o}sterilmi\c{s}tir. S\i nama $\beta
_{2}=0$'a kar\c{s}\i\ $\beta _{2}<0$ i\c{c}in kullan\i lan t istatisti\u{g}i 
$t_{2}=-3.9$'dur. Tek yanl\i\ s\i nama i\c{c}in P-de\u{g}eri $%
P_{2}=P[t(4)<-3.9]=0.008$'dir$.$ $\beta _{2}$ i\c{c}in bir $\%90$ g\"{u}ven b%
\"{o}lgesi $[-0.0018,-0.0005]$'tir$;$ bu da $[\hat{\beta}_{2}\pm
t_{0.95}(4)\cdot se(\hat{\beta}_{2})]=[0.0012\pm 2.13\cdot 0.0003]$ olarak
hesaplan\i r.

\bigskip

\begin{theorem}
GM1-GM5 varsay\i mlar\i\ alt\i nda, $\hat{\beta}$ en \c{c}ok olabilirlik
tahmincisi (maximum likelihood estimator) ve ayn\i\ zamanda $\beta $'n\i n
en k\"{u}\c{c}\"{u}k varyans yans\i z tahmincisidir.
\end{theorem}

\textbf{\.{I}spat. }Bu ispat, $\hat{\beta}$'in varyans\i n\i n yans\i z
tahminciler i\c{c}in Cramer-Rao alt s\i n\i r\i n\i\ (Cramer-Rao lower
bound) sa\u{g}lad\i \u{g}\i n\i\ do\u{g}rulayarak g\"{o}sterilir. Bu
durumda, $y_{i}$'nin $y_{i}=y$'deki $x_{i}$ \"{u}zerine ko\c{s}ullu yo\u{g}%
unlu\u{g}u \c{s}u \c{s}ekildedir%
\begin{equation*}
f(y|x_{i},\beta ,\sigma ^{2})=\frac{1}{\sqrt{2\pi \sigma ^{2}}}\exp \{-\frac{%
1}{2\sigma ^{2}}(y-x_{i}^{\prime }\beta )^{2}\}.
\end{equation*}%
B\"{o}ylece, olabilirlik fonksiyonu \c{s}udur 
\begin{equation*}
L(b,\sigma ^{2})=\prod_{i=1}^{n}f(y_{i}|x_{i},b,\sigma ^{2})=\frac{1}{(2\pi
\sigma ^{2})^{n/2}}\exp \{-\frac{1}{2\sigma ^{2}}(Y-Xb)^{\prime }(Y-Xb)\}.
\end{equation*}%
Burada OLS $\hat{\beta}$'n\i n $\beta $ \"{u}zerinde olabilirlik
fonksiyonunu en\c{c}oklad\i \u{g}\i\ kolayca g\"{o}r\"{u}lebilir (bunu
kontrol ediniz).

Burada, $\theta =(\beta ,\sigma ^{2})$'\i n yans\i z tahmincilerinin
varyans\i n\i n (ko\c{s}ullu) Cramer-Rao alt s\i n\i r\i\ \c{s}una e\c{s}%
ittir (sa\u{g}lamas\i n\i\ yap\i n\i z) 
\begin{equation*}
\left[ -E\left[ \frac{\partial ^{2}\ln L}{\partial \theta \partial \theta
^{\prime }}\Big |X\right] \right] ^{-1}=\left[ 
\begin{array}{cc}
\sigma ^{2}(X^{\prime }X)^{-1} & 0 \\ 
0 & 2\sigma ^{4}/n%
\end{array}%
\right] .
\end{equation*}%
Buradan da enk\"{u}\c{c}\"{u}k karelerin alt s\i n\i r\i\ sa\u{g}lad\i \u{g}%
\i\ \c{c}\i kart\i l\i r.

\subsection{OLS'in Rakipleri ve Alternatifleri. B\"{o}l\"{u}m II}

\text{ } Hatalar normal da\u{g}\i lmad\i \u{g}\i\ taktirde, OLS'in di\u{g}er
tahmincilere g\"{o}re performans\i\ ciddi \"{o}l\c{c}\"{u}de k\"{o}t\"{u}le%
\c{s}ebilir.

\"{O}rnek. Koenker and Bassett (1978) \c{c}al\i \c{s}mas\i .

\subsection{ D\i \c{s}lanm\i \c{s} Bulu\c{s}sal Y\"{o}ntemler (Omitted
Heuristics): $\protect\varepsilon $'un normalli\u{g}i nereden gelmektedir?}

Poincare: \textquotedblleft Herkes \textit{Gauss}'un hata yasas\i na (law of
error) inanmaktad\i r; deneyciler bunun bir matematik teoremi oldu\u{g}unu d%
\"{u}\c{s}\"{u}nd\"{u}kleri i\c{c}in, matematik\c{c}iler ise deneysel bir
olgu oldu\u{g}unu d\"{u}\c{s}\"{u}nd\"{u}kleri i\c{c}in."

Gauss (1809) enk\"{u}\c{c}\"{u}k karelerin en\c{c}ok olabilirlik tahmini oldu%
\u{g}u bir hata da\u{g}\i l\i m\i\ olu\c{s}turmak i\c{c}in geriye d\"{o}n%
\"{u}k \c{c}al\i \c{s}m\i \c{s}t\i r. Bu nedenle, normal da\u{g}\i l\i ma
bazen Gaus\c{c}u da (Gaussian) denmektedir.

Merkezi Limit Teoremi (MLT, Central Limit Theorem, CLT)"ispat\i ":

Ekonometride, Haavelmo, 1944'teki \textit{Econometrica}'da yay\i nlanan
"Probability Approach to Econometrics (Ekonometriye Olas\i l\i k Yakla\c{s}%
\i m\i )" makalesinde, bu ispat\i n se\c{c}kin bir destek\c{c}isi olmu\c{s}%
tur. MLT\ ispat\i nda, her bir hata $\varepsilon _{i}$'nin b\"{u}y\"{u}k
say\i daki k\"{u}\c{c}\"{u}k ve ba\u{g}\i ms\i z basit (elementary) hatalar
olan $v_{ij}$'nin toplam\i\ oldu\u{g}u d\"{u}\c{s}\"{u}n\"{u}l\"{u}r, bu
sebeple de bu hatalar merkezi limit teoremi \i \c{s}\i \u{g}\i nda yakla\c{s}%
\i k olarak Gaus\c{c}u'dur.

E\u{g}er basit hatalar olan $v_{ij},j=1,2,...$ s\i f\i r ortalamal\i , \"{o}%
zde\c{s} ve ba\u{g}\i ms\i z da\u{g}\i l\i ml\i\ (i.i.d., identically and
independently distributed) ise ve $E[v_{ij}^{2}]<\infty $ ise, o zaman 
\textit{b\"{u}y\"{u}k $N$ }i\c{c}in 
\begin{equation*}
\varepsilon _{i}=\sqrt{N}\left[ \frac{\sum_{j=1}^{N}v_{ij}}{N}\right]
\approx _{d}N(0,Ev_{ij}^{2}),
\end{equation*}%
bu MLT'den elde edilmektedir.

Ancak, e\u{g}er basit hatalar $v_{ij}$ iid\ ve simetrik iseler ve $%
E[v_{ij}^{2}]=\infty $ ise, o zaman \textit{b\"{u}y\"{u}k $N$ i\c{c}in} ($%
v_{ij}$'nin kuyruk (tail) hareketlerine getirilecek ek teknik k\i s\i tlar
ile) 
\begin{equation*}
\varepsilon _{i}=N^{1-\frac{1}{\alpha }}\left[ \frac{\sum_{j=1}^{N}v_{ij}}{N}%
\right] \approx _{d}Kararl\imath \text{ }(Stable)\text{'d\i r}
\end{equation*}%
burada $\alpha $ en b\"{u}y\"{u}k sonlu beklemdir (finite moment): $\alpha
=\sup \{p:E|v_{ij}|^{p}<\infty \}.$ Bu da Khinchine ve Levy taraf\i ndan
ispat edilen MLT'den gelmektedir. Kararl\i\ da\u{g}\i l\i mlar ayn\i\
zamanda toplam-kararl\i\ (sum-stable) ve \textit{Pareto-Levy }da\u{g}\i l\i
mlar\i\ olarak da adland\i r\i l\i rlar\textit{.}

Simetrik\ kararl\i\ da\u{g}\i l\i mlar\i n yo\u{g}unluklar\i\ yakla\c{s}\i k
olarak g\"{u}\c{c} fonksiyonlar\i\ (power functions) gibi hareket eden kal\i
n kuyruklara (thick tails) sahiptirler; kuyruklarda $\alpha <2$ ile $%
x\mapsto \text{sabit}\cdot |x|^{-\alpha }$'d\i r.

Ba\c{s}ka bir ilgin\c{c} ek g\"{o}zlem: E\u{g}er $\alpha >1$ ise, \"{o}%
rneklem ortalamas\i\ olan $\sum_{j=1}^{N}v_{ij}/N$ bir yak\i nsayan
istatistiktir (converging statistic), e\u{g}er $\alpha <1$ ise \"{o}rneklem
ortalamas\i\ olan $\sum_{j=1}^{N}v_{ij}/N$ bir \i raksayan istatistiktir
(diverging statistic), bunun da farkl\i la\c{s}ma ve farkl\i la\c{s}mama
(diversification and non-diversification) i\c{c}in ilgin\c{c} uygulamalar\i\
vard\i r. (Son husus i\c{c}in bkz. R. Ibragimov'un \c{c}al\i \c{s}malar\i ).

Referanslar: Embrechts et al. \textit{Modelling Extremal Events (U\c{c}
Olaylar\i\ Modelleme)}

\newpage

\subsection{Genel Do\u{g}rusal K\i s\i tlamalar ile S\i nama ve Tahmin Etme}

\c{S}imdi de \c{s}u \c{s}ekilde verilen bir do\u{g}rusal e\c{s}itlik k\i s\i
tlamas\i n\i\ s\i namay\i\ d\"{u}\c{s}\"{u}nelim 
\begin{equation*}
H_{0}:R\beta =r,\ \ \text{kerte}R=p.
\end{equation*}%
burada $R$ bir $p\times K$ matrisi ve $r$ ise $p$-vekt\"{o}r\"{u}d\"{u}r.
Varsay\i m olarak $R$'nin tam sat\i r kertesinin olmas\i\ (full row rank)
basit\c{c}e art\i k k\i s\i tlamalar\i n (redundant restrictions) olmad\i 
\u{g}\i n\i\ ifade eder -- yani di\u{g}er k\i s\i tlamalar\i n do\u{g}rusal
kombinasyonu olarak yaz\i labilecek k\i s\i tlamalar mevcut de\u{g}ildir.
Alma\c{s}\i k ise \c{s}udur 
\begin{equation*}
H_{0}:R\beta \neq r.
\end{equation*}

Bu d\"{u}zenleme bir\c{c}ok \"{o}nsav\i\ s\i namam\i za imkan sa\u{g}lar. 
\"{O}rne\u{g}in, 
\begin{eqnarray}
&&R=[0,1,0,..,0]\ \ r=0\ \ \text{ \c{s}u k\i s\i tlamay\i\ olu\c{s}tur }%
\beta _{2}=0  \notag \\
&&R=[1,1,0,...,0]\ \ r=1\ \ \text{ \c{s}u k\i s\i tlamay\i\ olu\c{s}tur }%
\beta _{1}+\beta _{2}=1  \notag \\
&&R=[\mathbf{0}_{p\times (K-p)}I_{p\times p}]\ \ r=(0,0,...)^{\prime }\ \ 
\text{\c{s}u k\i s\i tlamay\i\ olu\c{s}tur }\ \beta _{K-p+1}=0,...,\beta
_{K}=0.  \notag
\end{eqnarray}

$H_{0}$'\i\ s\i namak i\c{c}in, Wald istatisti\u{g}inin bir kritik de\u{g}%
eri ge\c{c}ip ge\c{c}medi\u{g}ine bak\i yoruz: 
\begin{equation*}
W:=(R\hat{\beta}-r)^{\prime }[\widehat{Var}(R\hat{\beta})]^{-1}(R\hat{\beta}%
-r)>c_{\alpha },
\end{equation*}%
burada kritik de\u{g}er olan $c_{\alpha }$ s\i f\i r \"{o}nsav\i\ do\u{g}ru
iken hatal\i\ ret ihtimali $\alpha $'ya e\c{s}it olacak \c{s}ekilde se\c{c}%
ilmektedir. GM1-5 ile, \c{s}unu kabul edebiliriz 
\begin{equation}
\widehat{Var}(R\hat{\beta})=s^{2}R(X^{\prime }X)^{-1}R^{\prime }.
\label{basic1}
\end{equation}%
\c{S}unu \c{c}\i kartabiliriz $W_{0}=(R\hat{\beta}-r)^{\prime }[\sigma
^{2}R(X^{\prime }X)^{-1}R^{\prime }]^{-1}(R\hat{\beta}-r)=N(0,I_{p})^{2}\sim
\chi ^{2}(p)$ ve bu da $s^{2}/\sigma ^{2}\sim \chi ^{2}(n-K)/(n-K)$'\i\ sa%
\u{g}layan $s^{2}$'den ba\u{g}\i ms\i zd\i r. Bu sebeple, \c{s}unu \c{c}\i
kartabiliriz 
\begin{equation*}
W/p=(W_{0}/p)/(s^{2}/\sigma ^{2})\sim \frac{\chi ^{2}(p)/p}{\chi (n-K)/(n-K)}%
\sim F(p,n-K),
\end{equation*}%
burada $c_{\alpha },$ $F(p,n-K)$ \c{c}arp\i\ $p$'nin $\alpha $-b\"{o}l\"{u}t%
\"{u} olarak al\i nabilir. Buradaki $W/p$ istatisti\u{g}ine F istatisti\u{g}%
i (F-statistic) denir.

Hipotezi test etmenin di\u{g}er bir yolu mesafe fonksiyonu (distance
function, DF) testidir (yar\i -olabilirlik oran\i\ s\i namas\i , quasi
likelihood ratio test) ve bu da \"{o}l\c{c}\"{u}t (criterion) fonksiyonunun
k\i s\i ts\i z (unrestricted) tahmini ve k\i s\i tl\i\ (restricted)
tahmininden elde edilen de\u{g}erlerinin fark\i na ba\u{g}l\i d\i r: 
\begin{equation*}
Q_{n}(\hat{\beta}_{R})-Q_{n}(\hat{\beta}),
\end{equation*}%
bizim durumumuz i\c{c}in \c{s}unlar ge\c{c}erlidir $Q_{n}(b)=(Y-X^{\prime
}b)^{\prime }(Y-X^{\prime }b)/n$, $\hat{\beta}=\arg \min_{b\in \mathbb{R}%
^{K}}Q_{n}(b)$ ve 
\begin{equation*}
\hat{\beta}_{R}=\arg \min_{b\in \mathbb{R}^{K}:Rb=r}Q_{n}(b)
\end{equation*}%
A\c{s}a\u{g}\i daki e\c{s}de\u{g}erlik, (\ref{basic1})'te belirtilen kurgu i%
\c{c}in de ge\c{c}erli olmaktad\i r: 
\begin{equation*}
DF=n[Q_{n}(\hat{\beta}_{R})-Q_{n}(\hat{\beta})]/s^{2}=W,
\end{equation*}%
yani, mesafe fonksiyonu testinin kullan\i lmas\i\ Wald testi kullan\i lmas\i
na denktir. Bu denklik daha genel olarak GM\ modeli d\i \c{s}\i nda ge\c{c}%
erli de\u{g}ildir.

Ba\c{s}ka bir \"{o}nemli test prensibi de LM\ test prensibidir; bu da
Lagrange \c{C}arpan\i n\i n (Multiplier) yukar\i da belirtilen k\i s\i
tlamal\i\ optimizasyon problemi de\u{g}eri \"{u}zerinden hesaplan\i r.
Problem i\c{c}in Lagrange de\u{g}eri \c{s}udur 
\begin{equation*}
\mathcal{L}=nQ_{n}(b)/2+\lambda ^{\prime }(Rb-r).
\end{equation*}%
Optimumu tan\i mlayan ko\c{s}ullar \c{s}unlard\i r 
\begin{equation*}
X^{\prime }(Y-Xb)+R^{\prime }\lambda =0,Rb-r=0
\end{equation*}%
Bu denklemler \c{c}\"{o}z\"{u}ld\"{u}\u{g}\"{u}nde \c{s}unu elde ederiz 
\begin{equation*}
\hat{\beta}_{R}=(X^{\prime }X)^{-1}(X^{\prime }Y+R^{\prime }\hat{\lambda})=%
\hat{\beta}+(X^{\prime }X)^{-1}R^{\prime }\hat{\lambda}
\end{equation*}%
$b=\hat{\beta}_{R}$ de\u{g}erini $Rb-r=0$ k\i s\i t\i na koydu\u{g}umuzda, $%
R(\hat{\beta}+(X^{\prime }X)^{-1}R^{\prime }\hat{\lambda})-r=0$ de\u{g}eri
elde edilir, ya da 
\begin{equation*}
\hat{\lambda}=-[R(X^{\prime }X)^{-1}R^{\prime }]^{-1}(R\hat{\beta}-r).
\end{equation*}%
\.{I}ktisatta \c{c}arpan, bir k\i s\i t\i n g\"{o}lge fiyat\i\ (shadow
price) olarak adland\i r\i l\i r. S\i nama problemimizde, e\u{g}er k\i s\i
t\i n fiyat\i\ \c{c}ok y\"{u}ksek ise, hipotezi reddederiz. Test istatisti%
\u{g}i \c{s}u formu al\i r: 
\begin{equation*}
LM=\hat{\lambda}^{\prime }[\widehat{Var}(\hat{\lambda})]^{-1}\hat{\lambda},
\end{equation*}%
Bizim durumumuzda, $\widehat{Var}(R\hat{\beta})=s^{2}R(X^{\prime
}X)^{-1}R^{\prime }$ i\c{c}in, \c{s}u de\u{g}eri kullanabiliriz 
\begin{equation*}
\widehat{V}ar(\hat{\lambda})=[R(X^{\prime }X)^{-1}R^{\prime }]^{-1}\widehat{%
Var}(R\hat{\beta})[R^{\prime }(X^{\prime }X)^{-1}R]^{-1}
\end{equation*}%
Bu kurgu bizim \"{o}zel \"{o}rne\u{g}imiz i\c{c}in \c{s}u e\c{s}de\u{g}erli%
\u{g}i de vermektedir 
\begin{equation*}
LM=W.
\end{equation*}%
Bu e\c{s}itli\u{g}in do\u{g}rusal olmayan tahminciler i\c{c}in ge\c{c}erli
olmas\i n\i n gerekmedi\u{g}ine dikkat ediniz (asl\i nda genel olarak bu
istatistikler i\c{c}in yana\c{s}\i k (asymptotic) e\c{s}de\u{g}erlik ge\c{c}%
erlidir).

Yukar\i da k\i s\i tlamal\i\ tahmini de t\"{u}retmi\c{s}tik: 
\begin{equation*}
\hat{\beta}_{R}=\hat{\beta}-(X^{\prime }X)^{-1}R^{\prime }[R(X^{\prime
}X)^{-1}R^{\prime }]^{-1}(R\hat{\beta}-r).
\end{equation*}%
S\i f\i r \"{o}nsav\i\ do\u{g}ru oldu\u{g}unda, \c{s}unu g\"{o}sterebiliriz 
\begin{equation*}
E[\hat{\beta}_{R}|X]=\beta
\end{equation*}%
ve 
\begin{equation*}
Var[\hat{\beta}_{R}|X]=FVar(\hat{\beta}|X)F^{\prime },\ \ F=(I-(X^{\prime
}X)^{-1}R^{\prime }[R(X^{\prime }X)^{-1}R^{\prime }]^{-1}R).
\end{equation*}%
Matris anlam\i nda, \c{s}unu g\"{o}stermek zor de\u{g}ildir 
\begin{equation*}
Var[\hat{\beta}_{R}|X]\leq Var[\hat{\beta}|X]
\end{equation*}%
ve dolay\i s\i yla ROLS (restricted, k\i s\i tl\i ) $\hat{\beta}_{R}$ yans\i
zd\i r ve OLS'den daha etkindir. Bu e\c{s}itsizli\u{g}in sa\u{g}lamas\i\ do%
\u{g}rudan yap\i labilir; bu sonucu g\"{o}stermenin ba\c{s}ka bir yolu a\c{s}%
a\u{g}\i da verilmi\c{s}tir. Bu GM\ teoremi ile \c{c}eli\c{s}mekte midir?
Hay\i r. Neden?

Ortaya \c{c}\i kmaktad\i r ki, GM modelinde \textit{k\i s\i tlamal\i }
parametre $\{\beta \in \mathbb{R}^{K}:R\beta =r\}$ ile, ROLS en k\"{u}\c{c}%
\"{u}k varyans yans\i z do\u{g}rusal tahmincidir. Benzer \c{s}ekilde, GM
normal modelinde \textit{k\i s\i tlamal\i } parametre $\{\beta \in \mathbb{R}%
^{K}:R\beta =r\}$ ile, ROLS ayn\i\ zamanda en k\"{u}\c{c}\"{u}k varyans
yans\i z tahmincidir. Dikkat ederseniz, daha \"{o}nceden k\i s\i tlamas\i z
parametre uzay\i\ olan $\{\beta \in \mathbb{R}^{K}\}$ ile \c{c}al\i \c{s}m\i 
\c{s}t\i k.

K\i s\i tlanm\i \c{s} regresyon problemi k\i s\i tlamas\i z bir regresyona d%
\"{o}n\"{u}\c{s}t\"{u}r\"{u}lebilir. Bu husus ilk olarak $\beta _{1}+\beta
_{2}=1$ k\i s\i tlamas\i\ kullan\i lan bir \"{o}rnekle g\"{o}sterilebilir. 
\c{S}unu yaz\i n\i z 
\begin{equation*}
Y=X_{1}\beta _{1}+X_{2}\beta _{2}+\epsilon =X_{1}(\beta _{1}+\beta
_{2}-1)+X_{2}\beta _{2}-X_{1}(\beta _{2}-1)+\epsilon =(X_{2}-X_{1})\beta
_{2}-X_{1}+\epsilon 
\end{equation*}%
veya 
\begin{equation*}
Y-X_{1}=(X_{2}-X_{1})\beta _{2}+\epsilon ,
\end{equation*}%
Yeni modelin Gauss-Markov varsay\i mlar\i n\i\ sa\u{g}lad\i \u{g}\i n\i\
kolayl\i kla kontrol etmek \c{s}u parametre uzay\i\ ile m\"{u}mk\"{u}nd\"{u}%
r 
\begin{equation*}
\theta =(\beta _{2},\sigma ^{2},F_{\epsilon |X},F_{X}),
\end{equation*}%
burada $\beta _{2}\in \mathbb{R}$ k\i s\i tlamas\i zd\i r. Yani, son ifadeye
LS uygulanarak elde edilen $\hat{\beta}_{R2}$ etkin do\u{g}rusal tahmincidir
(normallik varsay\i m\i nda etkin tahminci). Benzer durum $\hat{\beta}%
_{R1}=1-\hat{\beta}_{R2}$ i\c{c}in de ge\c{c}erlidir, \c{c}\"{u}nk\"{u} bu $%
\hat{\beta}_{R2}$'nin do\u{g}rusal bir i\c{s}levselidir. Bu sebeple, ROLS $%
\hat{\beta}_{R}$ k\i s\i tlamas\i z do\u{g}rusal en k\"{u}\c{c}\"{u}k
kareler tahmincisi olan $\hat{\beta}_{2}$'den daha etkindir.

Bu fikir rahatl\i kla genelle\c{s}tirilebilir. Genel durumu bozmayacak \c{s}%
ekilde, ba\u{g}la\c{s}t\i ranlar\i n s\i ralamas\i n\i\ yeniden d\"{u}%
zenleyebiliriz, \c{s}\"{o}yle ki 
\begin{equation*}
R=[R_{1}\ \ R_{2}],
\end{equation*}%
burada $R_{1}$ bir tam kerte $p$\ olan $p\times p$ matrisidir. $H_{0}:R\beta
=r$'yi uygulamak, $R_{1}\beta _{1}+R_{2}\beta _{2}=r$ veya $\beta
_{1}=R_{1}^{-1}(r-R_{2}\beta _{2})$'ye e\c{s}de\u{g}er olur, bu durumda da 
\begin{equation*}
Y=X_{1}\beta _{1}+X_{2}\beta _{2}+\epsilon \overset{H_{0}}{=}%
X_{1}(R_{1}^{-1}(r-R_{2}\beta _{2}))+X_{2}\beta _{2}+\epsilon ,
\end{equation*}%
bu da \c{s}unu g\"{o}sterir 
\begin{equation*}
Y-X_{1}R_{1}^{-1}r=(X_{2}-X_{1}R_{1}^{-1}R_{2})\beta _{2}+\epsilon \text{'dur%
}.
\end{equation*}%
Bu da bize tekrar yeni bir ba\u{g}\i ml\i\ de\u{g}i\c{s}kenli ve yeni bir ba%
\u{g}la\c{s}t\i ranl\i\ model verir ve \"{o}nceki GM\ \c{c}er\c{c}evesine
uygun olur. Bu \c{c}er\c{c}evede $\hat{\beta}_{2R}$ tahmini ve ayn\i\
zamanda $\hat{\beta}_{1R}=R_{1}^{-1}(r-R_{2}\hat{\beta}_{2R})$ tahmini
etkindir.

\subsection{Sonlu \"{O}rneklemde Normallik Olmadan \c{C}\i karsama}

Sonlu-\"{o}rneklemde Monte-Carlo (MC) y\"{o}nteminin temel fikri a\c{s}a\u{g}%
\i daki \"{o}rnekle \c{s}u \c{s}ekilde g\"{o}sterilebilir.

\textbf{\"{O}rnek 1.} Varsayal\i m $Y=X\beta +\epsilon $, $E[\epsilon |X]=0$%
, $E[\epsilon \epsilon ^{\prime }|X]=\sigma ^{2}I$, $\epsilon =(\epsilon
_{1},...\epsilon _{n})^{\prime }=\sigma U$ olsun, burada 
\begin{equation}
U=(U_{1},...,U_{n})|X\text{ , }F_{U}\text{ kural\i\ ile iid'dir}  \label{U}
\end{equation}%
burada kullan\i lan $F_{U}$ bilinmektedir. \"{O}rne\u{g}in, $F_{U}=t(3)$
al\i n\i rsa, bir\c{c}ok finansal getiri verisetlerinin \"{o}zelliklerini $%
F_{U}=N(0,1)$'den daha iyi sa\u{g}layacakt\i r.

\c{S}imdi $H_{0}:\beta _{j}=\beta _{j}^{0}$'a kar\c{s}\i\ $H_{A}:\beta
_{j}>\beta _{j}^{0}$'yi s\i nad\i \u{g}\i m\i z\i\ d\"{u}\c{s}\"{u}nelim. $%
H_{0}$ alt\i nda 
\begin{equation}
t_{j}=\frac{\hat{\beta}_{j}-\beta _{j}^{0}}{\sqrt{s^{2}(X^{\prime
}X)_{jj}^{-1}}}\overset{H_{0}\text{ ile}}{=}\frac{((X^{\prime
}X)^{-1}X^{\prime }\epsilon )_{j}}{\sqrt{\frac{\epsilon ^{\prime
}M_{X}\epsilon }{n-K}(X^{\prime }X)_{jj}^{-1}}}=\frac{((X^{\prime
}X)^{-1}X^{\prime }U)_{j}}{\sqrt{\frac{U^{\prime }M_{X}U}{n-K}(X^{\prime
}X)_{jj}^{-1}}}  \label{t}
\end{equation}%
Dikkat ederseniz bu istatistik bilinmeyen parametre $\sigma ^{2}$'yi ho\c{s}
bir \c{s}ekilde sadele\c{s}tirmektedir.

Bu testin p-de\u{g}eri Monte-Carlo ile hesaplanabilir. T-istatisti\u{g}inin $%
H_{0}$ alt\i nda \"{u}retilebilecek \c{c}ekim (draw) de\u{g}erlerini simule
edelim: 
\begin{equation}
\{t_{j,d}^{\ast },d=1,...,B\},  \label{sample}
\end{equation}%
burada $d$ \c{c}ekim de\u{g}erlerini s\i ralar, $B$ toplam \c{c}ekim say\i
s\i d\i r ve b\"{u}y\"{u}k olmas\i\ gerekmektedir. Her bir \c{c}ekim de\u{g}%
eri $t_{j,d}^{\ast }$'yi olu\c{s}turmak i\c{c}in, $U$'nun (\ref{U})'a ba\u{g}%
l\i\ olarak \c{c}ekimlerini olu\c{s}tural\i m ve bunlar\i\ (\ref{t})'in sa%
\u{g} taraf\i na oturtal\i m. Sonras\i nda p-de\u{g}eri \c{s}u \c{s}ekilde
tahmin edilebilir 
\begin{equation}
P_{j}=\frac{1}{B}\sum_{d=1}^{B}1\{t_{j,d}^{\ast }\geq t_{j}\},  \label{pval}
\end{equation}%
burada $t_{j}$ t-istatisti\u{g}inin g\"{o}rg\"{u}l (empirical) de\u{g}%
eridir. $H_{0}:\beta _{j}=\beta _{j}^{0}$'a kar\c{s}\i\ $H_{A}:\beta
_{j}\neq \beta _{j}^{0}$ '\i\ s\i namak i\c{c}in kullan\i lacak p-de\u{g}eri 
\c{s}u \c{s}ekilde tahmin edilebilir 
\begin{equation}
P_{j}=\frac{1}{B}\sum_{d=1}^{B}1\{|t_{j,d}^{\ast }|\geq |t_{j}|\}.
\label{pval}
\end{equation}

G\"{u}ven b\"{o}lgeleri ve testler i\c{c}in t-istatisti\u{g}ine ba\u{g}l\i\
kritik de\u{g}erler, (\ref{sample}) \"{o}rnekleminin uygun b\"{o}l\"{u}tleri
(quantile) elde edilerek olu\c{s}turulabilir.

\textbf{\"{O}rnek 2.} \c{S}imdi, \"{o}nceki \"{o}rne\u{g}i \c{s}u \c{s}%
ekilde genelle\c{s}tirelim: $F_{U}$ bilinmeyen sorunlu (nuisance) parametre $%
\gamma $'ya ba\u{g}l\i\ olsun ve bunun da ger\c{c}ek de\u{g}eri $\gamma _{0}$%
'\i n $\Gamma $ b\"{o}lgesinde oldu\u{g}u bilinsin. Ba\u{g}l\i l\i \u{g}\i\ $%
F_{U}(\gamma )$ ile ifade edelim.

\"{O}rne\u{g}in, varsayal\i m $F_{U}(\gamma )$ "serbestlik derecesi"
parametresi $\gamma \in \Gamma =[3,30]$ olan bir t-da\u{g}\i l\i m\i\
olsun;, bu, \c{c}ok a\u{g}\i r kuyruktan hafif kuyru\u{g}a kadar farkl\i\
kuyruk hareketi g\"{o}steren da\u{g}\i l\i mlar\i\ yuvalama (nest) imkan\i\
sa\u{g}lar. Normal da\u{g}\i l\i m da $\gamma =30$ ile yakla\c{s}\i k olarak
yuvalan\i r.

Sonras\i nda, her bir $\gamma \in \Gamma $ i\c{c}in p-de\u{g}erini elde
edelim ve bunu $P_{j}(\gamma )$ ile ifade edelim. Sonra \c{s}unu 
\begin{equation*}
\sup_{\gamma \in \Gamma }P_{j}(\gamma )
\end{equation*}%
s\i nama ama\c{c}l\i\ kullanal\i m. $\gamma _{0}\in \Gamma $ oldu\u{g}u i%
\c{c}in, bu de\u{g}er ger\c{c}ek P-de\u{g}eri $P_{j}(\gamma _{0})$ i\c{c}in
ge\c{c}erli bir \"{u}st s\i n\i rd\i r. Benzer \c{s}ekilde, her bir $\gamma
\in \Gamma $ i\c{c}in kritik de\u{g}erler elde edilebilir ve \textit{en az
tercih edilen }kritik de\u{g}er kullan\i labilir. Sonu\c{c}ta elde edilen g%
\"{u}ven b\"{o}lgeleri e\u{g}er $\Gamma $ b\"{u}y\"{u}k olursa olduk\c{c}a
tutucu (conservative) olabilir; ne var ki, son paragrafa bak\i n\i z.

Do\u{g}al olarak olu\c{s}an soru \c{s}udur: Neden ger\c{c}ek parametre $%
\gamma _{0}$'\i n tahmini olan $\hat{\gamma}$'\i\ MC\ ile $\gamma =\hat{%
\gamma}$'a e\c{s}itleyerek kullan\i p $P_{j}(\hat{\gamma})$'\i\ ve kritik de%
\u{g}erleri elde etmeyelim? Bu y\"{o}ntem parametrik \textit{\"{o}z\c{c}\i
kar\i m} (\textit{bootstrap) }olarak bilinir. \"{O}z\c{c}\i kar\i m, bir MC\
y\"{o}ntemidir ve basit\c{c}e, p-de\u{g}erlerini ve kritik de\u{g}erleri
tahmin edilen veri \"{u}retme s\"{u}reci (data generating process) ile elde
etmek i\c{c}in kullan\i l\i r. \"{O}z\c{c}\i kar\i m yana\c{s}\i k olarak ge%
\c{c}erli \c{c}\i karsama sa\u{g}lar, ancak \"{o}z\c{c}\i kar\i m her zaman
ge\c{c}erli sonlu \"{o}rneklem \c{c}\i karsamas\i\ sa\u{g}lamayabilir.
Ancak, \"{o}z\c{c}\i kar\i m sonlu \"{o}rneklemlerde s\i kl\i kla yana\c{s}%
\i k yakla\c{s}\i m\i n sa\u{g}lad\i \u{g}\i ndan daha do\u{g}ru (accurate) 
\c{c}\i karsama sa\u{g}lar.

Yukar\i daki sonlu \"{o}rneklem yakla\c{s}\i m\i\ veriye-ba\u{g}l\i\ $\Gamma 
$ ile de kullan\i labilir. Veriye ba\u{g}l\i\ sorunlu parametre k\"{u}mesini 
$\hat{\Gamma}$ olarak ifade edelim. E\u{g}er $\hat{\Gamma}$ k\"{u}mesi $%
\gamma _{0}$'\i\ $1-\beta _{n}$ ihtimaliyle i\c{c}erirse, ki burada $\beta
_{n}\rightarrow 0$'d\i r, p-de\u{g}erinin tahminini \c{s}u olacak \c{s}%
ekilde ayarlayabiliriz 
\begin{equation*}
\sup_{\gamma \in \hat{\Gamma}}P_{j}(\gamma )+\beta _{n}.
\end{equation*}%
B\"{u}y\"{u}k \"{o}rneklemlerde, \c{s}unu bekleyebiliriz 
\begin{equation*}
\sup_{\gamma \in \hat{\Gamma}}P_{j}(\gamma )+\beta _{n}\approx P_{j}(\gamma
_{0}),
\end{equation*}%
bu, $\hat{\Gamma}$ k\"{u}mesi $\gamma _{0}$'a yak\i nsad\i \u{g}\i nda
(converge) ve $\beta _{n}\rightarrow 0$ ise ge\c{c}erlidir. B\"{o}ylece,
sonlu-\"{o}rneklem y\"{o}ntemi b\"{u}y\"{u}k \"{o}rneklemlerde etkin
olabilir, ancak sonlu \"{o}rneklemlerde de ge\c{c}erlili\u{g}ini korur. Yana%
\c{s}\i k y\"{o}ntem veya \"{o}z\c{c}\i kar\i m'\i n sonuncu ifadeyi sa\u{g}%
lamas\i\ illa gerekmemektedir. Bu da y\"{o}ntemleri ay\i rmaktad\i r. Ancak,
ba\c{s}kalar\i nca ifade edildi\u{g}i gibi, sonlu-\"{o}rneklem y\"{o}ntemi "s%
\"{u}sl\"{u} (fancy) \"{o}z\c{c}\i kar\i m" olarak d\"{u}\c{s}\"{u}n\"{u}%
lebilir.

\bigskip

\textbf{\"{O}rnek 3. (\"{O}dev)} Temin'in (2005) makalesini d\"{u}\c{s}\"{u}%
nelim. Makale, Roma \.{I}mparatorlu\u{g}u'nda eyaletin Roma'ya olan
mesafesinin bu\u{g}day fiyatlar\i\ \"{u}zerindeki etkisini modellemektedir.\ 
\c{C}al\i \c{s}mada sadece 6 tane g\"{o}zlem vard\i r. Etkinin s\i f\i ra e%
\c{s}it oldu\u{g}u s\i f\i r \"{o}nsav\i na kar\c{s}\i l\i k etkinin negatif
oldu\u{g}u alma\c{s}\i k \"{o}nsav\i\ test etmek i\c{c}in kullan\i lacak p-de%
\u{g}erlerini hesaplay\i n\i z.\ \"{O}nce normal bozukluklar\i n oldu\u{g}u
duruma bak\i n\i z (bu durum i\c{c}in simulasyon yap\i lmas\i na gerek
yoktur), sonras\i nda ikinci durum olarak bozukluklar\i n 8 ve 16
"serbestlik derecelerine" sahip t-da\u{g}\i l\i m\i\ takip ettikleri durumu
analiz ediniz.

\newpage

\newpage

\subsection{Ek: Kare Kay\i p Alt\i nda Biraz\ Formal Karar Teorisi (Some
Formal Decision Theory Under Squared Loss)}

\text{ }

Amemiya (1985) tahmincilerin etkinli\u{g}ini tart\i \c{s}mak i\c{c}in \c{s}u
kuralc\i l\i klar\i\ olu\c{s}turmaktad\i r.

1. $\hat{\beta}$ ve $\beta ^{\ast }$ bir skalar parametre $\beta $\ i\c{c}in
skalar tahminciler olsun. \ E\u{g}er $E_{\beta }(\hat{\beta}-\beta )^{2}\leq
E_{\beta }(\beta ^{\ast }-\beta )^{2},$ $\forall \beta \in \mathcal{B}$ ise, 
$\hat{\beta}\succcurlyeq $ (en az onun kadar iyi) $\beta ^{\ast }$'d\i r.

\textquotedblleft Daha iyi\textquotedblright\ nin tan\i m\i\ karesel
(quadratic) kayba ba\u{g}l\i d\i r.

2. Baz\i $\;\beta \in \mathcal{B}$ i\c{c}in, e\u{g}er $\hat{\beta}%
\succcurlyeq \beta ^{\ast }$ ve $E_{\beta }(\hat{\beta}-\beta )^{2}<E_{\beta
}(\beta ^{\ast }-\beta )^{2}$ ise, $\hat{\beta}$ \textbf{daha iyidir} (daha
etkindir, $\succ $) $\beta ^{\ast }$'dan,

3. $\hat{\beta}$ ve $\beta ^{\ast }$ vekt\"{o}r parametresi $\beta $ i\c{c}%
in \textbf{vekt\"{o}r} tahminler olsun. E\u{g}er t\"{u}m $c\in \mathbb{R}%
^{k} $, $c^{\prime }\hat{\beta}\succcurlyeq c^{\prime }\beta ^{\ast }$ ($%
c^{\prime }\beta $'y\i\ tahmin etmek i\c{c}in) ise\ $\hat{\beta}\succcurlyeq
\beta ^{\ast }$'d\i r.

4. E\u{g}er baz\i\ $c\in \mathbb{R}^{k}$ i\c{c}in $c^{\prime }\hat{\beta}%
\succ c^{\prime }\beta ^{\ast }$ ve t\"{u}m $c\in \mathbb{R}^{k}$ i\c{c}in $%
c^{\prime }\hat{\beta}\succcurlyeq c^{\prime }\beta ^{\ast }$ ise, $\hat{%
\beta}\succ \beta ^{\ast }$'d\i r.

A\c{c}\i k\c{c}a g\"{o}r\"{u}lmelidir ki Tan\i m 3 ve Tan\i m 5 e\c{s}de\u{g}%
erdir.

5. E\u{g}er $A_{\beta }\equiv E_{\beta }(\hat{\beta}-\beta )(\hat{\beta}%
-\beta )^{\prime }$ ise ve $B_{\beta }\equiv E_{\beta }(\beta ^{\ast }-\beta
)(\beta ^{\ast }-\beta )^{\prime }$ ise, $\hat{\beta}\succcurlyeq \beta
^{\ast }$'d\i r; burada $A_{\beta }-B_{\beta }$ $\forall \;\beta \in 
\mathcal{B}$ i\c{c}in yar\i -negatif tan\i ml\i d\i r veya matris kapsam\i
nda $A_{\beta }\leq B_{\beta }^{\prime }$'d\i r.

6. $\hat{\beta}$ e\u{g}er bu s\i n\i fta daha iyi tahminci yoksa, tahminci
s\i n\i f\i\ i\c{c}inde en iyidir.

\newpage

\section{B\"{u}y\"{u}k \"{O}rneklemlerde Tahmin ve Temel \c{C}\i karsama}

Bu k\i s\i m i\c{c}in iyi bir referans Newey'nin ders notlar\i d\i r. A\c{s}a%
\u{g}\i da, sadece temel sorunlara de\u{g}inilecektir.

\subsection{Temel Kurgu ve Bunlar\i n \.{I}fade Ettikleri}

B\"{u}y\"{u}k \"{o}rneklemde ge\c{c}erli \c{c}\i karsamalar\i\ \"{o}nceki
GM\ modelinin izin verdi\u{g}inden \c{c}ok daha genel ko\c{s}ullarda
yapabiliriz.

\c{C}al\i \c{s}abilece\u{g}imiz bir grup yeterli (sufficient) ko\c{s}ul \c{s}%
udur:

\begin{itemize}
\item[\textbf{L1}] $y_t = x_t^{\prime }\beta + e_t, \ \ t=1,...,n$

\item[\textbf{L2}] $E e_t x_t = 0, \ \ t=1,...,n$

\item[\textbf{L3}] $X^{\prime }X/n\rightarrow _{p}Q$ sonlu ve tam kerte

\item[\textbf{L4}] $X^{\prime }e/\sqrt{n}\rightarrow _{d}N(0,\Omega )$,
burada $\Omega $ sonludur ve yozla\c{s}an de\u{g}ildir (non-degenerate).
\end{itemize}

\textbf{Tart\i \c{s}ma:}

1) L1 ve L2, $\beta $'n\i n $E[y_{t}|x_{t}]$ ko\c{s}ullu beklenti
fonksiyonuna en iyi do\u{g}rusal yakla\c{s}t\i rmay\i\ tan\i mlayan
parametre oldu\u{g}unu ifade ederler. L1-L4 ile, OLS $\hat{\beta}$, $\beta $
i\c{c}in tutarl\i\ ve yana\c{s}\i k (yakla\c{s}t\i rma manas\i nda) olarak
normal da\u{g}\i lan tahminci \c{s}eklinde ortaya \c{c}\i kar.

2) \c{S}u ayr\i \c{s}t\i rmay\i\ yapabiliriz 
\begin{equation*}
e_{t}=a_{t}+\varepsilon _{t},
\end{equation*}%
burada $\varepsilon _{t}=y_{t}-E[y_{t}|x_{t}]$ ve 
\begin{equation*}
a_{t}=E[y_{t}|x_{t}]-x_{t}^{\prime }\beta \text{'d\i r}.
\end{equation*}%
Hata terimi bu sebeple \c{s}unlar\i n toplam\i d\i r: $y_{t}$'nin ko\c{s}%
ullu ortalamadan sapmas\i\ olarak tan\i mlanan"al\i \c{s}\i ld\i k" (usual)
bozukluk $\varepsilon _{t}$ ve do\u{g}ru fonksiyon $E[y_{t}|x_{t}]$ yerine do%
\u{g}rusal i\c{s}levsel bi\c{c}im kullan\i lmas\i ndan olu\c{s}an hata
olarak ortaya \c{c}\i kan yakla\c{s}t\i rma (belirginle\c{s}tirme) hatas\i\ $%
a_{t}$. \"{O}nceki GM\ \c{c}er\c{c}evesinde, yakla\c{s}t\i rma hatas\i\
olmad\i \u{g}\i n\i\ varsaym\i \c{s}t\i k. \c{S}u anki \c{c}er\c{c}evede,
buna "g\"{u}c\"{u}m\"{u}z yeter". A\c{c}\i k\c{c}a belirtebiliriz ki sadece
ger\c{c}ek ko\c{s}ullu ortalama fonksiyonuna bir yakla\c{s}\i kl\i \u{g}\i\
tahmin ediyoruz ve a\c{c}\i k\c{c}a hesaba katabiliriz ki yakla\c{s}\i kl\i
k hatas\i\ farkl\i\ yay\i l\i m\i n (heteroscedasticity) (neden?)
tahmincimizin varyans\i n\i\ etkileyen \"{o}nemli bir sebebidir.

3) L3 bir \"{o}nceki \"{o}zde\c{s}le\c{s}tirme (identification) ko\c{s}%
ulunun sadece bir \"{o}rnekselidir (analog). Ayn\i\ zamanda, ba\u{g}la\c{s}%
t\i ranlar\i n $t$ \c{c}arp\i m\i n\i n $\{x_{t}x_{t}^{\prime },t=1,...n\}$ B%
\"{u}y\"{u}k Say\i lar Yasas\i 'n\i\ (BSY, Law of Large Numbers, LLN) sa\u{g}%
lamas\i\ gerekmektedir; bu \c{s}ekilde onlar\i n \"{u}zerine bir kararl\i
l\i k (stability) y\"{u}klemektedir. Bu ko\c{s}ul y\"{o}nelimli ba\u{g}la%
\c{s}t\i ranlar (trending regressors) eklenerek gev\c{s}etilebilir (bak\i
n\i z, \"{o}rne\u{g}in, Newey'in notlar\i\ veya Amemiya'n\i n "Advanced
Econometrics" kitab\i ). \newline

4) L4, $\{x_{t}e_{t},t=1,...,n\}$ dizisinin bir MLT'i sa\u{g}lamas\i\ gerekti%
\u{g}ini ifade eder. Bu ko\c{s}ul, daha \"{o}nce hatalar\i n normal olmas\i\
hakk\i nda yapt\i \u{g}\i m\i z varsay\i mdan olduk\c{c}a daha geneldir. B%
\"{u}y\"{u}k \"{o}rneklemlerde, bu ko\c{s}ul bizi daha \"{o}nce normallik
alt\i nda elde etti\u{g}imiz tahmin ve \c{c}\i karsama sonu\c{c}lar\i n\i n
benzerlerine g\"{o}t\"{u}recektir. \newline

\begin{proposition}
L1-L4 ile, $\hat{\beta}\rightarrow _{p}\beta $.
\end{proposition}

\"{O}rneklem b\"{u}y\"{u}kl\"{u}\u{g}\"{u} artt\i k\c{c}a, $\hat{\beta}$
tahmini $\beta ^{\prime }$ya yakla\c{s}acakt\i r. A\c{c}\i k\c{c}as\i ,
tutarl\i l\i k i\c{c}in, L4'\"{u} daha az k\i s\i tlay\i c\i\ olan $%
X^{\prime }e/n\rightarrow _{p}0$ gereksinimi ile de\u{g}i\c{s}tirebiliriz.

\begin{proposition}
L1-L4 ile, $\sqrt{n}(\hat{\beta}-\beta )\rightarrow _{d}N(0,V)$, $%
V=Q^{-1}\Omega Q^{-1}$.
\end{proposition}

Bu sonu\c{c} b\"{u}y\"{u}k \"{o}rneklemlerde $\hat{\beta}$'n\i n $\beta $
ortalamas\i\ ve $V/n$ varyans\i\ ile yakla\c{s}\i k olarak normal da\u{g}\i
ld\i \u{g}\i n\i\ \"{o}nermektedir: 
\begin{equation*}
\hat{\beta}\approx _{d}N(\beta ,V/n).
\end{equation*}

\begin{proposition}
L1-L4 ile, varsayal\i m $\hat{V}\rightarrow V$'dir, bu durumda 
\begin{equation*}
t_{j}:=(\hat{\beta}_{j}-\beta _{j})/s.e(\hat{\beta}_{j}):=(\hat{\beta}%
_{j}-\beta _{j})/\sqrt{\hat{V}_{jj}/n}\rightarrow _{d}N(0,1).
\end{equation*}%
ve e\u{g}er $R$ i\c{c}in tam kerte $p$ ise, $R\beta =r$ ile 
\begin{equation*}
W=(R\hat{\beta}-r)^{\prime }[R(\hat{V}/n)R^{\prime }]^{-1}(R\hat{\beta}%
-r)\rightarrow _{d}\chi ^{2}(p).
\end{equation*}
\end{proposition}

B\"{u}y\"{u}k \"{o}rneklemlerde uygun \c{s}ekilde olu\c{s}turulan $t$%
-istatisti\u{g}i ve $W$-istatisti\u{g}i yakla\c{s}\i k olarak standart
normal de\u{g}i\c{s}keni ve $p$ serbestlik dereceli ki-kare de\u{g}i\c{s}%
keni ile da\u{g}\i l\i rlar; yani $t\approx _{d}N(0,1)$ ve $W\approx
_{d}\chi ^{2}(p)$. \newline

Bu sonu\c{c}lar\i n temel kullan\i m\i\ sonlu-\"{o}rneklem durumu ile
tamamen ayn\i d\i r, istisna olarak art\i k hepsi yakla\c{s}\i k olarak
ifade edilmi\c{s}tir. \"{O}rne\u{g}in, s\i f\i r \"{o}nsav\i\ ile, bir
t-istatisti\u{g}i $t_{j}\rightarrow _{d}N(0,1)$'\i\ sa\u{g}lar ve bu da \c{s}%
unu ifade eder 
\begin{equation*}
\lim_{n\rightarrow \infty }Pr[t_{j}<c]=Pr[N(0,1)<c]=\Phi (c),
\end{equation*}%
bu her bir $c$ i\c{c}in ge\c{c}erlidir, \c{c}\"{u}nk\"{u} $\Phi $ s\"{u}%
reklidir (continuous). Sonlu ve b\"{u}y\"{u}k \"{o}rneklemlerde, sadece \c{s}%
u ge\c{c}erlidir 
\begin{equation*}
Pr[t_{j}<c]\approx \Phi (c),
\end{equation*}%
burada yakla\c{s}\i m\i n kalitesi \c{c}e\c{s}itli durumlara ba\u{g}l\i\
olarak iyi ya da zay\i f olabilir.

\textbf{Dikkat ediniz:} K\i s\i tlamal\i\ en k\"{u}\c{c}\"{u}k kareler i\c{c}%
in, ki bu k\i s\i tlamas\i z OLS'in bir do\u{g}rusal d\"{o}n\"{u}\c{s}\"{u}m%
\"{u}d\"{u}r, yana\c{s}\i k sonu\c{c}lar ve di\u{g}er test istatistikleri (%
\"{o}rn. LM) yukar\i da sunulan sonu\c{c}lardan kolayca \c{c}\i kar\i
labilir.

Sonu\c{c}lar\i\ ispat etmek i\c{c}in kullanaca\u{g}\i m\i z temel ara\c{c}%
lar S\"{u}rekli E\c{s}le\c{s}me Teoremi (SET, Continuous Mapping Theorem,
CMT) ve Slutsky Teoremi'dir. Bu sonu\c{c}larda esas olan metrik uzaylar
sonlu-boyutlu Euclid uzaylar\i d\i r (Euclidian spaces).

\begin{lemma}[SET]
$X$ bir rastsal eleman olsun ve $x\mapsto g(x)$ her bir $x\in D_{0}$ i\c{c}%
in s\"{u}rekli olsun, burada bir olas\i l\i \u{g}\i\ ile $X\in D_{0}$'d\i r.
Varsayal\i m $X_{n}\rightarrow _{d}X$ olsun, bu durumda $g(X_{n})\rightarrow
_{d}g(X)$; e\u{g}er $X_{n}\rightarrow _{p}X$ ise, o zaman $%
g(X_{n})\rightarrow _{p}g(X)$'d\i r.
\end{lemma}

Bu \"{o}nsav\i n ispat\i\ yukar\i da belirtilen bir temsil teoreminin
uygulamas\i ndan ve sonra da s\"{u}reklilik hipotezinin kullan\i lmas\i ndan
elde edilir. Takip eden \"{o}nsav s\"{u}rekli e\c{s}le\c{s}me teoreminin bir
sonucudur (corollary).

\begin{lemma}[Slutsky \"{O}nsav\i ]
Matris $A_{n}\rightarrow _{p}A$ ve vekt\"{o}r $a_{n}\rightarrow _{p}a$ oldu%
\u{g}unu varsayal\i m, burada matris $A$ ve vekt\"{o}r $a$ sabittir. E\u{g}%
er $X_{n}\rightarrow _{d}X$ ise, o zaman $A_{n}X_{n}+a_{n}\rightarrow
_{d}AX+a$'d\i r.
\end{lemma}

\textbf{\"{O}nerme 1'in \.{I}spat\i :} S\i ras\i yla L4 and L3 ko\c{s}%
ullar\i\ \c{s}unu ifade eder 
\begin{equation}
X^{\prime }e/n\overset{p}{\rightarrow }0,\;X^{\prime }X/n\overset{p}{%
\rightarrow }Q.  \tag{2}
\end{equation}%
Sonras\i nda, $Q$'nun tekilsizli\u{g}i (nonsingularity) ile, bir matrisin
tersinin matrisin elemanlar\i n\i n her bir tekilsiz matriste s\"{u}rekli
fonksiyonu olmalar\i\ bilgisi ve Slutsky \"{O}nsav\i\ ile \c{s}u elde edilir 
\begin{equation*}
\hat{\beta}=\beta +(X^{\prime }X/n)^{-1}X^{\prime }e/n\overset{p}{%
\rightarrow }\beta +Q^{-1}\cdot 0=\beta .
\end{equation*}

\textbf{\"{O}nerme 2'nin \.{I}spat\i :} L4 and L3 ko\c{s}ullar\i\ s\i ras\i
yla \c{s}unu ifade eder 
\begin{equation}
X^{\prime }e/\sqrt{n}\overset{d}{\rightarrow }N(0,\Omega ),\;X^{\prime }X/n%
\overset{p}{\rightarrow }Q.  \tag{2}
\end{equation}

Slutsky \"{O}nsav\i 'ndan \c{s}u elde edilir%
\begin{equation*}
\sqrt{n}(\hat{\beta}-\beta )=(X^{\prime }X/n)^{-1}X^{\prime }e/\sqrt{n}%
\overset{d}{\rightarrow }Q^{-1}N(0,\Omega )=N(0,Q^{-1}\Omega Q^{-1}).
\end{equation*}

\textbf{\"{O}nerme 3'\"{u}n \.{I}spat\i :} $\hat{V}\overset{p}{\rightarrow }%
V,$ $V_{jj}>0$ kullan\i larak ve SET ile, $\left( V_{jj}/\hat{V}_{jj}\right)
^{1/2}\overset{p}{\rightarrow }1$'dir$.$ Slutsky Teorem'i kullan\i larak 
\c{s}u \c{c}\i kar 
\begin{equation*}
\left( \hat{\beta}_{j}-\beta _{j}\right) /\left[ V_{jj}\right]
^{1/2}=(V_{jj}/\hat{V}_{jj})^{1/2}\sqrt{n}(\hat{\beta}_{j}-\beta _{j})/\sqrt{%
V_{jj}}\overset{d}{\rightarrow }1\cdot N(0,1)=N(0,1).
\end{equation*}%
\ $\Sigma =RVR^{\prime }$ olsun. $\Sigma $ matrisi $R$'nin $p$ kertesine
sahip olmas\i\ ve $V$'nin tekilsiz olmas\i\ sebebiyle tekilsizdir, yani SET\
ile, $\hat{\Sigma}^{-1/2}\overset{p}{\rightarrow }\Sigma ^{-1/2}$'dir. Ayr\i
ca, Slutsky \"{O}nsav\i\ ile $Z_{n}=\widehat{\Sigma }^{-1/2}R\sqrt{n}\left( 
\hat{\beta}-\beta \right) \overset{d}{\rightarrow }Z=\Sigma
^{-1/2}N(0,\Sigma )=_{d}N(0,I).$ \ Sonras\i nda SET\ ile, $W=Z_{n}^{\prime
}Z_{n}\rightarrow _{d}Z^{\prime }Z=_{d}\chi ^{2}(p)$'dir.

\subsection{Ba\u{g}\i ms\i z \"{O}rneklemler}

Burada iki modeli de\u{g}erlendirece\u{g}iz: \newline

\textbf{IID Modeli:} Varsayal\i m \textit{(a) L1 ve L2 sa\u{g}lans\i n, (b) $%
(y_{t},x_{t})$ vekt\"{o}rleri $t$ \"{u}zerinde ba\u{g}\i ms\i zd\i rlar ve 
\"{o}zde\c{s} da\u{g}\i l\i rlar, (c) 
\begin{equation*}
\Omega =Var[x_{t}e_{t}]=E[e_{t}^{2}x_{t}x_{t}^{\prime }]
\end{equation*}%
sonludur ve yozla\c{s}mayand\i r (non-degenerate) (tam kerte), ve 
\begin{equation*}
Q=E[x_{t}x_{t}^{\prime }]
\end{equation*}%
sonludur ve tam kertedir. \newline
}

Bu ko\c{s}ulun $y_{t}$ ve $x_{t}$ aras\i ndaki ili\c{s}kiyi hi\c{c}bir \c{s}%
ekilde k\i s\i tlamad\i \u{g}\i n\i\ vurgulamak gerekir; sadece $%
(y_{t},x_{t})$'nin birle\c{s}ik da\u{g}\i l\i m fonksiyonun $t$'ye ba\u{g}\i
ml\i\ olmamas\i\ ve verinin $t$ \"{u}zerinde ba\u{g}\i ml\i l\i \u{g}\i\
olmamas\i\ gerekmektedir.

Bu model, hata terimi $e_{t}=\varepsilon _{t}+a_{t}$ 'de farkl\i\ yay\i l\i
m\i n iki kayna\u{g}\i na izin vermektedir-- biri $\varepsilon _{t}$'nin
farkl\i\ yay\i l\i m\i\ ve di\u{g}eri de yakla\c{s}\i kl\i\ hatas\i\ $%
a_{t}=E[y|x_{t}]-x_{t}^{\prime }\beta $'n\i n farkl\i\ yay\i l\i m\i d\i r.
Farkl\i\ yay\i l\i mdan kast\i m\i z $E[e_{t}^{2}|x_{t}]$'nin $x_{t}$'ye ba%
\u{g}l\i\ olmas\i d\i r. \newline

\textbf{\"{O}rnek:} Daha \"{o}nce konu\c{s}ulan Engel e\u{g}risi \"{o}rne%
\u{g}ini hat\i rlay\i n\i z, ki \"{o}rnekte $\varepsilon _{t}$ a\c{c}\i k%
\c{c}a farkl\i\ yay\i l\i ml\i\ idi. Bu sebeple, $e_{t}$ de farkl\i\ yay\i
l\i ml\i d\i r. \.{I}ktisattaki bir\c{c}ok regresyon modeli farkl\i\ yay\i
l\i m bozuklu\u{g}una sahiptir. \newline

\begin{tabular}{ll}
G\i da Harcamas\i &  \\ 
& 
%TCIMACRO{%
%\FRAME{itbpF}{4.4192in}{2.7285in}{0in}{}{}{Figure}{%
%\special{language "Scientific Word";type "GRAPHIC";maintain-aspect-ratio TRUE;display "USEDEF";valid_file "T";width 4.4192in;height 2.7285in;depth 0in;original-width 8.6481in;original-height 5.3195in;cropleft "0";croptop "1";cropright "1";cropbottom "0";tempfilename 'LTVQD204.wmf';tempfile-properties "XPR";}}}%
%BeginExpansion
\ifcase\msipdfoutput
\FRAME{itbpF}{4.4192in}{2.7285in}{0in}{}{}{Figure}{%
\special{language "Scientific Word";type "GRAPHIC";maintain-aspect-ratio
TRUE;display "USEDEF";valid_file "T";width 4.4192in;height 2.7285in;depth
0in;original-width 8.6481in;original-height 5.3195in;cropleft "0";croptop
"1";cropright "1";cropbottom "0";tempfilename
'LTVQD204.wmf';tempfile-properties "XPR";}}%
\else
\includegraphics[
natheight=5.3195in, natwidth=8.6481in, height=2.7285in, width=4.4192in]
{C:/Users/Gokhan/Desktop/14-381/VCern/graphics/LTVQD204__5.pdf}%
\fi
%EndExpansion
\\ 
& \multicolumn{1}{c}{Gelir} \\ 
& \multicolumn{1}{c}{\c{S}EK\.{I}L 4}%
\end{tabular}

\textbf{\"{O}rnek:} \"{U}cret n\"{u}fus say\i m\i\ verisinde basit i\c{s}%
levsel bi\c{c}imler i\c{c}in $a_{t}\neq 0$ oldu\u{g}unu g\"{o}rm\"{u}\c{s}t%
\"{u}k. Bu sebeple, $a_{t}\neq 0$ oldu\u{g}u i\c{c}in $e_{t}$ farkl\i\ yay\i
l\i ml\i\ olmal\i d\i r. \newline

\begin{theorem}
IID modelinin ko\c{s}ullar\i\ L1-L4'\"{u}n yukar\i da tan\i mlanan $\Omega $
ve $Q$ ile sa\u{g}land\i \u{g}\i n\i\ belirtmektedir. Bu sebeple, \"{O}nerme
1-3'\"{u}n sonu\c{c}lar\i\ da sa\u{g}lanmaktad\i r.
\end{theorem}

\textbf{\.{I}spat:} Bu ispat Khinchine BSY ve \c{c}ok de\u{g}i\c{s}kenli
Lindeberg-Levy MLT'den elde edilmektedir. \newline

$V$'nin varyans\i n\i n tutarl\i\ bir tahmincisi (farkl\i\ yay\i l\i m diren%
\c{c}li tahminci (heteroscedasticity robust estimator)) \c{s}u \c{s}ekilde
ifade edilir: 
\begin{equation*}
\hat{V}=\hat{Q}^{-1}\hat{\Omega}\hat{Q}^{-1},\ \ \ \hat{\Omega}%
=E_{n}[e_{t}^{2}x_{t}x_{t}^{\prime }],\ \ \ \hat{Q}=X^{\prime }X/n.
\end{equation*}

\begin{theorem}
IID modelinin ko\c{s}ullar\i\ ve ek varsay\i mlar (\"{o}rn. $x_{t}$'nin ba%
\u{g}\i ml\i\ d\"{o}rd\"{u}nc\"{u} beklemleri (bounded fourth moments)) $%
\hat{\Omega}\rightarrow _{p}\Omega $ ve $\hat{Q}\rightarrow _{p}Q$ oldu\u{g}%
unu ifade eder, bu \c{s}ekilde $\hat{V}\rightarrow _{p}V$'d\i r.
\end{theorem}

\textbf{\.{I}spat:} $\hat{Q}\rightarrow _{p}Q$'nun tutarl\i l\i \u{g}\i\
Khinchine BSY'den \c{c}\i kmaktad\i r ve $\hat{\Omega}\rightarrow _{p}\Omega 
$'\i n tutarl\i l\i \u{g}\i\ \c{s}u \c{s}ekilde g\"{o}sterilebilir. G\"{o}%
sterimi basitle\c{s}tirmek i\c{c}in skalar duruma bakal\i m. \c{S}unu elde
etmi\c{s} durumday\i z 
\begin{equation*}
\hat{e}_{t}^{2}=e_{t}^{2}-2(\hat{\beta}-\beta )^{\prime }x_{t}e_{t}+(\hat{%
\beta}-\beta )^{2}x_{t}^{2}.
\end{equation*}%
\.{I}ki taraf\i\ da $x_{t}^{2}$ ile \c{c}arpal\i m ve $t$ \"{u}zerinden
ortalama alarak \c{s}unu elde edelim 
\begin{equation*}
E_{n}[\hat{e}_{t}^{2}x_{t}^{2}]=E_{n}[e_{t}^{2}x_{t}^{2}]-2(\hat{\beta}%
-\beta )E_{n}[e_{t}x_{t}^{3}]+(\hat{\beta}-\beta )^{2}E_{n}[x_{t}^{4}].
\end{equation*}%
Sonras\i nda, $E_{n}[e_{t}^{2}x_{t}^{2}]\rightarrow _{p}E[e_{t}^{2}x_{t}^{2}]
$, $E_{n}[x_{t}^{4}]\rightarrow _{p}E[x_{t}^{4}]$ ve Khinchine BSY ile $%
E_{n}[e_{t}x_{t}^{3}]\rightarrow _{p}E[e_{t}x_{t}^{3}]$'dir, \c{c}\"{u}nk%
\"{u} $E[x_{t}^{4}]$ varsay\i mdan dolay\i\ sonludur ve $E[e_{t}x_{t}^{3}]$ 
\c{s}undan dolay\i\ sonludur 
\begin{equation*}
|E[e_{t}x_{t}x_{t}^{2}]|^{2}\leq E[e_{t}^{2}x_{t}^{2}]E[x_{t}^{4}]
\end{equation*}%
bu da Cauchy-Schwartz e\c{s}itsizli\u{g}inden ve $E[e_{t}^{2}x_{t}^{2}]$ ve $%
E[x_{t}^{4}]$'nin varsay\i lan sonlulu\u{g}undan kaynaklan\i r. $\hat{\beta}$%
'n\i n tutarl\i l\i \u{g}\i ndan, yukar\i daki \"{o}zelliklerden ve SET'den
tutarl\i l\i \u{g}\i\ elde ederiz. $\square .$

\textbf{E\c{s}it Yay\i l\i ml\i\ (Homoscedastic) IID Modeli:} \textit{IID
modelinin (a)-(c) ko\c{s}ullar\i na ek olarak, varsayal\i m $%
E[e_{t}|x_{t}]=0 $ ve $E[e_{t}^{2}|x_{t}]=\sigma ^{2}$ olsun, bu durumda $%
Var[e_{t}^{2}|x_{t}]=\sigma ^{2}$'dir, bu da \c{s}u \c{s}ekilde sadele\c{s}%
ir 
\begin{equation*}
\Omega =\Omega _{0}:=\sigma ^{2}E[x_{t}x_{t}^{\prime }].
\end{equation*}%
}

Bu modelde yakla\c{s}\i kl\i k hatas\i\ yoktur, yani $e_{t}=\varepsilon _{t}$%
'dir ve farkl\i\ yay\i l\i m yoktur. Bu model normalli\u{g}in dayat\i lmad\i 
\u{g}\i\ bir Gauss-Markov modelidir.

\begin{theorem}
E\c{s}it yay\i l\i ml\i\ iid modelinde, L1-L4 \c{s}unlar ile sa\u{g}lan\i r: 
$\Omega _{0}=\sigma ^{2}E[x_{t}x_{t}^{\prime }]$ ve $Q=E[x_{t}x_{t}^{\prime
}]$, yani $V=V_{0}:=\sigma ^{2}Q^{-1}$.
\end{theorem}

\textbf{\.{I}spat.} Bu, bir \"{o}nceki sonu\c{c} kullan\i larak do\u{g}rudan 
\c{c}\i kart\i l\i r.

E\c{s}it yay\i l\i ml\i\ iid modeli i\c{c}in, $V$'nin varyans\i n\i n
tutarl\i\ bir tahmincisi (diren\c{c}li olmayan (non-robust)) \c{s}u \c{s}%
ekilde ifade edilir: 
\begin{equation*}
\hat{V}_{0}=s^{2}(X^{\prime }X/n)^{-1}
\end{equation*}

\begin{theorem}
E\c{s} yay\i l\i ml\i\ iid modelinin ko\c{s}ullar\i\ $\hat{V}_{0}\rightarrow
_{p}V_{0}$ oldu\u{g}unu belirtir.
\end{theorem}

\textbf{\.{I}spat.} $Q^{-1}$ matrisi $(X^{\prime }X/n)^{-1}$ taraf\i ndan $%
X^{\prime }X/n\overset{p}{\rightarrow }Q$ ile tutarl\i\ olarak tahmin
edilir, bu da BSY ve SET ile sa\u{g}lan\i r. $s^{2}=\hat{\varepsilon}%
^{\prime }\hat{\varepsilon}/(n-K)$ oldu\u{g}unu g\"{o}sterebiliriz$,$ burada 
$\hat{\varepsilon}=y-X\hat{\beta}$'dir. $X^{\prime }\varepsilon /n\overset{p}%
{\rightarrow }0$ ve $X^{\prime }X/n\overset{p}{\rightarrow }Q$ kullan\i
larak \c{s}u elde edilir%
\begin{equation}
\begin{array}{cccccccc}
s^{2}= & [\frac{n}{n-K}] & [\frac{\varepsilon ^{\prime }\varepsilon }{n}+ & 
2(\beta -\hat{\beta})^{\prime } & (\frac{X^{\prime }\varepsilon }{n})+ & 
(\beta -\hat{\beta})^{\prime } & (\frac{X^{\prime }X}{n}) & (\beta -\hat{%
\beta})]{\underset{(SET)}{\rightarrow _{p}}\sigma ^{2},} \\ 
& \downarrow  & \left\downarrow p\right.  & \left\downarrow p\right.  & 
\left\downarrow p\right.  & \left\downarrow p\right.  & \left\downarrow
p\right.  &  \\ 
& 
\begin{array}{c}
1 \\ 
\text{{}}%
\end{array}
& 
\begin{array}{c}
\sigma ^{2} \\ 
\text{(BSY)}%
\end{array}
& 
\begin{array}{c}
0 \\ 
\text{(OLS)}%
\end{array}
& 
\begin{array}{c}
0 \\ 
\text{(BSY)}%
\end{array}
& 
\begin{array}{c}
0 \\ 
\text{(OLS)}%
\end{array}
& 
\begin{array}{c}
Q \\ 
\text{(BSY)}%
\end{array}
& 
\end{array}
\tag{4}
\end{equation}%
burada (OLS) ile OLS tahmincisinin tutarl\i l\i \u{g}\i\ kastedilmektedir.
Yani, SET ile, $s^{2}(X^{\prime }X/n)^{-1}\overset{p}{\rightarrow }\sigma
^{2}Q^{-1}.$ $\qed$.

\textbf{Yorum:} Farkl\i\ yay\i ml\i l\i k ile $V\neq V_{0}$'d\i r, ve $V_{0}$
ile kar\c{s}\i la\c{s}t\i r\i ld\i \u{g}\i nda $V$ daha b\"{u}y\"{u}k ya da k%
\"{u}\c{c}\"{u}k olabilir. Bunun sa\u{g}land\i \u{g}\i na dikkat ediniz.
Uygulamada, $V$ s\i kl\i kla $V_{0}$'dan b\"{u}y\"{u}kt\"{u}r.

\subsection{Ba\u{g}\i ml\i\ \"{O}rneklemler}

Bir\c{c}ok makroekonomik ve finansal durumlarda zaman serileri serisel
olarak ba\u{g}\i ml\i d\i r (serially dependent) (yani $t$ \"{u}zerinden ba%
\u{g}\i ml\i d\i r). Bunun baz\i\ \"{o}rneklerini d\"{u}\c{s}\"{u}%
nebilirsiniz.

Ba\u{g}\i ml\i l\i k bir\c{c}ok \c{s}ekilde modellenebilir. Baz\i\
parametrik modelleri GLS ile ba\u{g}lant\i l\i\ olarak MIT'de verilen 14.382
dersinde g\"{o}rebilirsiniz. Burada temel parametrik olmayan
(non-parametric) modelleri tan\i taca\u{g}\i z.

Takip eden k\i s\i mlarda veriyi \c{s}u \c{s}ekilde d\"{u}\c{s}\"{u}%
nebiliriz: $z_{t}=(y_{t},x_{t}^{\prime })^{\prime },t=1,...,n$ sonsuz bir
ak\i m olan $\{z_{t}\}=\{z_{t},t=\pm 1,\pm 2,...\}$'nin bir alt k\"{u}%
mesidir.

E\u{g}er her bir $k\geq 0$ i\c{c}in $(z_{t},...,z_{t+k})$ da\u{g}\i l\i m\i\ 
$(z_{1},...,z_{1+k})$ da\u{g}\i l\i m\i na e\c{s}itse, yani $t$'ye ba\u{g}%
l\i\ de\u{g}ilse, $\{z_{t}\}$ \textit{dura\u{g}an (stationary) }olarak tan\i
mlan\i r. Bunun sonucu olarak, ortalama ve kovaryans dura\u{g}anl\i \u{g}\i\
da elde edilir: $E[z_{t}]=E[z_{1}]$ her bir $t$ i\c{c}in ve $%
E[z_{t}z_{t+k}^{\prime }]=E[z_{1}z_{1+k}^{\prime }]$ her bir $t$ i\c{c}in.

\textbf{(a) Kar\i \c{s}t\i rma (Mixing).} Kar\i \c{s}t\i rma, d\"{o}nemsel ba%
\u{g}\i ml\i l\i \u{g}\i\ ifade ederken kullan\i lan olduk\c{c}a
matematiksel bir d\"{u}\c{s}\"{u}nce tarz\i d\i r.

$\{h_{t}\}$ dura\u{g}an bir s\"{u}re\c{c} olsun. $k\geq 1$ i\c{c}in \c{s}unu
tan\i mlay\i n 
\begin{equation*}
\alpha _{k}=\sup_{A,B}\Big |P(A\cap B)-P(A)P(B)\Big |
\end{equation*}%
burada sup $A\in \sigma (h_{0},h_{-1},h_{-2},...,)$ ve $B\in \sigma
(h_{k},h_{k+1},...)$ durumlar\i\ \"{u}zerinden hesaplan\i r. Basit olarak,
bu sigma-alanlar\i n\i\ (sigma fields) parantezler i\c{c}indeki de\u{g}i\c{s}%
kenler taraf\i ndan olu\c{s}turulmu\c{s} bilgi (information) olarak d\"{u}%
\c{s}\"{u}nebiliriz. E\u{g}er $k\rightarrow \infty $ iken $\alpha
_{k}\rightarrow 0$ ise, $\{h_{t}\}$ \textit{kuvvetli kar\i \c{s}t\i rma} 
\textit{(strongly mixing) }veya \textit{alfa} \textit{kar\i \c{s}t\i rma} (%
\textit{alpha mixing) }olarak adland\i r\i l\i r. E\u{g}er veri iid ise, her
bir $k\ $i\c{c}in $\alpha _{k}=0$'d\i r.

Kar\i \c{s}t\i rma ko\c{s}ulu, birbirinden $k$ zaman birimi ayr\i lm\i \c{s}
veri bloklar\i n\i n ba\u{g}\i ml\i l\i \u{g}\i n\i n $k$ artt\i \u{g}\i nda
da\u{g}\i laca\u{g}\i n\i\ (azalaca\u{g}\i n\i ) belirtir. Bir \c{c}ok
parametrik modelin baz\i\ d\"{u}zenlilik (regularity) ko\c{s}ullar\i\ alt\i
nda kar\i \c{s}t\i rma oldu\u{g}u g\"{o}sterilmi\c{s}tir.

\begin{lemma}[Bir Ergodik BSY]
E\u{g}er $\{h_{t}\}$ sonlu bir ortalama $E[h_{t}]$ ile dura\u{g}an kuvvetli
kar\i \c{s}t\i rma ise, o zaman $E_{n}[h_{t}]\rightarrow _{p}E[h_{t}]$'d\i r.
\end{lemma}

Dikkat ediniz. Bu BSY'n\i n daha genel bir uyarlamas\i\ Birkhoff ergodik
teoremi olarak adland\i r\i l\i r.\footnote{%
Bak\i n\i z, \"{o}rn.
http://mathworld.wolfram.com/BirkhoffsErgodicTheorem.html}

\begin{lemma}[Gordin'in MLT'i]
E\u{g}er $\{h_{t}\}$ bir kuvvetli dura\u{g}an kar\i \c{s}t\i rma s\"{u}reci
ise ve $E[h_{t}]=0$, $\sum_{k=1}^{\infty }\alpha _{k}^{\delta /{(2+\delta )}%
}<\infty $, $E\Vert h_{t}\Vert ^{2+\delta }<\infty $ ise, o zaman 
\begin{equation*}
\sum_{t=1}^{n}h_{t}/\sqrt{n}\rightarrow _{d}N(0,\Omega ),
\end{equation*}%
burada 
\begin{equation*}
\begin{equation*}
\Omega =\lim_{n}Var(\sum_{t=1}^{n}h_{t}/\sqrt{n})=\lim_{n}\Big (\Omega
_{0}+\sum_{k=1}^{n-1}\frac{n-k}{n}(\Omega _{k}+\Omega _{k}^{\prime })\Big )%
=\Omega _{0}+\sum_{k=1}^{\infty }(\Omega _{k}+\Omega _{k}^{\prime })<\infty ,
\end{equation*}%
\end{equation*}%
burada $\Omega _{0}=Eh_{1}h_{1}^{\prime }$ ve $\Omega
_{k}=Eh_{1}h_{1+k}^{\prime }$'d\i r.
\end{lemma}

Burada kar\i \c{s}t\i rman\i n derecesindeki (rate) k\i s\i t ve beklem ko%
\c{s}ulu kovaryans\i n sonlu miktar olan $\Omega $'a topland\i \u{g}\i n\i\
belirtir; a\c{s}a\u{g}\i daki nota da bak\i n\i z. Bu ger\c{c}ekle\c{s}irse,
seriye zay\i f-ba\u{g}\i ml\i\ (weakly-dependent) denir.

Kovaryans toplanabilirli\u{g}ini ima eden bir yeterli ko\c{s}ul \c{s}u \c{s}%
ekilde d\"{u}\c{s}\"{u}n\"{u}lebilir: $k\rightarrow \infty $'a giderken, 
\c{s}una sahip olmak yeterlidir 
\begin{equation*}
c>1\text{ i\c{c}in }\Omega _{k}/k^{-c}\rightarrow 0.
\end{equation*}%
Kovaryanslar $1/k$'dan daha h\i zl\i\ azalmal\i d\i r. Bu ger\c{c}ekle\c{s}%
mezse, serilerin uzun haf\i zaya (long memory) sahip olduklar\i\ s\"{o}%
ylenir. Finansta kullan\i lan y\"{u}ksek frekansl\i\ veri genelde uzun haf\i
zaya sahip olarak d\"{u}\c{s}\"{u}n\"{u}l\"{u}r; bunun sebebi kovaryans\i n 
\c{c}ok yava\c{s} \c{s}ekilde azalmas\i d\i r. Uzun haf\i zaya y\"{o}nelik
yana\c{s}\i k kuram\i\ burada anlat\i lan yana\c{s}\i k kuram\i ndan yeteri
kadar farkl\i d\i r [Referans olarak bak\i n\i z: H. Koul.]

Dikkat ediniz. Gordin'in teoreminde, kovaryans toplanabilirli\u{g}i
Ibragimov'un dura\u{g}an seriler i\c{c}in kar\i \c{s}t\i rma e\c{s}itsizli%
\u{g}inden \c{c}\i kart\i l\i r (burada skalarlar i\c{c}in ifade edilmi\c{s}%
tir): 
\begin{equation*}
|\Omega _{k}|=|Eh_{t}h_{t+k}|\leq \alpha _{k}^{1-\gamma
}[E[h_{t}]^{p}]^{1/p}[E[h_{t}]^{q}]^{1/q},\ \ \frac{1}{p}+\frac{1}{q}=\gamma
\in (0,1).
\end{equation*}%
$p=2+\delta $ olarak belirlendi\u{g}inde, kovaryans toplanabilirli\u{g}i $%
\sum_{k=-\infty }^{\infty }|\Omega _{k}|<\infty $ kar\i \c{s}t\i rma
katsay\i lar\i\ \"{u}zerine konulan k\i s\i tlamadan \c{c}\i kart\i l\i r.

\begin{theorem}
Varsayal\i m $\{(y_{t},x_{t})\}$ dura\u{g}and\i r, kuvvetli kar\i \c{s}t\i
rmad\i r ve L1 ve L2 ge\c{c}erlidir. Varsayal\i m $\{\tilde{h}%
_{t}\}=\{x_{t}x_{t}^{\prime }\}$ sonlu ortalamaya sahiptir, bu taktirde L3 ko%
\c{s}ulu $Q=E[x_{t}x_{t}^{\prime }]$ ile ge\c{c}erlidir. Varsayal\i m $%
\{h_{t}\}=\{x_{t}e_{t}\}$ Gordin'in ko\c{s}ullar\i n\i\ sa\u{g}las\i n, bu
taktirde L4 yukar\i da belirtilen $\Omega $ formu ile ge\c{c}erlidir.
\end{theorem}

\textbf{\.{I}spat:} Sonu\c{c} \"{o}nceki iki teoremden ve kar\i \c{s}t\i
rman\i n tan\i m\i ndan elde edilir.

Yukar\i daki form\"{u}l, $\Omega $ i\c{c}in \c{s}u tahminciyi \"{o}nerir: 
\begin{equation*}
\begin{equation*}
\hat{\Omega}=\hat{\Omega}_{0}+\sum_{k=1}^{L-1}\frac{L-k}{L}(\hat{\Omega}_{k}+%
\hat{\Omega}_{k}^{\prime }),
\end{equation*}%
\end{equation*}%
burada $\hat{\Omega}_{0}=E_{n}[h_{t}h_{t}^{\prime }]=\frac{1}{n}%
\sum_{t=1}^{n}h_{t}h_{t}^{\prime }$ ve $\hat{\Omega}%
_{k}=E_{n}[h_{t}h_{t+k}^{\prime }]=\frac{1}{n-k}%
\sum_{t=1}^{n-k}h_{t}h_{t+k}^{\prime }$'dir. Belli teknik ko\c{s}ullar alt\i
nda ve budama gecikmesi (truncation lag) \"{u}zerinde ko\c{s}ullar ile,
mesela $L/n\rightarrow 0$ ve $L\rightarrow \infty $ gibi, tahmincinin
tutarl\i\ oldu\u{g}u g\"{o}sterilmi\c{s}tir.

$\hat{V}=\hat{Q}^{-1}\hat{\Omega}\hat{Q}^{-1}$ tahmincisi yukar\i da
belirtilen formun $\hat{\Omega}$ hali ile s\i kl\i kla HAC tahmincisi
("farkl\i\ yay\i l\i ml\i\ ve kendisiyle ilgile\c{s}imli tutarl\i\
tahminci," heteroscedasticity and autocorrelation consistent, HAC) olarak
adland\i r\i lm\i \c{s}t\i r. Baz\i\ d\"{u}zenlilik (regularity) ko\c{s}%
ullar\i\ ile, tahminci ger\c{c}ekten de tutarl\i d\i r. Bu ko\c{s}ullar ve
ispat i\c{c}in, bak\i n\i z Newey and West \c{c}al\i \c{s}mas\i . \newline

\textbf{(b) Martingale fark dizileri (MFD, Martingale difference sequences,
MDS).} Veri zamansal olarak ba\u{g}\i ml\i\ olabilir ama kovaryanslar $%
\Omega _{k}$ yine de s\i f\i r olabilirler ("hepsi ge\c{c}irgen" (all-pass)
serileri); sonu\c{c}ta yukar\i daki $\Omega $ sadele\c{s}erek $\Omega _{0}$
olur. MFD bunun ger\c{c}ekle\c{s}mesinin bir \"{o}rne\u{g}idir. MFD ak\i
lc\i\ beklentiler (rational expectations) ile (Hansen and Singleton'a bak\i
n\i z) ve ayn\i\ zamanda etkin piyasa hipotezi (efficient market hypothesis)
ile (Fama'ya bak\i n\i z) ba\u{g}lant\i l\i\ olarak da \"{o}nemlidirler.
Referans olarak detayl\i\ bir ders kitab\i\ olan H. White, Asymptotic Theory
for Econometricians'a bak\i n\i z.

$z_{t}$'nin bir eleman\i\ $h_{t}$ olsun ve $I_{t}=\sigma (z_{t},z_{t-1},...)$
olsun$.$ $\{h_{t}\}$ s\"{u}reci, e\u{g}er $E[h_{t}|I_{t-1}]=h_{t-1}$ ise, $%
I_{t-1}$ s\"{u}zmesine (filtration) ba\u{g}l\i\ olarak bir martingale'dir. $%
\{h_{t}\}$ s\"{u}reci, e\u{g}er $E[h_{t}|I_{t-1}]=0$ ise, $I_{t-1}$ s\"{u}%
zmesine ba\u{g}l\i\ olarak bir martingale fark dizisidir (difference
sequence).

\"{O}rnek. Hall'\i n karesel fayda ve ak\i lc\i\ beklentiler ile olu\c{s}%
turdu\u{g}u temsili t\"{u}ketici modelinde \c{s}una sahibiz 
\begin{equation*}
E[y_{t}|I_{t-1}]=0,
\end{equation*}%
burada $y_{t}=c_{t}-c_{t-1}$ 'dir ve $I_{t}$ ise $t$ d\"{o}neminde mevcut
olan bilgidir. Yani, ak\i lc\i\ ve en iyileme (optimization) hedefleyen bir t%
\"{u}ketici bug\"{u}nk\"{u} t\"{u}ketim miktar\i n\i\ takip eden d\"{o}%
nemlerdeki t\"{u}ketimin ortalamas\i nda de\u{g}i\c{s}iklik olmayaca\u{g}\i\
beklentisi ile olu\c{s}turur.

\begin{lemma}[Billingsley'in Martingale MLT'i]
$\{h_{t}\}$ dura\u{g}an ve kuvvetli kar\i \c{s}t\i rmal\i\ bir martingale
fark dizisi olsun ve $\Omega =E[h_{t}h_{t}^{\prime }]$ sonlu olsun. Bu
durumda $\sqrt{n}E_{n}[h_{t}]\rightarrow _{d}N(0,\Omega )$'d\i r.
\end{lemma}

Bu teorem sezgisel (intuitive) olarak manal\i d\i r, \c{c}\"{u}nk\"{u} $%
h_{t} $'ler \"{o}zde\c{s} da\u{g}\i l\i ml\i d\i r ve ilgile\c{s}%
imsizdirler. Asl\i nda, $k\geq 1$ i\c{c}in $E[h_{t}h_{t-k}^{\prime
}]=E[E[h_{t}h_{t-k}^{\prime }|I_{t-k}]]=E[E[h_{t}|I_{t-k}]h_{t-k}^{\prime
}]=0$'d\i r, \c{c}\"{u}nk\"{u} $%
E[h_{t}|I_{t-k}]=E[E[h_{t}|I_{t-1}]|I_{t-k}]=0$'d\i r. McLeish bu teoremin g%
\"{u}zel bir genelle\c{s}tirmesini yapm\i \c{s}t\i r.

\begin{theorem}
Varsayal\i m $\{(y_{t},x_{t})\}$ serisi dura\u{g}an ve kuvvetli kar\i \c{s}%
t\i rma olsun. Ayr\i ca, varsayal\i m (a) $e_{t}=y_{t}-x_{t}^{\prime }\beta
, $ $I_{t-1}=\sigma ((e_{t-1},x_{t})^{\prime },(e_{t-2},x_{t-1})^{\prime
},...) $ s\"{u}zmesine ba\u{g}l\i\ bir martingale fark dizisi olsun, yani $%
E[e_{t}|I_{t-1}]=0$, (b) $\Omega =E[e_{t}^{2}x_{t}x_{t}^{\prime }]$ sonlu
olsun, ve (c) $Q=E[x_{t}x_{t}^{\prime }]$ sonlu ve tam kerte olsun. Bu
durumda L1-L4 yukar\i da tan\i mlanan $\Omega $ ve $Q$ ile ge\c{c}erlidir.
Bu sebeple, \"{O}neriler 1-3'\"{u}n sonu\c{c}lar\i\ da ge\c{c}erlidir.
\end{theorem}

\.{I}spat. \c{S}unu biliyoruz: $E[e_{t}|x_{t}]=E[E[e_{t}|I_{t-1}]|x_{t}]=0$,
bu da L1 ve L2'yi ima eder. \c{S}unu Ergodik BSY ile biliyoruz: $%
E_{n}[x_{t}x_{t}^{\prime }]\rightarrow _{p}Q=E[x_{t}x_{t}^{\prime }]$, bu da
L3'\"{u} sa\u{g}lar. $\Omega =E[e_{t}^{2}x_{t}x_{t}^{\prime }]$ ile
Martingale MLT'den\ $\sqrt{n}E_{n}[e_{t}x_{t}]\rightarrow _{d}N(0,\Omega )$
oldu\u{g}unu biliyoruz, bu da L4'\"{u} sa\u{g}lar. $\qed$

\textbf{A\c{c}\i klama 4.1.} \textit{IID durumunda oldu\u{g}u gibi }$\Omega $%
\textit{\ ve }$Q$\textit{\ i\c{c}in ayn\i\ tahminciyi kullanabiliriz} 
\begin{equation*}
\widehat{\Omega }=E_{n}[\hat{e}_{t}^{2}x_{t}x_{t}^{\prime }],\ \ \hat{Q}%
=E_{n}[x_{t}x_{t}^{\prime }].
\end{equation*}%
$\widehat{\Omega }$\textit{'\i n tutarl\i l\i \u{g}\i\ daha \"{o}nce oldu%
\u{g}u gibi }$E[\Vert x_{t}\Vert ^{4}]<\infty $\textit{\ varsay\i m\i\ ile sa%
\u{g}lan\i r. \.{I}spat da daha \"{o}ncesi ile ayn\i d\i r, sadece iid veri i%
\c{c}in her zamanki BSY yerine Ergodik BSY kullan\i lmal\i d\i r. }$\hat{Q}$%
\textit{'\i n tutarl\i l\i \u{g}\i\ da ergodik BSY'den elde edilir.}

\"{O}rnek. Hall'\i n \"{o}rne\u{g}inde, 
\begin{equation*}
E[y_{t}-x_{t}^{\prime }\beta _{0}|x_{t}]=0,
\end{equation*}%
bu $\beta _{0}=0$ ve bilgi setine $t-1$ zaman\i nda dahil olan ve herhangi
bir de\u{g}i\c{s}keni temsil eden $x_{t}$ i\c{c}in ge\c{c}erlidir. Hall'\i n
hipotezi ile, 
\begin{equation*}
\sqrt{n}(\hat{\beta}-\beta _{0})\rightarrow _{d}N(0,V),\ \ V=Q^{-1}\Omega
Q^{-1},\ \ \beta _{0}=0
\end{equation*}%
burada $\Omega =E[y_{t}^{2}x_{t}x_{t}^{\prime }]$ ve $Q=Ex_{t}x_{t}^{\prime
} $'dir. Sonras\i nda, Hall'\i n hipotezi Wald istatisti\u{g}i kullan\i
larak s\i nanabilir: 
\begin{equation*}
W=\sqrt{n}(\hat{\beta}-\beta _{0})^{\prime }\widehat{V}^{-1}\sqrt{n}(\hat{%
\beta}-\beta _{0}),
\end{equation*}%
burada, yukar\i da tan\i mlanan $\widehat{\Omega }$ ve $\widehat{Q}$ i\c{c}%
in $\widehat{V}=\widehat{Q}^{-1}\widehat{\Omega }\widehat{Q}^{-1}$'dir.

\end{document}
