カーネル回帰（カーネルかいき、）は、統計学において確率変数の条件付き期待値を推定するためのカーネルを用いた回帰分析のためのノンパラメトリック手法である。その目的は確率変数の組 X と Y の間にある非線形な関係を見出すことである。
どのようなノンパラメトリック回帰においても、変数 X に対する変数 Y の条件付き期待値は次のように表すことができる。
ここで、m は未知の関数である。m として様々な方法が提案されている。
Nadaraya–Watson カーネル回帰 エリズバール・ナダラヤとジェフリー・ワトソンが1964年にほぼ同時に独立に、重み関数としてカーネルを用いた局所加重平均にて を推定することを提案した。
Nadaraya–Watson推定量は以下の通りである。
ここで、 はバンド幅（帯域幅） を持つカーネルであり、 の次数は少なくとも1次である（すなわち、 を満たす）。
導出 条件付き期待値の定義より、
カーネル K を用いたカーネル密度推定により、結合分布 f(x,y) および周辺分布 f(x) を次のように推定する。
これらを代入すると以下の式が得られる。
これはNadaraya–Watson推定量と一致する。
Priestley-Chao カーネル推定量
ここで はバンド幅（または平滑化パラメータ）である。
Gasser–Müller カーネル推定量
ここで である。
関連項目 局所回帰
出典