みなさんこんにちは!
本日は業務関連でBayesianRidgeについて調べる機会がありましたのでこちらにもメモとして残したいと思います。
BayesianRidgeとは
- ベイス”線形”回帰モデル(非線形はガウス過程)
- 尤度関数は正規分布を仮定、事前分布はこちらを参考
- それぞれ正規分布の分散の事前分布には共役事前分布のガンマ分布が設定されている
- 階層ベイズモデルになっている
- “Ridge”と呼ばれる理由は、この仮定で数式を展開していくとリッジ回帰と同様に正則化項が出現するため。
- alpha_init、lambda_initは対数エビデンス近似の初期値
- scikit-learnだと、predict関数のreturn_stdをTrueにすると予測の不確実性として事後分布の標準偏差が取得できる。
参考
![](https://qiita-user-contents.imgix.net/https%3A%2F%2Fcdn.qiita.com%2Fassets%2Fpublic%2Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png?ixlib=rb-4.0.0&w=1200&mark64=aHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZ0eHQ9JUUzJTgzJTk5JUUzJTgyJUE0JUUzJTgyJUJBJUU3JUI3JTlBJUU1JUJEJUEyJUU1JTlCJTlFJUU1JUI4JUIwJUUzJTgxJUEzJUUzJTgxJUE2JUUzJTgzJThBJUUzJTgzJUIzJUUzJTgxJUEwJUVGJUJDJTlGJUVGJUJDJTg4QmF5ZXNpYW4lMjBsaW5lYXIlMjByZWdyZXNzaW9uJUVGJUJDJTg5JnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9NTYmdHh0LWNsaXA9ZWxsaXBzaXMmdHh0LWFsaWduPWxlZnQlMkN0b3Amcz1mMDdiM2ExMTk1NDI4NGE0MDI1YzYwNTQ2ZDM3MWEzZQ&mark-x=142&mark-y=112&blend64=aHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTYxNiZ0eHQ9JTQwdHNoaW1penU4JnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9MzYmdHh0LWFsaWduPWxlZnQlMkN0b3Amcz1mMWY5MjFiYTY4YjZiMmVkN2ZkN2QzMDVkYjYwNmMwYw&blend-x=142&blend-y=491&blend-mode=normal&s=d5796357ee8aab35ee67f6bbf8444f3c)
ベイズ線形回帰ってナンだ?(Bayesian linear regression) - Qiita
推定曲線(赤)と信頼度(データ数=4,12)はじめにNumPy 上で、ベイズ線形回帰 (Bayesian linear regression) の**逐次学習 (sequential le…
コメント
ベイズ推定は事後分布の標準偏差からどれくらい予測に不確実性があるかわかるのかがわかるのでリスクがわかって良いですね。
それでは!
コメント