chijan|カイヤン

33 Followers
15 Following
595 Posts
特異学習理論が好き.ほとんど確実に私のトゥートの正確さは保証されません.
偶然仕事で根基イデアルの定義を確認した日にたまたまmathtodon開いたらこれがあるの草
博士号取得しました!
無理数だけに
tanaka2017 on mathtod.online

用語の略称,統一する必要はないと思うけど,なんとなくそして適当に作ってみた; \begin{align*} & \text{用語} & & \text{略称}\\ & \text{ローカルタイムライン} & & LTL\\ & \text{連合タイムライン} & & FTL\\ & \text{トゥート} & & & \text{?}\\ & \text{返信} & & \text{リプ} & \text{?}\\ & \text{ブースト} & & BST & \text{?}\\ & \text{お気に入り(に追加)} & & \text{ファボ} & \text{?}\\ & Mathtodon & & & \text{?}\\ & Mastodon & & & \text{?} \end{align*} どなたか,修正と穴埋めと追加を頼む

mathtod.online
実対数閾値が出てくる自由エネルギーの漸近挙動が背景にある一方で、BIC同様に最尤推定量を経験誤差函数(実現可能なときの経験エントロピー)に代入している。そういう意味では頻度論者とベイジアンの架橋的存在なのかもしれない(そろそろ哲学的で非mathematicalな言い方になってきたゾー)
sBICの大きな貢献の一つは実対数閾値を解明するという研究の有用性を著しく引き上げたことだと思います。これで実世界との戦いにかなり直接的に用いることが出来る。
個人的にWBICの面白いところは、逆温度が1とは限らない場合のBayes統計の理論がバリバリに生かされていて、サンプルサイズを$n$とするとき逆温度$\beta$を$\beta=1/\log n$とした場合を利用するとうまくいくというところ。
他にはWBICの論文に関連成果として実対数閾値を数値計算する方法もあるところかしら。
なおこのトゥートにおけるsBICの理解は私が原著論文を読んで得た理解なのでどこか変なところはあるかもしれない。
sAICというのもいずれ生まれるかもしれませんね。
sBICは実対数閾値の理論値という、本来真の分布がわからなければ計算できないもの(従って具体的なモデルの特異点解消が得られたときその結果を直接実務に使うには難しく、汎化誤差の見積もりや人口データを用いて数値実験を行い、計算プログラムの正しさを確認するという応用であった)を使って、モデル選択をする手法・情報量規準です。singular BIC。
sBICの弱点としては最尤推定量を使うのでこれの計算が難しい(というか存在しない)混合正規分布とかには局所最尤推定量を用いるしかないということかしら。あとは実現可能性の仮定。
逆に事後分布の積分が不要なのはWAICやWBIC(特に近似対象が同じWBIC)に対するアドバンテージでしょう。
BICみたく一発で計算できるわけではないのですが、事後分布による積分はまず事後分布から上手くパラメータをサンプリングする必要がありますので。