Sun, Feb 19, 2017
10時起床.
12時〜16時頃まで時系列勉強会の続き. 本題ではないのだが, あるモデル
から得られたデータがあり, ここで関数をニューラルネットワークで近似した場合, どんな性質の推定量(n: sample size)が手に入るのか, という話題がでた.
特に, 一般的に推定量の性能を評価する際に使われる一致性 (i.e, ) に相当するものが考えられるのか, が気になった. 調べたところ,
- 任意の連続関数は, いくつかの条件を満たす関数を活性化関数に用いた3層(i.e, 入力層/1層の中間層/出力層)のパーセプトロンで一様に近似できる(Universal Approximation Theorem)
- に関する一定の条件のもとで, 上のモデルから得られたデータを用いて3層のパーセプトロンを学習させれば, を一致推定することができる(Mielniczuk&Tyrcha(1993))
が言えるようだ.
前者は活性化関数がsigmoidの場合(Cybenko(1989)) *1が有名で, ざっと見た限りわたしでも読めそう. 一方で後者は関数が含まれる関数のクラスを扱う必要があり, 前提知識がある程度必要なようだ.
この話題はエコノメとの共通点が多く, 面白そうなので今後勉強していきたい.
夜は同級生で集まり, SHIROBAKOのBDを観た. 時間の制約上1〜10話までしか観ることができなかったが, 既視聴組が途中途中で盛り上がっているのをよそに, 初視聴組は食い入るように観てくれていたので嬉しかった.
*1:George Cybenko. (1989). Approximation by Superpositions of a Sigmoidal Function. Math. Control Signals Systems, Vol. 2., 303-314.
Sat, Feb 18, 2017
日記 #とは. もはや何をやっていたか忘れてしまった……
たしか一日中RA用のプログラムを書いていた気がする. 携帯電話の通話記録を使って交通量等を調べているのだが, 通常のエコノメの講義/演習等で使うパネルデータ等と違って扱いが難しい. というか, どう適切に扱えばいいのかわからない.
Thu, Feb 16, 2017
たしか8時くらいに起床.
15時から計量のゼミがあったので, それまで題材になっていた論文を学部のラウンジで読んでいた. 話題はSupermodular Gameの構造推定. 詳細はまた今度.
19時頃までゼミをやり, その後教員用の共同研究室で鍋会🍲をした. 共有スペースで鍋をするのは許されているのかと毎度不安になる. 教員とゼミ生4人で24時過ぎまで飲み食いしていた.
Tue, Feb 14, 2017
7時半起床.
図書館に行って情報理論の良さそうなテキストを調べたが, あまり品揃えがよくなかったので書店で情報理論の手頃そうな本を買った.
その後花粉症の薬をもらいに病院へ. Google Mapで耳鼻科を検索したのだが, 休業日だったり廃業していたりして1時間近く病院を探し回る羽目になった. Google Mapを信用してはいけない.
ANUの教授から連絡がきて, 東大からもう1人M2の人が一緒にANUに行くことになった. 面識が無いのだが, Juliaが書けるらしい. 往復25万円の航空券を購入した件については特に咎められなかった.
(a) と (b) は同じようなものだと思っていたが, 違うらしい. というのも,
より(b)⇒(a) だが, fを非線形な関数とすると
より, (a) not ⇒ (b)なので.
Wed, Feb 15, 2017
8時起床. 昨夜コードを書いていたらそのまま椅子で寝落ちしてしまった.
時系列勉強会でハミルトン上巻の8章(時系列モデルに対する最小二乗法関連の話)を読んだ. その際, 「AR(1)モデルのパラメータをOLS(ordinary least squares)で推定しても不偏推定量にはならない」という点でハマった(後述).
コアエコノメの成績が開示され, 無事Aであった. ただしAは9位〜18位相当ということなので, 今後他の大学院に行くのであれば再履修する必要があるかも. 同ゼミの某氏はA+だったようだ. さすが.
その後エコノメのTAの方と話したら, ネットワークの勉強会に誘ってくださった. ありがたや.
オーストラリアの件とは別件で, 3月26日〜31日までプノンペン(カンボジア)に行くことになった. たまに顔を出しているNPO法人で今年度分のチケットが余ったので, ということだそうだ. 航空券, ホテル, ビザ, 保険その他の交通費等を負担してくれるらしい.
AR(1)モデル:
の係数を素朴に最小二乗法で推定すると, OLS推定量は一致推定量だが, 不偏推定量ではなくなるらしい.
データが0期〜T期まであるとすると, OLS推定量は
を与えるとなる. いま
とおけば, 真のモデルと最小化問題は
となる. についてF.O.Cを解けば,
がの一致推定量であることは, を仮定すれば, 大数の法則から
よりわかる(ただし2番目と3番目はデータがiidでなく, それ用のLLNが必要).
以下2017/2/17改訂
一方でがの不偏推定量にならないのは, とが相関していることに起因する. 具体的には
のようになる. と以降のクロス項がでてきているので結果はになりそうもないが, 実際にどの程度のbiasがあるのかはわかっていない.
ちょうどAR(1)のOLS推定量のbiasを解析する論文を見つけたので, あとで読んでみる.
ところではてなブログ, 数式がものすごく書きづらい. 例えば &= で式の位置を縦に揃えることができない. なんとかしたいが……