xiangze's sparse blog

機械学習、ベイズ統計、コンピュータビジョンと関連する数学について

BayesFlowについて

kerasのようにTensorflowの中にEdwardを取り込むという話もありましたが、BayesFlowという名前でtf.contribの中に取り込まれています。
https://www.tensorflow.org/api_docs/python/tf/contrib/bayesflow

今の所klpq(csiszar_divergence内のkl_forward), hmc, metropolis_hastings などがEdward由来のものらしいですが、そうでない物もあり興味深いです。が使用例はまだほとんどないようです。

続きを読む

Edwardを試してみた(3)敵対的生成ネットワーク(GAN)

Edward2.0が発表され、criticismが廃止されたり、インターフェースが変わったりと大きな変化があるようですが、ここでは引き続きEdwardの例を実行してみます。

続きを読む

Ubuntu でtensorflow-gpuを使えるようにするのにはまった→解決

表題のようにUbuntu16.04 でtensorflow-gpuを使おうとしてハマったのでその解決に至るまでの記録です。
個々の問題はググって出てきた情報を実施することで解決できるものです。
ここではそれをどんな順序で試行錯誤し実行していったかの流れを記します。

続きを読む

Edwardを試してみた(2)変分オートエンコーダー(VAE)

だいぶ間が空いてしまいましたがEdwardのサンプルコードを動かしてみました。

続きを読む

ホクソエムとその周辺分布

HOXO-M Advent Calendar 2017 - Qiitaの10日目です。

qiitaにpoemタグがあるのを知りました

今や著名なデータサイエンティスト界隈の中核として知られる組織ホクソエムですが、その実態は明らかではない。と去年くらいまでは思っていたのですが、執筆やtidyverseの普及など実際活動が明確になってきていて驚きます。

hoxo-m.com

続きを読む

Edwardを試してみた(1) MCMCでベイズ線形回帰

今更ながら確率的プログラミングのライブラリEdwardを試してみました。
http://edwardlib.org/tutorials/

確率的プログラミング

統計的なモデルの(ベイズ)推定が出来るという点でstanやpymcと似ていますが、Edwardはより広く確率的プログラミング(Probabilistic Programming)
という枠組みを実現したライブラリであり、Variable AutoEncoder(VAE)やGenerative adversarial networks(GAN)なども比較的簡単に実装できるようです。

続きを読む

Group Equivariant CNNとM理論について

画像内の物体が回転したり変形したりしていても認識できるような方法に関する研究の論文を読みました。
CNNでは学習データを大量に用意しなければならず、そのために既存の画像に並行や回転などの操作を施して学習を行うと精度が向上することが知られています(data augumentation)。データを多くすることなく同程度の精度を達成するような回路構成が考えられてられてます。

続きを読む