読者です 読者をやめる 読者になる 読者になる

xiangze's sparse blog

機械学習、ベイズ統計、コンピュータビジョンと関連する数学について

FPGAの原理と構成を読んだ

FPGA

FPGAブームが来ています*1

最近年を追うごとにFPGAに関する書籍やネット上の情報が多くなり、またC言語ベースでの高位合成技術の進展やLinuxベースのシステムが作られ、FPGAはソフトウェア開発者にとっての敷居が低く使いやすくなってきています。しかし入手できる情報は特定のベンダーの製品、ツールの使用を想定した実践的なものが多く、中立的立場からFPGAの内部構成や動作する原理について解説した日本語の本はほとんど見当たりませんでした。
FPGAの原理と構成」はそのような意味で他にはない、この本にしか載っていない事柄の多い本になっています。

FPGAの原理と構成

shop.ohmsha.co.jp

*1:人工知能ディープラーニングに比べたらそうでもないのですが

続きを読む

Exhaustive Hamilton Monte Carloの紹介

stan MCMC

Stan Advent Calendar12/20の記事です。
Stan version2.10.0で実装されたExhaustive HMC(xHMC)というアルゴリズムについて
論文Identifying the Optimal Integration Time in Hamiltonian Monte Carlo
の内容に基づいて説明します。

続きを読む

Recurrent Switching Linear Dynamical Systemsのstanでの再現

stan

Stan Advent Calendar12/11の記事です。時系列の統計モデルに関する論文「Recurrent Switching Linear Dynamical Systems」の紹介とそのstanでの再現です、が現状うまくいっていません。。

続きを読む

stanとRでベイズ統計モデリングをいただきました。

stan

ありがとうございます。
この本は著者の経験に基づくstanを用いた統計モデル構築と分析の方法について解説した他に類を見ない本になっています。

StanとRでベイズ統計モデリング (Wonderful R 2)

StanとRでベイズ統計モデリング (Wonderful R 2)

確率に関する初歩的な知識(和、積の法則、密度関数、ベイズの定理など)、簡単なRの使い方を前提としているので完全に初心者向けとは言えないのですが、stanのインストール方法や文法など初心者向けの内容から情報量基準の特性やそれとのつきあい方、自動変分ベイズ(ADVI)とその特性のような高度な内容、そしてベイズ統計モデリングの手順と実例が分かりやすく書かれています。

続きを読む

stanによるニューケインジアン・フィリップス曲線の推定

stan 時系列

経済学においては失業率とインフレ率をプロットすると負の相関関係が見られるというのが知られていてフィリップス曲線と呼ばれるそうです。
f:id:xiangze:20161002235530p:plain
https://gist.github.com/xiangze/b2a29f5f4ffb2be835b2#file-data_for_phillips-ipynb
その関係は10年程度の長期間では変化していき、原因として国ごとに様々な原因が考察されています。
各時点に対して失業率-インフレ率のプロットをして関係を見るのですが、各時点での値は独立ではなく、確率過程としてモデル化できると考えられます。実際ニューケインジアンフィリップス曲線(NKPC)というモデル提唱されています。
実際のデータがどの程度当てはまるかを論文賃金版ニューケインジアン・フィリップス曲線に関する実証分析に沿ってstanで計算してみました。

続きを読む

論文コーパスの次元圧縮とLDAによるトピックの関係の可視化

機械学習 python

機械学習の方法として教師なし学習で得られた量を特徴量として教師あり学習で使うという方法があります。
OnlineNewsPopularityの列の中にもLDAで推定されたトピックがあるようです。文書データもOnlineNewsPopularityと同じようにLDAで得られた量を使って機械的に分類が可能かと思われます。

続きを読む

KerasとskoptでのBayesian Optimization

機械学習 python

使ったアルゴリズム(random forest, neural net, Bayesian Optimization)とデータ(OnlineNewsPopularity)はTJOさんのブログ記事
と全く同じでPythonのライブラリscikit-learnのrandom forestとKeras, bayesianを使っているところが異なります。

続きを読む