Ryuz's tech blog

FPGAなどの技術ブログ

機械学習

フィジカルAIについて考えてみる

はじめに 昨今、フィジカルAIや、エンボディドAI などの単語をよく聞くようになってきました。 当サイトのリアルタイム性に対するこだわりが発揮しやすそうな領域であり、FPGA 応用の生きてくる分野でもありますので、少し考察してみたいと思います。 昔から…

リアルタイムコンピューティング的CNN再考

はじめに 当方はFPGAを使ったリアルタイムコンピューティングをメインに活動しております。 流行りの深層学習は私の中では One of them でしかないつもりなのですが、それでも昨今どうしても無視はできないので、リアルタイムコンピューティング観点でCNNを…

LUT-Netowork の今後の可能性

はじめに 2025年3月1日より、個人事業主として開業申請いたしました。 当面は続けられる限りフリーランス的な働き方を併用しながら、今まで自分が挑戦できなかった分野の開発に取り組んでいこうと考えております。 で、サラリーマン的に趣味的に作っていた L…

パラメータ定数ごと乗算を合成する場合の考察

はじめに 毎度おなじみ当方の LUT-Netは、ネットワークのパラメータをLUTのテーブル値として学習して回路にしてしまう為、外部SDRAMなどのメモリからパラメータをロードしながら演算する必要がありません。 今回はLUT-Net は置いておいて、「もし普通の積和…

BinaryBrain で HLS をやってみる (ver 4.2.4 リリース記念)

はじめに 先ほど BinaryBrain 4.2.4 をリリースしましたので少しだけ時事ネタ的にプログを書こうと思います。 github.com もともと FPGA の基本構成要素である LUT を LUT 構成のまま誤差逆伝搬で学習させてしまおうというのが、以前発表したLUT-Netの趣旨で…

続・IIR型セマンティックセグメンテーション(途中経過)

はじめに 前回ぐらいからIIR型のネットワークに向けていろいろやってるのですが、道が長そうなのと、夏季休暇もあって少し進展もあったので途中経過をブログに残しておきます。 LUT-Networkのおさらい 当サイトでは主にFPGAで超リアルタイムなバイナリニュー…

ミップマップを使ったIIRフィルタライクなRNNを考える

はじめに 先日 Twitter に書いた内容ではあるのですが、ミップマップ構造を使ったIIRフィルタライクなRNNネタを備忘録程度にまとめておきます。 ミップマップについてはWikipediaの記事などを見て頂ければと思いますが、CGなどでテクスチャマッピングを行う…

LUT-NetworkによるFPGAでの手書き数字(MNIST)のセマンティックセグメンテーション再整理

はじめに 私のTwitter のトップにも置いているこの動画ですが、かなり昔 C++ ベースでハイパーパラメーターや構造を何度も変えてリコンパイルしながら少しづつ試行錯誤してネットを育てるという事をやってしまったので、容易に再現環境が作れずにおりました…

BinaryBrain ver4 リリース

リリースのお知らせ ずいぶんと久しぶりになりますが、コロナもあって引きこもりのお正月を迎えるにあたって、少しまとまった時間が取れましたので Python対応を強化して BinaryBrain Ver4 をリリースいたしました。 Ver4 ソースコード一式 ('ver4_release' …

画像の量子化とディザに関する考察(復刻記事)

おしらせ 以前Qrunchで書いていた記事の復刻です。 画像の量子化とディザに関する考察 先日の記事の最後で入力データの量子化をいくつかのパターンで実験しましたが、視覚的にどう見えるかを少し実験してみました。 というのは、実際問題1bitまで量子化して…

Fully Binary Neural Network への変調入力の評価結果(復刻記事)

おしらせ 以前Qrunchで書いていた記事の復刻です。 CIFAR-10 の CNN でのバイナリ化検討 CIFAR-10 の CNNを利用して、入力のバイナリ化による影響を評価し、完全なバイナリネット(Fully Binary Network) の可能性を探っております。 以前、Qiitaの方にも記事…