ゲンロンカフェ「Winnyと金子勇が見た未来」、そして映画「Winny」を観て感じたこと(2):金子勇さんのED法(誤差拡散法)から紡がれた思考の連鎖

AI

前ブログにリンクしていましたが、記事が膨大になってきたので、リンク用のブログに切り出すことにしました^_^

今後も定期的に更新していきたいと思います。

Winnyと金子勇が見た未来──「天才」が生きにくい国を変えるために

ゲンロンカフェ「Winnyと金子勇が見た未来」、そして映画「Winny」を観て感じたこと(1):生成系AI時代の今こそ、輝くべき人だった

もしよろしければ、前回ブログもご覧いただけますと幸いです^_^

ED法(誤差拡散法)議論の進展リンク

ゲンロンカフェにて、動画公開を再開してくれたからだと思いますが、改めてED法についての考察が深まっています。本当に素晴らしい連鎖だと感じております!

『Winny』の金子勇さんの失われたED法を求めて…いたら見つかりました(2024/04/16)

『Winny』の金子勇さんの失われたED法を求めて...いたら見つかりました - Qiita
2024/04/19追記普段は「通知が迷惑かなー」と思ってブックマークしていただいている方に通知せず記事を編集しているのですが、この記事をブクマしていただいている方は続きが気になっている方だと思い…

金子勇さんのED法を実装してMNISTを学習させてみた(2024/04/19)

金子勇さんのED法を実装してMNISTを学習させてみた - Qiita
はじめに先日以下の記事が投稿され、その斬新な考え方に個人的ながら衝撃を受けました。…

ED法を高速化してその性能をMNISTで検証してみた(2024/04/25)

ED法を高速化してその性能をMNISTで検証してみた - Qiita
前回の記事の続きです。今回はED法を少し補足した後に性能について見てみました。(ついでに…

Winnyの金子さんのED法について:やねうら王 公式サイト(2024/04/21)

Winnyの金子さんのED法について | やねうら王 公式サイト
Winnyの金子勇さんが考案された機械学習アルゴリズムED法を再現して実装した人がいていま話題になっている。

難しいことはいいから、金子勇さんのED法って何がすごいの?(2024/04/22)

難しいことはいいから、金子勇さんのED法って何がすごいの?

ED法への生理学的な考察(2024/04/22)

ED法への生理学的な考察 - Qiita
初めまして。普段は産婦人科医をしつつAIの医学応用に関する研究をしています。Qiitaは見る専でしたが、以下のバズっている記事を拝見した時、生理学の神経構造の話をふと思い出したのでメモ代わりに記載…

ED法とSNNの違いを考えてみる(2024/04/26)

ED法とSNNの違いを考えてみる - Qiita
先日、金子勇さんの誤差拡散法(ED法)について神経生理になぞらえた記事を書かせていただいたところ、医学知識に興味のあるエンジニアの方が多くいらっしゃることを知りました。だからというわけでもないのです…

ED法と1.58bit LLMについて(2024/04/24)

ED法と1.58bit LLMについて - Qiita
DISCLAIMERすみません!今回はCNCでもEtherCATでも、CODESYSでもなく、特定のAIに関する話題です。ポエムかもしれません。ED法…

ED法実装例(バッチ学習対応)(2024/04/21)

ED法実装例(バッチ学習対応) - Qiita
一応動いたので共有しておきます。実装旧import torchimport torch.nn as nnimport numpy as npclass Layer: def __init…

金子勇さんのED法のシンプルな解説を試みた(2024/04/23)

金子勇さんのED法のシンプルな解説を試みた - Qiita
はじめに@pocokhc(ちぃがぅ)さんが、金子勇さんのED法を実装してMNISTの学習に成功しました。…

金子勇さんのED法の解説と弱点、行列積を使用した効率的な実装(2024/04/25)

金子勇さんのED法の解説と弱点、行列積を使用した効率的な実装 - Qiita
はじめに先日以下の記事が話題となり、とてもワクワクしたので自分も実装して色々実験してみました。…

ED法を説明図からpytorchで実装(2024/04/25)

ED法を説明図からpytorchで実装 - Qiita
話題のED法、誤差拡散法による学習法こちらをpytorchを使用してレイヤとして実装…

ED法はBCELossでも学習できる (Rustで再実装)(2024/04/26)

ED法はBCELossでも学習できる (Rustで再実装) - Qiita
最近話題のED法、色々見ても理解できなかったのでRustで再実装してみました。かなりED法のコンセンプトをわかりやすく実装に落とし込めた気がします。そしてやはり静的型付け言語はいい…読みやすい…試しに...

ED法の学習速度を8倍高速化する行列計算の改良(2024/04/28)

ED法の学習速度を8倍高速化する行列計算の改良 - Qiita
今回、Winnyの開発者である金子勇さんが考案したED法というニューラルネットワークの学習アルゴリズムの高速化に取り組みました。以下の記事に質問をさせていただき、その改良も出たので、もう不要な記事…

ED法で複数出力の学習の経過報告(2024/04/28)

ED法で複数出力の学習の経過報告 - Qiita
これの続きED法で CrossEntropyLoss を使った学習を実装している。線形変換…

ED法と3値(+1,-1,0)のアイデアを元に新しい活性化関数(ExP2)を作ってGELU、ELUと性能比較してみた。MINIST精度 99.43%以上達成(2024/04/29)

ED法と3値(+1,-1,0)のアイデアを元に新しい活性化関数(ExP2)を作ってGELU、ELUと性能比較してみた。MINIST精度 99.43%以上達成 - Qiita
追記 ELUとの比較を追加しました、金子さんのアイデアの凄さが明確に結果に出ています。また最後にニューロンが正・負どちらに発火しているのか可視化したチャートも追加しました。初めに誤差逆伝播法…

無理やりED法でCrossEntropyLossを使ってmnist全体を学習する(2024/04/30)

無理やりED法でCrossEntropyLossを使ってmnist全体を学習する - Qiita
この記事の続きとにかく、ED法でCrossEntropyLossを損失関数に使った学習ができ…

ED法の重みをGPUで並列更新したら3,000倍高速化した。(2024/04/30)

ED法の重みをGPUで並列更新したら3,000倍高速化した。 - Qiita
はじめに先日、ED法の解説記事を書きました。並列処理と相性が良さそうであると述べておき…

ED法を今更理解する(2024/05/01)

ED法で複数出力してみた(XOR 正答率:100%)(2024/05/03)

ED法で複数出力してみた(XOR 正答率:100%) - Qiita
初めにQiitaで初投稿します。読みにくいかと思いますがお手柔らかにお願いします。また、筆者はいろいろとポンコツです。「このコードおかしいな」や「この記事表現おかしくない?」、「全体的に読みづ…

ED法+交差エントロピーをTF/Torchで実装してみた(おまけでBitNet×ED法を検証)(2024/05/03)

ED法+交差エントロピーをTF/Torchで実装してみた(おまけでBitNet×ED法を検証) - Qiita
ED法の記事その3です。その1:金子勇さんのED法を実装してMNISTを学習させてみたその2:ED法を高速化してその性能をMNISTで検証してみたもう記事を書く予定はなかったんですが、思ったよ…

【Scoped Error Diffusion】シンプルにして14倍早くした(2024/05/05)

【Scoped Error Diffusion】シンプルにして14倍早くした - Qiita
初めにQiita初心者です。至らぬ点があるかと思いますが、コメント欄で指摘してくだされば幸いです。また、筆者はいろいろとポンコツです。前回の記事を見てくださればわかると思うのですが、ミスだと思っ…

N次元出力のED法について考えてみた(2024/05/06)

N次元出力のED法について考えてみた - Qiita
ED法についてはこの辺から…

GitHub(2013年)

9年も前にgithubにアップされている方もおりますね!

GitHub - hidenori-t/AI
Contribute to hidenori-t/AI development by creating an account on GitHub.

金子勇さんご自身の日記アーカイブ?(1999年)

ひょっとして、こちらがやねうら王さんが述べていた1999年の金子勇さんの日記でしょうか??
サンプルプログラムもついていますね。

EDLA

類似のアルゴリズムSNN(スパイキングニューラルネットワーク)について

ゼロから学ぶスパイキングニューラルネットワーク

ゼロから学ぶスパイキングニューラルネットワーク
スパイキングニューラルネットワーク(SNN)についてゼロから解説したサイトです. 半分自己満足的なサイトではありますが,これからSNNの研究をしようとしている人,SNNについて知識として蓄えたい人向け...

金子勇さんED法(誤差拡散法)についての講演

関連リンク

コメント

タイトルとURLをコピーしました