tüm projeler

Araştırma / ML · 2023 · Araştırma

PCN-WSD

Türkçe sözcük anlamı belirginleştirme için hiyerarşik öngörücü kodlama, geri yayılım kullanmadan.

PythonPredictive CodingHebbianWSDTurkish NLPNo-BackpropGraceful Degradation

Ne yapıyor

Türkçe sözcük anlamı belirginleştirme için sabit boyutlu, hiyerarşik bir Öngörücü Kodlama Ağı'nın akademik makalesi ve açık kaynak uygulaması; ağ yalnızca yerel Hebbian kurallarıyla, hiç geri yayılım kullanmadan eğitiliyor. Temiz gömmelerde k-NN'i geçmiyor; katkısı, Gauss gürültüsü altında başarımını ani değil kademeli olarak kaybetmesi. σ=0,7'de tekrarlanabilir bir kesişme noktası var (%54'e karşı %35 doğruluk): burada yinelemeli çıkarım, bozulmuş girdileri öğrenilmiş önsellerden yeniden kuruyor. Belgelenmiş bir olumsuz sonucu da içeriyor (boyut indirgemeli melez model yaklaşık %10'da kalıyor) ve klasik bilişsel kuramı (Tolman, Spearman) güncel Serbest Enerji ve Öngörücü Kodlama kuramıyla buluşturuyor.