Šta je regulator aktivnosti u Kerasu?

Sadržaj:

Šta je regulator aktivnosti u Kerasu?
Šta je regulator aktivnosti u Kerasu?
Anonim

Regularizatori omogućavaju vam da primenite kazne na parametre sloja ili aktivnost sloja tokom optimizacije. Ove kazne se zbrajaju u funkciju gubitka koju mreža optimizira. Kazne za regulisanje se primjenjuju na bazi po sloju.

Šta je regulator aktivnosti?

Regulalizator aktivnosti radi u funkciji izlaza mreže, i uglavnom se koristi za regulisanje skrivenih jedinica, dok weight_regularizer, kao što ime kaže, radi na težinama (npr. da ih propadne).

Kada trebam koristiti regulator aktivnosti?

Ako želite da izlazna funkcija prođe kroz (ili imate presret koji je bliži) ishodištu, možete koristiti regulator pristranosti. Ako želite da izlaz bude manji (ili bliže 0), možete koristiti regulator aktivnosti.

Kako da koristim Keras regularizer?

Da dodate regularizator sloju, jednostavno morate proći željenu tehniku regularizacije na argument ključne riječi sloja 'kernel_regularizer'. Metode implementacije Keras regularizacije mogu obezbijediti parametar koji predstavlja vrijednost hiperparametra regularizacije.

Šta je kernel i bias?

Dense class

Dense implementira operaciju: izlaz=aktivacija (tačka (ulaz, jezgro) + pristranost) gdje je aktivacija funkcija aktivacije po elementima proslijeđena kao argument za aktivaciju, kernel je matrica težina koju kreira sloj, ibias je vektor pristranosti kreiran od strane sloja (primjenjivo samo ako je use_bias True).

Preporučuje se: