moukie Semantički nije isto jer i ulazni sloj može imati aktivaciju, ali sad na ispitu piše točno ono što treba, a to je skriveni slojevi i izlazni.
Aktivacija na ulazu nije nešto pretjerano bitna jer ne utječe na gradijent, već samo mijenja ulaz, a to se može u jednom koraku predračunati.
