Studoši

fPolic A što si napravio, našao put izbjegavajući taj ciklus, nisi ulazio u ciklus, ili si napisao da nema rješenja? Koliko znam u praksi je obično odgovor ovo zadnje, ali to se lako može izbjeći pa ne kužim zašto nisu napisali npr. da se svaki čvor smije posjetiti najviše jedamput.

Meni je ovak ispalo Bellman Fordom, valjda je okej (vidim da fale C = 6 samo)

M̵̧̩͑̀͝î̶͍̉ć̴̝̾́̀o̶̺̟̣͂̽ Znaš možda MI 2014 5. pod c). To je tvoja struka pa ne bi problema trebalo biti 😅 Ovako na prvu ne pronalazim postupak u materijalima.

https://www.fer.unizg.hr/_download/repository/M_-_20.11.2014._-_HR.pdf

TentationeM Riješit ću to danas, al ovdje imamo problem što nije definirano početno stanje.

Sve što se događa je da akumuliraš gradijent oba ulaza i onda to primijeniš na težine. Odabir težina za 1. i 4. značajku je nebitan (vidljivo je iz ulaza da su redundantne), a težine za 2. i 3. značajku bi inicijalizirao na 1 (radi jednostavnosti), a pomake na 0.

Dakle,

w = \begin{bmatrix} 0 \\ 1 \\ 1 \\ 0 \\ \end{bmatrix}, b = \begin{bmatrix} 1 \end{bmatrix}

Uzmite u obzir da su meni ulazi retčani, a ne stupčasti vektor, pa su ove veličine potencijalno transponirane. Gradijent je također elementaran - ako pretpostavimo da koristimo MSE, onda je gradijent izlaza \vec{o} - \vec{y}, gdje o pretpostavlja izlaz mreže a y labelu, nazovimo taj vektor \vec{d}, pa su gradijenti po parametrima

\frac{\partial{L}}{\partial{w}} = \begin{bmatrix} i_0 \cdot \vec{d} \\ i_1 \cdot \vec{d} \\ i_2 \cdot \vec{d} \\ i_3 \cdot \vec{d} \\ \end{bmatrix}, \frac{\partial{L}}{\partial{b}} = \begin{bmatrix} \vec{d} \end{bmatrix}

Mislim da uz stopu učenja 0.1 ovo sigurno konvergira, pa se može uzeti ili ta stopa učenja, ili 0.5 koji linearno decaya za 0.1 po epohi. Dodatno: U slučaju batch learninga na malom datasetu može i veći learning rate, npr. 1.

Konkretan postupak, kao i ispravke ću kasnije priložiti, jer trebam još jednom proći to gradivo pa idem na rješavanje zadataka, a na poslu sam trenutno. Ali sve što treba ovdje je računati isto kao on-line learning, akumulirati gradijente, i tek nakon što se prođe kroz cijeli dataset njihov prosjek oduzeti težinama.

@TentationeM

Evo, izvrtio sam 2 epohe, može se i 3. (treba uputa koji je prag za kraj treninga). Stopa učenja je 1. Gradijenti se akumuliraju kao aritmetička suma.

EDIT: Isto tako, bez akumulacije gradijenata se može koristiti onaj loss koji minimizira L2 normu vektora pogreške. Međutim gradijent toga ima sjebaniju formulaciju, takav tip lossa je striktno regresijski i u praksi se to ne radi (već se radi akumulacija gradijenta, kao što sam ja napravio). Oni također spominju minimiziranje zbroja kvadrata, ovo se u praksi ne radi jer gradijenti eksplodiraju za veće datasetove, već se koristi uprosječivanje da su gradijenti neovisni o broju primjeraka u grupi.

Netko uslikao ispit?

Bananaking Ionak će ga objaviti kao i ostale

Šta je ono rekao kad će otprilike rezultati… ja se ovako sječam pa nek me neko ispravi…
ponedeljak -> rezultati
utorak -> uvidi
srijeda -> usmeni

teslaFan Rezultati do ponedjeljka navečer
Uvidi u utorak ujutro
Usmeni nakon uvida

Zna li se kakva pitanja budu za usmeni?

Mislite da je netko uspio skupiti prag na ovom ispitu?

Kladivec Sad kad gledam unazad nije bilo toliko teško, al da je trol ispit bio, je

Sad bi trebali rezultati za par sati

Mislite da ce doc dns? Mislim vec je dosta kasno…

Koji je najbolji način spremanja za ispit? Polažem NASP na 3. roku pa da znam da li da idem standardnom taktikom slajdovi + stari ispiti ili imate neki drugi način?

Bobicki Pa ja predlazem neku kombinaciju slajdova + pogledat neke algoritme na yt jer neke stvari je teško skužit preko prezentacije te onda rokove riješavat, ali ofc ovo ovise o pojedincu jer neko voli odma skočit u ispite, a neko prvo proć sve preze.

Je li netko znao onda kako rješiti točno oni zadnji zadatak i oni sa B stablom 2. reda??
Mislim da nije u redu da nam tako komplicira živote sa glupim ispitima i 70% pragom

doakes Hmmm ja nisam siguran, ali ja sam doslovce to napravio ko obično binarno stablo… doslovce ne znam kak bi drugačije, mozda @M̵̧̩͑̀͝î̶͍̉ć̴̝̾́̀o̶̺̟̣͂̽ ima neku ideju

Kad vec postavljamo pitanje jel zna neko teorijsku pitanja ovo za T/N?
. (5; –5) Koje su tvrdnje istinite?
a) Dinamičko programiranje je posebna vrsta (grana) linearnog programiranja.
b) Kada je primjenjiva lakoma (greedy) strategija, primjenjivo je i dinamičko programiranje.
c) Kada je primjenjivo dinamičko programiranje, primjenjiva je i lakoma (greedy) strategija.
d) Nužan uvjet za primjenu dinamičkog programiranja je preklopljenost podproblema
(overlapping subproblems), a dovoljan optimalna podstruktura (optimal substructure)
problema.
e) Nužan uvjet za primjenu dinamičkog programiranja je optimalna podstruktura (optimal
substructure) problema, a dovoljan preklopljenost podproblema (overlapping subproblems)

doakes Mislim da je caka bila da čvorovi mogu biti prazni. Zapravo meni je pola stabla bilo prazno na kraju. Mislim da sam ga čak dobro napravio, kad stignu rezultati ako jesam stavim svoje rješenje.

teslaFan Provjerio sam na prezentacijama i jos neznam sta je tocno sta netocno, jer nepise nigdi za nuzne i dovoljne uvjete i ostalo

doakes Tko bi ga znao, ovaj put je valjda sve bilo moguće, onaj s grafom je zaista brzo bio rješiv u 5 minuta, a u njega sam dosta siguran.

teslaFan Ja sam stavio [F F T F F] - ali stvarno nisam siguran u ovo.

TentationeM ja sam prvo napravio prepostavia da treba napraviti binarno stablo i onda sam od njega uravnotezia sa dsw algoritmom, malo je komplciiranjije bilo al izvedivo, sad neznam jesam li totalno pogrijesio sa idejom

Jel ima neko neku dojavu da će sigurno dns rezultati ili? Mislim ako je usmeni fkt sutra ujutro ..

doakes To je bila i moja prvotna ideja, ali sam se sjetio da su B-stabla posebna po tome da uvijek rastu u visinu što garantira njihovu uravnoteženost pa sam odustao od klasičnog stabla.