[STRUCE1] Gradivo

bodNaUvidima

gad_gadski predavanje na teamsu iz te lekcije Šnajder rješi isti zadatak samo druge brojke.

steker

moze neko pametan mi malo pojasnit zasto se minimizira druga norma od W za rjesenje maksimalne margine, tj. Zasto se potporni vektori udaljavju vise od hiperravnine sto je W manji. Nikako mi to ne ide u glavu baš

bodilyfluids

steker dosta je dense izvod, probaj shvatit svaki korak pojedinačno.
Keypointovi za razumjet su (SVM 1, poglavlje 1.1):

definicija udaljenosti primjera od hiperravnine
izraz za maksimalnu marginu (minimizacija unutar argmax-a),
uvođenje pretpostavke da je udaljenost potpornih vektora od klasifikacijske granice jednaka 1,
činjenica argmax(1 / ||w||) ekvivalentna argmin ||w||.

viliml

prx_xD steker Dragi prijatelj strojnog učenja
Nije toliko ružno ako zguraš sve detalje linearno algebarskih računa pod tepih. Na primjer vrijednosti hipoteze za sve primjere možeš odmah izračunati trikom da daš jezgri za argument matricu umjesto vektora, i sve one sume s alfama i ipsilonima se isto mogu prikazati kao matrično množenje.
Ovo je isti zadatak s drugačijim krajnjim primjerom x:

AK10

kako?

bodilyfluids

endyyyy

Iz fje gubitka izračunaš h(x). Pomoću h(x) i w0 izraziš w^T x, zatim ga pomnoži s 2 i na kraju novi h(x) = 2w^T x + w0 i obrnutu oznaku ubacuješ nazad u funkciju gubitka i to je rješenje.

Dootz

Može li netko objasniti ovo?

tomekbeli420

Dootz Da bi računao udaljenost od hiperravnine u prostoru značajki trebaju ti težine i preslikani primjeri. Funkcija preslikavanja je implicitno poznata iz korištene jezgre (kako se radi o algoritmu SVM onda možemo biti sigurni da je jezgra Mercerova), pa onda iz Lagrangeovih multiplikatora \alpha_i i preslikanih ulaznih primjera se lako dobiju težine \mathbf{w}. Dakle to je sve moguće, jedino problem sa Gaussovom jezgrom ili složenijim koje koriste Gaussovu jezgru kao gradivni blok jest taj da je preslikavanje beskonačno dimenzijsko, pa je to valjda (nisam ni ja siguran lmao) razlog zašto se ne može sa Gaussovom jezgrom.

123

Zna li netko zašto ovdje ne bi mogao bit odgovor pod D?

Rene

FERella jer ne znamo kako regularizacija utjece na model, mozda je s tolikim faktorom model jos jednostavniji od H2,0

nnn

FERella Neka me netko ispravi ali sjećam se da sam pričao sa asistenticom i stvar je da ne možeš ništa reći o generalizaciji hipoteza, i ovaj drugi dio “imat će manju pogrešku na skupu za učenje” ne mora nužno bit točno. Možda je lambda=100 prevelik faktor i greška je puno veća

AK10

Dragi prijatelj strojnog učenja to radim ali iz nekog razloga mi ne ispada dobro, ako mozes uslikat postupak bila bih jako zahvalnaa

gad_gadski

endyyyy
Pretpostavljam da nisi stavila izraz -(wx + w0) u potenciju kod formule za h(x), vec samo -wx

viliml

tomekbeli420 Nije strogo nužno eksplicitno izračunati težine niti koristiti funkciju preslikavanja pošto se sve može prikazati preko unutarnjih produkata/jezgri, vidi viliml
Jedino je možda problem da ta formula vrijedi ako udaljenost postoji, možda se može reći da udaljenost ne postoji pa ta formula iako daje neki broj nije baš rigorozno točno zvati “udaljenost”?

[obrisani korisnik]

moze netko objasnit zasto je ovo C, a ne npr D

bodilyfluids

[obrisani korisnik]

D nije tocan jer se pozicija hiperravnine ne mijenja porastom vektora w, isto vrijedi i za udaljenost primjera od hipperavnine, mnozenje vektora skalarom ne utjece na udaljenost.

Ono što se mjenja je izlaz modela, h(x) i on raste proporcionalno porastom w.

BillIK

Bi li u ovome zadatku isključili x4 jer je u zavisnosti s x3 (ako dobro razmisljam)?
Koliko bi bilo rješenje jer zbunjuje me ovo s parovima i trojkama kvadrata. Uzimamo li u obzir da npr. za par imamo mogucnost birati dva elementa od 6 mogucih ili od 12?

angello2

BillIK to su dva odvojena racuna, nisu u ovisnosti

reko bi da je x7 suvisan jer ga mozes izracunat iz ostalih podataka - imas ukupan iznos kredita i imas iznos otplacenih, ne treba ti podatak koliko je preostalih. istom logikom se moze maknut bilo koji od x5, x6, x7 - dovoljna su dva od ta tri.

jobi

BillIK

angello2

mozete li napisat postupak pls, ne kuzim nikako kako doc do rjesenja

matt

V07 4. Zadatak: Svi poopćeni linearni modeli mogu se trenirati u “online” (pojedinačnom) načinu, primjernom
algoritma LMS. To vrijedi i za algoritam linearne regresije, za koji smo prvotno kao minimizaciju
kvadrata provodili računajući pseudoinverz matrice dizajna. Jedna od prednosti algoritma LMS
u odnosu na izračun pseudoinverza kod linearne regresije je manja računalna složenost LMS-a.
Neka E označava broj epoha, N je broj primjera, a m broj značajki u prostoru značajki. Koja je
(vremenska) računalna složenost algoritma LMS, primijenjenog na linearnu regresiju?

Iz predavanja:

Nije mi jasno zašto se pojavljuje izraz m, tj. koja operacija uzrokuje tu kompleksnost?
Je li to operacija preslikavanja \phi(x) ili izračun skalarnih produkta unutar izraza za ažuriranje težine w?

viliml

Matt Za svaku epohu, za svaki primjer, svaka težina se mora ažurirati.
Ovo u tvojoj drugoj slici je vektorska jednadžba koja je skraćeni prikaz za m zasebnih operacija.

RickyMorty

Kak se ovo točno radi, tojest nije mi jasno odkud mi po dvije težine za x1 itd…

bodilyfluids

RickyMorty Ovaj zadatak je detaljno objašnjen na teams predavanjima.

« Prethodna stranica Sljedeća stranica »