Super, samo što je oznaka kartice AI Pro R9700.
amd grafika i ai modeli su jos uvijek pomalo nespojivi. radi, da, ali fascinantne su usporedbe koliko low end grafika s neadekvatnom kolicinom v rama ubija daleko mocnije i snaznije amd kartice. tu ne pricamo o par postotnih poena, pricamo o drasticnij razlici.
ai se jednostavno previse oslanja na cuda jezgre, a to amd nema vec se "simulira", a to onda drasticno utjece na performanse, tako da ce u nekim ai modelima obicni intel cpu i rang kartice xx60/xx70 pomesti pod s ovim cudom. da ne govorimo o xx80 ili xx90 serijama
Its just the way of it, son. We all sell our souls sooner or later.
amd grafika i ai modeli su jos uvijek pomalo nespojivi. radi, da, ali fascinantne su usporedbe koliko low end grafika s neadekvatnom kolicinom v rama ubija daleko mocnije i snaznije amd kartice. tu ne pricamo o par postotnih poena, pricamo o drasticnij razlici.
ai se jednostavno previse oslanja na cuda jezgre, a to amd nema vec se "simulira", a to onda drasticno utjece na performanse, tako da ce u nekim ai modelima obicni intel cpu i rang kartice xx60/xx70 pomesti pod s ovim cudom. da ne govorimo o xx80 ili xx90 serijama
Evo što Grok kaže o vrtnji većih modela lokalno:
"Radeon AI PRO R9700 (32 GB VRAM): Modeli se potpuno uklapaju u VRAM, omogućujući punu brzinu bez offloadinga. AMD-ovi benchmarkovi (i nezavisni testovi) pokazuju:
quantitized, light, turbo, schnell i slicni modeli se ne racunaju.....
sto se vrama tice ,vecina full modela danas ide debelo preko 32gb, sve do 96gb, ali cak ni to nije bitno
nebitno, poanta ostaje da amd puno gubi jer je sve to optimizirano za nvidiu, cuda jezgre, tensor jezgre i ostale nvidia only piydarije.
razlike nisu kozmeticke, razlike su ocigledne i evidentne, istina, ne znam za ovaj konkretan model kartice, mozda je amd uspio sloziti da to stvarno bolie radi, ali generalno, nvidia je logicni izbor za gen ai
uoci usporedbu s 5080.... pitaj ga kako se drzi u usporedbi sa 5090 ili nekom od specijaliziranih nvidia modela.....5080 je mocna zvijer ali jos uvijek consumer grade kartica
Its just the way of it, son. We all sell our souls sooner or later.
nebitno, poanta ostaje da amd puno gubi jer je sve to optimizirano za nvidiu, cuda jezgre, tensor jezgre i ostale nvidia only piydarije.
bilo bi čudno da nije takva situacija, obzirom na udio u tržištu, isto kao i u gejmingu
da sam imaš firmu koja se bori s troškovima i računa na jednostavnu računicu profita, jel bi se posvetio onome što drži 90% tržišta ili dio resursa koji mogu donijeti veći profit usmjerio na tih 10% samo zato jer više voliš amd nego nevidiju
sasvim je normalno da se više posvetiš onima kojih na tržištu ima više, a do amd-a je da konkretnim potezima privuče više korisnika i onda preusmjeri i pažnju developera na sebe
nešto slično kako su uspjeli konkurentnim proizvodom u cpu segmentu natjerati proizvođače matičnih ploča da im posvete više resursa nego u vrijeme kad je intel držao 90% tržišta - zato sad imaš daleko bolju ponudu ploča za amd procesore, nego u vremenu kad su imali onu propast od buldozer procesora
da se vratimo na grafe, sjećam se vremena kad se amd vozio na vlakiću zvanom majning ludilo i nije radio apsolutno ništa za gejmere, dapače, još su se rugali nevidiji što je uporno razvijala gejmerske tehnologije u periodu kad su mogli i bez toga prodati štogod proizveli
pa su se u jednom trenutku, kad je majnanje prestalo biti isplativo za kućne korisnike, našli u situaciji da u svemu zaostaju korak ili par koraka... i sad bi ja kao krajnji korisnik trebao plakat nad njihovom sudbinom i kupovat inferiorni proizvod
srećom ih je tržište opametilo, pa sad nižom cijenom konkuriraju i onima koji gledaju svaki euro predstavljaju validnu opciju
za istu cijenu jednostavno su inferiorni, za dosta nižu cijenu sasvim su ok, kao i svaki budget proizvod koji cijenom konkurira tamo gdje nemeže kvalitetom, podrškom itd.
quantitized, light, turbo, schnell i slicni modeli se ne racunaju.....
sto se vrama tice ,vecina full modela danas ide debelo preko 32gb, sve do 96gb, ali cak ni to nije bitno
nebitno, poanta ostaje da amd puno gubi jer je sve to optimizirano za nvidiu, cuda jezgre, tensor jezgre i ostale nvidia only piydarije.
razlike nisu kozmeticke, razlike su ocigledne i evidentne, istina, ne znam za ovaj konkretan model kartice, mozda je amd uspio sloziti da to stvarno bolie radi, ali generalno, nvidia je logicni izbor za gen ai
uoci usporedbu s 5080.... pitaj ga kako se drzi u usporedbi sa 5090 ili nekom od specijaliziranih nvidia modela.....5080 je mocna zvijer ali jos uvijek consumer grade kartica
Pa ti si sam napisao da specijalizirane grafičke od AMD-a prešiša integrirana grafika i kartice sa malo VRAM-a, a sad backpedaliraš i vadiš
se na 5090, karticu koja košta 3 puta više od ove 9700
Čak i u usporedbi sa 5090, situacija je ovakva:
Price/Performance odnos
A ne smijemo zaboraviti ni AMD-ov as iz rukava, barem ako pričamo u kućnim setupima:
Performanse u praksi za Llama 405B
Zaključak
Za Llama 405B, AMD Ryzen AI Max+ 395 je jasni pobjednik za većinu korisnika – omogućuje praktičan lokalni rad na jednom uređaju (mini-PC ili laptop), sa dovoljno memorije i prihvatljivom brzinom. RTX 5090 je bolja za manje modele (<200B) ili ako već imaš multi-GPU setup, ali za ovaj specifičan model je preskupa i kompliciranija opcija (multi-GPU košta više i troši puno struje).
Ako koristiš nižu kvantizaciju (npr. Q3) ili specifičan framework (llama.cpp, Ollama), brzina može biti bolja na AMD-u zbog unified memory.
Znači Nvidia usporediv setup ovom AMD-ovom koji košta manje od $2000 dođe preko $15000
hajmo se drzati napisanog i ne izmisljati... i bilo bi super da govorimo o user iskustvu, a ne necemu o cemu ai lupeta ;)
dakle, ovo jednostavno nije ono sto sam ja napisao.
ja sam napisao da su amd kartice inferiornije u generativnim slikovnim modelima poput qwen, ili bilo kojeg slikovnog generativnog modela. I da u toj prici sama kolicina fizickog vrama nema pretjerano veliki utjecaj.
TI si - pardon, AI je za tebe u pricu ubacio i jezicne generativne modele i reasoning modele poput Phi 3.5 MoE ili DeepSeek R, pa cak i Qwen, koji primarno JE LLM, ali...... Sto je mijesanje kruski i jabuka.
Ovo je AI ekvivalent cherry pickingu, gdje se pazljivo biraju tvrdnje koje potvrdjuju teoriju.
LLM modeli ovise o kolicini vrama, i tu je logicno da ce isti model pokazati vece performanse na kartici koja raspolaze s vise vrama, to je tocno.
Slikovni generativni modeli ne ovise samo i iskljucivo o vramu, vec i o brojnim drugim kerefekama, koje amd jednostavno nema.
I to me vraca na pocetak mog odgovora - ako koristis slikovne modele (poput qwen image, flux, zit, ili starije poput stable diffusion modela), performanse generiranja ce uvijek biti bolje na nvidia karticama. Cak i ako usporedjujes nazivno jacu amd karticu s vise vrama s nazivno slabijom nvidia karticom.
Tako da tvoj primjer o 500% boljem troughputu kojeg amd postize zahvaljujuci vecoj kolicini vrama, u praksi kod slikovnog modela znaci da je konkretno spomenuta 5080 40-100% brza od spomenute amd kartice.
Kada bi trazio real world ekvivalent ovoj amd kartici, nasao bi ga u - neces vjerovati 4060/5060ti kartici. Manja kolicina vrama jednostavno ne umanjuje samu brzinu generiranja, niti umanjuje koliko su nvidia kartice brze i optimiziranije za ovakve poslove, iako naravno, postoje ogranicenja i korisnik mora biti kreativan u zaobilazenju prepreka koje mu postavlja duplo manja kolicina vrama. ALi ponavljam, kad stvar radi, onda na nvidi jednostavno radi brze.
Primarni razlog je taj sto je ROCm optimiziran za LLM, dok je CUDA industrijski standard, i svaki bozji slikovni generativni ai model je stvoren, zamisljen i optimiziran da koristi CUDA jezgre. Kad u pricu ubacis i Tensor RT jezgre, razlika postaje jos drasticnija.
Dakle, nitko ne govori o integriranim karticama (btw sto je danas nvidia integrirana kartica?), govori se o jednostavnoj cinjenici da sto se tice generativnih slikovnih modela amd jako zaostaje, sporija memorija, manja memorijska propusnost i cinjenica da se vrlo bitan dio procesa umjesto hardverski odradjuje softverskom simulacijom izbacuje amd iz iole ozbiljnije price.
Uostalom, kad uzmemo gore navedeno, odjednom smo s 1500E (cca) koliko kosta taj radeon, dosli na 500e koliko kosta 5060 ti, ili ajde nekih 900e koliko kosta nekakva 5070, kartice s manje v rama, ali kartice koje isprase dupe ovoj radeonki - u - ponavljam - slikovnim generativnim modelima.
Kome je to neki fokus i interes, nema sto razmisljati o radeonu.
ja sam napisao da su amd kartice inferiornije u generativnim slikovnim modelima poput qwen, ili bilo kojeg slikovnog generativnog modela. I da u toj prici sama kolicina fizickog vrama nema pretjerano veliki utjecaj.
Zbilja? Ajde citiraj iz svog prvog posta gdje to piše
necu se uopce raspravljati s tobom, sve ti je jasno napisano i obrazlozeno, ako mozes shvatiti, shvati, ako ne, zao mi je....
ja kad govorim o ai, primarno se odnosim na slikovne gen ai modele, i to je vidljivo iz svakog mog posta, a ti, o cemu ti govoris, pojma nemam, jer koliko vidim samo prepisujes sto chatgpt govori ;)
Sretna nova!
necu se uopce raspravljati s tobom, sve ti je jasno napisano i obrazlozeno, ako mozes shvatiti, shvati, ako ne, zao mi je....
ja kad govorim o ai, primarno se odnosim na slikovne gen ai modele, i to je vidljivo iz svakog mog posta, a ti, o cemu ti govoris, pojma nemam, jer koliko vidim samo prepisujes sto chatgpt govori ;)
Sretna nova!
Sorry, ali ja ti nisam follower i ne pratim pobožno tvoje postove,
pa mi "i to je vidljivo iz svakog mog posta" ne znači ništa, nego odgovaram
na ono što pročitam.
Ali čak i kad govorimo o slikovnim modelima, to što pišeš je skoro pola
godine zastarjelo, prije izlaska ROCm-a 7.0
I čudi me kako nisi prepoznao po stilu da je to Grok, a ne ChatGPT
tako svejedno, poanta je da nije tvoje znanje, niti tvoja praksa.....
necu se raspravljati, ponavljam, sve je napisano, ako imas navedenu karticu, odvrti mi nesto lokalno pa postaj relevantne informacije
tako svejedno, poanta je da nije tvoje znanje, niti tvoja praksa.....
necu se raspravljati, ponavljam, sve je napisano, ako imas navedenu karticu, odvrti mi nesto lokalno pa postaj relevantne informacije
A ti imaš tu karticu, pa je tvoj post, za razliku od mog, relevantan?
shvati kako zelis, kako sam vec rekao, pocmi pisati iz iskustva i prakse, ne copy pejstaj sto ti ai kaze... mozda nesto i naucis.
shvati kako zelis, kako sam vec rekao, pocmi pisati iz iskustva i prakse, ne copy pejstaj sto ti ai kaze... mozda nesto i naucis.
Pa ako ti pišeš iz prakse, znači da imaš dotičnu karticu, za razliku od mene. Možda da nam daš kratki review,
ja imam običnu 9060XT pa mogu samo pisati kako Amuse na njoj radi, ili Qwen3-30B-A3B-abliterated
Dok čekamo da konačno izađe VLC sa real-time generiranjem titlova, meni QWEN sasvim fino
lokalno generira titlove u realnom vremenu, čak i sa recimo korejskog
ja ti mogu odvrtiti sto zelis, ukoliko je to moguce na onome sto imam, i ukoliko to ne zahtjeva neki veci angazman s moje strane, da skidam puste gigabajte, ili instaliram (ne)potrebne stvari.
ali opet se vracam, stvar je za sto se koristi. u mom slucaju, za image ili video modele, amd je jednostavno sporiji proizvod, i nije za preporuciti, bez obzira na cijenu.
ako ti radis s jezicnim modelima, tebi je svejedno jer se oni primarno oslanjaju na kolicinu memorije, i sasvim su dobro optimizirani za rad s amd karticama.
simple as that. u osnovi cijela rasprava je nastala jer (ja prvi) nisam naglasio vec sam podrazumijevao da govorimo o image/video modelima, jezicni modeli osim qwen-vl mi nisu trenutno interesantni. moja greska, jbg.
Its just the way of it, son. We all sell our souls sooner or later.
za istu cijenu jednostavno su inferiorni, za dosta nižu cijenu sasvim su ok, kao i svaki budget proizvod koji cijenom konkurira tamo gdje nemeže kvalitetom, podrškom itd.
Za istu cijenu su superiorini valjda=> Daju vise za iste novce?
ne, daju manje za manje novaca.....
Its just the way of it, son. We all sell our souls sooner or later.
ne, daju manje za manje novaca.....
Ova izjava je veoma ogledna za logicke procese tvoga uma.
Da ponovim AMD za iste novce daje vise. To je trenutno stanje na trzistu. 
AMD ima lošiju softversku podršku (tj podržanost od strane trećih proizvođača) i to i dalje stoji
Ali od izlaska ROCm-a 7.0 ne zaostaje više što se tiče brzine izvođenja u alatima gdje je podržan
za istu cijenu jednostavno su inferiorni, za dosta nižu cijenu sasvim su ok, kao i svaki budget proizvod koji cijenom konkurira tamo gdje nemeže kvalitetom, podrškom itd.
Za istu cijenu su superiorini valjda=> Daju vise za iste novce?
čemu se pravit grbav?
govorim ako su grafe iste klase iste cijene, jel doista na informatičnom forumu treba ovakve stvari objašnjavat?
za tvoju logiku i um, apsolutno ne.
barem ne u ovoj primjeni o kojoj ja pricam, druge primjene me ne zanimaju (sto sam i rekao) i tu je moguce da cisto zbog kolicine vrama po cjenovnoj kategoriji amd nudi vise (a i to sam napisao).
za image i video modele, amd je drasticno sporiji, a jedina istina je da i kosta daleko manje....
Its just the way of it, son. We all sell our souls sooner or later.
za tvoju logiku i um, apsolutno ne.
barem ne u ovoj primjeni o kojoj ja pricam, druge primjene me ne zanimaju (sto sam i rekao) i tu je moguce da cisto zbog kolicine vrama po cjenovnoj kategoriji amd nudi vise (a i to sam napisao).
za image i video modele, amd je drasticno sporiji, a jedina istina je da i kosta daleko manje....
Nova je kartica pa je teško naći benchmarke, al ovo što se nađe,meni uopće ne izgleda "drastično"
za istu cijenu jednostavno su inferiorni, za dosta nižu cijenu sasvim su ok, kao i svaki budget proizvod koji cijenom konkurira tamo gdje nemeže kvalitetom, podrškom itd.
Za istu cijenu su superiorini valjda=> Daju vise za iste novce?
čemu se pravit grbav?
govorim ako su grafe iste klase iste cijene, jel doista na informatičnom forumu treba ovakve stvari objašnjavat?
Nemoj se ti praviti grbav. Ako nemozes jasno napisati kako je nemoj pisati gluposti.
I nemoj izmisljati uvjete ako ako. Jednostavno AMD daje vise za novce po trenutnim cijenama. Ne treba pisati gluposti.
Ali zato nvidia i moze prodati po uvecanoj cijeni svoje kartice. Jer se stalno i uporno pisu gluposti kao sto ih ti pises.
@Damir22 specifican use case moj jer samo gledam sebe pa je samo po mom i kako meni treba a ostalo me ne zanima nije rasprava nego kakanje. Koga zaboli za samo tvoj jedinstveni use case?
koristenje image i video modela je "moj jedinstveni user case"....
ajde, dobro....
sve je meni jasno, ali to negiranje stvarnosti, mislim, cemu.....
gdje je problem priznati da odredjene stvari jednostavno bolje rade s nvidiom nego sa amd? za sada. da su neke stvari optimizirane za nvidiu. za sada.
jebote gori ste nego jehovini svjedoci, cim se spomene da je amd u necemu losiji, userete se dokazivajuci da to nije tako, i jedino na bug forumu, bacite nalo oko na ostatak svijeta pa cete vidjeti koja je pozicija amd-a kad govorimo o ozbiljnom radu s video i image modelima
segregator, vec sam napisao da turbo i ini modeli nisu pretjerano relevantni, jer su oni optimizirani za rad na slabijim karticama, s manje vrama, i opcenito, s cfg1, i vrlo malim brojem koraka (2-5).....
znaci, kad ja napisem da 4060 zit model vrti s 8gb vrama, i da joj treba 25 sekundi za sliku 1080p, to nije mjerilo kako je to mocna i brza kartica, vec samo pokazatelj koliko je model optimiziran za rad s tako slabom karticom.
pokusati isto s normalnim brojem stepova bi rezultiralo ili s oom, ili s generacijom koja bi trajala neusporedivo duze, mjerila bi se minutama... a to nije brzo
isto vrijedi i za sve destilirane modele, sve lighting, schnell, sve q verzije - osiromasene verzije core modela da bi se mogle pokrenuti i na slabijem hardceru. sd 1.5 i sdxl bas i nisu vise relevantni modeli.....
Its just the way of it, son. We all sell our souls sooner or later.
I nemoj izmisljati uvjete ako ako. Jednostavno AMD daje vise za novce po trenutnim cijenama. Ne treba pisati gluposti.
nevjerojatno da si ti osoba koja drugima prigovaraš o 'logičkim procesima njihovog uma', čime zapravo prikriveno vrijeđaš
oduvijek smo gledali hardver kroz nekakve usporedive klase, kod procesora r5 vs i5, kod grafičkih kartica gtx 1060 vs rx 470/570 i slično
dakle oduvijek smo i recenzenti i mi korisnici gledali klase grafičkih kartica kao osnovu za kupnju, to nije nikakvo jebeno 'izmišljanje uvjeta'
i amd i nevidija su korporacije koje izbacuju svoje proizvode u nekakvim klasama, cjenovno ih pozicionirajući prema trenutnim uvjetima na tržištu
obje kompanije pokušavaju procijeniti svoj proizvod s konkurencijom i nekakako ih tržišno pozicionirati da uspiju prodati što više i zaraditi što više
prema tome se ravnamo i mi korisnici i recenzenti čiji rad uzimamo kao nekakvu informaciju što kupiti
zato i govorimo o klasama grafičkih kartica, jer za otprilike istu cijenu i amd i nevidija izbace po klasama svoje adute
i što se dogodi... amd skuži da njihov adut ima slabu prodaju, pa spuštaju cijene pola godine ili godinu nakon što je proizvod na tržištu
događalo se to i nevidiji ofkors, pa je tako vrhunska gtx 970 izašla s 50usd manjom msrp cijenom od prijašnje gtx 770, iako je bila daleko bolji proizvod... i ne bezveze,nego zato jer je tada amd imao konkurentni proizvod u obliku r9 290/390
dakle to je osnova, konkurentske grafe po konurentnim cijenama, u tom smislu i komentiramo
ali ti si odlučio zanemarit sve i uzimat u obzir isključivo trenutno stanje tržišta, kad je amd posegnuo za zadnjom mjerom - spuštanjem cijena, kao relevantim stanjem tržišta i relevantnim primjerom usporedbe grafičkih kartica... i onda mudruješ semantički tko daje više za istu cijenu, pa naravno da se razlikuje tržište u trentku izdavanja proizvoda i dvije godine kasnije, pogotovo ako ti je jedini faktor cijena, a zanemariš sve ostalo...
i još se usuđuješ drugima soliti pamet i vrijeđati ih... ne da si trol, nego si trolčina na kvadrat
I nemoj izmisljati uvjete ako ako. Jednostavno AMD daje vise za novce po trenutnim cijenama. Ne treba pisati gluposti.
nevjerojatno da si ti osoba koja drugima prigovaraš o 'logičkim procesima njihovog uma', čime zapravo prikriveno vrijeđaš
oduvijek smo gledali hardver kroz nekakve usporedive klase, kod procesora r5 vs i5, kod grafičkih kartica gtx 1060 vs rx 470/570 i slično
dakle oduvijek smo i recenzenti i mi korisnici gledali klase grafičkih kartica kao osnovu za kupnju, to nije nikakvo jebeno 'izmišljanje uvjeta'
i amd i nevidija su korporacije koje izbacuju svoje proizvode u nekakvim klasama, cjenovno ih pozicionirajući prema trenutnim uvjetima na tržištu
obje kompanije pokušavaju procijeniti svoj proizvod s konkurencijom i nekakako ih tržišno pozicionirati da uspiju prodati što više i zaraditi što više
prema tome se ravnamo i mi korisnici i recenzenti čiji rad uzimamo kao nekakvu informaciju što kupiti
zato i govorimo o klasama grafičkih kartica, jer za otprilike istu cijenu i amd i nevidija izbace po klasama svoje adute
i što se dogodi... amd skuži da njihov adut ima slabu prodaju, pa spuštaju cijene pola godine ili godinu nakon što je proizvod na tržištu
događalo se to i nevidiji ofkors, pa je tako vrhunska gtx 970 izašla s 50usd manjom msrp cijenom od prijašnje gtx 770, iako je bila daleko bolji proizvod... i ne bezveze,nego zato jer je tada amd imao konkurentni proizvod u obliku r9 290/390
dakle to je osnova, konkurentske grafe po konurentnim cijenama, u tom smislu i komentiramo
ali ti si odlučio zanemarit sve i uzimat u obzir isključivo trenutno stanje tržišta, kad je amd posegnuo za zadnjom mjerom - spuštanjem cijena, kao relevantim stanjem tržišta i relevantnim primjerom usporedbe grafičkih kartica... i onda mudruješ semantički tko daje više za istu cijenu, pa naravno da se razlikuje tržište u trentku izdavanja proizvoda i dvije godine kasnije, pogotovo ako ti je jedini faktor cijena, a zanemariš sve ostalo...
i još se usuđuješ drugima soliti pamet i vrijeđati ih... ne da si trol, nego si trolčina na kvadrat
Opet izmisljas i pises gluposti.
Cijene su jos uvijek iznad MSRP.
"Klase" su marketinska/tvoja izmisljotina.
Imao si neke "okvire" gdje koju grafu smjestamo trenutno po mogucnostima generacijski. Kakve to veze ima sa tvojim pisanjem gluposti nemam pojma. Nije to klasa auta pa znas koje je j56ne velicine!
Dakle cinjenica AMD daje vise za novce! Osnova je koliko dobijes za novce! Zasto dalje trkeljas neznam. Uvjeren sam da te nvidia ne placa? 
Ima još testova,
ali realno kaj se tiče grafa večinu rulje jedino zanima gejming i ništ drugo.AI tehnikalije ili tričarije puno su prekomplicirane, da bi bile zanimljive za gejmere i klasične Mutdimedija surfače po internetu.
Kruha i igara, AI može ali samo kao gotov video to se danas masovno konzumira i večinom umire od smiha itd.
Opet izmisljas i pises gluposti.
"Klase" su marketinska/tvoja izmisljotina.
Opet izmisljas i pises gluposti.
"Klase" su marketinska/tvoja izmisljotina.
Dobar dio tvojih postova se citaju kao losi vicevi. 
