ChatGPT bi mogao dobiti jeftiniju pretplatu, za sa

Nemam iskustva s lokalnim jedinicama. Ali intenzivno koristim ChatGPT i Gemini u poslu. Uglavnom umjesto google search (ponesto naprednije), summary nekih textova, pretragu velikih pdfova, diskusije kako se nesto moze ili ne moze i slicno. Rijec je o elektro inzinjeringu. Najcesce. Trenutno koristim free ChatGPT i prvi probni mjesec Gemini PRO. ChatGPT je doktor znanosti za Gemini. Tako da cu probat pretplatu. Uz sve disklejmere: moze ti dat glupi info, izmislit source, dat besmislene odgovore koji izgledaju smisleno i slicno ovo je odlican alat. Treba ga znat koristit jer je i dalje samo alat, ali je jako dobar ako ga koristis na pravi nacin. Mislim da ce u skoroj buducnosti ovako nesto (cca 25eur/mj) bit pravi svicarski nozic za puno toga. 

 Vjerujem da to nisam osporio niti jednom u svom prvom upisu.

Problem je sto nas dugorocno vodi prema doslovnim intelektualnim invalidima.

Ti ces to danas koristiti kao ispomoc da ti ustedi vrijeme, fair enough i to je u redu.

No, mozes li zamisliti sto ce generacija poslije tebe, ili da budem jos izravniji, tvoja djeca misliti o vaznosti naucenog znanja, nakon sto prozive cijeli svoj zivot uz LLM znajuci da ne moraju nista uciti osim kako upotrijebiti tipkovnicu ili, vrlo vjerojatnije, STT (speech to text) ?

Zamisli hipotetski i krajne iskarikiran scenarij.

Kako bi se ti osjecao da recimo za 30tak godina u bolnici kazes doktoru simptome koje imas, a on ti kaze pricekajte malo i cujes ga kako mlati po mobitelu iza zastora?

Imam (ne)srecu da radim u internacionalnoj korporaciji  (O&G industry)i u zadnjih dvije godine sam se nagledao iskolacenih ociju, zabrinutih pogleda i opcenite izgubljenih ljudi jer na on-site lokaciji svi LLM-ovi su blokirani na firewallu.

Doslo je do te mjere da, pogotovo mladji ljudi, znaci oni friskli sa fakulteta,  ne znaju niti sasataviti donekle pristojam mail, a da ne spominjem da niti ne koriste vec instaliran gramaticki spell check, jer eto, predugo im traje za kliknuti na podcrtanu rijec. 

Vec sam jednom spomenuo, mozda cak na ovom forumu, kako su nas vec i kalkulatori zaglupili jer koliko od nas zna izvaditi drugi korijen iz nekog broja na papiru (ja cu prvi priznati, da mi zivot ovisi o tome...ne znam)

Istina, primjer je balnalan, no ako covjeku das na izbor da razmisli i dodje sam do odgovora svojim trudom ili opciju ponudjenog odgovora, sto mislis koliko ce se njih intelektualno napregnuti?

Kratkorocno...WIN

Dugorocno ... propast.

Nisam ni rekao da si me osporio, samo sam izratio svoj finalni osvrt :)

I slažem se sa svime što govoriš, ali mislim da isto tako je svaka generacija prije nas govorila za čudo tehnike iz njihovog doba

"današnja djeca neznaju ništa samo ispred tv-a biti" 

"današnja djeca neznaju ništa samo ispred kompjutera-a biti" 

"današnja djeca neznaju ništa samo ispred mobitela biti" 

I vjerojatno da idemo u prošlost sigurno su u nekom trenutku roditelji pilali djeci jer su imali one kazetare i puštali rock muziku na ulici

Ne kažem da bi umanjio problem koji danas postoji, ali želim reći da što god došlo ispred nas, u konačnici se stvori neki "balans". tehnologija se prigrli, postane dio nas i pomaže nam da budemo brži, bolji, precizniji...što god već.

Ja sam kroz osnovnu i srednju školu imao jedva 2 iz matematike jer sam bio spor ili jer sam radio sitne greške koje ne bi napravio uz računalo. Danas baš zbog tehnologije ja mogu raditi sa brojevima i rješavati matematičke probleme koji mi se predstave. 

Tako da koliko god nas nešto potencijalno zaglupi, to nam onda otvori prostor da razvijamo nova znanja. Naravno to ovisi do osobe, oni koji to ne urade, sve više će propadati.

Kažem, kada je došao photoshop isto su se svi digli na noge kako će to uništiti umjetnike, dizajnere, kako će njihov rad postati bezvrijedan bla bla...dogodilo se da su artisti naučili koristiti alat i podignuli ljestvicu kvalitete/kreativnosti. Isto je i sada sa AI. Ja danas mogu generirati neku fotku koja će mi biti sasvim dovoljna za recimo blog (kao što i bug.hr radi) a prije samo nekoliko godina, morao bi platiti nekog dizajnera x eura da mi napravi tu fotku i još bi barem dan-dva čekao rezultat. Ali zato taj isti dizajner sa AI-em radi stvari koje ja vjerojatno ne mogu ni zamisliti (kao recimo neki modni brandovi koji su počeli koristiti AI modele za svoju odjeću - za taj rezultat je potrebno malo više od jednog glupog prompta "napravi sliku žene kako nosi gucci majicu") i oni će opet biti korak ispred nas "neukih".

Slažem se također da je za mlađu generaciju ovo veliki izazov ako se ne nauče kritično razmišljati i rješavati probleme. Tu je na nama starijim generacijama da prenesemo na njih skill razmimšljanja i rješavanja problema a na njima je da koriste alat koji će im u tome najbolje pomoći. 

"Istina, primjer je balnalan, no ako covjeku das na izbor da razmisli i dodje sam do odgovora svojim trudom ili opciju ponudjenog odgovora, sto mislis koliko ce se njih intelektualno napregnuti?"

Slažem se, u drugoj opciji osoba će se manje upregnuti. Ali ono što se možda promijenilo je to da se sada moramo više upregnuti da zapravo postavimo pitanje. AI će dati onoliko dobar odgovor koliko si dobro pitanje postavio. Ja često puta prije nego krenem dati zadatak AI-u ga pitam da mi postavi sva potencijalna pitanja na neku temu oko koje tražim pomoć. Nakon toga ja potrošim i po pola sata i više da razmislim i odgovorim na sva ta pitanja. Prompt nakon toga koji mu dam je drastično kvalitetniji i rezultati isto tako puno korisniji.

 Nisam pobornik tih koji se naginju zaglupljivanju. Bio je onaj članak na Bugu kako djeca postaju zaglupljenija i zabrinutosti zbog brainrota. U isto vrijeme djeca iz vrtića znaju po 40 brainrot likova napamet! To im je igra. Znas li ovaj brainrot i koliko ih znas, nabroji. Brainrot pjesmice pjevaju...

A to sta AI servira sve na gotovo je isto učenje. Čim si pročita si naučia. Tko ti brani postavit još koje pod-pitanje o temi.

 Ili speach to speach... mislim, vec sad mozes pricat kao sa covikom. Najbrža i najbolja metoda učenja je razgovor 1 na 1. Amen.

 Hm...

 Oni su ti samo za slat porukice cijeli dan na vocapu, u random intervalima, kako im padne na pamet. Retardiran... :)

 Gramarly, must have za ozbiljno dopisivanje. Ali ovo je dobar primjer. Npr. koliko sam naučio koristeći ga. Samo me ispravi spelling tu i tamo jos.

 Formalno obrazovanje mora postojat. Ali učenje se pomaklo iz klasičnih izvora znanja a samo znanje se upija na drugačiji način od onoga kako smo učili u školi, usvajanjem pripremljenog gradiva. 

Podržavam pokazivanje/prokazivanje  manjkavosti, u tom dijelu si u pravu.

No mislim da suočavanje s istima treba gledat u drugom smijeru od onoga što iščitavam iz tvojih postova.

Treba se suočiti na način da se educira ljude o istima i da se educira o upotrebi modela.

 Napisao sam vec odgovor  u jednom od mojih prijasnjih upisa, (zadnji pasus) koji doslovno odgovara na tvoj upis.

LLM-ovi, u svojem kratkom postojanju, vec su poceli patiti od incestuoznosti, odnosno da upotrijebim englesku rijec "inbreeding" gdje  su svoje odgovore poceli reciklirati i kao u bioloskom svijetu, kvaliteta materijala degenrira.

Bez novog ljudskog znanja LLM samo degenerira, sto znaci da LLM nikada nece postati samostalan niti ce ikada postojati LLM nobelovac koji ce nesto otkriti samostalno, ako nista drugo zbog elementarne nemogucnosti sa interakciojom u fizickom smislu (bar dok robotika ne sustigne LLM pa dobijemo zapovjednika Datu)

Imam osjecaj kao da zaboravljamo da je LLM nista drugo do reciklirano ljudsko znanje.

Bez novih ljudskih saznanja, LLM-ju zagarantirana degenracija.

S pretjeranom upotrebom LLM-a u svim sferama ljudskog zivota, novih saznanja nece ni biti jer ce potraga za novim saznanjima zavrsavati na upitu prema LLM-u.

I krug ce se zatvoriti.

Zar vas to nimalo ne uznemiruje?

Ne samo to. To je najveća krađa ljudskog znanja i savjeta, rješenja koji su ljudi stavili na Internet. Koje su onda besramno korporacije pokrale ne bi li stvorile i učile LLM-ove. I ne bi li se privatne koroporacije još više obogatili na tom znanju i savjetima koji su ljudi dijelili. Gore nego bilo kakva piraterija. Zbog piraterije ljude strpaju u zatvor i dobijaju kazne. A ovdje....

 Jeli znaš koliko ti rama treba za to upogonit? A te modele treba i održavat, treba ih ažurirat, modeli se nadograđuju. Ista stvar ustvari kao ono oćeš li ti imat server u uredu, administratora, brinit se o sigurnosti dok hakerski botovi svaki dan kucaju po portovima, ili ces iznajmit server na datacentru i dobit podršku u paketu. Nesto ce operativni sustav radit lokalno, sažimanje, savjete, pretragu, neke male modele će pokretat lokalno, asistente te, da ne salje upite u cloud za svaku sitnicu, i ovi koji imaju za taj posao dedicirane čipove u kompovima/laptopima, te AI jedinice, ce to brze odradit, ovi koji nemaju ce koristi grafu, kao kad nemaš rama pa ti kešira na disk...

I vezano za raspad modela koji si spominja u prethodnim postovima. Da se ništa ne poduzme za 10 godina imamo problem ali sad već svi znaju za taj problem i podatke za trening se posebno obrađuje, čuva, čuvaju se stare verzije modela, radi se kontrola kvalitete modela...

 Ako koristiš te servise izvoli ih platit sa svojim podacima. Fejs, google, gmail, chatgpt, reddit, stack overflow, forume i svaki drugi "besplatni" servis. A GDPR je najveća glupost. Jer dođe na isto - podatak izgubljen u gomili drugih podataka ili najstroža moguća kontrola podataka - rezultat je jednak.

 Jesi li pogledao minimale tehbicke zahtjeve za pokretanje deepseek-a? Znas li sta pitas?

Svjestan sam da je stav ljudi pozitivan prema tehnološkom napretku i AI-u, ali iskreno se bojim kad dođem u godine da ću trebati doktore, a ti doktori su odrastali uz AI i naučili ne koristiti mozak na konvencionalan način. Već vidim kod mlađih kolega inženjera taj način razmišljanja koji im omogućava da bolje barataju tehnologijom od starijih, iako i tu kreće stagnacija tj. negativni trend jer sve manje rastu uz računalo, više uz pipkanje po mobitelu. Ali mindset koji imaju, koliko brzaju, nemaju koncentraciju i fokus - sve to im znatno otežava rad. 

 Poštovani, dragi kolega. Ljudi rade online svašta, ne treba ni spominjat koje sve akrobacije izvode, šta nikom ni ne pada na pamet. To su ekstremni entuzijasti i nećeš ih nać ni ovde na forumu. To su stvari kojima se bavi, nezz, 5 ljudi na planetu ili jedna osoba pa stavi video na YT. Ti mikro modeli su neupotrebljivi u praktičnom smislu. Jesi, pokrenio si ga, radi, svaka čast, a kad pitaš nešto dobiješ tko zna kakav odgovor i dugo se čeka na odgovor. Za bilo kakav u praktičnom smislu upotrebljiv lokalno pokrenut model moraš imat mašinu. A kakvog bi smisla imalo pokretat punokrvni LLM model lokalno osim za eksperimentiranje? Jedino zbog privatnost podataka možda. Ali onda imaš za to dediciranu mašinu i tu smo opet na serverima i hostingu, znači poslovni korisnici i pravne osobe koje će hostat u vlastitom aranžmanu ili outsourcat. Privatni korisnici će lokalno vrtit mikro i mini modele koji će dolazit implementirani kroz operativne sustave u obliku tih asistenata, ako imas dedicirani AI čip će ti bit bolje ako ne će ti bacat posao na grafu. Tjt.

Edit. To što tebi u firmi blokiraju chatgpt znači samo da još ne smatraju da se radi o zreloj tehnologiji koja je spremna za implementaciju, i znači samo to. ništa više, nije to anti-ai politika, hehe.

 DeepSeek je bio prvi LLM koji sam probao, pokretao se kao krepana mačka. Zatim Codestral (Mistral varijanta za programiranje) koji radi vrlo dobro. Sad su hit QWen3 4B 2507 Thinking (koji pametuje) i obična varijanta koja ne pametuje jer omogućuju Full GPU offload na samo 4 GB video memorije

EDIT: zaboravio sam na Gemma 3 model koji sam isprobao na Linuxu (WSL2) precko Docker-a, ali može se i direktno preko llama

 Moje mišljenje je dakako subjektivno. Kad se radi o lokalnim modelima, sve ovisi o hardware-u koji posjeduješ, a sam model je opet pitanje preferenci. Ako se do sada nisi igrao sa modelima na svojoj mašini, idealna varijanta ti je instalirati LM Studio (LLM for dummies) koji je navodno bollji od llama jer bolje raspoređuje CPU i GPU offload (kažem navodno jer sam tako negdje pročitao)

ChatGPT je pojeftinio najvjeroatnije iz dva razloga: prvi je da je dobio ogromnu financijsku injekciju, a drugi je da Kinezi nude manje-više isto za kud i kamo manje para