• Dragi članovi, prochitajte OVU vest u vezi nove teme!
  • Molimo vas sve da pročitate PRAVILA FORUMA i da se istih pridržavate.
  • Secret Level Discord server je LIVE! Za više informacija kliknite OVDE

Hardware General (vesti/konferencije/glasine)

Prevelika očekivanja, zahtjevni upiti, nije toliko dobar, griješi povremeno, verifikuj na guglu, halucinira... koji će mi onda kurac za išta ozbiljno?
 
I ne treba da se koristi za išta ozbiljno. Čak i za zabavu i opšte poznate stvari umeju da lupe. Gemini je promašio visinu Avale za ime božije.
 
Pa to, zajebancija, tu i tamo koristan ko pomoćni alat ali porediti sa kreacijom Interneta je suludo.
 
Meni itekako radi posao i za posao i za zabavu, dosta stvari mi je olaksao...
Tipa sto bi se u Photoshopu zajebavao pola sata, kad AI moze sve da mi kreira za pola minuta?

Ne sumnjam da ce biti sve bolji vremenom, kad se vidi koliko brzo napreduje i koliko se novca pumpa u njega, ocigledno je next best thing, samo sto bi digao ulog i rekao da ce bez sumnje da promeni svet...

Takodje i ta automatizacija, roboti i sve sto mogu na neki nacin da svrstam u AI (iako sad ne pricamo o tome konkretno), u Lidlu su sa pocetnog jednog reda za samoposluzne kase, prosirili na to da cak pola kasa budu samoposluzne... u Idei su otisli jos dalje, ostavili su samo jednu jedinu kasu gde radi covek, sve ostale su samoposluzne... enough said.
 
Samouslužne kase gotovo da i nemaju dodirnih tačaka sa AI-jem, koriste se 40 godina.
 
Kod nas par godina...
Odnosi se na ono sto sam pricao da ce nas roboti, automatika zameniti, kao sto i treba, samo da se jos ostvari onaj drugi deo price koji sam pricao (* u nasoj zemlji).
 
disturbed said:
Hm, zavisi sta radis. Ako ti brzina nije toliko bitna ali velicina modela jeste onda kupiti MacBook ili MacMini uopste nije los izbor. Sa njihovom unified memorijom mozes ucitati dosta vecih modela. Bottleneck su GPU jezgra ali ja kad lokalno koristim modele brzina nije prioritet :)
Click to expand...
U stvari mi je bitna sposobnost modela da analizira kod aktivno prolazeći kroz neki code base (veći broj fajlova). To podrazumeva da je dovoljno "inteligentan", da ima poveći kontekst i da ume da poziva alate. Modeli koji su iole sposobniji za tako nešto su ujedno i glomazni tako da... Qwen3-coder preporučuju za ovakve stvari ali je on baš baš glomazan a kvantizovane varijante degradiraju učinak. Qwen2.5-coder ili od starta ne radi kako treba sa alatima, ne zna da ih poziva, ili krene lepo pa počne da se gubi.

Nisam pratio Mac-ove. Koliko max memorije oni sad guraju i koliko to veselje košta? Za neko hobi testiranje bih rekao da je to preskupo - jeftinije izađe pretplata za ChatGPT i to na dug period.

Ovo što jesam pratio je da ispadne da je najisplatljivije kupovati RTX 3090 polovnjake sa 24GB VRAM-a (500 evra uz mnogo sreće) ili eventualno RTX A5000 i A6000 (ako mogu jeftino da se nađu). Sve ostalo je preskupo za pomoć u hobi kodiranju ili čisto eksperimentisanje.

Stiže mi sledeći vikend polovnjak HP Z8 zver sa 96 thread-ova, 256 GB RAM-a i RTX 6000 sa 24GB VRAM (u klasi sa RTX 2080, matoro ali ima dosta VRAM-a). Kada osposobim makinu, imaću malo više mesta da se razmašem 😁

Šta si hteo da kažeš pod "ne ganjati HA uopste, obican klaster je dovoljan"? Meni klaster podrazumeva i HA kao koncept.

@Corvus Corax hahahaha, vidi se da si... kako ono kažu... picajzla 😂. Sve je pod konac, uredno i čisto :love:. Čak imaš i rack mount face plate za HP mini računarčiće. Ja sam slično nabavio par Dell Optiplex 7090... ali sam ih naslago jedne na druge... nemam baš vremena da napravim nešto bolje. Ja sam vremenska sirotinja 😭. K'o što kaže @disturbed, ja si isplaniram za vikend nešto... pa uradim nešto skroz drugo što iskrsne.
 
vix said:
Šta si hteo da kažeš pod "ne ganjati HA uopste, obican klaster je dovoljan"? Meni klaster podrazumeva i HA kao koncept.
Click to expand...

Pretpostavljam da misli na Proxmox bez corosync-a tj. node-ovi jesu pridodati u klaster, ali VM-ovi se fiksno vrte na njima, bez automatske migracije u slučaju havarije.

vix said:
@Corvus Corax hahahaha, vidi se da si... kako ono kažu... picajzla 😂. Sve je pod konac, uredno i čisto :love:. Čak imaš i rack mount face plate za HP mini računarčiće. Ja sam slično nabavio par Dell Optiplex 7090... ali sam ih naslago jedne na druge... nemam baš vremena da napravim nešto bolje. Ja sam vremenska sirotinja 😭. K'o što kaže @disturbed, ja si isplaniram za vikend nešto... pa uradim nešto skroz drugo što iskrsne.
Click to expand...
Uf, to jesam. Nisam pustio klaster u pogon dok nisam sve sakupio od planiranih delova, našao odgovarajući rack (inače sam hteo da ga pravim, pa sam uhvatio prečicu), korigovao i odštampao sve mountove. Svi node-ovi unutra su morali da imaju identične komponente, itd.

Nažalost, vremena mi uvek manjka od kako sam postao roditelj. Naučio sam da ne spavam, da bih mogao da učim i bavim se raznim hobijima.

U prethodnih par meseci sam započeo više projekata i u par navrata sam menjao planove u vezi sa njima, jer sam otkrivao nove stvari. Zato mi je radna soba izgledala kao magacin. U jednom ćošku komponente za mrežu, u drugom za Proxmox klaster, u trećem konzole koje čekaju modovanje, po sred sobe elektronski mikroskop koji čeka na montažu, uz zid komponente za Raspberry Pi kubernetes klaster,... polako sređujem i raščišćavam, ali ne stiže se sve tempom koji bih voleo.

Još uvek nisam postavio nove U6 Enterprise In-Wall AP-ove, jer mi se ne obijaju zidovi. 🤣

Sad za praznike sam uzeo odmor, povezao, pa ću valjda još nešto da odradim po ovom pitanju.
 
  • Like
Reactions: vix
vix said:
U stvari mi je bitna sposobnost modela da analizira kod aktivno prolazeći kroz neki code base (veći broj fajlova). To podrazumeva da je dovoljno "inteligentan", da ima poveći kontekst i da ume da poziva alate. Modeli koji su iole sposobniji za tako nešto su ujedno i glomazni tako da... Qwen3-coder preporučuju za ovakve stvari ali je on baš baš glomazan a kvantizovane varijante degradiraju učinak. Qwen2.5-coder ili od starta ne radi kako treba sa alatima, ne zna da ih poziva, ili krene lepo pa počne da se gubi.
Click to expand...
Model je samo model, algoritam za predikciju. Tebi treba agent ili pak MCP client sa kojim mozes dati modelu pravu moc. Pogledaj N8N ako si za drag drop varijante ili ipak ClaudeCode, Cursor, Cline itd ako hoces pozivanje alata i MCP servera.

Corvus Corax said:
A da li nekako "komuniciraš" sa tim AI modelom koji si podigao u VM-u na Proxmox-u? Neka integracija sa lokalnim računarom?
Click to expand...
Za ChatGPT prompt-like upotrebu imas OpenWebUI, to ti je interfejs na koji smo navikli. Za agentic upotrebu sam koristio Cline ekstenziju za VSC. Mislim da postoje varijante da se i na Cursor povezu lokalni modeli (ranije nije bilo moguce). Ali kazem, otkako imam bas izdasne resurse od 3 najveca "prozvodjaca" nemam potrebe toliko za lokalnim LLM-ovima, vise je za eksperimentisanje. U pocetku kad sam ucio svako trosenje tokena bilo je "zasto ja gubim vrijeme i novac na ovo".
Corvus Corax said:
Za privatnu upotrebu, slažem se. Mada... kasno. :D
Click to expand...
Ovo u isto vrijeme u meni budi i ljubomoru i olaksanje :) Bas zbog toga sam prestao da planiram ovakve poduhvate + poznavajuci sebe ja bih to tumbao svaki mjesec :D Inace, aktivno radim da ne budem picajzla jer inace ubijam sve oko sebe. Koliko ludilo moze da ide je da sam tamo negdje 2010-11 zelio da se bavim stolarijom, pa da izradjujem gitare, pa je to cijelonocno istrazivanje preslo u analizu koje drvo je najbolje za tijelo, fretboard i slicno, dok na kraju nisam dosao do zakljucka da moram da posadim drvo i cekam da naraste. To se zove bolestan covjek :D Ali, hard reset u vidu par zdravstvenih problema i poneki burnout-ic sve rijesava. Nazalost ili na srecu nemam vremena toliko ni za osnovne stvari a kamoli dubioze :D

vix said:
Nisam pratio Mac-ove. Koliko max memorije oni sad guraju i koliko to veselje košta? Za neko hobi testiranje bih rekao da je to preskupo - jeftinije izađe pretplata za ChatGPT i to na dug period.
Click to expand...
Mislim da je do 128GB. Ali jeste, skupi su. No, zavisi sve od konteksta. Takva masina ti otvara mogucnosti za dosta drugih AI-nevezanih stvari, pogotovo kome treba MacOS/Apple ekosistem. ChatGPT nije bas dobar primjer ali njihov Codex, ClaudeCode ili Cursor sigurno jesu. Dosta se moze odraditi na pro accountima ali prava pro upotreba je kada se placa po potreosnji tokena. 10K dolara mjesecno potrosnje, easily. Ali sad idemo na ekstreme, mislim da MBP/Mini sa 64GB je jako kompetenta i dugotrajna masina.
vix said:
Stiže mi sledeći vikend polovnjak HP Z8 zver sa 96 thread-ova, 256 GB RAM-a i RTX 6000 sa 24GB VRAM (u klasi sa RTX 2080, matoro ali ima dosta VRAM-a). Kada osposobim makinu, imaću malo više mesta da se razmašem
Click to expand...
Ne znam specifikacije tih modela ali ako je RTX 2080 pandan tome onda bi mogao biti ogranicen CUDA performansama. Moci ces ucitati vece modele ali novije masine bi bile daleko brze. Uglavnom, lupam. Probaj pa vidi da li ti odgovara.
vix said:
Šta si hteo da kažeš pod "ne ganjati HA uopste, obican klaster je dovoljan"? Meni klaster podrazumeva i HA kao koncept.
Click to expand...
Pa ne nuzno. Mozes imati klaster masina bez redundancije, replikacije, itd, zar ne? Na to sam mislio. E sad, ako ti zaista to treba iz bilo kog razloga "go for it". Ali tu nema granica: trebas imati uredjaje na odvojenim lokacijama, pa onda zastita od failura, pozara, battery powered backup, generatori, vise linkova ka netu razlicitih provajdera - mislim, gdje povuci crtu a da nije finansijskog tipa :) @Corvus Corax je plastican primjer :D i onda odes na Reddit i razbolis se kad vidis tek tamo sta ljudi rade cisto jer mogu :D
vix said:
Ja sam vremenska sirotinja
Click to expand...
Zapisano!

2CR4ZY said:
Odnosi se na ono sto sam pricao da ce nas roboti, automatika zameniti, kao sto i treba, samo da se jos ostvari onaj drugi deo price koji sam pricao (* u nasoj zemlji).
Click to expand...
@2CRAZY moram priznati da sam totalno zbunjen tvojim ponasanjem. Ako trolujes, dobar si trol. Pises ali vecinom napadas, dajes neke predikcije a kad te ljudi pitaju konkretno napises jos jedan trol post u kome pokazes da ne razumjes razliku izmedju masinskog ucenja, LLM, SLM, AI. Skidam kapu i nadam se da imas opasne akcije u nVidia ili Microsoft pa ti vjestacki uzgon AI-ja odgovara.

Bojan said:
Mogu jako brzo da proverim da li nešto slično već postoji, razradim ideju, otklonim nedoumice, popunim rupe u znanju i napravim plan razvoja.
Mogu da dobijem i procenu vremena i novca koji bi trebalo uložiti i savete oko monetizacije.
Čitav plan ostaje uredno zabeležen u biblioteci, tako da uvek mogu da se vratim i nastavim rad kada uhvatim vremena.
Click to expand...
Ovo je super. Samo, moj savjet je da uvjek budes kriticki nastrojen ka LLM outputu jer je to najveci slippery slope.
 
Zamisli kada AI počne da se raspravlja o tome kako se plaše ljudi po njihovim forumima :P
 
disturbed said:
@2CRAZY moram priznati da sam totalno zbunjen tvojim ponasanjem. Ako trolujes, dobar si trol. Pises ali vecinom napadas, dajes neke predikcije a kad te ljudi pitaju konkretno napises jos jedan trol post u kome pokazes da ne razumjes razliku izmedju masinskog ucenja, LLM, SLM, AI. Skidam kapu i nadam se da imas opasne akcije u nVidia ili Microsoft pa ti vjestacki uzgon AI-ja odgovara.
Click to expand...
Nije on trol, nego resio da učestvuje u tehnickoj diskusiji sa znanjem lika sa gajbice ispred prodavnice, šta razume to je sporedno bitno da moze da kaže svoje , happy to participate
 
  • Like
Reactions: Ace
2CR4ZY said:
Tipa sto bi se u Photoshopu zajebavao pola sata, kad AI moze sve da mi kreira za pola minuta?
Click to expand...
Zato sto pricamo o profesionalnoj upotrebi i kako je pitanje trenutka da nas AI sve zamjeni. Pola sata u Photoshopu nije validan pokazatelj bilo cega. I to sto dobijes kao izlaz od strane AI-ja je sigurno nedovoljno dobro sa profesionalnog aspekta pa se mora zazmiriti na jedno oko. Ono sto razumijem je da smo okruzeni ispodprosjecno odradjenim stvarima pa nam AI slop izgleda sasvim solidno. Kao ove instagramuse koja svaka lici kao jaje jajetu pa se onda iscudjavamo kako je AI u stanju da to "perfektno" generise (a bogami krade/kopira mnogo vise nego generise) . Ili muzika. Ili dizajn korica za knjige (sto mene posebno pogadja). Tako da ja u startu iskljucujem bilo kakav oblik umjetnosti ili kreativnog izrazavanja kao dobra upotreba AI-ja jer to nije. Mene apsolutno nije briga u kakvom je autor mentalnom stanju bio kada je napromptao neku glupost u AI. Ali kada je dobra umjetnost u pitanju sigurno je da autor moze da prenese daleko bolju poruku od AI-ja.

Naravno da je interfejs ka racunarima daleko jednostavniji danas nego prije 10/20/30 godina. Nisu danas djeca pametnija zato sto znaju odmah sa 2-3 godine da "koriste" mobilni, vec zato sto je interfejs toliko sveden na bazicne pokrete. Naravno da je lakse danas pogledati film online nego 2002-3. Zar je toliko tesko prihvatiti da je lakse ostvariti interakciju sa racunarom bez da se posmatra kao cudo iz druge galaksije. Jednostavno, alat koji treba nauciti koristiti pa ako ti pomaze super. Ali ostaviti sve vjestine po strani, ukljucujuci i umjetnicki drive i omalovazavati po velom nekakvog progresa je u najmanju ruku za posmatranje.

Dead giveaway sto bi nas stari narod rekao su CEOovi kompanija i njihove izjave. Ako ih se nacepi nekakvom regulativom onda kukaju kako su "sputani, ne mogu da rade na tehnoloskom progresu, problem kancera nije rijesen, nema dovoljno energije", a kad ih se pusti na miru godinu dana deliveruju samo slop generatore uz naravno opasku da ce da zamjene sve "dobro placene" eksperte.

Scam nije dobra rijec za ovo jer da je AI dobar, da dobro umije da rezonuje, daje analize, predikcije, trendove zar nije logicno onda da prvo ti CEOovi lete iz firme? LLM ti daje izlaz koji statisticki gledano "lici na nesto" ili je "plausible" ali to ne znaci da ima apsolutno ikakve veze sa realnoscu. Nekad ima, ali nema garanta jer nije deterministicki algoritam u pozadini.
 
disturbed said:
@2CRAZY moram priznati da sam totalno zbunjen tvojim ponasanjem. Ako trolujes, dobar si trol. Pises ali vecinom napadas, dajes neke predikcije a kad te ljudi pitaju konkretno napises jos jedan trol post u kome pokazes da ne razumjes razliku izmedju masinskog ucenja, LLM, SLM, AI. Skidam kapu i nadam se da imas opasne akcije u nVidia ili Microsoft pa ti vjestacki uzgon AI-ja odgovara.
Click to expand...
Nisam toliko dobar trol, uvek pisem ono sto mislim, mada neki su jos odavno odlucili da sam ja trol, te njima nema pomoci...
Ja ako nekad malo i tovarim, trolujem, to je samo kad me iznervira neciji bezobrazluk i nepostovanje.

Ne napadam, samo vracam napade, ja nisam prvi koji je napao, sve sto pisem je moja reakcija na napade.

Ne odgovaram na glupa pitanja u fazonu "prove me right" to su ljudi koji su vec odlucili da je AI sranje i nemam nikakve svrhe trositi moje vreme i volju odgovaranjem takvim ljudima, koji nikad nece promeniti misljenje, koliko god im lepo i detaljno odgovorio... ja sam napisao savrsen post gde sam sve objasnio u vezi AI-a, ali nekim ljudima je to smesno, i ti me pitas sto im ne odgovaram...

Izmedju cega ne pravim razliku, napisi mi molim te?

Nemam nikakve akcije, kamo srece, samo pisem ono sto iskreno mislim, kao i uvek, ali sta da Vam radim, u manjini ste debeloj... AI je tu, i impresivan je tech, svidelo se to Vama ili ne... pre bi reko da ste Vi ti koji hejtujete AI, jer Vam oduzima poslove i slicni razlozi, pa ga neosnovano napadate i predstavljate u losem, laznom svetlu.
 
disturbed said:
Zato sto pricamo o profesionalnoj upotrebi i kako je pitanje trenutka da nas AI sve zamjeni.
Click to expand...
Ne, ne pricamo o tome sada... ja sam tu pomenuo za sta AI meni SADA pomaze, a sto se tice te profi zamene, sigurno ce nekad i do nje doci.

disturbed said:
nedovoljno dobro sa profesionalnog aspekta pa se mora zazmiriti na jedno oko.
Click to expand...
Za moje potrebe radi posao mnogo bolje nego sto sam to ocekivao, dosta mi stedi vremena i truda.

Kad je vec AI toliko sranje kao sto kazes, nemoj vise uopste da ga koristis, glupo je da ga pljujes, a da ga koristis i to uveliko.
 
Last edited:
You must log in or register to reply here.
Back
Top Bottom