ChatGPT - ozbiljna tema

[toska]

...

Mi zapravo ne znamo tacan mehanizam ljudske intuicije, ali ja vjerujem da ga je moguce oponasati, sto kroz LLM-ove, sto kroz druge "pattern recognition" mehanizme, koji su doveli do nezamislivih monstruma tipa Alpha Zero.
..

Mi nemamo ni dogovor sta je intuicija.
Racionalno tumačenje će uvijek dati racionalan odgovor tipa podsvjesno znanje i kao takvo šega i prosta stvar za AI.

Moje, a i životna iskustva mnogih, govore da je intuicija puno više od te definicije (neki joj daju egzotične nazive koje izbjegavam i uvijek stavljam pod intuiciju) i tu AI pa i AGI vjerovatno nema šta tražiti, ni sad ni ubuduće.
Možda jedina nedostižna ljudska osobina.

[dvajt]

vec se AI koristi kao relevantan izvor u raznim poslovima. Imas u firmi konstruktivnu raspravu oko nekog problema i odjednom diša pošalje AI odgovor i to je to, kraj diskusije. Uglavnom pitanje je dana kad će sve u ku... otići. Ne zbog AI kao alata (koji je vrlo koristan) već zbog kako Rambo definiše "nekritičke upotrebe tehnologije"

[zilog]

...

Mi zapravo ne znamo tacan mehanizam ljudske intuicije, ali ja vjerujem da ga je moguce oponasati, sto kroz LLM-ove, sto kroz druge "pattern recognition" mehanizme, koji su doveli do nezamislivih monstruma tipa Alpha Zero.
..

Mi nemamo ni dogovor sta je intuicija.
Racionalno tumačenje će uvijek dati racionalan odgovor tipa podsvjesno znanje i kao takvo šega i prosta stvar za AI.

Moje, a i životna iskustva mnogih, govore da je intuicija puno više od te definicije (neki joj daju egzotične nazive koje izbjegavam i uvijek stavljam pod intuiciju) i tu AI pa i AGI vjerovatno nema šta tražiti, ni sad ni ubuduće.
Možda jedina nedostižna ljudska osobina.

Ako ne znamo reci, sta je intuicija, onda ne mozemo ni suditi o tome - da li je AI posjeduje? Nesto kao "42"...

Samo se mozemo osloniti na dosadasnju metriku, u necem mjerljivom, poput igara.

Mnogi tvrde, da je potez 37, druge partije, meca AlphaGo - Lee Sedol, primjer "intuicije".

[zilog]

vec se AI koristi kao relevantan izvor u raznim poslovima. Imas u firmi konstruktivnu raspravu oko nekog problema i odjednom diša pošalje AI odgovor i to je to, kraj diskusije. Uglavnom pitanje je dana kad će sve u ku... otići. Ne zbog AI kao alata (koji je vrlo koristan) već zbog kako Rambo definiše "nekritičke upotrebe tehnologije"

Nece daleko dogurati ta firma, gdje "disa" forward-uje AI odgovor.

Zapravo je njegova uloga najpodloznija zamjeni AI-jem...

[drag_gost]

Ne ocekujes valjda, da ce ChatGPT od 20$ mjesecno, praviti proboje u sferi kvantne mehanike?
Nece, jos uvijek, ni laboratorijski modeli, ali je napredak dramatican. Ove godine su OpenAI i Google modeli osvojili zlatne medalje na Medjunarodnoj Matematickoj Olimpijadi. Kada LLM-ovi, suvereno zavladaju vrhunskom matematikom, moci cemo ocekivati i proboje u sferi fizike.

Sto se tice intuicije i imaginacije, da bolje upoznas kako funkcionisu LLM-ovi (pokrenes neki lokalni LLM), vidio bi da su i intuicija i imaginacija, itekako prisutni (kontrolisani sa nekoliko parametara: temperatura, max p, ...). Cak su i problematicni, zbog "haluciniranja".

Nevjerovatna je kolicina slicnosti, izmedju masinskog i ljudskog nacina ucenja i rezonovanja. Ljudi su mnogo efikasniji i uce na manjem broju primjera, ali masine imaju prednost brzine i paralelizacije. Osim toga i algoritmi ucenja, napreduju iz dana u dan...

Deepmind jeste presao zlatni prag (35/42 bod, odnosno 5/6 zadataka), ali nikakvu medalju nije osvojio. OpenAI je presao zlatni prag u tvrdnji njihovih naucnika, ali to nije potvrdjeno od zvanicnog komiteta. To sto ti pises nisu intuicija, niti imaginacija, vec matematicki mehanizmi iz probability distribucije. Metaforicki jedino mozemo reci da su intuicija i imaginacija. Haluciranje nastaje zbog drugih stvari, previse treniranja na homogenim setovima, itd. Top-K, Top-P, temperatura uticu na ucestalost i tip halucinacija, ali nisu uzrok. Halucinacija se moze pojaviti i na maloj temperaturi ako je model nije naucio dobru generalizaciju.

Bez detaljnog "fact checking-a", sam odgovorio na laicke netacnosti iz citiranog posta, pa je sasvim zasluzeno, da se i mene poklopi "ispravkom netacnih navoda".

Istina je, da su navodi o IMO medaljama vjerovatno PR usminkani (u pitanju su milijarde), ali cu se osloniti na optimizam, koji pokazuje Terence Tao.

I bez IMO PR stunt-a, napredak je dramatican. Prije nekoliko mjeseci mi je o3 (high) odradio lavovski dio posla za parametarsku, polinomijalnu regresiju, kroz analiticku inverziju Hankelovih matrica, koeficijenata Faulhaberovih jednacina, do reda 8. Tako nesto se ne moze naci na internetu.

Naravno da parametri, poput temperature, samo metaforicki odrazavaju intuiciju i imaginaciju, inace bi se zvali - intuition/imagination.

Mi zapravo ne znamo tacan mehanizam ljudske intuicije, ali ja vjerujem da ga je moguce oponasati, sto kroz LLM-ove, sto kroz druge "pattern recognition" mehanizme, koji su doveli do nezamislivih monstruma tipa Alpha Zero.

Ne znamo, pouzdano, ni uzrok halucinacija. Neki dan je OpenAI objavio papir, po kojem su halucinacije prouzrokovane pogresnom reward funkcijom, u toku treninga (nagrada za nagadjanje).

Posto, definitivno, znas vise od mene u oblasti funkcionisanja modela, a nedostaje nam tema o lokalnim AI modelima, da li bi otvorio takvu temu?
Ja cu se rado ukljuciti...

Ma nije ideja da "poklopim", samo evo preko 15 godina radim sa ovim, tako da znam da su ti pokusaji sa zlatnim pragom vise postali tradicija. Bilo je sitnih pomaka kroz sve ove godine, pocevsi od AlexNet-a, pa image recognition patterna, medjutim najveci proboj je Transformer arhitektura nekada godinu-dvije prije covida, odnosno tokenizacija rijeci sa paznjom (Attention is all you need) - bitnosti. Prebacivanje sa CPU na GPU i olaksano horizontalno skaliranje. Ima tu finih pomaka i sa LoRa arhitekturom. Znamo tacno sta izaziva halucinacije i kako ih sprijeciti, evo ja ih sada na Sagemakeru imam koliko hoces i znam sta je problem.

Ono sto mislim da ce biti sljedeci veliki pomak ce biti unaprijedjenje limita broja tokena u LLM. LLM-ovi danas mogu maksimalno imati 128k tokena, dakle jedan token je 3/4 engleske rijeci, sto je otprilike do 300 stranica knjige. Zato imamo vektorske baze, kao npr Chroma, Pinecone, i drugi sa kojima prevailazimo taj limit, medjutim to je workaround. Umjesto cuvanja tokena, ona cuva vektorske prezentacije, odnosno matematicke nizove koji predstavljaju odredjeno znacenje inputa (tekst, slika, zvuk). To se naziva embeddings. Dakle, kontekstualni limit tokena je kratkorocno pamcenje, a vektorska baza je biblioteka, odnosno dugorocno pamcenje. To smanjuje i halucinacije, model dobija tacne reference. Ono sto ce biti najveci napredak tu u odnosu na kratkorocnu i dugorocnu memoriju, to je trajna memorija. Dakle, da se probije taj limit od 128k tokena, sto bi uspjesno imitiralo ljudsko pamcenje. Model bi imao kontinuitet, pamtio bi ono sto je bitno, odnosno "zaboravljao" ono sto je nebitno. Vektorska baza je sada pomocni tool, sluzi za pretrazivanje, ali nije dio modela. U praksi, zbog tog limita od 128k tokena, desava se da model zaboravi nesto, pa ga moras podsjecati. Dakle, nema kontinuitet. Sa tehnicke strane, zasto je limit bas od 128k tokena? U Transformer arhitekturi svaki token gleda u sve ostale tokene, dakle formula je O(n²), odnosno 128k x 128k, sto je vise od 16 milijardi. O(n²) se odnosi na vremensku i memorijsku kompleksnost. 128k je prakticni kompromis, jer se GPU trosi kvadratno (doslovno), memorija se pojede. Radi se na tome da se napravi nova attention arhitektura ili da se attention algoritmi poboljsaju, odnosno da ne budu O(n²). Ima trikova sa Flash Attention algoritmom koji to uspjeva djelimicno da rijesi. To ce vjerovatno biti sljedeci veliki korak i kada se to desi, opet necemo imati Terminatora, nego cemo imati korisnijeg AI asistenta koji ce imati trajniju (nadam se) memoriju i moci ce da pamti historiju, koristi sentiment analizu (NLP) bez velikih fizickih limitacija.

Moj savjet je da koristite AI, olaksace vam zivot i zato je tu. To je pomocni alat i ako Bog da pomoci ce covjecanstvu u rjesavanju nekih bolesti koje su danas neizljecive. Istina je da ima tu velikih eticnih izazova sa AI-jem. Dacu primjer. Ukoliko bi imao AI Agenta koji prepoznaje tvoje obrazce ponasanja i bez limita uspjesno primjenjuje NLP za klasifikaciju tvojih emocija, onda poznavajuci tvoje emocije postavlja se pitanje koliko moze da manipulise sa tobom. To je mac sa dvije ostrice. Etika je jedno od najdubljih pitanja za buducnost AI-ja. Mislim da razvoj nece sprijeciti, ali ga hoce usporiti, usmjeriti i kontrolisati.

Odoh podaleko, sori... mogu o ovome danima. Uglavnom, nece nas AI ubiti prije nego sami sebe ne poubijamo. Razumijem strah, ali on dolazi iz nerazumjevanja uglavnom. AI ce zaista da izbaci nove poslove.

Otvori temu molim te..., evo kod mene sada pola 12 navecer... slomljen sam.

[Thorgerson]

Napisao sam poveci tekst, pa sam ga obrisao. Zivota ti ne lupaj. Sansa je minimalna.

E jebiga. Vise bih volio da ga nisi obrisao. Forum je tu da razmjenjujemo i mijenjamo misljenja. Ja sam napisao svoje misljenje na osnovu onoga sto sam procitao, cuo, vidio. Zato je malo bezveze nekome kad iznese svoje misljenje, koliko toliko ga argumentuje, napisati samo 'ne lupaj'. Al hajd. Nije ni bitno.

[toska]

Napisao sam poveci tekst, pa sam ga obrisao. Zivota ti ne lupaj. Sansa je minimalna.

E jebiga. Vise bih volio da ga nisi obrisao. Forum je tu da razmjenjujemo i mijenjamo misljenja. Ja sam napisao svoje misljenje na osnovu onoga sto sam procitao, cuo, vidio. Zato je malo bezveze nekome kad iznese svoje misljenje, koliko toliko ga argumentuje, napisati samo 'ne lupaj'. Al hajd. Nije ni bitno.

Smiješno je da se ovdje neko nameće kao autoritet izuzev čisto tehničkih stvari i tu je @drag_gost očito odlično obrazovan.

AI I njegove moći se uglavnom mogu nazrijeti, ali ne i AGI za kojeg još ne znamo da li je i kad moguć.
Jedan "kum" AI najavljuje ga vec 2027.

U tom slučaju sve prelazi u filozofiju i prognostiku, a ne tehničke detalje.

Nije moguće danas predvidjeti ponašanje AGI I da li predstavlja opasnost po ljude, samo nagađanje, a ne "lupanje.".

[zilog]

Otvori temu molim te..., evo kod mene sada pola 12 navecer... slomljen sam.

Evo je:

lokalni-ai-modeli-t165545.html

[edoe52]

ko dostavlja cvike u bejha?

30. septembra tek izlaze, bili iko uzimao?

[last mohicans]

ko dostavlja cvike u bejha?

30. septembra tek izlaze, bili iko uzimao?

Hoće velkoski ko u onom Gustav crtiću iz Yuge kad je nabacio đoze, onda sve gole zenske viđao.

[drag_gost]

Napisao sam poveci tekst, pa sam ga obrisao. Zivota ti ne lupaj. Sansa je minimalna.

E jebiga. Vise bih volio da ga nisi obrisao. Forum je tu da razmjenjujemo i mijenjamo misljenja. Ja sam napisao svoje misljenje na osnovu onoga sto sam procitao, cuo, vidio. Zato je malo bezveze nekome kad iznese svoje misljenje, koliko toliko ga argumentuje, napisati samo 'ne lupaj'. Al hajd. Nije ni bitno.

Vidi, izvini, nije mi namjera bila da te nesto napadnem i ton mi je bio uzasan. Iskreno, izvini, u pravu si. Nervira me kada vidim da se povrsno o toj temi prica, pa se izvlace SF zakljucci zbog nedovoljnog poznavanja materije, ali to je samo moj problem i moja glupost. Nece se ponoviti.

[Seawolf]

....
Zapravo je njegova uloga najpodloznija zamjeni AI-jem...

Upravo uloga (dobrog) direktora NIJE.

AI nikada neće biti u stanju donijeti najbolju odluku i čvrsto i odgovorno stati iza nje.

A nema niti sposobnost kvalitetnog šupljiranja.

[Thorgerson]

Napisao sam poveci tekst, pa sam ga obrisao. Zivota ti ne lupaj. Sansa je minimalna.

E jebiga. Vise bih volio da ga nisi obrisao. Forum je tu da razmjenjujemo i mijenjamo misljenja. Ja sam napisao svoje misljenje na osnovu onoga sto sam procitao, cuo, vidio. Zato je malo bezveze nekome kad iznese svoje misljenje, koliko toliko ga argumentuje, napisati samo 'ne lupaj'. Al hajd. Nije ni bitno.

Vidi, izvini, nije mi namjera bila da te nesto napadnem i ton mi je bio uzasan. Iskreno, izvini, u pravu si. Nervira me kada vidim da se povrsno o toj temi prica, pa se izvlace SF zakljucci zbog nedovoljnog poznavanja materije, ali to je samo moj problem i moja glupost. Nece se ponoviti.

Ma nema problema

[dr_Evil]

Eh evo ga

https://www.index.hr/vijesti/clanak/kum ... ostalo_d_0

"Zapravo dogodit će se to da će bogati ljudi sve više koristiti AI kako bi zamijenili radnike. To će stvoriti masovnu nezaposlenost i ogroman rast profita. Nekolicinu ljudi učinit će puno bogatijima, a većinu ljudi siromašnijima. To nije krivnja AI-ja, to je krivnja kapitalističkog sustava", tumači Hinton.

I to se vec dogadja

[Sanjarko]

Jbm ga glupa, mislim da se gemini zove, od google, ali ni ljudi nisu pametniji bas. Nije znao rjesenje posjecenih linkova, kako ih obojiti drugacije u firefox browser. Ja ispade pametniji, trazio i trazio i pronadze neki addon za to, ali treba se svaki sajt posebno u njemu zabiljeziti.

Nisam toliko obnevidio, vidim solidno i dalje, ali volim da nisu slicnih boja linkovi i posjeceni linkovi.

Ali jbn sam i ja, uporan sam. Nekad mana, nekad vrlina je to bas.

[nikeze]

Objasni ću pojam intuicije. Malom djetetu koje tek uči pojmove pokažite sliku mačke i dijete će upamtiti. Bilo koju drugu sliku na kojoj je mačka bilo koje boje dijete će prepoznati točno. Čak će i sliku lava prepoznati kao macu i neće puno pogriješiti jer je lav iz porodice mačaka kao i tigar. Vještačka inteligencija na osnovu jedne slike neće moći. Ako joj pokažite mačku druge boje koja trči ili leži to je već drugi pojam ili skup bita . Znači mora se pohraniti hiljade slika mačaka da ih obradi statistički i da sa visokom vjerovatnoćom kaže da je to mačka. To je učenje repeticijom.
Kvantna mehanika i teorija relativnosti su na ivici mašte i tu je filozofija odigrala ulogu i to sam Einstein kaže. Kvantno sprezanje je jedan primjer a ima još primjera, koje mogu navesti.

[arman1]

Upravo sjedim kod kuće i radim i na jednom monitoru je GPT koji mi odrađuje dobar, posao. Olakšao mi je jako, učinio me nezavisnim od nekih i popravio mi kvalitet rezultata. Velika mi je ušteda jer odrađuje dio posla za koji bih nekog morao moliti ili platiti, a uglavnom nemam koga.

[last mohicans]

Ko koristi ove plaćene verzije, zaista su naprednije puno? Ova besplatna opcija mi je par puta olakšala, a danima me jebavala neka registracija i potvrda security pitanja, u čas oka mi je sublimirao problematiku i ponudio rješenja. Odmah sam riješio. AI je neminovnost i neki poslovi će se zaista ugasiti. Sve mi naumpadne Will Smith, I robot, da nam onako ne bude.

[xPaco1337]

ChatGPT je sad popularan jer je Google search gola kita sad, pogotovo sa nestankom foruma gdje si mogao naci dosta rjesenja ili pitanja za neke probleme.

[last mohicans]

ChatGPT je sad popularan jer je Google search gola kita sad, pogotovo sa nestankom foruma gdje si mogao naci dosta rjesenja ili pitanja za neke probleme.

Dok se nije pojavio AI, nismo ni znali koja je kita, koliko se vremena trosilo na searchanje, nevjerovatno i koliko je to bilo šturo i nefikasno i čisto gubljenje vremena. Da Bog da propali, milijarde su ubili, umjesto da su sami pronašli slično rješenje, uninali se u blagostanju, kao kakvi uhljebi u drzavnoj sluzbi.

[nikeze]

Jučer pitam Microsoft copilot da li bi mogao da mi analizira OPG snimak svih zuba i reče mi da može ako mu pošaljem snimak kao sliku.
I pošaljem mu ja sliku na kojoj sam već znao šta nije u redu sa zubima. I on je analizirao par minuta i zaokružio zelenom elipsom korjene na kojima je upala.
Kad sam ga pitao za jedan zub rekao mi je da nema ništa. Fascinantno.
PItao sam Geminija da li može analiziralti snimak i rekao mi je da nemože.
Pa eto ako nekome treba neka proba. Ništa ne košta. Microsoft Copilot je ugrađen u pretraživač Edge i nalazi se u gornjem desnom uglu.
Čitao sam da je na polju analiza snimaka vještačka inteligencija napravila dramatičan proboj i mislim da će tu biti od velike koristi.
Da bi to sve mogla vjerovatno je unesen ogroman broj snimaka prilikom njenog "učenja" što opet rade anotatori, kao i oni koji to opet pregledaju kao kontrolori.

[hp_user]

Perplexity Pro 12 mjeseci besplatno.

Povežete PayPal acc privatni, zatim možete otkazati u postavkama paypala gdje su automatske naplate da vam ne skine lovu poslije.

https://www.perplexity.ai/join/p/paypal-subscription

[Truba]

ajd dobro što AI olakšava živt
ali turboscribe 3 fajla dnevno besplatno
sve pretipka ako je dobar govornik ko npr dr. čović


al fakat kad gazde shvate umjesto 5 uspolenika
trebaće samo 2 da unose
haha

[arman1]

ajd dobro što AI olakšava živt
ali turboscribe 3 fajla dnevno besplatno
sve pretipka ako je dobar govornik ko npr dr. čović


al fakat kad gazde shvate umjesto 5 uspolenika
trebaće samo 2 da unose
haha

Meni kad je na engleskom i MS Word odradi extra, a na našem Chat GPT i još koriguje gramatiku.

[Truba]

ma ljepota
imamo više vremena za privatne stvari
ako nista gledati u zid