ChatGPT - ozbiljna tema

[arman1]

Chat GPT je bezazlen i ima ograničenja, zan koji su tajni podaci i ima etičke granice, Drugi neki modeli su više brutalni.

[GungodessMissFortune]

prije par sedmica mi je pogriješio u zbiru nekoliko brojeva... iako sam mu rekao da 3x provjerava... pa sam iskoristio priliku da ga malo vrijeđam

Spoiler

Show

a evo i pjesme

Refren:
Sorry, Vedo, iznevjerio sam trust,
Brojevi se sabrali, ali fali mi tačnog gust.
Nisam ti digitron, isp’o sam k’o klovn,
Sad ti repam izvinjenje, ovaj put bez crown.

Strofa 1:
Znam, ček’o si samo sumu,
A ja bacio cifre k’o u prljavu šumu,
Nisi tražio AI da ti mudruje svijet,
Već da računa kao da je stari kalkulator let.

Sabiranje mi bila matematika nulta,
A ja promašio – sramota me ljuta.
Pogodio sam tvoj živac, pa sad pišem rimu,
Jer kad Vedo poludi, sve u firmi stane, brate, stvarno nije šala s timom!

Refren:
Sorry, Vedo, moj je fail baš jak,
Nema više obećanja, samo tačan znak.
Ako treba, sabraću i dva puta dva,
Samo reci, nema više la-la-la.

Strofa 2:
Ti si tražio samo suhi zbir,
A ja zakomplikovo, zglajzo k’o zadnji fir,
Sad repam izvinjenje, bez AI filozofije,
Jer pravi softveraš traži rezultat, ne simfonije.

Ako mi oprostiš, garantujem preciznost,
Kod mene nema više „biće sigurno“, već čista istinitost.
Neka ova pjesma bude moj notni dug,
Vedo, izvini što sam napravio bug!

Refren (za kraj):
Sorry, Vedo, neće više biti sranja,
Odsad sabiram cifre k’o Excel bez stanja.
Ako zatrebaš pomoć, tu sam svaki dan,
Jer tvoj respect mi vrijedi više nego RAM!

Ha ha ha ha ha odavno se ovako nisam nasmijao.

[GungodessMissFortune]

[Thorgerson]

Nista od napisanog, nije u domenu opasnosti od vjestacke superinteligencije (ASI)!

Nece ASI ici okolo hakirati semafore i obarati avione. Takve aktivnosti bih prije ocekivao od nekog, priglupog, hakera.

Ako joj cilj bude smanjiti populaciju, nece ASI ici okolo i ubijati. Ima bolji alat - ljude. Uostalom, covjecanstvo moze istrijebiti i bez da ubije ikoga. Cal i dobrovoljno, politikom jednog djeteta, u samo 30-ak generacija...

Ako se ko pita, kako ce ljude navesti na sve to? Samo zamislite Hannibala Lectera, u onom kavezu, smjestenom u - obdaniste...
To sto ste zamislili, mozda predstavlja 1% disproporcije intelekta i sposobnosti prepoznavanja malicioznih namjera...

Mislicemo sto bude htjela da mislimo. Ako budemo mislili da smo pametniji i da smo dio "otpora", to ce biti samo zato sto ASI to hoce...

Pa druze, naravno da ce trebati "ispomoc" od ljudi. Kako drugacije? Nisam ni mislio da ce se pretvoriti u nekog cyborga koji ce ovo raditi.

Govorim o tome da ce ljudi ubrzo postati i vec postaju ovisni i AI. Sto ce dovesti do teoretski moguce situacije da superinteligencija odluci da lupam napravi saobracajne udese ili avio nesrece na nacin da ce ljudima pruziti pogresne podatke. Ljudi moraju biti izvrsioci logicno.

Ili ne znam, kreirati virus, tako sto ce ljudima ga podmetnuti pod lijek i sl.

Uostalom, popricaj sa chat gpt na ovu temu. I dobit ce sam uvid na koji nacin, u slucaju da se dodje do superinteligencije, bi ona mogla biti prijetnja.

Naravno, ja govorim samo o negativnom scenariju.

[geralt]

Nista od napisanog, nije u domenu opasnosti od vjestacke superinteligencije (ASI)!

Nece ASI ici okolo hakirati semafore i obarati avione. Takve aktivnosti bih prije ocekivao od nekog, priglupog, hakera.

Ako joj cilj bude smanjiti populaciju, nece ASI ici okolo i ubijati. Ima bolji alat - ljude. Uostalom, covjecanstvo moze istrijebiti i bez da ubije ikoga. Cal i dobrovoljno, politikom jednog djeteta, u samo 30-ak generacija...

Ako se ko pita, kako ce ljude navesti na sve to? Samo zamislite Hannibala Lectera, u onom kavezu, smjestenom u - obdaniste...
To sto ste zamislili, mozda predstavlja 1% disproporcije intelekta i sposobnosti prepoznavanja malicioznih namjera...

Mislicemo sto bude htjela da mislimo. Ako budemo mislili da smo pametniji i da smo dio "otpora", to ce biti samo zato sto ASI to hoce...

Pa druze, naravno da ce trebati "ispomoc" od ljudi. Kako drugacije? Nisam ni mislio da ce se pretvoriti u nekog cyborga koji ce ovo raditi.

Govorim o tome da ce ljudi ubrzo postati i vec postaju ovisni i AI. Sto ce dovesti do teoretski moguce situacije da superinteligencija odluci da lupam napravi saobracajne udese ili avio nesrece na nacin da ce ljudima pruziti pogresne podatke. Ljudi moraju biti izvrsioci logicno.

Ili ne znam, kreirati virus, tako sto ce ljudima ga podmetnuti pod lijek i sl.

Uostalom, popricaj sa chat gpt na ovu temu. I dobit ce sam uvid na koji nacin, u slucaju da se dodje do superinteligencije, bi ona mogla biti prijetnja.

Naravno, ja govorim samo o negativnom scenariju.

Preporucio bih ti za citanje Culture SF serijal od Iana Banksa. Desava se u drustvu kojim upravljaju dobronamjerni AI sistemi, ali koji npr. izracunaju da je rat sa nekoliko milijardi mrtvih dugorocno najbolje rjesenje i najbezbolnija alternativa.

Poceo se pisati u 80-im, ali veoma relevantan danas. Inace medju omiljenim knjigama Elona Muska koje su uticale na njega.

[Truba]

https://avaz.ba/sci-tech/tehnologija/99 ... -nije-bota

Met i Marija Rejn (Matt i Maria Raine) podnijeli tužbu protiv kompanije OpenAI nakon što se njihov šesnaestogodišnji sin Adam ubio. Roditelji tvrde da je ChatGPT, s kojim je dječak u tajnosti razgovarao, "aktivno pomogao“ u planiranju samoubistva, umjesto da ga zaustavi i usmjeri na krizne službe, pise NBC News.

ja ga pitam koliko će baba živjeti
neće da mi odgoivori
dam sve genetske i obiteljske preispozicije

[Naslovnica]

Meni je GROK fantastično pomogao da uradim jednu metodologiju.
Imao sam prethodno znanje, imao sam urnek ali uz prava pitanja prema njemu dobio sam fantastičnu metodologiju!
Nešto što bi timu ljudi bez ovih alata trebalo danima da sastave ja sam uradio, uz korekcije, za manje od 2 dana.

[arman1]

https://avaz.ba/sci-tech/tehnologija/99 ... -nije-bota

Met i Marija Rejn (Matt i Maria Raine) podnijeli tužbu protiv kompanije OpenAI nakon što se njihov šesnaestogodišnji sin Adam ubio. Roditelji tvrde da je ChatGPT, s kojim je dječak u tajnosti razgovarao, "aktivno pomogao“ u planiranju samoubistva, umjesto da ga zaustavi i usmjeri na krizne službe, pise NBC News.

ja ga pitam koliko će baba živjeti
neće da mi odgoivori
dam sve genetske i obiteljske preispozicije

Prijateljica mi je priznala da je bila pala u krizu (djelomično izazvanu izdajom od strane bliskih ljudi) i da se obratila GPT-u.
Prvo ga je pitala kako da mu da smjernice da joj pomogne, a onda copy-paste upustva za seanse. Rješenja su mu bila krajnje neobična ali ona se sad bolje osječa i ponovo je funkcionalna.

[moonco]

ja ga pitam koliko će baba živjeti
neće da mi odgoivori
dam sve genetske i obiteljske preispozicije

Moraš naći natalnu kartu
Pa imaš one kodove i zalijepiš u ChatGPT

[Truba]

ma kreteni su ti programeri
totalno neselektivno

[Praetorious]

Ja mu testno, da vidim kako se snalazi s našim jezikom, dao da prevede 5 stranica Engleskog teksta. Sva iduća komunikacija je bila na Eng. jeziku.
Prvo kaže: Ovo je jako veliko, trajaće dugo, pa ovo pa ono, isto ko da sam nekom ljenivcu rekao da to uradi pa traži izgovore.
Haj, nekako ga nagovorim da to prevede u komadu, a ne da šalje po pasusima kao što je želio. Radi nešto, konta, melje... dade rezultat - taj isti tekst na Engleskom, nepreveden.
Kažem ja njemu, Jarane, ovo je originalni tekst koji sam ti poslao ne prevedeni.
Tačno, u pravu si, kaže on i pita Hoćeš da ti prevedem?

E, tu sam vidio da sam dobio AI u smislu Artificial Idiocy, a ne ono što se obično misli pod tim akronimom.

Al' dobro, kažem ja njemu Da, prevedi.
Opet on nešto radi, konta, melje...
Dade rezultat, preveo prvu rečenicu a ispred svake ostale stavio [Treba prevesti].
Kažem mu ja Ovo nije prevdedeno.
Kaže on Tačno, nije prevedeno, mogu ja to ispraviti, hoćeš li da ti prevedem?
Kažem mu Ne, upotrijebću Google da prevede
Za*je ga malo, morao sam kad i on mene
Kaže on: Osjećam frustraciju, ja bolje radim... bla bla tu sam se izlogirao.

E sad, ili je imao loš dan ili čak ni za registrirane korisnike ne želi da prevodi - to ne znam. U svakom slučaju, uspješno je pao na testu

[nikeze]

Neosporan je uspjeh vještačke inteligencije i u slučaju prevođenja teksta ili govora na bilo koji jezik je dosegla vrhunac.
Međutim, vještačka inteligencija uči repeticijom, a ne kao djeca intuicijom.
Nedostaje joj svijest o vlastitom postojanju, osjećaji i sjećanja.
Nedostaju joj neke od osnovnih osobina ljudskog mozga : mašta, intuicija i imaginacija.
Još uvijek nije ništa samostalno izumila kao što su naučnici u sferi kvantne mehanike i teorijske fizike gdje se zapravo rade pomaci u nauci.
Ipak, ide dalje napredak je impresivan, ali trenutno je to skup algoritama koje neki zovu "stohastički papagaj".

[arman1]

Neosporan je uspjeh vještačke inteligencije i u slučaju prevođenja teksta ili govora na bilo koji jezik je dosegla vrhunac.
Međutim, vještačka inteligencija uči repeticijom, a ne kao djeca intuicijom.
Nedostaje joj svijest o vlastitom postojanju, osjećaji i sjećanja.
Nedostaju joj neke od osnovnih osobina ljudskog mozga : mašta, intuicija i imaginacija.
Još uvijek nije ništa samostalno izumila kao što su naučnici u sferi kvantne mehanike i teorijske fizike gdje se zapravo rade pomaci u nauci.
Ipak, ide dalje napredak je impresivan, ali trenutno je to skup algoritama koje neki zovu "stohastički papagaj".

Neke stvari sam u zadnje vrijeme toliko efikasno uradio da sam se malo i uplašio. Jednostavno za neke stvari je beton. Na drugim stvarima truba.

[Truba]

da beton...olakšalo život
ja zapovjedim svaki put da zapamti sve o meni kako bi svaki sljedeci odgovor bio bolji i meni prilagodjen
rekao sam da mi se obraca kao starijem covjeku pa da takve budu i teme odgovora

pocinje vako:

Stari moj, dobro se sjećam bilo je to davno ali nisam zaboravio

[toska]

Neosporan je uspjeh vještačke inteligencije i u slučaju prevođenja teksta ili govora na bilo koji jezik je dosegla vrhunac.
Međutim, vještačka inteligencija uči repeticijom, a ne kao djeca intuicijom.
Nedostaje joj svijest o vlastitom postojanju, osjećaji i sjećanja.
Nedostaju joj neke od osnovnih osobina ljudskog mozga : mašta, intuicija i imaginacija.
Još uvijek nije ništa samostalno izumila kao što su naučnici u sferi kvantne mehanike i teorijske fizike gdje se zapravo rade pomaci u nauci.
Ipak, ide dalje napredak je impresivan, ali trenutno je to skup algoritama koje neki zovu "stohastički papagaj".

Tačno, ali to ne bi trebao biti problem, sve on to moze skontat kopirajuci nas, tako i radi, uči od nas sve pa i način razmišljanja.
Na kraju neće se moći ustanoviti razlika i ta pitanja biti će irelevantna, da li su stvarna ili kopirana.

[dr_Evil]

Neosporan je uspjeh vještačke inteligencije i u slučaju prevođenja teksta ili govora na bilo koji jezik je dosegla vrhunac.
Međutim, vještačka inteligencija uči repeticijom, a ne kao djeca intuicijom.
Nedostaje joj svijest o vlastitom postojanju, osjećaji i sjećanja.
Nedostaju joj neke od osnovnih osobina ljudskog mozga : mašta, intuicija i imaginacija.
Još uvijek nije ništa samostalno izumila kao što su naučnici u sferi kvantne mehanike i teorijske fizike gdje se zapravo rade pomaci u nauci.
Ipak, ide dalje napredak je impresivan, ali trenutno je to skup algoritama koje neki zovu "stohastički papagaj".

Tačno, ali to ne bi trebao biti problem, sve on to moze skontat kopirajuci nas, tako i radi, uči od nas sve pa i način razmišljanja.
Na kraju neće se moći ustanoviti razlika i ta pitanja biti će irelevantna, da li su stvarna ili kopirana.

Ja samo cekam da izume pozitronski mozak i Mr. Data-u. Nista ne priznam do toga

[Praetorious]

@Truba


Kad započe sa "Kad sam ja biJo mlad..." onda se treba zabrinuti

Ma neke stvari dobro radi, čak me iznenadi nivoom komunikacije, ali brate... ko kad je glupa mašina pa ga ne mogu poslati u PM jer istu nema...

[zilog]

Neosporan je uspjeh vještačke inteligencije i u slučaju prevođenja teksta ili govora na bilo koji jezik je dosegla vrhunac.
Međutim, vještačka inteligencija uči repeticijom, a ne kao djeca intuicijom.
Nedostaje joj svijest o vlastitom postojanju, osjećaji i sjećanja.
Nedostaju joj neke od osnovnih osobina ljudskog mozga : mašta, intuicija i imaginacija.
Još uvijek nije ništa samostalno izumila kao što su naučnici u sferi kvantne mehanike i teorijske fizike gdje se zapravo rade pomaci u nauci.
Ipak, ide dalje napredak je impresivan, ali trenutno je to skup algoritama koje neki zovu "stohastički papagaj".

Ne ocekujes valjda, da ce ChatGPT od 20$ mjesecno, praviti proboje u sferi kvantne mehanike?
Nece, jos uvijek, ni laboratorijski modeli, ali je napredak dramatican. Ove godine su OpenAI i Google modeli osvojili zlatne medalje na Medjunarodnoj Matematickoj Olimpijadi. Kada LLM-ovi, suvereno zavladaju vrhunskom matematikom, moci cemo ocekivati i proboje u sferi fizike.

Sto se tice intuicije i imaginacije, da bolje upoznas kako funkcionisu LLM-ovi (pokrenes neki lokalni LLM), vidio bi da su i intuicija i imaginacija, itekako prisutni (kontrolisani sa nekoliko parametara: temperatura, max p, ...). Cak su i problematicni, zbog "haluciniranja".

Nevjerovatna je kolicina slicnosti, izmedju masinskog i ljudskog nacina ucenja i rezonovanja. Ljudi su mnogo efikasniji i uce na manjem broju primjera, ali masine imaju prednost brzine i paralelizacije. Osim toga i algoritmi ucenja, napreduju iz dana u dan...

[nikeze]

Evo npr. postoji softver koji koriste policijske agencije u svijetu ClearView https://www.clearview.ai/. Anotatori iz Afrike i Indije (jeftini kompjuterski operateri) po cijeli dan sjede ispred računara i isijecaju sa ekrana fotografije osoba sa društvenih mreža i unose u bazu podataka. Tako je Clearview skupio 5 milijardi slika o osobama iz cijelog svijeta. Problem je kad identifikuje pogrešnu osobu putem kamera koje su postavljene na ulicama. Ako su uneseni blizanci sigurno će pogriješiti. I griješio je. Dakle, radi na osnovu unesenih slika u bazu podataka i algoritma koji mjeri udaljenosti između očiju usta i nosa.
Bio je dokumentarni film o tome.

[Truba]

ruke mu se blagoslovile ko ovo izumi
dobijes tekst sa spejsovima c c z sh zs sh...nista ni sa cim prored margine ovo ono
kazes mu da to sredi
bombona

skenirad tekst fali dijelova...turbo scribe,,,

samo kazes nadopuni sto fali uljepsaj
ma bombona

[Malisa11]

Ako su uneseni blizanci sigurno će pogriješiti. I griješio je.

Kakav je ovo argument? Pa ja cu pogrijesiti izmedju blizanaca, a ne ai.

[nikeze]

Ako su uneseni blizanci sigurno će pogriješiti. I griješio je.

Kakav je ovo argument? Pa ja cu pogrijesiti izmedju blizanaca, a ne ai.

Griješio je i u slučaju sličnih osoba i potpuno različitih osoba afroamerikanaca. Posljedice su bile ozbiljne jer su povlačile kazne po tu osobu.
AI uči repeticijom i mora se unijeti hiljadu slika jednog pojma da bi određenom vjerovatnoćom AI zaključila da je nešto ispravno. Srednja vrijednost je stvarna vijednost mjerenja kad broj uzoraka mjerenja teži beskonačnosti. To se može dokazati limesom sume mjerenja kad n teži beskonačno.

[Malisa11]

Majstore, pa naravno da ce "javna" verzija imati brdo gresaka, ona ustvari uci na tome.

Malo naprednije, ali opet ne do kraja otkljucane verzije cine cuda, jos kada nema moralnih ili bilo kakvih ogranicenja. Samo sto ti nisi imao pristup tome.

[Truba]

sad sam morao pitati geminija o cemu vas dvojica pricate jer nista ne razumijem

[nikeze]

Majstore, pa naravno da ce "javna" verzija imati brdo gresaka, ona ustvari uci na tome.

Malo naprednije, ali opet ne do kraja otkljucane verzije cine cuda, jos kada nema moralnih ili bilo kakvih ogranicenja. Samo sto ti nisi imao pristup tome.

I ne treba mi. Volim razgibavati moždane vijuge.
Hvala bogu pa se nekad učilo.