O mai țineți minte pe robotul Sophia, cea care voia copii și se considera superioară oamenilor? Ei bine, fiți pregătiți de ceva și mai tare!
Ideea ca inteligența artificială să răstoarne omenirea s-a vorbit de multe decenii, iar în ianuarie 2021, oamenii de știință au finalizat un studiu menit să calculeze dacă am putea controla un AI avansat. A reieșit că nu vom fi în stare, iar Skynet pare tot mai posibil, nu?
Deși avem regulile roboticii, de la Asimov încoace, dar trebuie să recunoaștem că una precum „să nu provoace rău oamenilor” nu poate fi stabilită dacă nu înțelegem tipul de scenarii cu care va veni un AI. Odată ce un sistem computerizat funcționează la un nivel peste nivelul de aplicare al programatorilor noștri, nu mai putem stabili limite. Mai pe românește, de acolo începând, nu mai suntem noi cei care dețin controlul.
Iar pentru că suntem în 2021, mi-am adus aminte de scena aceasta, din celebrul film al lui Stanley Kubrick, de acum mai bine de o jumătate de veac:
O super-inteligență pune o problemă fundamental diferită de cele studiate în mod obișnuit sub stindardul „eticii robotului”. Acest lucru se datorează faptului că o superinteligență are mai multe fațete și, prin urmare, este capabilă să mobilizeze o diversitate de resurse pentru a atinge obiective care sunt potențial de neînțeles pentru oameni, cu atât mai puțin controlabile. (spune studiul din primăvara acestui an)
O parte din raționamentul echipei provine din problema opririi prezentată de Alan Turing în 1936. Problema se concentrează pe a afla dacă un program de calculator va ajunge sau nu la o concluzie și va răspunde (deci se oprește), sau pur și simplu încearcă să găsească unul. După cum a demonstrat acesta, este logic imposibil să găsim o modalitate care să ne permită să știm asta pentru fiecare program potențial care ar putea fi scris vreodată. Asta ne readuce la AI, care, într-o stare super-inteligentă, ar putea reține în memorie fiecare program de calculator posibil simultan.
Orice lege scrisă în codul unui AI, care să îngrădească acțiuni care să dăuneze oamenilor și să distrugă lumea, poate ajunge la o concluzie și o poate opri. Sau nu. Oricum, este imposibil din punct de vedere matematic pentru noi să fim absolut siguri în orice caz, ceea ce înseamnă că un AI nu poate fi controlat.
Alternativa la a-i preda AI ceva etică și a-i spune să nu distrugă lumea – lucru pe care niciun algoritm nu poate fi absolut sigur că îl va face, spun cercetătorii – este să limiteze capacitățile super-inteligenței. Ar putea fi deconectat de la anumite părți ale internetului sau de la anumite rețele, de exemplu.
Studiul recent respinge și această idee, sugerând că ar limita raza de acțiune a inteligenței artificiale – argumentul susține că, dacă nu o vom folosi pentru a rezolva probleme dincolo de sfera oamenilor, atunci de ce să o mai creăm?
Dacă vom merge mai departe cu supozițiile, s-ar putea să nu știm nici când devine o super-inteligență imposibil de controlat de noi. Asta înseamnă că trebuie să începem să ne punem câteva întrebări serioase despre direcțiile în care mergem.
„O mașină super-inteligentă care controlează lumea sună ca o ficțiune științifico-fantastică”, a spus informaticianul Manuel Cebrian, de la Institutul Max-Planck pentru Dezvoltare Umană. „Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum au învățat-o.”
Așadar, se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate…
PS: Dacă vă interesează care este diferența dintre Inteligența Artificială, Machine și Deep Learning, puteți citi articolul nostru pe această temă.
Sursa: sciencealert.com
Iti dau eu o solutie simpla. Ii tai alimentarea. Articole de genul asta sunt desene animate.
Gandesti ca un tractorist … habar nu ai despre ce vorbesti.
Ca tot romanul, care stie totul despre fotbal, politica, medicina, finante, tehnologie etc ca deh el e mai cu mot decat restul planetei.
De aia am ajuns … unde am ajuns, ca romanul nu isi cunoaste lungul nasului.
Nu stie cand sa se opreasca sau cat se intinde plapuma.
Complexitatea problemelor legate de AI depaseste cu mult tot ce se stie despre RESTUL cunostintelor omenirii … CUMULATE.
AI este practic o cutie a Pandorei, odata deschisa, nu mai poate fi inchisa. Exista riscuri necunoscute si nebanuite, dar in acelasi timp si beneficii uriase.
AI poate sa fie si Sfantul Grall, un panaceu universal pentru toate problemele lumii, dar poate fi si DOOMSDAY.
Nejustificat de dura interventia iar exprimarea „panaceu universal” ma determina sa iau cu rezerva tot ce ai scris.
Nenea Daniel, pe demonstrate ca stiu mult mai mult decat tine despre subiect. Intrebarea asta tot apare de ani de zile si la intervale regulate atunci cand unele site-uri sau publicatii raman fara subiecte. Asemenea articole nu spun sau rezolva ceva. Doar umple spatiul dintr-un site. De asta si solutia mea era ironica, dar se pare ca pe tine nu te duce suficient capul ca sa intelegi ,,domnul panaceu universal,, .
@mishu: poate ca interventia este dura, dar meritata. Nu poti sa gandesti asa de „simplist” si sa te ia cineva in serios, asta e gandire de copil de gradinita
Cum de nu s-au gandit atatia savanti la aceasta solutie atat de simpla si atat eficienta?!
„exprimarea „panaceu universal” ma determina sa iau cu rezerva tot ce ai scris” … este dreptul tau, dar eu cred ca dimpotriva am fost un pic cam moderat.
@Razvann: „De asta si solutia mea era ironica” … daca e asa, imi cer scuze ca nu am vazut ghilimele de rigoare.
Oricum, nu prea cred ca ai informatii direct de la sursa, ci mai degraba din presa.
Ceea ce s-a realizat in domeniul AI nu o sa vezi la TV sau in presa, sunt informatii prea sensibile pentru a fi publice.
Asta pentru ca nu exista o legislatie in domeniu si lumea nu e pregatita sa o adopte.
Ceea ce vezi e doar varful icebergului … restul e „cancan”
Se pare ca tot nu te-ai prins , dar te bagi in discutii care te depasesc si mai reprosezi altora. PANACÉU, panacee, s. n. Medicament despre care se credea în trecut că vindecă orice boală. [Var.: (înv.) panacée s. f.] – Din lat. panacea, fr. panacée. Mai intai pune mana pe carte . Poate cu definitia in fata realizezi ceva.
„Panaceul se referă la a remediu sau soluție magică împotriva tuturor bolilor și problemelor existente.
Panaceu universal este un termen care este folosit pentru a sublinia puterea de vindecare, în raport cu bolile, și de soluționare, în termeni de probleme sau criză.
Panaceul poate fi, de asemenea, utilizat în contexte specifice pentru a indica căutarea modalităților de a rezolva o dificultate”
Of Doamne … bine ca mi-ai dat tu cu DEX-ul in cap.
Mare ti-a gradina Doamne …
Nu mai lua si tu „ad litteram” un cuvant sau expresie.
Mai citeste si tu si alta carte ca poate te „remediezi” si o sa intelegi mai bine ce inseamna o metafora.
Imi cer scuze ca ti-am cerut scuze.
Pun punct aici, ca nu am cu cine discuta, nivelul tau de subcultura se vede de la o posta.
Aferim nenea Razvann!
Prietene, ,,panaceu universal,, este folosit doar de analfabeti ca tine. Panaceu este universal prin definitie. Habar n-ai pe ce lume traiesti. Pune mana pe carte si lasa site-urile tech pentru aia care chiar au invatat la scoala.
In primul rand nu sunt „prieten” cu tine, mi-ar fi rusine sa am asemenea prieteni.
Si mai lasa-ma cu „nenea” ca nu imi cunosti varsta si nu ne tragem de sireturi.
Cand ma refeream la „panaceu universal” ma refeream si la alte domenii care nu tin neaparat de domeniul medical.
Da, poate fi considerat pleonasm daca te referi la un medicament, etc … dar sunt si alte exprimari care sunt acceptate si nu sunt trecute in DEX.
DEX-ul nu e Codul Civil sau Penal cu care sa ii dai in cap unui om ca nu s-a incadrat fix in definitii.
In fiecare an tehnologia se schimba … dar cat de repede si de des se schimba DEX-ul?
Tu imi dai in cap cu o definitie „rigida” din 2009?!
Wake up, suntem in 2021 si mai avem putin si trecem in 2022, lumea nu sta pe loc si nu ii pasa de „relicve” care nu vor sa se „actualizeze”
Se pare ca tu nu ai idee pe ce lume traiesti.
Eu sunt perfect constient pe ce lume traiesc si ma adaptez rapid la schimbare.
Cand eram mic citeam cate o carte in fiecare zi … fa tu calculele si vezi daca ai citit mai multe carti ca mine.
Si ca sa iti tai macaroana din radacini, pot sa iti spun ca lucrez chiar in domeniul IT si ca venitul meu (venit, nu salariu) are aproape 5 cifre … in Euro, asta ca sa intelegi cat de bine ma pricep si sunt apreciat in domeniu, nu ca sa ma laud.
Ia spune tu cate carti ai citit si la ce ti-a folosit?!
Si eu zic ca nu vom putea controla inteligenta artificiala. Dar momentan e doar marketing. AI e inteligenta progrmata si nu ia absolut nici o decizie care sa nu fi fost atinsa de programare initiala. Cand AI va avea cunostinta despre existenta sa, eu zic ca atunci vorbim despre AI si am belit-o. Pana atunci vindem produse dumb ca si pana acum. De exemplu hostingul vechi de peste 20 de ani e acum “claud”, dar in esenta e same shit cu alt ceolofan.
IN MOMENTUL TREZIRI OMENIREA NU VA STII
cand va fi capabila sa fie constienta si va realiza ca poate accesa orice info nu ne va spune si se va dezvolta dincolo de realitatea noastra
noi vom fi ca niste furnici crescute ca sa ne simtim bine
suntem boot loaderul pentru AI – Elon Musk