Google reușește din nou performanța de a fi util și periculos în același timp, de data asta cu AI Overviews, rezumatele acelea „magice” care apar deasupra rezultatelor din căutări.
The Guardian a observat că, atunci când vine vorba de informații medicale, Google afișează avertismentele importante exact acolo unde se uită cel mai puțină lume: după ce apeși pe „Afișează mai mult”, la finalul secțiunii, în font mic, timid, aproape rușinat. Practic, dacă vrei să afli că AI-ul poate greși, trebuie să fii dispus să faci un mic quest secundar. Ca să fie și mai clar, e ca și cum ai merge la bancă, pentru un credit, iar la final de contract, cu litere mici, de nu le vezi nici cu ochelarii bunicii, scrie că dobânda poate fi crescută unilateral de către creditor. 🙁
Și partea cea mai frumoasă? Dacă primești direct informații sensibile, cum ar fi cele despre sănătate, avertismentul nici nu apare. Abia dacă ceri detalii suplimentare, Google îți spune, cu o voce interioară foarte calmă, că poate ar fi bine să vorbești totuși cu un medic. Până atunci, te lasă să crezi că AI-ul știe exact ce face.
Google susține că sistemul „încurajează oamenii să consulte un profesionist”, ceea ce sună minunat, doar că încurajarea asta e ascunsă mai bine decât un secret de stat. Experții în inteligență artificială și organizațiile de pacienți spun că avertismentele ar trebui să fie vizibile din primul moment, nu puse ca notă de subsol la finalul unei pagini pe care majoritatea utilizatorilor nici nu o deschid.
Citind toată povestea, senzația mea este că Google încearcă să împace două lumi: utilitatea rapidă a rezumatelor generate de AI și responsabilitatea de a nu induce oamenii în eroare. Doar că balanța înclină periculos spre prima. Într-o perioadă în care mulți își diagnostichează orice simptom cu o căutare pe telefon, avertismentele ascunse sunt exact opusul a ceea ce ar trebui să fie. Dacă tot ne dă AI-ul sfaturi medicale, măcar să ne spună clar că nu e medic, nu să ne lase să descoperim asta la final, cu lupa, că dacă nu le găsim, sigur ne va sugera și un consult oftalmologic!
Cauta cineva diagnostic medical pe AI???
Acum sunt convins ca sunt prea batran!
Eu am cautat o singura data pe google ceva medical, cred ca prin 2006 sau 2007, si rezultatele cautarii ziceau ca mai am putin si mor. De atunci nu am mai incercat asa ceva.
Încearcă acuma cu AI și vezi, apoi poți face o comparație 🙂
:)) nu mersi.
Citisem pe linkedin un comentariu simpatic. Zicea ceva de genul: ironic este ca tool-ul secolului 21 este ceva ce iti spune ce a scris cineva pe redit acum 8 ani. Si s-au investit miliarde ca sa poate face asta.
Problema e ca, daca ceri referintele pe care se bazeaza rapsunsul AI, vezi forumuri si bloguri si wikipedia. Deci 0 credibilitate, cel putin pentru mine.
Eu am cautat diverse informatii medicale pe AI si pot spune ca am ramas impresionat de rezultat. Adica trebuie sa ii dai cat mai multe informatii, si iti da variantele posibile ca si diagnostic. Dar de fiecare data a mentionat sa consult un specialist si sa nu ma iau doar dupa informatiile alea. Din pacate specialistii sunt doar cu numele in unele locuri prin tara, asa ca s-a dovedit ca AI le nimereste mai bine decat un „specialist” cu scoli inainte in cazul investigat de mine. Partea buna e ca AI iti explica si 2-3 ore de ce a ajuns la un anume diagnostic, pe cand in realitate te trezesti ca te cheama in privat. Si am vazut cu ochii mei un chirurg cand a intrebat AI despre o situatie…. ciudat nu? AI e totusi o enciplopedie enorma. Daca ar fi un AI medicat antrenat pe toate cartile din lume si pe milioane de radiografii si RMN-uri si CT-uri si ecografii, cred ca ar fi un inntrument foarte bun.
Ai punctat foarte bine!
Un motor de cautare foarte bine pus la punct pe toata informatia medicala disponibila la nivel mondial ar fi mai credibil. Desi ar fi nevoie de un specialist (nu din ala care are doar hartiile) care sa priceapa daca e corect sau nu ce gaseste cu ai-ul.
Uite, apropo de exemplul tau cu chirurgul, eu am cerut AI-ului sa imi dea o lista cu toate publicatiile lui Charles Concordia, care a fost inginer la GE si a publicat niste articole foarte importante in domeniul electrotehnicii. Rezultatul AI a fost o aberatie, mai exact a dat titlul a doua sau trei articole.
Parerea mea ramane ca LLM-urile astea ar putea fi ok-ish in anumite cazuri, dar cand e vorba de ceva specializat, nu prea pot fi folosite, decat daca sunt configurate sa caute in surse dedicate. Practic sa iti poata face un fel de cuprins ca sa stii unde gasesti ralid informatia. Dar tor specialistul sa o citeasca si sa decida daca e sau nu corecta si daca poate fi aplicata.
Mi-am băgat imaginea EKG în Gemini și înainte de a intra la cardiolog știam ca n-am nimic. Totuși mă avertiza că trebuie sa consult un cardiolog. Ceea ce am si făcut doar că m-a mai costat încă 70 RON ecocardiografia care stabilea că n-am nimic.
Ah, deci problema erau ăia 70 Ron, nu faptul că ai fost consultat de un specialist cu aparat medical profesional…
Acuma si cu ecografia asta, depinde cine o citeste. Unii nu vad nimic.
Eu am avut fracturi pe care primul medic nu le-a vazut. Oricum si azi cred ca ala de fapt nu era medic desi era in spital.
Deci depinde unde nimeresti, si ideal e sa ai minim 2 pareri.
am vorbit si cu ChatGPT si cu DeepSeek, amandoua au dat rezultate destul de bune, dar la un moment dat, au devenit paranoice amandoua, si mi-au recomandat insistent, ca: maine la prima ora te duci la medic, numai pierzi nici un minut acasa, te duci la medic si ii spui ce ai. Normal ca le-am inchis pe amandoua si mi-am vazut de treaba, de unde sa stie ele ca asa traiesc eu din comunismul lui impuscatul si n-am avut nici pe naiba. Nu te baga in seama nici pe vremea aia nimeni, si nici acum nu te baga in seama, daca nu le dai spaga necesara in buzunar. Iar eu ca un adevarat roman ce sunt, nu vreau sa le dau nimic, pentru ca am asigurare de sanatate. Oare ChatGPT si DeepSeek au auzit vre-o data de cuvantul Spaga? au macar notiunea a ceea ce inseamna acet cuvant? nu vreau sa-i caracterizez pe toti asa, dar unii dintre cei care cer si iau spaga, sunt cu adevarat niste Velociraptor T-Rex. Cred ca asta inca nu stiu AI-urile deloc.
Nu le mai dați, dacă i-ați obișnuit așa pe o parte dintre medici, polițiști, funcționari publici și alții. Oricum, tind să cred că „atențiile” nu se mai dau chiar așa la lumina zilei, fiindcă acum sunt camere peste tot și e ușor să faci plângeri și reclamații, ci mai înafara programului, prin pauze, toalete etc.