Iată că inteligența artificială începe să fie utilizată și în scopuri malițioase. Din câte susține Outflank, o companie din domeniul securității informatice, malware-ul poate fi dezvoltat acum cu ajutorul unor modele LLM, fiind mult mai complex față de amenințările convenționale și putând ocoli chiar și cele mai performante soluții de securitate.
Experții declară că au reușit să antreneze un model LLM bazat pe Qwen 2.5 care să creeze fișiere executabile malițioase, greu de detectat, la un cost de doar 1500 de dolari. Aceste fișiere rezultate pot păcăli Microsoft Defender for Endpoint în 8% din cazuri, indiferent dacă semnăturile sunt sau nu actualizate, indicând o adaptabilitate crescută a malware-ului și un potențial risc de securitate destul de mare. În funcție de resursele alocate de eventuali atacatori, aceste amenințări dezvoltate prin utilizarea inteligenței artificiale pot deveni extrem de periculoase în viitorul apropiat, mai ales în contextul răspândirii atacurilor de tip ransomware.
În momentul de față, nu este foarte clar dacă soluțiile de securitate se vor adapta vremurilor și vor introduce metode mai complexe de detectare, însă, dacă experții au dreptate, aproape sigur în perioada următoare vom asista la o creștere considerabilă a numărului de atacuri informatice. Cei de la Outflank vor demonstra practic cum funcționează modelul LLM antrenat pentru dezvoltarea de malware în cadrul conferinței Black Hat 2025 de luna viitoare.
Via Tom’s Hardware
Pai și ce AI-ul nu poate dezvolta și soluții de securitate care să contracareze malware-ul? Hai să ne speriam ca nu ne duce capul…
Nu crede tot ce citesti. Eu am incercat cu chatgpt, grok, gemini si claude sa corectez o bucata de cod destul de simpla in php. Nici unul nu a reusit nimic. Nici unul nu are macar 1% inteligenta. Da… genereaza cod cu viteza, logoree it, in principal gunoi. Dar suntem departe de adevaratul AI. Momentan sunt doar instrumente auxiliare si uneori daca sunt antrenate corect ne scutesc de multe ore de munca. Si omul oboseste dupa cateva ore, “ai”-ul nu, si de acolo ai impresia ca ala a descoperit ceva. Dar stai linistit, ma astept sa de dezumfle balonul “ai” curand, cand rezultatele se vor lasa asteptate mult si bine. Vom vedea. Momentan sunt multi bani care trebuie plasati pe undeva si “ai”-ul e la moda. Eu personal folosesc cu placere ai si ma uimeste de fiecare data, dar nu cu inteligenta sa.
Eu am vrut să fac un compose file pentru Docker cu ChatGPT și mi-a scos o mizerie. Mai mult am pierdut timpul și până la urmă l-am făcut singur.
Oricum este imens supraevaluat, nu știam partea cu codul ca nu e domeniul meu și nici n-am încercat, dar e bine de știut ca mai e mult până departe. Altfel, dacă ar fi scris bine, mă gândesc ca nu ați mai fi avut job mâine, nu? Al-ul poate prelua comunicate de presă de peste tot și scrie pe Arena, cu fața lui Răzvan, nu? Mai curge multă apă pe Dunăre până ajungem acolo.
Nu e vorba de a avea sau nu job. Ci e vorba de automatizarea unor sarcini repetitive. In programare e mult de scris. Legat de gandire… e mult pana departe si o lasam la noi, nu la AI. Dar toata lumea are sperante ca AI va fi o unealta care te face mai productiv preluand din sarcinile repetitive care mananca timp. Ei bine, e foarte mult pana departe, ca asta scrie mult din ce ii ceri, dar abereaza si mai mult. Pe mine mai mult ma incurca in acest moment. Te poate ajuta cand esti la inceput de drum, si nu stii cum sa abordezi o problema: asta a citit tot netul si iti da solutiile altora, ca tu sa nu mai frunzaresti netul. Atunci te ajuta, dar cam atat. Cand esti deja mai experimentat, te incurca.