Prima pagină » Știri » Social » Utilizarea IA în atacuri cibernetice

Utilizarea IA în atacuri cibernetice

Cât de ușor se poate cădea victimă a înșelăciunilor în care este utilizată AI și cum poate fi folosită în defavoarea populației?

Articol editat de Bianca Câmpeanu, 19 iunie 2025, 13:21

De curând a fost publicat un studiu realizat de prestigioasa universitate americană Massachusetts Institute of Technology (MIT) care a evaluat performanțele persoanelor care folosesc ChatGPT, a celor care utilizează internetul pentru a căuta informații și a celor care se bazează pe gândirea proprie. Oamenii au elaborat eseuri în timpul cărora cercetătorii efectuau scanări electroencefalografice (EEG), care măsoară activitatea cerebrală.

Cercetătorii au constatat că cei care s-au bazat pe ChatGPT au avut performanțe mai slabe decât cei din grupul care au elaborat eseul singuri, pe toate nivelurile: neuronal, lingvistic și ca performanță generală.

Concluziile au fost foarte clare. Folosirea chatboților de inteligență artificială (precum ChatGPT, Gemini, Copilot) afectează gândirea critică și memoria, prostind, în realitate utilizatorii. Practic, creierul “se deconectează” și are o performanță semnificativ mai scăzută în cazul celor care folosesc constant AI-ul.

Așadar, în contextul în care tot mai mult este utilizată AI și în România, este aproape imposibil să nu se întâmple și erori. Și îmi doresc să fac referire, în special, la siguranța personală și la folosirea manipulativă a acestei noi forme de inteligență.

Gina Pop, coordonatorul Biroului de Prevenire din cadrul Inspectoratului Județean de Poliție Cluj vorbește despre cât de ușor se poate cădea victimă a înșelăciunilor în care este utilizată AI:

Reporter: Care poate fi pericolul utilizării AI atunci când avem în vedere siguranța personală?

Gina Pop: În contextul actual, sunt identificate riscuri semnificative asociate inteligenței artificiale (IA), în special în ceea ce privește securitatea cibernetică. Aceste riscuri includ posibilitatea utilizării IA în atacuri cibernetice de amploare, care ar putea afecta infrastructurile informatice și de comunicații de interes național.
Riscuri specifice asociate IA identificate de DNSC:
· Utilizarea IA în atacuri cibernetice:
IA poate fi folosită pentru a automatiza și accelera atacurile cibernetice, ceea ce ar putea duce la o creștere a frecvenței și complexității acestora.
· Crearea de conținut malițios:
IA poate fi folosită pentru a genera conținut fals (deepfakes) sau alte forme de dezinformare, care ar putea fi folosite pentru a manipula opiniile publice sau pentru a induce în eroare utilizatorii.
Pentru a contracara aceste riscuri, este necesară abordarea atât proactivă, cât și reactivă, care include dezvoltarea de strategii și măsuri de securitate cibernetică adaptate riscurilor specifice IA, precum si investiții în cercetare. Colaborarea internațională pentru a împărtăși informații și resurse și creșterea gradului de conștientizare a publicului cu privire la riscurile IA și metodele de protecție este în același timp foarte importantă.

Reporter: Cum este folosita AI în scam-uri și în țara noastră?

Gina Pop: Pe măsură ce inteligența artificială continuă să se dezvolte și devine tot mai mult integrată în variate aspecte ale vieților noastre, este important să cunoaștem potențialele riscuri pe care această tehnologie le prezintă.
Tehnologia deepfake și denaturarea realității. Pe măsură ce tehnologiile AI avansează, se dezvoltă și instrumentele pentru clonarea vocii și generarea de conținut deepfake, făcându-le din ce în ce mai accesibile și eficiente. Aceste tehnologii au suscitat îngrijorări cu privire la potențiala lor utilizare în răspândirea dezinformării, deoarece rezultatele devin mai personalizate și mai convingătoare. Ca urmare, ar putea exista o creștere a schemelor sofisticate de phishing ce folosesc imagini, videoclipuri și comunicări audio generate de inteligența artificială.

„Aceste comunicări pot fi adaptate destinatarilor individuali (uneori incluzând vocea clonată a unei persoane dragi), ceea ce le face mai susceptibile de a avea succes și mai greu de detectat atât de utilizatori, cât și de instrumentele antiphishing”, menționează raportul.
Un alt risc prezentat de sistemele de inteligență artificială este crearea unui sentiment fals de importanță și de încredere, în care oamenii ar putea supraestima capacitățile acesteia și le-ar putea submina pe ale lor, ceea ce ar putea duce la o dependență excesivă de tehnologie. Sistemele AI pot crea confuzie în rândul oamenilor din cauza limbajului asemănător cu cel uman utilizat de acestea. Acest lucru i-ar putea face pe oameni să atribuie calități umane inteligenței artificiale, ceea ce ar duce la dependență emoțională și încredere mare în capacitățile acesteia, făcându-i mai vulnerabili la slăbiciunile AI în „situații complexe și riscante pentru care AI este echipată doar superficial”. Mai mult, interacțiunea constantă cu sistemele AI ar putea să-i facă pe oameni să se izoleze treptat de apropiați, ceea ce ar avea un impact negativ asupra vieții lor. Oamenii și-ar putea pierde liberul arbitru din cauza AI O altă îngrijorare a experților de la MIT este referitoare la delegarea tot mai mare a deciziilor și acțiunilor către AI pe măsură ce aceste sisteme avansează.
Dependența excesivă de AI ar putea duce la o reducere a gândirii critice și a abilităților de rezolvare a problemelor la oameni, ceea ce i-ar putea face pe aceștia să își piardă autonomia și să își diminueze capacitatea de a gândi critic și de a rezolva probleme în mod independent. La nivel personal, liberul arbitru ar putea fi compromis pe măsură ce inteligența artificială începe să controleze deciziile legate de viața lor.

Reporter: Ce alte metode de phishing fac încă victime în România?

Gina Pop: Frauda de smishing (phishing prin intermediul mesageriei telefoanelor mobile) în spațiul virtual a fost sesizată polițiștilor clujeni, vizând compromiterea unor conturi pe platforme de mesagerie și telefonie (de exemplu Whatsapp).
Aceasta presupune transmiterea către utilizatori a unui mesaj pe o rețea de mesagerie și telefonie prin care se solicită votarea unei anumite persoane în scopul de a câștiga un anumit premiu. Un exemplu de mesaj este: „Te rog să o susții pe Ana, verișoara mea, la concursul școlii ei! Poate câștiga un an de școlarizare gratuită, iar un vot din partea ta ar conta enorm. Mulțumesc mult! (link)”.
În realitate, ca urmare a accesării link-ului respectiv și a finalizării „votului”, utilizatorul oferă acces la contul său de Whatsapp făptuitorilor, care îl folosesc ulterior pentru a compromite alte conturi sau pentru a solicita sume de bani. Acesta este doar un exemplu recent al campaniilor de smishing folosite în practică, existând și alte metode care sunt în continuare actuale, precum metoda accidentului, frauda de tip 1800 și schema plată pentru click (sau plată pentru like-uri pe anumite platforme).

Ce facem?
Dacă fraudatorii reușesc să intre în posesia datelor conturilor bancare sau a datelor de card, primul pas ar fi contactarea unității bancare pentru blocarea conturilor și a cardurilor compromise, precum și luarea tuturor măsurilor de conservare a sumelor de bani aflate în conturi și anularea potențialelor tranzacții efectuate ca urmare a fraudei informatice.
În cazul fraudei de tip smishing menționate mai sus, dacă utilizatorul mai are acces la contul de Whatsapp, recomandarea este să acceseze secțiunea Settings (Setări/Configurări), să selecteze ‘Linked devices’ (Dispozitive asociate) și să elimine din listă dispozitivele necunoscute, apoi să activeze autentificarea în doi pași, dacă nu este deja aplicată. În cazul în care utilizatorul nu mai are acces la cont, va fi necesară contactarea Centrului de Ajutor al rețelei de mesagerie pentru a parcurge pașii necesari recuperării contului.
Imediat ce accesul la cont a fost recuperat/securizat, este recomandată trimiterea unui mesaj persoanelor care au primit mesaje nesolicitate din partea atacatorilor din contul utilizatorului, pentru a evita ca aceștia să ajungă și ei victime ale respectivei fraude.

Reporter: Cum putem face față acestor atacuri și care este rolul poliției în astfel de situații?

Gina Pop: În cazul în care sunt înregistrate pagube financiare, este indicată raportarea cât mai rapidă a incidentului atât către organele de urmărire penală, respectiv parchet sau poliție, cât și către DNSC (Directoratul Național de Securitate Cibernetică).
Polițiștii investighează aceste fapte de criminalitate informatică sub indrumarea procurorilor, fiind depuse toate diligențele pentru recuperarea prejudiciilor și tragerea la răspundere penală a autorilor.