Concluzii BCC 2026 (Bucharest Cybersecurity Conference): ce trebuie să facă organizațiile în era agenților AI

Concluziile-cheie ale BCC 2026

• Agenții AI trebuie tratați ca identități digitale, cu cont propriu, drepturi minime și un responsabil uman, la fel ca angajații.
• Agenții AI funcționează continuu și execută acțiuni reale, așa că verificarea umană a fiecărei decizii nu mai este posibilă. Aprobarea umană se rezervă acțiunilor critice.
• Shadow AI, adică instrumentele AI folosite fără să fie inventariate, este primul risc de guvernanță AI în companii.
• Inteligența artificială face atacurile cibernetice mai rapide, nu neapărat mai sofisticate. Timpul de reacție devine indicatorul principal.
• Găzduirea datelor în UE nu garantează controlul asupra lor. Contează cine are acces administrativ, cine controlează cheile de criptare și cine sunt subcontractanții.
• Numărul vulnerabilităților nu este același lucru cu riscul. Prioritizarea corectă ține cont de exploatare, expunere și impactul asupra activității.
• Securitatea AI este un proces continuu, nu un proiect cu dată de finalizare.

Introducere

Am participat la Bucharest Cybersecurity Conference 2026 în calitate de reprezentant GDPR Complet. Am urmărit sesiunile și panelurile celor trei zile cu o întrebare practică: ce înseamnă fiecare temă pentru obligațiile GDPR, NIS2 și AI Act ale companiilor și instituțiilor?

Tema dominantă a conferinței a fost trecerea de la inteligența artificială care oferă informații la inteligența artificială care execută acțiuni. Mai jos sunt concluziile pe care le consider cele mai relevante pentru organizații, împreună cu obligațiile legale aferente.

10 concluzii despre AI și securitate cibernetică, recomandări pentru companii

1. Agenții AI trec de la oferirea de informații la executarea de acțiuni

Agenții AI au trei niveluri de autonomie, iar riscul crește odată cu nivelul. Clasificarea prezentată la BCC 2026 împarte utilizarea AI astfel:

• Nivelul 1, „Help me” (ajută-mă): AI oferă informații și sinteze, iar omul decide.
• Nivelul 2, „Investigate for me” (investighează pentru mine): AI analizează o situație și recomandă acțiuni, iar decizia rămâne la om.
• Nivelul 3, „Act for me” (acționează în locul meu): AI execută acțiuni în limitele permisiunilor primite.

Un chatbot răspunde doar când primește o întrebare. Un agent AI poate funcționa 24 de ore din 24, poate accesa e-mailuri, fișiere și aplicații și poate produce efecte reale în sistemele organizației. Pentru că un agent AI ia un număr foarte mare de decizii succesive, verificarea umană a fiecărei operațiuni nu mai este practică. Controlul se mută pe reguli tehnice, iar aprobarea umană se păstrează pentru acțiunile critice.

Panelul „Agentic AI in the Wild: What Practitioners Are Seeing, Fearing and Building” (21 octombrie 2026) a fost dedicat exact acestei tranziții: ce implementează deja organizațiile, de ce se tem specialiștii și ce mecanisme de control se construiesc.

Ce spune legea: AI Act (Regulamentul (UE) 2024/1689) stabilește obligațiile în funcție de rolul organizației (furnizor sau implementator) și de clasificarea fiecărui sistem AI. Pentru sistemele cu risc ridicat, art. 14 impune supravegherea umană, iar art. 26 stabilește obligațiile implementatorilor.

2. Agenții AI sunt a treia categorie de identitate digitală, după oameni și sisteme

Identitatea AI este o categorie nouă de identitate digitală, alături de identitatea umană și de identitatea de mașină. Organizațiile gestionează de mult conturile angajaților (identitatea umană) și pe cele ale serverelor, aplicațiilor și API-urilor (identitatea de mașină). La BCC 2026 s-a vorbit explicit despre a treia categorie: identitatea agenților AI.

Principiul prezentat la conferință: agenții AI se gestionează ca angajații digitali. Concret, fiecare agent AI are nevoie de:

• cont propriu, nu acces generic sau partajat;
• drepturi minime, strict pentru activitatea autorizată (principiul „least privilege”);
• un responsabil uman desemnat;
• jurnalizarea acțiunilor executate;
• revizuire periodică a permisiunilor;
• posibilitatea de suspendare imediată.

Drepturile excesive transformă un agent AI într-o țintă valoroasă pentru atacatori. Cu cât un cont are mai multe privilegii, cu atât compromiterea lui produce un impact mai mare.

O identitate validă nu garantează un comportament corect. Un agent AI autentificat corect, cu drept legitim de citire a unei baze de date, poate totuși să exporte volume mari de date către o destinație externă. Din acest motiv, modelul Zero Trust se extinde la agenții AI pe trei niveluri: verificarea identității, verificarea fiecărei acțiuni înainte de execuție și monitorizarea continuă a comportamentului.

Ce spune legea:

• NIS2 (Directiva (UE) 2022/2555), art. 21 alin. (2) lit. i), cere politici de control al accesului și de gestionare a activelor.
• GDPR, art. 25 și art. 32, cere protecția datelor încă din faza de proiectare și măsuri de securitate adecvate, inclusiv limitarea accesului.

3. Shadow AI este primul risc de guvernanță AI în companii

Shadow AI înseamnă instrumentele și funcțiile de inteligență artificială folosite într-o organizație fără să fie inventariate sau aprobate. Exemplele discutate la BCC 2026 includ extensii de browser, funcții AI activate în aplicații deja folosite, scripturi care apelează modele AI și asistenți conectați la e-mail și documente.

Concluzia conferinței pe această temă: o organizație nu poate guverna un sistem AI despre care nu știe că există. Inventarul formal al majorității organizațiilor nu include aceste utilizări.

Un inventar AI util nu este o listă de denumiri comerciale. Pentru fiecare utilizare, inventarul trebuie să răspundă la șase întrebări:

1. Ce activitate deservește sistemul AI și cine răspunde de el?
2. Ce date primește și cât de sensibile sunt?
3. Cine este furnizorul și unde sunt procesate datele?
4. Ce poate citi, modifica, transmite sau șterge sistemul?
5. Oferă informații, recomandă acțiuni sau le execută?
6. Ce aprobări, jurnale și mecanisme de oprire există?

Ce spune legea:

• GDPR, art. 30: fiecare utilizare a AI pe date personale este o activitate de prelucrare și trebuie inclusă în registrul activităților de prelucrare.
• AI Act: fără inventar nu este posibilă clasificarea sistemelor și, implicit, nici stabilirea obligațiilor aplicabile.
• NIS2, art. 21 alin. (2) lit. i): gestionarea activelor include și sistemele AI.

4. Agenții AI iau decizii greșite atunci când datele procesate sunt false sau manipulate

Un sistem AI corect din punct de vedere tehnic poate lua decizii greșite dacă documentele sau mesajele pe care le procesează conțin informații false ori instrucțiuni ascunse. Două formulări de la BCC 2026 au rezumat problema: „Data is food for AI” (datele sunt hrana inteligenței artificiale) și „Do we trust the data?” (putem avea încredere în date?).

Riscurile principale discutate:

• Contaminarea datelor (data poisoning): introducerea de date false pentru a influența rezultatele AI.
• Prompt injection indirect: instrucțiuni malițioase ascunse într-un document, o pagină web sau un e-mail citit de agentul AI.
• Surse neverificate: informații tratate automat ca adevărate, fără verificarea provenienței.

O instrucțiune scrisă în promptul agentului, de tipul „nu accesa date neautorizate”, nu este un control de acces. Autorizarea trebuie impusă tehnic, în sistemele care execută efectiv operațiunea. Ghidurile OWASP pentru aplicațiile LLM tratează explicit acest risc.

Ce spune legea:

• GDPR, art. 5 alin. (1) lit. d): datele trebuie să fie exacte.
• GDPR, art. 22: deciziile bazate exclusiv pe prelucrare automată, cu efecte asupra persoanelor, au un regim juridic special.
• AI Act: sistemele cu risc ridicat au cerințe de guvernanță a datelor (art. 10).

5. Observabilitatea AI arată de ce a acționat un agent, nu doar ce a făcut

Observabilitatea AI este capacitatea unei organizații de a reconstitui ce date, instrumente și decizii au condus la o acțiune a unui agent AI. Monitorizarea și observabilitatea nu sunt același lucru:

• Monitorizarea arată, de exemplu, că un agent AI a executat 150 de acțiuni și 5 au eșuat.
• Observabilitatea arată de ce au eșuat cele 5 acțiuni, ce date au fost folosite și ce sisteme au fost afectate.

Mesajul transmis la BCC 2026: jurnalizarea a ceea ce s-a întâmplat este necesară, dar insuficientă. Pentru investigarea unui incident contează întregul lanț de surse, instrumente apelate și decizii intermediare.

Jurnalele instrumentelor AI pot deveni un nou depozit de date personale. Capturarea integrală a prompturilor, documentelor și răspunsurilor copiază informații confidențiale într-un sistem nou, de multe ori fără termen de păstrare și fără reguli de acces. Trasabilitatea trebuie proiectată astfel încât să permită investigarea fără să dubleze datele sensibile.

Ce spune legea:

• GDPR, art. 5 alin. (1) lit. c) și e): minimizarea datelor și limitarea perioadei de stocare se aplică și jurnalelor.
• AI Act, art. 12: sistemele cu risc ridicat trebuie să permită înregistrarea automată a evenimentelor.

6. Inteligența artificială face atacurile cibernetice mai rapide, nu neapărat mai sofisticate

Avantajul principal al atacurilor asistate de AI este viteza și scara, nu complexitatea tehnică. Ideea formulată la BCC 2026: AI nu este un atacator mai sofisticat, ci unul mult mai rapid. Inteligența artificială automatizează tehnicile de atac deja cunoscute: identificarea țintelor, descoperirea vulnerabilităților și phishingul personalizat la scară mare.

Consecința pentru organizații: intervalul dintre detectarea, investigarea și izolarea unui atac devine indicatorul principal de securitate. Procedurile construite pe ideea că există câteva zile pentru reacție nu mai corespund realității.

Un furnizor compromis permite atacarea simultană a mai multor organizații. La BCC 2026 au fost prezentați trei vectori de atac asupra lanțului de aprovizionare:

• componente software compromise, integrate în aplicațiile care le folosesc;
• procesul de construire și semnare a software-ului, prin care codul malițios este distribuit ca actualizare legitimă;
• accesul privilegiat al furnizorului, reutilizat în infrastructurile mai multor clienți.

Ce spune legea:

• NIS2, art. 21 alin. (2) lit. b): gestionarea incidentelor.
• NIS2, art. 21 alin. (2) lit. d): securitatea lanțului de aprovizionare.
• NIS2, art. 21 alin. (2) lit. j): autentificarea multifactor.
• GDPR, art. 28: furnizorul cu acces la date personale este persoană împuternicită și are nevoie de un contract conform.

7. Numărul vulnerabilităților nu este același lucru cu riscul

Un raport cu sute de vulnerabilități nu spune conducerii ce trebuie remediat mai întâi. Tema discutată la BCC 2026 sub formula „Filter the noise” (filtrați zgomotul) a fost că scorul CVSS singur nu este o evaluare de risc. Prioritizarea corectă combină cinci factori:

1. severitatea tehnică;
2. probabilitatea de exploatare;
3. existența unei exploatări active cunoscute;
4. expunerea sistemului;
5. impactul asupra activității organizației.

Lipsa alertelor nu dovedește lipsa amenințărilor. O prezentare de la BCC 2026 a arătat că atacatorii operează pe niveluri diferite de vizibilitate: internetul public, zonele accesibile ale dark web-ului și comunitățile private, pe bază de invitație, unde instrumentele automate de monitorizare nu ajung.

Panelul „Bug Bounties in the AI Era: Finding the Cracks Before the Adversary Does” (21 octombrie 2026) a discutat identificarea vulnerabilităților înainte ca atacatorii să le exploateze, inclusiv prin canale prin care terții pot raporta vulnerabilitățile descoperite.

Ce spune legea:

• NIS2, art. 21 alin. (2) lit. e): gestionarea și divulgarea vulnerabilităților.
• NIS2, art. 21 alin. (2) lit. f): evaluarea eficacității măsurilor de securitate.

8. Găzduirea datelor în UE nu garantează controlul asupra lor

Suveranitatea datelor înseamnă controlul efectiv asupra datelor, nu doar locația serverelor. Tema a fost prezentă în fiecare zi a BCC 2026. Faptul că un furnizor de cloud sau AI stochează datele într-un centru de date din Uniunea Europeană nu arată cine are acces la ele.

Evaluarea unui furnizor trebuie să acopere cinci aspecte:

• accesul administrativ și de suport al furnizorului;
• subcontractanții implicați;
• cine controlează cheile de criptare;
• posibilitatea de export și ștergere a datelor la finalul contractului;
• dificultatea migrării către alt furnizor.

Ce spune legea:

• GDPR, art. 28: obligațiile contractuale ale persoanelor împuternicite.
• GDPR, art. 44–49: regimul transferurilor de date personale în afara Spațiului Economic European.
• NIS2, art. 21 alin. (2) lit. d): evaluarea dependențelor critice de furnizori.

9. Securitatea AI este un proces continuu, nu un proiect cu dată de finalizare

Securitatea aplicațiilor a evoluat în trei etape: aplicații web, interfețe API și aplicații AI. Fiecare etapă adaugă controale noi fără să le elimine pe cele existente. Un filtru pentru prompturi nu înlocuiește autentificarea și autorizarea corecte.

La BCC 2026 a fost prezentat un parcurs de implementare a securității AI în 90 de zile:

• zilele 0–30: securizarea unei singure aplicații AI;
• zilele 30–60: extinderea controalelor la toate aplicațiile AI;
• zilele 60–90: securizarea agenților AI autonomi.

Concluzia prezentării: după cele 90 de zile, testarea, actualizarea controalelor și monitorizarea continuă. Controalele de securitate AI se construiesc din patru surse:

1. reglementările care se aplică deja organizației, de exemplu GDPR;
2. cerințele specifice AI, de exemplu AI Act;
3. amenințările concrete ale fiecărui caz de utilizare;
4. constatările din testarea sistemelor.

Ce spune legea:

• NIS2, art. 21 alin. (2) lit. a): politici de analiză a riscurilor, revizuite periodic.
• GDPR, art. 32 alin. (1) lit. d): testarea și evaluarea periodică a eficacității măsurilor de securitate.

10. Criza cibernetică se gestionează la nivelul conducerii

Conducerea organizației răspunde de gestionarea unei crize cibernetice, nu doar departamentul IT. La BCC 2026, pregătirea conducerii a fost discutată prin trei măsuri:

• celulă de criză cu roluri stabilite dinainte;
• canale alternative de comunicare, pentru situațiile în care e-mailul sau telefonul sunt compromise;
• verificarea instrucțiunilor sensibile pe un canal independent. Un cod convenit în prealabil ajută, dar nu înlocuiește verificarea.

Mesajele automate de absență dezvăluie informații utile atacatorilor. Mesajele „Out of Office” transmise extern includ frecvent telefoane personale, numele înlocuitorilor, funcții și perioada exactă a absenței, adică informații folosite pentru impersonare și phishing țintit. Soluția nu costă nimic: un mesaj extern generic, cu o adresă funcțională de contact.

Ce spune legea:

• NIS2, art. 20: organele de conducere aprobă măsurile de securitate, supraveghează implementarea și pot răspunde pentru încălcări.
• NIS2, art. 21 alin. (2) lit. c): continuitatea activității, backup și gestionarea crizelor.
• NIS2, art. 23: avertizare timpurie în 24 de ore, notificare în 72 de ore și raport final în termen de o lună. În România, NIS2 a fost transpusă prin OUG nr. 155/2024, iar raportarea se face către DNSC.
• GDPR, art. 33: încălcarea securității datelor personale se notifică la ANSPDCP în 72 de ore.
• GDPR, art. 5 alin. (1) lit. c): datele angajaților nu se comunică extern fără necesitate.

Ce obligații AI Act se aplică deja companiilor

Două obligații din AI Act se aplică tuturor organizațiilor vizate din 2 februarie 2025:

• interdicția practicilor AI interzise (art. 5);
• obligația de alfabetizare AI (art. 4): personalul care folosește sisteme AI trebuie să aibă cunoștințe adecvate, iar organizația trebuie să poată demonstra acest lucru.

Obligațiile de transparență și cerințele pentru sistemele cu risc ridicat se aplică etapizat. Obligațiile concrete ale fiecărei organizații depind de rolul ei și de clasificarea fiecărui sistem AI.

Cinci întrebări pe care conducerea unei companii ar trebui să și le pună după BCC 2026

1. Știm ce instrumente AI folosesc angajații noștri, inclusiv pe cele neaprobate?
2. Ce date ale clienților, pacienților sau angajaților ajung în instrumentele AI și unde sunt procesate?
3. Avem agenți AI care execută acțiuni, cine răspunde de ei și cum îi putem opri?
4. Știm cine are acces efectiv la datele noastre la furnizorii de cloud și AI?
5. Am exersat un incident cibernetic împreună cu conducerea, nu doar cu departamentul IT?

Protecția datelor, securitatea cibernetică și guvernanța AI nu mai pot fi tratate separat

Același instrument AI generează simultan obligații GDPR, cerințe NIS2 și obligații AI Act. Aceasta este concluzia pe care BCC 2026 a confirmat-o și pe care o vedem zilnic în activitatea cu clienții.

GDPR Complet oferă companiilor și instituțiilor servicii integrate pe toate cele trei reglementări:

• DPO externalizat și consultanță GDPR: evaluare, implementare și relația cu ANSPDCP;
• Responsabil NIS2 externalizat: gestionarea riscurilor cibernetice, a incidentelor și a raportării către DNSC;
• Conformitate AI Act: inventarul utilizărilor AI, clasificarea sistemelor, guvernanță și alfabetizare AI.

GDPR Complet lucrează cu aproximativ 200 de organizații din sănătate, producție, retail, servicii financiare, educație și sectorul public. Metoda noastră pornește de la o singură analiză a datelor, sistemelor și furnizorilor, folosită pentru toate cele trei reglementări. Fiecare măsură este urmărită pe cinci niveluri de dovadă: declarat, documentat, configurat, testat și verificat în funcționare.

Introduceți un instrument AI în organizație sau vreți să aflați unde vă situați față de GDPR, NIS2 și AI Act? Scrieți-ne la contact@gdprcomplet.ro.

Întrebări frecvente

Ce este un agent AI?
Un agent AI este un sistem de inteligență artificială care poate accesa aplicații, fișiere și e-mailuri și poate executa acțiuni în numele unei organizații, fără să aștepte o întrebare pentru fiecare pas. Spre deosebire de un chatbot, un agent AI poate funcționa continuu și produce efecte reale în sisteme.

Cum se gestionează securitatea unui agent AI?
Un agent AI se gestionează ca un angajat digital: cont propriu, drepturi minime, un responsabil uman, jurnalizarea acțiunilor, revizuirea periodică a permisiunilor și posibilitatea de suspendare imediată.

Ce este Shadow AI?
Shadow AI înseamnă instrumentele și funcțiile de inteligență artificială folosite într-o organizație fără să fie inventariate sau aprobate, de exemplu extensii de browser sau asistenți conectați la e-mail. Ele generează obligații GDPR și AI Act chiar dacă organizația nu știe de existența lor.

Este folosirea unui instrument AI o prelucrare de date personale?
Da, atunci când instrumentul AI primește date personale ale clienților, pacienților sau angajaților. Utilizarea trebuie inclusă în registrul activităților de prelucrare (GDPR, art. 30), iar furnizorul este, de regulă, persoană împuternicită (GDPR, art. 28).

Este suficient ca datele să fie găzduite în Uniunea Europeană?
Nu. Locația serverelor nu arată cine are acces la date. Trebuie evaluate accesul administrativ al furnizorului, subcontractanții, controlul cheilor de criptare și posibilitatea de a exporta și șterge datele.

Ce obligații AI Act se aplică deja?
Din 2 februarie 2025 se aplică interdicția practicilor AI interzise (art. 5) și obligația de alfabetizare AI pentru personalul care folosește sisteme AI (art. 4). Celelalte obligații se aplică etapizat, în funcție de rolul organizației și de clasificarea fiecărui sistem.

Care sunt termenele de raportare a unui incident cibernetic conform NIS2?
NIS2 (art. 23) cere avertizare timpurie în 24 de ore, notificare în 72 de ore și raport final în termen de o lună. În România, raportarea se face către DNSC. Dacă incidentul afectează date personale, GDPR (art. 33) cere în paralel notificarea ANSPDCP în 72 de ore.