Watermark-ul invizibil OpenAI în UE: Ce înseamnă pentru firme

Utilizarea inteligenței artificiale în mediul de afaceri a trecut de mult de faza de experiment, devenind un instrument zilnic pentru multe companii din România. La fel ca în cazul oricărei tehnologii noi, apar însă provocări legate de autenticitate, trasabilitate și securitate. În discuțiile pe care le avem cu antreprenorii, întrebarea despre cum putem diferenția un conținut uman de cel generat automat devine din ce în ce mai frecventă, mai ales în contextul adoptării unor soluții AI în fluxul de lucru.

#Ce s-a încheiat și ce s-a întâmplat

OpenAI a anunțat că implementează un sistem de marcare invizibilă pentru textele generate de ChatGPT și Codex în Uniunea Europeană. Această tehnologie, denumită textGrain, nu modifică lizibilitatea textului pentru utilizatorul final, ci ajustează subtil alegerile lexicale ale modelului pentru a crea un model statistic ce poate fi ulterior detectat cu instrumente speciale. Măsura se aplică momentan în UE pentru utilizatorii finali, în timp ce dezvoltatorii care folosesc API-ul pot opta pentru activarea acestei funcții. Cu toate acestea, compania recunoaște că tehnologia are limitări majore: o simplă editare a textului sau înlocuirea a 25% din cuvinte cu sinonime reduce drastic șansele de detectare a amprentei digitale. Mai mult, în domenii tehnice sau exacte, unde opțiunile de vocabular sunt restrânse, eficiența detecției scade considerabil, iar lipsa unui watermark detectat nu garantează sub nicio formă că textul a fost scris de un om.

#Impact pentru firme

Pentru IMM-uri, această veste are implicații mai degrabă operaționale decât de securitate cibernetică directă. În activitatea de zi cu zi, multe companii folosesc AI pentru redactarea de emailuri, documentație internă sau materiale de marketing. Faptul că OpenAI introduce aceste marcaje nu înseamnă că firmele primesc un instrument infailibil de audit pentru angajați sau parteneri. Dimpotrivă, fragilitatea metodei – care poate fi ușor ocolită prin rescrieri minore – arată că politicile interne legate de utilizarea AI nu trebuie să se bazeze pe un detector automat. La Activ.NET Arad vedem des cum entuziasmul pentru noile tehnologii depășește uneori înțelegerea limitărilor lor tehnice, ceea ce poate duce la decizii greșite în managementul riscului intern sau în proprietatea intelectuală.

#Recomandari concrete

Pentru a naviga corect această tranziție tehnologică, recomandăm companiilor mici și mijlocii să adopte o abordare structurată:

1. Stabiliți politici clare de utilizare a AI în firmă: Definiți în scris ce tip de conținut poate fi generat cu ajutorul instrumentelor de tip ChatGPT și în ce situații este obligatorie revizuirea umană integrală.
2. Nu vă bazați pe detectoare automate de AI: Fiindcă watermark-ul invizibil sau alte instrumente de detecție pot fi păcălite prin editare simplă, folosiți auditul uman pentru verificarea calității și corectitudinii datelor.
3. Implementați măsuri de securitate adecvate pentru datele companiei: Asigurați-vă că angajații nu introduc date confidențiale ale firmei sau ale clienților în versiunile publice de AI care folosesc datele pentru antrenament.

Pentru companiile care doresc să își optimizeze infrastructura și să implementeze Soluții AI sau politici de securitate adaptate la standardele actuale, echipa Activ.NET oferă consultanță și suport dedicat.

#Concluziile noastre

Inițiativa OpenAI de a introduce watermark-uri în UE este un pas spre transparență, dar rămâne o soluție imperfectă, limitată de flexibilitatea limbajului natural. Tehnologia evoluează rapid, însă responsabilitatea revizuirii și a securizării datelor rămâne în curtea noastră, a utilizatorilor. În calitate de furnizor de servicii IT pentru mediul de afaceri, recomandăm prudență și o înțelegere clară a limitelor instrumentelor pe care le folosim zilnic în activitatea economică.

Inspirat din: OpenAI is adding invisible watermarks to ChatGPT and Codex text in the EU