UBB Cluj intră în lupta împotriva urii online! Universitatea participă la un proiect european de milioane pentru detectarea mesajelor ascunse

Universitatea Babeș-Bolyai din Cluj-Napoca (UBB), prin Facultatea de Științe Politice, Administrative și ale Comunicării (FSPAC), este parteneră în proiectul european de cercetare PROCLAIM – Polarization, Radicalization and Extremism Online: Identifying Covert Hate Speech in State-of-the-Art Artificial Intelligence Technologies and Social Media, o inițiativă finanțată prin programul Horizon Europe al Uniunii Europene, care își propune să dezvolte instrumente inovatoare pentru identificarea și combaterea discursului instigator la ură ascuns din mediul online.

Coordonat de Universitatea Tilburg (Țările de Jos), proiectul reunește zece universități, institute de cercetare și organizații ale societății civile din șase țări europene și se va desfășura pe o perioadă de 36 de luni. În cadrul UBB, coordonarea proiectului este asigurată de prof. univ. dr. Radu Meza, directorul Departamentului de Jurnalism și Media Digitală al FSPAC.

În ultimii ani, discursul instigator la ură din mediul online a devenit tot mai dificil de identificat. Dacă formele explicite ale acestuia pot fi detectate relativ ușor, noile manifestări utilizează adesea limbaj codificat, ironie, meme sau mesaje ambigue, concepute pentru a evita identificarea de către platformele digitale, sistemele automate de moderare și autoritățile de reglementare.

UBB Cluj intră în lupta împotriva urii online! Universitatea participă la un proiect european de milioane pentru detectarea mesajelor ascunse

Fenomenul, denumit în cadrul proiectului „discurs instigator la ură ascuns”, contribuie la amplificarea polarizării sociale, la radicalizare și la erodarea dialogului democratic, fiind alimentat inclusiv de dezvoltarea accelerată a inteligenței artificiale și a modelelor lingvistice avansate.

„Înțelegerea mecanismelor prin care discursul instigator la ură ascuns se propagă în mediul digital reprezintă o condiție esențială pentru dezvoltarea unor politici publice eficiente și a unor instrumente tehnologice capabile să protejeze spațiul democratic. Participarea UBB la acest proiect reflectă angajamentul universității de a contribui la soluționarea unor probleme majore ale societății contemporane prin cercetare interdisciplinară și colaborare internațională”, subliniază coordonatorul echipei UBB, prof. univ. dr. Radu Meza.

PROCLAIM reunește specialiști din domenii diverse – filosofie politică, drept, informatică, psihologie, studii media și comunicare publică – urmărind să dezvolte un cadru conceptual și metodologic capabil să identifice formele ascunse de discurs instigator la ură în mai multe limbi și pe diferite tipuri de platforme digitale.

Proiectul vizează:

• dezvoltarea unor instrumente bazate pe inteligență artificială pentru detectarea discursului instigator la ură ascuns;
• elaborarea unor mecanisme de protecție și evaluare pentru modelele lingvistice de mari dimensiuni (LLM);
• formularea de recomandări pentru politicile europene privind guvernanța inteligenței artificiale, responsabilitatea platformelor și protejarea democrației digitale;
• realizarea unor campanii de conștientizare și programe educaționale dedicate tinerilor;
• organizarea de mese rotunde, ateliere și dialoguri internaționale cu factori de decizie, cercetători, organizații ale societății civile și reprezentanți ai industriei tehnologice.

Pe lângă componenta de cercetare și dezvoltare tehnologică, proiectul pune un accent deosebit pe educație și prevenție. Consorțiul va implementa programe de informare și sensibilizare care vor ajunge la peste 1.500 de tineri europeni, cu scopul de a consolida capacitatea acestora de a recunoaște și combate manipularea informațională, dezinformarea și mesajele extremiste din mediul digital.