Un sistem de inteligență artificială gândit la Univ. Cuza Iași poate detecta depresia din postări de pe social media
Un program de inteligență artificială dezvoltat la Universitatea „Alexandru Ioan Cuza” din Iași (UAIC) citește postări de pe platforma X (fost Twitter), apreciază dacă autorul lor dă semne de depresie și scrie apoi, în limbaj obișnuit, de ce a ajuns la acea concluzie. Pe lângă text, programul se uită și la ora la care a fost publicat mesajul.
Sistemele de inteligență artificială pot fi folosite pentru monitorizarea stărilor emoționale în funcție de conținutul publicat online, dar majoritatea oferă doar un verdict, fără explicație.
Uniunea Europeană a interzis folosirea sistemelor IA care citesc emoțiile oamenilor la locul de muncă sau la școală din cauza riscurilor pentru persoanele vulnerabile. În afara acestor contexte, astfel de sisteme sunt considerate „cu risc ridicat” și vor trebui prin lege să-și explice deciziile și să permită control uman – iar echipa UAIC a construit un sistem care să permită exact acest lucru.
Conf. dr. Mădălina Răschip, de la Facultatea de Informatică a UAIC, a coordonat construirea unui sistem IA care face ambele lucruri deodată: spune dacă o postare arată semne de depresie și, în același timp, explică în una-două propozitii de ce a ajuns la concluzia respectivă.
„În domeniul sănătății mintale, simpla clasificare nu este suficientă”, explică Mădălina Răschip. „Medicii, utilizatorii și inclusiv cercetătorii trebuie să înțeleagă de ce modelul consideră că o postare este clasificată ca indicând depresie. Explicațiile cresc transparența și încrederea în sistem și permit verificarea faptului că modelul se bazează pe indicii relevante, nu pe corelații întâmplătoare.”
Punctul de plecare a fost o observație mai veche din literatura de specialitate, și anume că ora din zi la care cineva postează pe social media spune ceva despre starea psihică a persoanei. Autorii au vrut nu doar să testeze această ipoteză, ci și să propună un model de inteligență artificială care să explice deciziile. „Am vrut să vedem dacă, pe lângă conținutul mesajului, și momentul publicării poate ajuta în detectarea depresiei”, precizează conf. Mădălina Raschip.
De la text și oră, la o explicație
Programul citește mai întâi textul postării și încearcă să-i înțeleagă sensul cu ajutorul unui model de inteligență artificială bazat pe o rețea neuronală de tip Transformer, numit BERT. „Acest model încearcă să înțeleagă sensul cuvintelor în funcție de context”, detaliază conf. Mădălina Răschip, rezultatul fiind o reprezentare numerică a mesajului.
Acesteia i se adaugă informația despre momentul publicării, adică ora din zi și ziua din săptămână. O a treia componentă scrie apoi explicația, cuvânt cu cuvânt, pornind de la verdictul dat și de la ora postării.
Cercetătorii ieșeni au antrenat sistemul pe aproximativ 20.000 de mesaje postate pe platforma X provenite de la 72 de utilizatori, jumătate marcate ca fiind asociate depresiei, jumătate nu. Pe setul de test, programul a nimerit verdictul corect în 85% dintre cazuri.
Cei doi autori au ales X (fostul Twitter) pentru că acolo postările sunt publice și afișează ora exactă la care au fost scrise, fără de care întreaga idee a lucrării ar fi rămas neverificabilă. În plus, „pe X postările sunt scurte, spontane și surprind adesea starea de moment”, detaliază cercetătoarea UAIC.
Ora contează, dar moderat
„Analiza a arătat că postările clasificate drept depresie apar mai frecvent în timpul nopții și dimineața devreme, în timp ce postările din jurul prânzului tind să primească scoruri mai mici”, clarifică Mădălina Răschip. „Aceste tendințe sunt generale, nu reprezintă reguli stricte.”
Scrierea justificărilor s-a dovedit însă mai grea decât verdictul propriu-zis. Pentru antrenarea modelului de IA s-au folosit explicații generate anterior cu ajutorul GPT-4. Autorii au generat o explicație pentru verdict cu ajutorul modelului propus și apoi au comparat explicația oferită cu cea deja existentă.
Explicațiile produse de model au avut un sens apropiat cu cele inițiale, dar lexical s-au suprapus destul de puțin. Cu alte cuvinte, programul reformulează în cuvintele lui și surprinde ideea emoțională centrală a postării.
Prima lucrare identifica șase afecțiuni și a fost premiată
Sistemul de acum vine după o cercetare mai largă, publicată anul trecut, în care autorii au construit un program capabil să facă distincția între șase afecțiuni psihice (depresie, anxietate, tulburare bipolară, tulburare de personalitate borderline, schizofrenie și autism) pornind de la postări scrise în comunități online dedicate fiecăreia dintre ele.
Datele au provenit de pe platforma Reddit, iar cele mai bune rezultate le-au dat tot modelele din familia BERT, comparate cu metode clasice de învățare automată. Pentru această lucrare mai veche Dan Dodun-des-Perrieres, student masterand la programul Studii Avansate în Informatică al Facultății de Informatică și coautor, a primit premiul pentru cea mai bună lucrare a unui student la conferința AIAI 2025 de la Limassol, în Cipru.
În limba română, sistemul trebuie să înțeleagă și ironia
Sistemul încă nu a fost testat pe texte în limba română, iar transferul nu ar fi unul automat. Autorii susțin că modelul BERT ar trebui înlocuit cu unul preantrenat pentru română, iar limba în sine ridică dificultăți. „Limba română este o limbă flexionară. De asemenea, exprimarea emoțiilor și a stărilor psihice poate fi diferită din punct de vedere lingvistic și cultural. În română apar expresii idiomatice sau forme de ironie specifice care trebuie învățate de model”, explică conf. dr. Mădălina Răschip.
Următorul model va analiza evoluția activității în timp
Pe viitor, cercetătorii doresc să testeze un concept asemănător pentru conținutul conturilor de utilizator urmărite în timp. „Vrem să combinăm mai multe tipuri de informații, text, imagini și date temporale, pentru a obține o imagine cât mai completă a stării emoționale a unui utilizator”, spune Mădălina Răschip.
Cercetătorii menționează că sistemul este destinat strict cercetării. „Datele analizate trebuie anonimizate pentru protejarea indivizilor. O implementare practică poate implica probleme de etică.”
