Sistemul de verificare a vârstei bazat pe AI de pe YouTube face ravagii, marcând eronat conturi vechi de o mulțime de ani ca fiind deținute de minori.
Pentru cei care nu sunt la curent cu subiectul, YouTube a implementat un sistem de verificare a vârstei utilizatorilor bazat pe AI. În teorie, acesta ar trebui să identifice automat conturile deținute de copii, pentru a nu le permite accesul la conținut nepotrivit pentru vârsta lor.
Toate bune și frumoase în teorie, doar că în practică, AI-ul funcționează la fel de prost cu mulți, inclusiv eu, se așteptau.
Utilizatori vechi ai platformei au fost catalogat drept minori și, în consecință, li s-a limitat drastic accesul la conținut. Aceștia nu au de făcut decât să treacă prin verificarea manuală a vârstei, urcând actul de identitate sau măcar un selfie.
Asta este știrea. În spatele știrii, mă tem că situația este mult mai nasoală.
Dacă existe rezultate pozitive false, trebuie să existe și false negative. Adică așa cum adulții au fost marcați greșit ca minori, trebuie să fie și conturi de minori marcate ca fiind ale unor adulți.
Iar asta este și mai grav, pentru că înseamnă că nu se atinge scopul sistemului – acela de a proteja copiii de conținutul periculos.
Și asta îmi arată mie încă o dată cât de false sunt laudele aruncate de Google AI-ului. Înainte de YouTube, Google a lăsat securitatea Play Store, magazinul oficial de conținut pentru Android, pe mâna AI-ului.
Asta a scăpat compania de plata unor salarii, dar nu a îmbunătățit și securitatea, ba chiar poate din contră. Au existat zeci sau chiar sute de cazuri în care masurile de securitate automatizate au fost păcălite cu ușurință de aplicații cu malware care au ajuns pe telefoanele utilizatorilor.
Ce vreau să spun este că Google este recidivist. Pune AI-ul la treabă pentru a face economie, chiar dacă asta înseamnă rezultate mai slabe decât ceea ce ar fi făcut oamenii.
Marile companii de tehnologie se plâng că este greu să faci astfel de verificări când ai miliarde de utilizatori. Ceea ce este adevărat. Dar uite ce mai este la fel de adevărat: când ai miliarde de utilizatori, ai și miliarde de dolari profituri. Nu e ca și cum nu ai avea cu ce.
Problema este că li se permite, mai ales cu Trump la cârma, să facă foarte multe măgării.