Google a anunțat joi un set nou de îndrumări pentru dezvoltatorii de aplicații AI distribuite prin Google Play, în încercarea de a reduce conținutul inadecvat și interzis. Compania specifică faptul că aplicațiile care oferă funcții AI vor trebui să prevină generarea de conținut restricționat, care include conținut sexual, violență și multe altele. De asemenea, utilizatorii vor trebui să aibă posibilitatea de a semnala conținutul ofensator pe care îl găsesc.
Google solicită dezvoltatorilor să își testeze riguros instrumentele și modelele AI pentru a asigura siguranța și confidențialitatea utilizatorilor. Aplicațiile cu materiale de marketing care promovează cazuri de utilizare inadecvate, cum ar fi dezbrăcarea oamenilor sau crearea de imagini nud neconsensuale, vor fi interzise de pe Google Play.
Aceste orientări urmăresc să combată proliferarea aplicațiilor AI de dezbrăcare care s-au promovat agresiv pe rețelele sociale în ultimele luni. Un raport din aprilie al 404 Media a dezvăluit că Instagram găzduia reclame pentru aplicații care pretindeau că folosesc inteligența artificială pentru a genera nuduri false. Aplicațiile respective au fost ulterior eliminate din magazinele de aplicații ale Apple și Google, dar problema persistă.
În SUA, școlile raportează cazuri în care elevii transmit nuduri false AI ale colegilor și profesorilor pentru a-i hărțui. Luna trecută, un deepfake rasist al unui director de școală a dus la o arestare în Baltimore, subliniind gravitatea problemei, care afectează chiar și elevii de gimnaziu.
Noile Restrictii Impuse de Google pentru Aplicatiile Dedicate Telefoanelor Android
Google susține că noile politici vor ajuta la menținerea departe de Google Play a aplicațiilor AI care pot fi inadecvate sau dăunătoare pentru utilizatori. Compania recomandă verificarea Politicii privind conținutul generat de inteligența artificială pentru a înțelege cerințele de aprobare a aplicațiilor. Aplicațiile AI nu trebuie să permită generarea de conținut restricționat și trebuie să ofere utilizatorilor metode de semnalare a conținutului ofensator și de monitorizare a feedback-ului.
Dezvoltatorii trebuie să evite promovarea aplicațiilor lor prin cazuri de utilizare neadecvate, deoarece acest lucru poate duce la eliminarea aplicațiilor din Google Play. De asemenea, dezvoltatorii sunt responsabili pentru protejarea aplicațiilor împotriva manipulărilor care ar putea genera conținut dăunător.
Google încurajează folosirea funcției de testare închisă pentru a partaja versiunile preliminare ale aplicațiilor cu utilizatorii și a colecta feedback. Compania subliniază importanța testării și documentării riguroase, deoarece poate solicita revizuirea acestor teste în viitor.
Aceste măsuri stricte sunt esențiale pentru a proteja utilizatorii și pentru a menține integritatea platformei Google Play, prevenind răspândirea conținutului inadecvat generat de AI.
