Companiile care oferă astfel de servicii ar urma să aibă obligația de a informa utilizatorii, cu privire la riscurile utilizării excesive
Autoritățile chineze au lansat în dezbatere publică un proiect de reglementare care vizează înăsprirea controlului asupra aplicațiilor de inteligență artificială, capabile să imite personalitatea umană și să creeze legături emoționale cu utilizatorii. Măsura face parte din strategia Beijingului de a ține sub control expansiunea rapidă a serviciilor AI destinate publicului larg, potrivit Reuters.
Propunerile se aplică platformelor și produselor AI disponibile pe piața chineză care reproduc trăsături umane precum stiluri de gândire, tipare de comunicare sau comportamente emoționale, indiferent dacă interacțiunea are loc prin text, imagine, sunet sau video. Accentul este pus pe siguranță, etică și prevenirea efectelor nocive asupra utilizatorilor.
Conform documentului, companiile care oferă astfel de servicii ar urma să aibă obligația de a informa utilizatorii, cu privire la riscurile utilizării excesive și de a interveni atunci când apar indicii de dependență. În plus, furnizorii ar trebui să gestioneze responsabil întregul ciclu de viață al produselor, de la evaluarea algoritmilor și securitatea sistemelor, până la protecția datelor personale. Regulile propuse abordează explicit impactul psihologic al interacțiunii cu AI. Dezvoltatorii ar trebui să fie capabili să detecteze stări emoționale sensibile, să evalueze gradul de atașament al utilizatorilor și să ia măsuri atunci când sunt semnalate emoții extreme sau comportamente compulsive.
Totodată, proiectul trasează limite ferme privind conținutul generat de aceste sisteme, interzicând materialele care pot afecta securitatea națională, pot alimenta dezinformarea sau pot promova violența și obscenitatea. Prin aceste inițiative, autoritățile chineze încearcă să reducă riscurile asociate inteligenței artificiale cu interacțiune „umanizată”, într-un context în care astfel de tehnologii câștigă rapid popularitate și influență în viața cotidiană.
Urmărește România Liberă pe Google News, Linkedin, Twitter, Facebook și Youtube
