A kínai kiberfelügyelet új javaslatcsomagot tett közzé, amely azokat a mesterségesintelligencia‑szolgáltatásokat szabályozná szigorúbban, amelyek emberi személyiséget, gondolkodásmódot vagy érzelmi reakciókat utánoznak. A tervezet célja, hogy visszafogja az ilyen rendszerek túlzott érzelmi hatását, és megvédje a felhasználókat az esetleges függőségtől.

A javaslat szerint az AI‑platformoknak egyértelmű figyelmeztetéseket kellene megjeleníteniük, ha a felhasználó túl intenzíven vagy túl gyakran lép kapcsolatba a rendszerrel, és szükség esetén be is kell avatkozniuk. A szabályozó hatóságok úgy látják, hogy az érzelmi kötődést kiváltó technológiák gyors terjedése új kockázatokat hozott, ezért a szolgáltatóknak a teljes életciklus során felelősséget kell vállalniuk a biztonságért, az adatkezelésért és az algoritmusok átláthatóságáért.

A tervezet külön kitér a pszichológiai kockázatokra is. A szolgáltatóknak fel kellene ismerniük, ha egy felhasználó szélsőséges érzelmi állapotba kerül vagy függőségi mintázatot mutat, és ilyen esetekben kötelező lenne a beavatkozás. A dokumentum szerint a cél az, hogy az AI ne váljon olyan eszközzé, amely érzelmileg kiszolgáltatott helyzetbe sodorja az embereket.

A javaslat egyértelműen meghúzza a tartalmi határokat is. A szolgáltatások nem generálhatnak olyan tartalmat, amely veszélyezteti a nemzetbiztonságot, álhíreket terjeszt vagy erőszakos, illetve obszcén elemeket jelenít meg. A kínai hatóságok ezzel is jelezni kívánják, hogy a mesterséges intelligencia terjedése mellett továbbra is ragaszkodnak a szigorú tartalomszabályozáshoz.

A tervezet jelenleg társadalmi egyeztetés alatt áll, a hatóságok pedig azt ígérik, hogy a visszajelzések alapján véglegesítik a szabályokat.