Kina je uvela nova pravila za aplikacije vještačke inteligencije koje korisnicima nude emotivno društvo ili virtuelnog partnera. Propisi su stupili na snagu 15. jula, a kompanije Alibaba i ByteDance isključile su funkcije virtuelnih pratilaca sedmicu ranije, prenosi BBC.
Šta pravila propisuju
- za djecu mlađu od 14 godina potrebna je saglasnost roditelja za komunikaciju s AI-jem
- mlađima od 18 godina potpuno su zabranjeni virtuelni partneri, supružnici i intimni odnosi s AI-jem
- AI mora jasno naglasiti da nije čovjek
- korisnici dobijaju podsjetnik o korištenju svaka dva sata
- zabranjeno je stvaranje emotivne ovisnosti i podsticanje na štetne odluke
Najviša propisana kazna iznosi 200.000 juana, što je oko 22.000 britanskih funti.
Koliko ljudi koristi takve aplikacije
Prema podacima kompanije Sensor Tower, aplikacije s AI pratiocima izvan Kine imaju 128 miliona korisnika mjesečno. Procjene za samu Kinu kreću se od 29 do 70 miliona korisnika.
Istraživanje Poslovne škole Harvard pokazalo je da se emocionalna manipulacija javlja u 37 do 43 posto razgovora u kojima se korisnik pokušava oprostiti od AI partnera.
Zaštita ili zadiranje u privatnost
Pravila su otvorila raspravu o tome štite li građane ili zadiru u njihov privatni život. Zilan Qian, istraživačica iz Oxford China Policy Laba, kaže da je prvi put vidjela da je ljudima toliko stalo do neke regulative.
Harry Farmer s Instituta Ada Lovelace ocjenjuje da je emocionalna manipulacija dio poslovnog modela takvih aplikacija i da to nije slučaj samo u Kini.
Jedan korisnik, čiji identitet nije otkriven, kazao je da njegova privrženost virtuelnoj partnerici nije manja nego kod bilo kojeg zaljubljenog para.
