Europese privacytoezichthouder wil verbod op AI die sociale scores kan maken

Dit wordt nu al gedaan via Google Ads bijvoorbeeld. Facebook doet vergelijkbaar.
Dit gebeurt op persoonsniveau.

Als jij vandaag product X koopt bij leverancier L met looptijd van 1 jaar, wordt je over een maand of 11 automatisch duurder om product X aan te promoten en voorgesteld aan de concurrenten van L dat je ‘in de markt voor product X’ bent.

Segmentatie van personen is gewoon geworden voor marketeers.

Google deelt de informatie in je profiel met alle websites die je bezoekt via Google Analytics. Onder andere je geschatte leeftijd, je geschatte locatie, je geschatte intresses op dit moment, etc.

Je snapt dat Google deze op basis van je zoek acties, gebruik van Google Maps, backup in Photo’s, Games etc. heel nauwkeurig kan inschatten.

Facebook doet vergelijkbaar.
Microsoft verzameld en profileert vergelijkbaar (ook zakelijk).

@JayStout
En Tweakers heeft al jaren een sociale score, dat heet Karma in je profiel en in zekere zin Tweakotine ook.
Afhankelijk van hoe lang en hoe intensief je je sociaal wenselijk gedraagd krijg je van het Tweakers algoritme meer privileges.
De score op Tweakers is ook openbaar en leden kunnen het algoritme tippen als mensen zich sociaal wenselijk om onwenselijk gedragen. Het algoritme van Tweakers “leert” daardoor meer over het sociaal wenselijk gedrag van de persoon.

Je zou dit systeem als een AI voor social scoring kunnen aanmerken. Hij wordt regelmatig bijgewerkt als er nieuwe uitwassen bekend worden.

Ook kunnen individuen niet meer beschikken over hun eigen werk dat ze op dit platform zetten. Ze kunnen het niet verwijderen en na een aantal dagen ook niet wijzigen, ook blijven de eerdere ongewijzigde versies altijd online staan. Dit onder het mom van ‘anders zouden trollen …’,
Van de redactie stukken blijft niet elke wijziging of correctie publiek staan.

Er is dus geen mogelijkheid om jezelf te verbeteren, je blijft bestempeld met je eerdere fouten. Een strafblad verdwijnt maar je spelfouten of andere redenen voor wijziging blijven je levenslang na jagen.