De context van haatzaaien

Mensen communiceren hedendaags sneller en met meer mensen dan ooit tevoren, allemaal vanuit het comfort van hun eigen huis. Het is veel gemakkelijker geworden om anoniem, vanuit je eigen bed, een scheldkanonnade te uiten, dan midden op het stadsplein waar je kwetsbaar bent voor rechtshandhaving of de woede van voorbijgangers; door dit gemak is haatzaaien alomtegenwoordig geworden op digitale platforms. Om deze online tsunami van haat aan te pakken, gebruiken sociale mediabedrijven geavanceerde detectiesystemen op basis van machine learning om haatzaaiende taal van hun platforms te verwijderen. Machine learning systemen - vooral die van deep learning - zijn bijzonder effectief in het verwijderen van dergelijke inhoud. Deze systemen werken op een schaal die niet te vergelijken is met handmatige menselijke detectie en kunnen zich aanpassen om nieuwe haatzaaiende termen te herkennen (Jahan & Oussalah, 2021). Ze zijn ongetwijfeld belangrijk voor de bestrijding van haatzaaiende taal en de negatieve gevolgen ervan, maar roepen ook sociale, politieke en juridische vragen op.

Haatzaaiing definiëren

De eerste uitdaging bij het opsporen van haatzaaien is het definiëren van wat we onder 'haatzaaien' verstaan. Er bestaat geen universele definitie van haatzaaien, in sommige gevallen kan een bericht namelijk beledigend zijn, maar niet noodzakelijk haatdragend. Sommige gemeenschappen maken zelf ook gebruik van termen die in een andere context als haatzaaiend zouden worden beschouwd; deze nuance is bijzonder moeilijk op te sporen middels een geautomatiseerde inhoudscontrole. Als gevolg daarvan zijn sommige, vaak gemarginaliseerde, groepen oververtegenwoordigd in bans op hun accounts. Drag queens, bijvoorbeeld, zijn de meest gebande bevolkingsgroep op Twitter vanwege hun kleurrijke taalgebruik, terwijl de inhoud van de tweets doorgaans niet haatdragend is. (Gomes, Antonialli, & Oliva, 2022).

Bedrijven proberen de uitdaging met betrekking tot het definiëren van haatzaaien aan te pakken door bedrijfsbeleid en interne richtlijnen op te stellen over wat 'aanvaardbare' taal is. Deze richtlijnen variëren van bedrijf tot bedrijf -- neem bijvoorbeeld de steeds soepeler wordende content moderatie van Twitter nadat het door Elon Musk werd gekocht -- maar worden door bijna alle bedrijven geïmplementeerd.

Het merendeel van dit beleid wordt wereldwijd toegepast door bedrijven die in de Verenigde Staten zijn gevestigd, die moeite kunnen hebben om inhoud in andere talen adequaat te modereren, of om moderatiebeslissingen te nemen die aansluiten bij de gevoeligheden, normen en wetten in andere culturen (Ahn et al., 2022; Díaz & Hecht-Felella, 2021).

Een beperking van maatschappelijke vooruitgang?

In onze huidige maatschappij heeft online haatzaaien zonder twijfel geleid tot polarisatie binnen de samenleving. Zo zien we verschillende politieke landschappen ontstaan door verhitte online debatten, waarin mensen openlijk hun mening geven over gevoelige maatschappelijke onderwerpen. De vrijheid om gedachten te uiten is een essentieel en waardevol principe, maar men kan niet simpelweg voorbijgaan aan de negatieve gevolgen van haatzaaiing op de sociale cohesie van een samenleving. De constante uiting van haat, via een digitaal medium dat zoveel individuen kan bereiken, heeft de potentie om een samenleving te fragmenteren, hetgeen leidt tot een aanzienlijk risico voor de stabiliteit van democratieën. Het definiëren van nieuwe grenzen met betrekking tot meningsuiting, betekent niet alleen dat men de sociale cohesie binnen een samenleving als geheel zal gaan reguleren, maar ook de communicatie van individu tot individu. Wanneer we beginnen met het controleren en uitroeien van vooroordelen in het menselijk denken, lopen we het risico de meningsvorming zelf te reguleren. Dit dreigt de vrijheid om te experimenteren met lang gekoesterde opvattingen over de wetenschap en maatschappij te belemmeren. De vrijheid om schokkende uitspraken te doen, zoals het beweren dat de aarde om de zon draait of dat de mens van aapachtige voorouders afstamt, heeft de ontwikkeling van de mensheid meermaals op positieve wijze beïnvloed. Om te beginnen met het beperken van de meningsuiting zoals wij die hedendaags kennen, betekent mogelijk dat wij ons huidige beeld van een ideale samenleving voor eeuwig verankeren, met een wetenschappelijke ijstijd tot gevolg.

AI als scheidsrechter voor beschaafdheid

Laten we echter niet vergeten dat de waarde van menselijke beschaafdheid niet mag worden overschaduwd door een absoluut streven naar het principe van vrijheid van meningsuiting. Beschaafdheid is immers een van de fundamentele pijlers van de samenleving. Waarom lijken deze twee principes in het digitale domein dan frontaal te botsen? Misschien kunnen we dit toeschrijven aan een unieke eigenschap van het internet als platform voor het delen van onze gedachten en ideeën. Het internet lijkt mensen als het ware een onzichtbaarheidsmantel te hebben gegeven, waardoor zij immuun zijn geworden voor de sociale consequenties die voorheen gepaard gingen met het doen van verontrustende uitspraken. Daarnaast heeft de toegankelijkheid van virtuele discussie-arena's, die bestaan op platformen als Facebook of Twitter, tot een versterkt polariserend effecten. Mensen plaatsen hier bijvoorbeeld hun mening of opmerkingen met betrekking tot nieuwsberichten, die vervolgens door andere gebruikers worden gelezen en de meningsvorming van die lezers weer sterk beïnvloeden. Bijna 48% van de volwassenen in de VS bijvoorbeeld, verklaart dat zij hun nieuws 'vaak' van sociale media halen (Atske, 2021). Men kan zich, te midden van de chaos van deze digitale opinie-olympiades, afvragen of online debatteren, zonder een stevige dosis van beschaafdheid en een digitale scheidsrechter, wel goed is voor de samenleving. Kunstmatige intelligentie zou deze scheidsrechter kunnen zijn, die de norm van beleefdheid in onze online samenleving handhaaft, maar zijn wij daar wel klaar voor?

Detectie van haatdragende taal en kunst

Een bijkomend risico van het inzetten van AI voor de opsporing van haatzaaiing, houdt verband met een wezenlijk deel van de menselijke cultuur, namelijk kunst. Kunst omvat in essentie een zekere vrijheid van expressie, die niet alleen past binnen de gangbare maatschappelijke normen. Kunst kan een uitlaatklep zijn voor onze gedachten, gevoelens en ideeën die niet noodzakelijkerwijs de maatschappelijke norm volgen. Literatuur, als een vorm van kunst, vormt een groot deel van de cultuur en is al duizenden jaren een cruciaal onderdeel van de menselijke expressie. De introductie van technologie voor het opsporen van haatzaaien, leidt echter tot meer fundamentele vragen over de vrijheid van artistieke expressie. Naarmate kunstmatige intelligentie geavanceerder wordt, bestaat de mogelijkheid dat kunst, die gevoelige onderwerpen aansnijdt, als haatzaaiende uiting wordt aangemerkt. Waar moeten we de grens trekken tussen overdreven voorstellingen en daadwerkelijk haatdragende uitingen of intimidatie van een groep of persoon? En hoe interpreteren we politieke karikaturen, die historisch bekend staan om hun nogal provocerende tekenstijl? Deze vragen kunnen de ontwikkeling van de cultuur onderbreken, omdat kunstenaars zichzelf misschien censureren of ontmoedigd raken om bepaalde thema's te verkennen, uit angst verkeerd begrepen en ten onrechte gemarkeerd te worden. Helaas is dit een probleem dat moeilijk op te lossen zal zijn totdat we de grenzen van haatzaaiing kunnen definiëren.

Meer over de minor van AI & Society

Met een klas die bestaat uit mensen met verschillende achtergronden, variërend van rechten tot werktuigbouwkunde, is een vruchtbare bodem voor discussie gegarandeerd in de minor AI & Society. Door middel van levendige debatten en uitwisselingen kan waardevolle kennis worden opgedaan en gedeeld, aangezien het succes van deze minor sterk afhankelijk is van de creatieve perspectieven van studenten over de effecten van AI op onze samenleving. Door deel te nemen, kunnen studenten hun begrip omtrent de onderliggende technologie, ontwikkelingen en impact van AI verdiepen. Deze kennis is voor elke student van groot belang, gezien de groeiende toepassing van AI in onze samenleving. Daarom nodigen we je van harte uit om deze kans te grijpen en diep in de fascinerende wereld van kunstmatige intelligentie te duiken, om zo persoonlijk de impact te ervaren van deze fascinerende technologie op onze samenleving.