Een onafhankelijke due diligence-oefening naar de impact van Meta op de mensenrechten in Israël en Palestina tijdens de escalatie van mei 2021

We willen dat onze diensten een plek zijn waar mensen zich vrij en veilig kunnen uiten over de hele wereld. Dit geldt met name in situaties waarin sociale media kunnen worden gebruikt om haat te verspreiden, spanningen aan te wakkeren en aan te zetten tot geweld op de grond. Daarom hebben we duidelijke regels tegen terrorisme, Haattoespraak en aanzetten tot gewelden materiedeskundigen die helpen bij het ontwikkelen en handhaven van die regels. We hebben ook een corporate Mensenrechtenbeleid en een toegewijde Mensenrechtenteam — die ons helpen om mensenrechtenrisico’s te beheersen en beter te begrijpen hoe onze producten en technologieën van invloed zijn op verschillende landen en gemeenschappen.

Als onderdeel van onze inzet om een ​​omgeving te helpen creëren waarin mensen zich vrij en veilig kunnen uiten, en na een aanbeveling van de Oversight Board in oktober 2021, hebben we Business for Social Responsibility (BSR) – een onafhankelijke organisatie met expertise op het gebied van mensenrechten – gevraagd om een ​​due diligence-oefening uit te voeren naar de impact van ons beleid en onze processen in Israël en Palestina tijdens de escalatie van mei 2021, inclusief een onderzoek of deze beleid en processen werden zonder vooringenomenheid toegepast. In de loop van het afgelopen jaar heeft BSR een gedetailleerde analyse uitgevoerd, inclusief contacten met groepen en rechthebbenden in Israël, Palestina en wereldwijd, om haar rapport te informeren. Vandaag publiceren we deze bevindingen en onze reactie.

Due Diligence-inzichten

Zoals BSR in hun rapport erkende, hebben de gebeurtenissen van mei 2021 de sectorbrede, langdurige uitdagingen aan het licht gebracht rond inhoudsmatiging in door conflicten getroffen regio’s en de noodzaak om de vrijheid van meningsuiting te beschermen en tegelijkertijd het risico te verkleinen dat onlinediensten worden gebruikt om haat te verspreiden goud zet aan tot geweld. Het rapport benadrukte ook hoe het beheer van deze problemen werd bemoeilijkt door de complexe omstandigheden die het conflict omringen, met inbegrip van de sociale en historische dynamiek, verschillende snel bewegende gewelddadige gebeurtenissen en de acties en activiteiten van terroristische organisaties.

Ondanks deze complicaties identificeerde BSR in onze reactie een aantal ‘goede praktijken’. Deze omvatten onze inspanningen om prioriteit te geven aan maatregelen om het risico te verkleinen dat het platform wordt gebruikt om geweld of schade aan te moedigen, waaronder het snel opzetten van een speciaal speciaal operatiecentrum om in realtime te reageren op activiteiten in onze apps. Dit centrum werd bemand met deskundige teams, waaronder regionale experts en moedertaalsprekers van Arabisch en Hebreeuws, die zich inspannen om inhoud te verwijderen die in strijd was met ons beleid, en er ook voor zorgden dat we fouten in onze handhaving hebben verholpen zodra we hiervan op de hoogte waren. Het omvatte ook onze inspanningen om inhoud te verwijderen die evenredig was en in overeenstemming met de wereldwijde mensenrechtennormen.

Naast deze goede praktijken concludeerde BSR dat verschillende gezichtspunten, nationaliteiten, etniciteiten en religies goed vertegenwoordigd waren in de teams die hieraan werkten bij Meta. Ze vonden bij geen van deze werknemers aanwijzingen voor opzettelijke vooringenomenheid op een van deze gronden. Ze hebben ook geen bewijs gevonden dat we bij het ontwikkelen of implementeren van ons beleid een bepaalde gemeenschap probeerden te bevoordelen of te schaden.

Dat gezegd hebbende, heeft BSR wel belangrijke zorgen geuit over onvoldoende handhaving van inhoud, waaronder het aanzetten tot geweld tegen Israëli’s en joden op onze platforms, en specifieke gevallen waarin ze van mening waren dat ons beleid en onze processen een onbedoelde impact hadden op Palestijnse en Arabische gemeenschappen – voornamelijk op hun vrijheid van expressie. BSR heeft 21 specifieke aanbevelingen gedaan als resultaat van zijn due diligence, met betrekking tot gebieden die verband houden met ons beleid, hoe dat beleid wordt gehandhaafd en onze inspanningen om onze gebruikers transparantie te bieden.

Onze acties in reactie op de aanbevelingen

Sinds we het eindrapport hebben ontvangen, hebben we deze aanbevelingen zorgvuldig doorgenomen om ons te helpen ontdekken waar en hoe we ons kunnen verbeteren. Onze reactie beschrijft onze inzet voor het implementeren van 10 van de aanbevelingen, gedeeltelijk voor het implementeren van vier, en we beoordelen de haalbaarheid van nog eens zes. Op één aanbeveling zullen we geen verdere actie ondernemen.

Er zijn geen snelle oplossingen voor veel van deze aanbevelingen, zoals BSR duidelijk maakt. Hoewel we als gevolg van deze oefening al belangrijke wijzigingen hebben aangebracht, zal dit proces tijd vergen, inclusief tijd om te begrijpen hoe sommige van deze aanbevelingen het beste kunnen worden aangepakt en of ze technisch haalbaar zijn.

Hier is een update van ons werk om enkele van de belangrijkste gebieden die in het rapport worden genoemd, aan te pakken:

ons beleid

BSR heeft aanbevolen ons beleid te herzien op: aanzetten tot geweld en Gevaarlijke personen en organisaties (DOI) — regels die we hebben die groepen zoals terroristen, haat- en criminele organisaties, zoals gedefinieerd in ons beleid, die een gewelddadige missie afkondigen of geweld plegen, verbieden om aanwezig te zijn op Facebook of Instagram. We beoordelen deze entiteiten op basis van hun gedrag, zowel online als offline, en het belangrijkste is hun banden met geweld. We hebben toegezegd deze aanbevelingen te implementeren, waaronder het lanceren van een evaluatie van beide beleidsterreinen om te onderzoeken hoe we de politieke discussie over verboden groepen benaderen en hoe we meer kunnen doen om inhoud aan te pakken die geweld verheerlijkt. Als onderdeel van deze uitgebreide beoordeling zullen we uitgebreid overleggen met een breed spectrum van experts, academici en belanghebbenden – niet alleen in de regio, maar over de hele wereld.

BSR heeft ook aanbevolen dat we het systeem van stakingen en straffen we zijn van toepassing wanneer mensen ons DOI-beleid schenden. We hebben toegezegd de haalbaarheid van deze specifieke aanbeveling te beoordelen, maar zijn al begonnen met het werk om dit systeem eenvoudiger, transparanter en evenrediger te maken.

Bovendien moedigde BSR ons aan om de betrokkenheid van belanghebbenden te vergroten en transparantie te waarborgen over onze wettelijke verplichtingen in de VS op dit gebied. We hebben toegezegd deze aanbeveling deels uit te voeren. Hoewel we regelmatig brede belanghebbenden betrekken bij dit beleid en hoe ze worden gehandhaafd, vertrouwen we op juridisch advies en relevante sanctieautoriteiten om onze specifieke nalevingsverplichtingen op dit gebied te begrijpen. We zijn het erover eens dat transparantie van cruciaal belang is hier en via onze gemeenschapsnormengeven we details over hoe we terroristische groeperingen definiëren, hoe we ze rangschikken en hoe deze niveaus van invloed zijn op de straffen die we toepassen op mensen die onze regels overtreden.

Handhaving van ons beleid

BSR deed een aantal aanbevelingen die gericht waren op onze benadering van het beoordelen van inhoud in het Hebreeuws en Arabisch.

BSR raadde aan om door te gaan met het ontwikkelen en implementeren van werkende machine learning classifiers in het Hebreeuws. We hebben toegezegd deze aanbeveling te implementeren en hebben sinds mei 2021 een Hebreeuwse classificatie voor ‘vijandige spraak’ gelanceerd om ons te helpen proactief meer inbreukmakende Hebreeuwse inhoud te detecteren. We denken dat dit ons vermogen om situaties als deze aan te pakken aanzienlijk zal verbeteren, waarbij we grote pieken zien in het schenden van inhoud.

BSR heeft ook aanbevolen dat we blijven werken aan het opzetten van processen om potentieel in strijd zijnde Arabische inhoud beter per dialect te routeren voor beoordeling van de inhoud. We beoordelen de haalbaarheid van deze aanbeveling. We hebben grote en diverse teams om Arabische inhoud te beoordelen, met kennis van de moedertaal en begrip van de lokale culturele context in de hele regio, ook in Palestina. We hebben ook systemen die technologie gebruiken om te bepalen in welke taal content zich bevindt, zodat we ervoor kunnen zorgen dat deze wordt beoordeeld door relevante contentrecensenten. We onderzoeken een reeks opties om te zien hoe we dit proces kunnen verbeteren. Dit omvat het beoordelen van het inhuren van meer inhoudsrecensenten met diverse dialect- en taalmogelijkheden, en werken om te begrijpen of we onze systemen kunnen trainen om een ​​beter onderscheid te maken tussen verschillende Arabische dialecten om Arabische inhoud te helpen routeren en beoordelen.

Uit de analyse van BSR blijkt dat Facebook en Instagram antisemitische inhoud verbieden als onderdeel van hun beleid ten aanzien van haatzaaien, dat geen aanvallen op iemand toestaat op basis van hun religie of enig ander beschermd kenmerk. BSR merkt ook op dat, omdat we momenteel de doelen van haatspraak niet volgen, we de prevalentie van antisemitische inhoud niet kunnen meten, en ze hebben aanbevolen een mechanisme te ontwikkelen om ons in staat te stellen dit te doen. We zijn het erover eens dat het de moeite waard zou zijn om de prevalentie van specifieke vormen van haatzaaien beter te begrijpen, en we hebben toegezegd de haalbaarheid hiervan te beoordelen.

Daarnaast heeft BSR aanbevolen dat we de processen aanpassen die we hebben voor het bijwerken en onderhouden van trefwoorden die zijn gekoppeld aan: aangewezen gevaarlijke organisaties, om te voorkomen dat hashtags ten onrechte worden geblokkeerd, zoals de fout in mei 2021 die tijdelijk de mogelijkheid voor mensen om inhoud op de al-Aqsa-hashtagpagina te zien, beperkte. Hoewel we dit probleem snel hebben opgelost, had het in de eerste plaats nooit mogen gebeuren. We hebben deze aanbeveling al geïmplementeerd en hebben een proces opgezet om ervoor te zorgen dat deskundige teams bij Meta nu verantwoordelijk zijn voor het doorlichten en goedkeuren van deze zoekwoorden.

Transparantie

Als basis voor dit alles heeft BSR een reeks aanbevelingen gedaan om mensen te helpen ons beleid en onze processen beter te begrijpen.

BSR raadde ons aan om specifieke en gedetailleerde informatie aan mensen te verstrekken wanneer we inbreukmakende inhoud verwijderen en ‘waarschuwingen’ toepassen. We voeren deze aanbeveling gedeeltelijk uit, omdat sommige mensen meerdere beleidsregels tegelijkertijd schenden, waardoor uitdagingen ontstaan ​​voor hoe specifiek we op grote schaal kunnen zijn. We verstrekken deze specifieke en gedetailleerde informatie in de meeste gevallen al en we zijn begonnen deze in meer gevallen te verstrekken, waar dit mogelijk is.

BSR heeft ook aanbevolen dat we het aantal formele rapporten bekendmaken dat is ontvangen van overheidsinstanties om inhoud te verwijderen die niet in strijd is met de lokale wetgeving, maar die mogelijk in strijd is met onze communitynormen. We hebben toegezegd deze aanbeveling uit te voeren. We publiceren al een halfjaarlijks rapport waarin wordt beschreven hoeveel inhoud per land we beperken wegens schending van de lokale wetgeving als gevolg van een geldig juridisch verzoek. We werken er nu aan om de statistieken die we als onderdeel van dit rapport leveren, uit te breiden met details over inhoud die is verwijderd wegens schending van ons beleid op verzoek van de overheid.

Het rapport van BSR is een uiterst belangrijke stap voorwaarts voor ons en ons werk op het gebied van mensenrechten. Wereldwijde gebeurtenissen zijn dynamisch en daarom moeten de manieren waarop we omgaan met veiligheid, beveiliging en vrijheid van meningsuiting ook dynamisch zijn. Dergelijke mensenrechtenbeoordelingen zijn een belangrijke manier waarop we onze producten, ons beleid en onze processen kunnen blijven verbeteren.

Voor meer informatie over aanvullende maatregelen die we hebben genomen, kunt u hier onze volledige reactie op de beoordeling van BSR lezen. We zullen mensen op de hoogte blijven houden van onze voortgang in ons jaarlijkse mensenrechtenrapport.

Leave a Comment