Zwarte mensen verwarden apen met het algoritme van Facebook

Het probleem is meer dan beschamend voor Facebook. Een aanbevelingsalgoritme vroeg gebruikers of ze anderen wilden zien Hoofdvideo’s Onder een Britse krantenvideo waarin zwarten te zien waren, werd onthuld Le New York Times Vrijdag.

Video dagelijkse mail, Meer dan een jaar, getiteld ‘Een blanke belt de politie tegen de zwarte mannen in de jachthaven’. Het toont alleen mensen, geen apen.

Hieronder de vraag “Meer video’s bekijken over primaten?” “ met opties Ja nee Het verscheen op de schermen van sommige gebruikers, volgens een screenshot op Twitter door Darcy Groves, Voormalig ontwerper voor de socialemediagigant. “dat is schandalig”Ze merkte op en riep haar voormalige Facebook-collega’s op om de zaak te laten escaleren.

“Dit is duidelijk een onaanvaardbare fout.”Een Facebook-woordvoerder reageerde op verzoek van AFP. “Onze excuses aan iedereen die deze beledigende aanbevelingen is tegengekomen.” De California-groep heeft de aanbevelingstool in deze thread gedeactiveerd “Zodra we ons realiseren wat er aan de hand is om de oorzaken van het probleem te onderzoeken en te voorkomen dat het opnieuw gebeurt”uitgelegd.

De grenzen van kunstmatige intelligentie

“Zoals we al zeiden, hoewel we onze AI-systemen hebben verbeterd, weten we dat het niet perfect is en dat we enige vooruitgang moeten boeken.”, voortgezet.

De case benadrukt de beperkingen van AI-technologieën, die het platform regelmatig benadrukt in zijn inspanningen om een ​​gepersonaliseerde feed te bouwen voor elk van zijn 3 miljard maandelijkse gebruikers. Het sociale netwerk gebruikt het ook veel bij het modereren van inhoud, om problematische berichten en afbeeldingen te identificeren en te blokkeren voordat ze zelfs maar worden gezien.

Facebook wordt, net als zijn concurrenten, regelmatig beschuldigd van het niet aanpakken van racisme en andere vormen van haat en discriminatie. Het onderwerp roept meer spanning op omdat veel maatschappelijke organisaties sociale netwerken en hun algoritmen ervan beschuldigen bij te dragen aan de verdeling van Amerikaanse samenleving in het kader van de demonstraties van de “Black Lives Matter”-beweging De strijd voor zwarte rechten.