Hoe ethisch is Facebook?

Is regulering en wetgeving voor AI nodig?

Social media platform Facebook ligt onder vuur. Volgens een klokkenluider misleidt Facebook haar gebruikers wat het zegt te doen tegen haat zaaiende uitlatingen, geweld en desinformatie.  

Met het algoritme pusht het bedrijf vooral berichten die woede, ergernis, etc. oproepen. Deze  berichten zouden voor meer clicks zorgen en dus meer advertentie inkomsten, aldus de klokkenluider. Volgens klokkenluider Frances Haugen is winst voor Facebook veel belangrijker dan het algemeen maatschappelijke belang.

Frances Haugen werkte twee jaar als productmanager voor Facebook. Ze stapte in het voorjaar van 2021 op, maar nam veel interne onderzoeken mee en speelde die door aan de Wall Street Journal, die daar uitvoerig over berichtte. Ze gaf een interview op de Amerikaanse televisie en getuigde voor een commissie van het Amerikaanse Congres. Volgens haar is ze ook een vriend ‘kwijtgeraakt.’ Hij radicaliseerde door berichten die hij op Facebook las.

Schadelijk

Volgens Haugen weet Facebook hoe schadelijk sommige berichten kunnen zijn die in de tijdlijn van haar gebruikers verschijnen. En het bedrijf past het algoritme, wat bepaalt wat een gebruiker ziet, regelmatig aan. Zo krijgen jonge tienermeisjes op Instagram content voorgeschoteld dat voor hen schadelijk kan zijn. Volgens Haugen blijkt uit interne onderzoeken dat Facebook, het moederbedrijf van Instagram, dit weet, maar er niets aan doet. Profit before people. Winst en advertentiekosten gaan voor het belang van jonge mensen die makkelijk zijn te beïnvloeden, althans dat is wat Haugen beweert.

Algoritmes

Hoe ethisch is Facebook Data science werkt ook met algoritmes. Een model is de uitkomst van een algoritme getraind op data. Als men bijvoorbeeld wil weten hoe men het snelst van A naar B komt, voert men data in en een model gaat op basis van die data voorspellen of men beter kan gaan lopen of beter de bus of de trein kan nemen. Facebook beschikt over heel veel data van haar gebruikers. Alleen kiest Facebook er voor sommige uitkomsten niet te tonen of aan te passen. Facebook maakt niet gebruik van één simpel algoritme, maar een combinatie van rankings op basis van verschillende modellen. Achter al die modellen zitten algoritmes. Ook zorgt Facebook ervoor in welke volgorde een gebruiker content krijgt te zien. Het is de bedoeling dat een gebruiker zo lang mogelijk op het platform blijft.

De interne onderzoeken van Facebook laten volgens de klokkenluider zien dat ze sommige content schadelijk is. Maar vervolgens doet men er niets aan. Het doet denken aan de tabaksindustrie die al decennia wist dat sigaretten verslavend zijn en kan leiden tot kanker, maar dit verzweeg.

Facebook heeft ontzettend veel data over zijn gebruikers. De vraag is hoe je dat model vervolgens inzet. Kies je voor om juist berichten rondom bijvoorbeeld complottheorieën prominent te laten verschijnen of juist niet? Responsible AI, of ook wel trustworthy AI genoemd, zal mogelijk ervoor zorgen dat er vaker verantwoording moeten worden afgelegd of bedrijven wel ethisch omgaan met de data en hoe ze algoritmes ontwikkelen.  

Explainable AI

Explainable AI (XAI) is kunstmatige intelligentie (AI) waarbij de resultaten van de oplossing door mensen begrepen kunnen worden. XAI kan helpen om de gebruikerservaring van een product of dienst te verbeteren door de eindgebruikers te helpen vertrouwen dat AI goede beslissingen neemt. Bij Facebook is de vraag of dat voldoende gebeurt. Het doel van XAI is om uit te leggen wat er is gedaan, wat er op dit moment gebeurt en wat er vervolgens in de toekomst wordt gedaan en om de informatie te delen waarop die acties zijn gedaan. Maar Facebook doet daar wel onderzoek naar, maar brengt dat nooit naar buiten. Door een klokkenluider zijn er zaken naar buiten gekomen over hoe Facebook opereert. 

De samenwerking tussen algoritmes en mensen, hangt af van vertrouwen. Als mensen de voorschriften van algoritmes willen aanvaarden, moeten ze die algoritmes vertrouwen. Volgens Haugen schaadt Facebook dat vertrouwen. Onvolledigheid in het verschaffen van informatie schaadt het vertrouwen en vormt een belemmering voor eenvoudige oplossingen voor optimalisatie. De vraag is of Facebook haar platform wel wil optimaliseren en bijvoorbeeld nepnieuws wil bestrijden. 

Een transparantie project, het DARPA XAI-programma, heeft tot doel om modellen te produceren die uitlegbaar en begrijpelijk zijn voor mensen zonder dat dit teveel ten koste gaat van de AI-prestaties. Menselijke gebruikers zouden in staat moeten zijn om de redeneringen van een AI algoritme te begrijpen (zowel in real-time als achteraf), en zouden in staat moeten zijn om te bepalen wanneer AI te vertrouwen is en wanneer AI gewantrouwd moet worden. Een andere toepassing van XAI is ook gebruikt voor systemen die de inputs en outputs van een systeem monitoren, met als doel te controleren of het systeem zich houdt aan ethische en sociaal-juridische waarden. Er is dus een boel mogelijk om er voor te zorgen dat ook een algoritme zich aan de ethische en morele regels van onze maatschappij houdt. 

Europa

De Europese Commissie komt met regulering en wetgeving. Nu AI een steeds grotere rol gaat spelen in de maatschappij zullen er antwoorden moeten komen op de vraag wat ethisch verantwoord is. Hoe zorgen we ervoor dat transparantie, vertrouwen en rechtvaardigheid een onderdeel blijven in een maatschappij die steeds verder digitaliseert en waar algoritmes beslissingen nemen? Daarom kwam de Europese Commissie met de Artificial Intelligence Act

De documenten van Facebook die klokkenluider Haugen naar buiten heeft gebracht zorgen ervoor dat de discussie over regulering van big tech en wetgeving over hoe algoritmes en AI worden ingezet weer oplaait. Het debat over de vraag over wat ethisch verantwoord is en wat niet, en of er vergaande regulering en wetgeving moet komen is dan ook nog lang niet voorbij.  

Data Science Blogs

Machine Learning: De gereedschapskist van de data scientist door Marco van den Doel — last modified 09-11-2021
Machine Learning algoritmes zijn de gereedschappen voor een data scientist
Met data de wind in de zeilen door Marco van den Doel — last modified 02-11-2021
Met data management kiest u de juiste koers
Hoe ethisch is Facebook? door Marco van den Doel — last modified 05-11-2021
Is regulering en wetgeving voor AI nodig?
Boekbespreking: Data Teams van Jesse Anderson door Marco van den Doel — last modified 02-11-2021
Voor succesvolle big data projecten zijn drie teams nodig
Smells like AI door Marco van den Doel — last modified 01-11-2021
Artificial Intelligence creëert nieuwe muziek
De waarde van data voor het MKB door Marco van den Doel — last modified 02-11-2021
Bluemine ontzorgt MKB door data beheer
Data & AI: Kans of bedreiging? door Marco van den Doel — last modified 02-11-2021
Waarde creëren met data en AI zorgt voor nieuwe business mogelijkheden
Data gedrevenheid is proces van lange adem door Marco van den Doel — last modified 02-11-2021
Data is een ingrediënt dat zorgt voor meerwaarde op lange termijn

Data Science recente Blogs

Machine Learning: De gereedschapskist van de data scientist door Marco van den Doel — last modified 09-11-2021
Machine Learning algoritmes zijn de gereedschappen voor een data scientist
Met data de wind in de zeilen door Marco van den Doel — last modified 02-11-2021
Met data management kiest u de juiste koers
Hoe ethisch is Facebook? door Marco van den Doel — last modified 05-11-2021
Is regulering en wetgeving voor AI nodig?

Data Science Nieuws & Events

Machine Learning: De gereedschapskist van de data scientist door Marco van den Doel — last modified 09-11-2021
Machine Learning algoritmes zijn de gereedschappen voor een data scientist
Hoe ethisch is Facebook? door Marco van den Doel — last modified 05-11-2021
Is regulering en wetgeving voor AI nodig?
Smells like AI door Marco van den Doel — last modified 01-11-2021
Artificial Intelligence creëert nieuwe muziek