Hoe 'machine learning' de sleutel vormt tot de bestrijding van misinformatie

“Een leugen kan de wereld rondlopen, nog voor de waarheid haar laarzen aan heeft.”

Dit citaat komt in vele varianten voor. In sommige varianten heeft het citaat betrekking op laarzen. In andere gevallen heeft de waarheid moeite met het aantrekken van schoenen of een broek.

Maar los van de details vat het sentiment van dit citaat een sleutelprobleem van misinformatie goed samen. Tegen de tijd dat de nauwgezette controle van de feiten is voltooid en de correctie is verspreid, heeft de onjuiste informatie zich al wijd en zijd verspreid en allerlei onheil aangericht.

Onderzoekers van misinformatie hebben het dan ook verlangend over de "heilige graal van fact-checking" - het in één klap, automatisch opsporen en ontkrachten van misinformatie.  'Machine learning' biedt het potentieel van zowel snelheid als schaal - de mogelijkheid om misinformatie te identificeren zodra deze online verschijnt, én de technische mogelijkheid om oplossingen te verspreiden op de schaal die nodig is om de omvang van het probleem te evenaren.

Maar de zoektocht naar de heilige graal stuit op een schijnbaar onoverkomelijke hindernis. Misinformatie evolueert en neemt nieuwe vormen aan. Hoe kun je een mythe opsporen voordat je zelfs maar weet wat het is of welke vorm deze zal aannemen?

Misinformatie en klimaatverandering

Als het gaat om misinformatie over klimaatverandering, hoor je vaak de termen "whack-a-mole" of "zombie-argumenten" - meestal uitgesproken met opeengeklemde tanden. Deze termen verwijzen naar het feit dat klimaatmythes nooit lijken te sterven, steeds weer de kop opsteken en telkens opnieuw dienen te worden ontkracht. De misleidende argumenten over klimaatverandering van begin jaren negentig zijn inderdaad dezelfde mythen die we in 2021 nog steeds horen.

Hoewel dit irritant kan zijn, bieden zombie-argumenten ook een onderzoekskans. Het feit dat misinformatie over het klimaat zoveel stabiliteit vertoont, maakt het mogelijk een machine te trainen om claims die misinformatie bevatten te detecteren.

Een aantal jaren geleden begonnen ik en mijn collega's Travis Coan en Mirjam Nanko van de Universiteit van Exeter, en Constantine Boussalis van het Trinity College in Dublin, onze zoektocht naar de heilige graal van het factchecken - specifiek gericht op misinformatie over klimaatverandering.

De eerste stap in dit proces was het opstellen van een taxonomie van beweringen door tegenstanders van klimaatactie. Naarmate we de vele beweringen die we tegenkwamen steeds gedetailleerder in kaart brachten, werden vijf hoofdcategorieën duidelijk - het gebeurt niet; wij zijn niet verantwoordelijk; het is niet erg; oplossingen werken niet; en deskundigen zijn onbetrouwbaar.

Deze vijf categorieën zijn opmerkelijk omdat ze rechtstreeks overeenkomen met de vijf "key beliefs' over het klimaat die Ed Maibach op basis van enquêtegegevens heeft ontwikkeld - het gebeurt; wij zijn verantwoordelijk; het is ellendig; er is hoop; en deskundigen zijn het erover eens. Daarom hebben we onze vijf categorieën van misinformatie over het klimaat de vijf 'key disbeliefs' over het klimaat genoemd.

Toen we eenmaal onze taxonomie hadden, was het tijd om de mouwen op te stropen en de machine te trainen.

Het principe van 'supervised machine learning' is eenvoudig: neem een alinea tekst uit bekende bronnen van onjuiste klimaatinformatie en match die met claims in onze taxonomie (als er een overeenkomst is). Herhaal datzelfde proces vervolgens tienduizenden keren, totdat de machine voldoende getraind is om alle misleidende claims te detecteren. (Eitje, toch?).

Gelukkig konden we een beroep doen op het Skeptical Science team (dat al ervaring had met het crowd-sourcen van analyse van grote klimaat datasets).

Nadat we de machine hadden getraind in het detecteren en categoriseren van verschillende claims, hebben we ons model 20 jaar aan misinformatie over het klimaat gevoed - meer dan 250.000 artikelen van 20 prominente conservatieve 'think-tank' sites en 33 blogs. Dit is de grootste inhoudelijke analyse van misinformatie over het klimaat tot nu toe, die het mogelijk maakt een geschiedenis van twee decennia aan misinformatie over het klimaat op te bouwen.

De resultaten waren absoluut niet wat ik verwachtte.

Het afbrokkelen van het vertrouwen van het publiek in klimaatwetenschappers

De afgelopen 15 jaar heb ik wetenschappelijke misinformatie over het klimaat ontkracht - het soort mythes dat viel in de categorieën "het gebeurt niet", "het ligt niet aan ons", of "het is niet erg".

Het bleek dat dit de minst voorkomende vormen van misinformatie over het klimaat waren. In plaats daarvan bestond de grootste categorie uit aanvallen op wetenschappers en op de klimaatwetenschap zelf.

Misinformatie over het klimaat gaat niet over het geven van een eigen alternatieve verklaring van wat er met ons klimaat gebeurt. In plaats daarvan is ze gericht op het in twijfel trekken van de integriteit van de klimaatwetenschap en het ondermijnen van het vertrouwen van het publiek in klimaatwetenschappers.

Dit heeft belangrijke gevolgen voor wetenschappers, docenten en 'factcheckers'. Het merendeel van onze inspanningen is gericht op het ontkrachten van wetenschappelijke mythes zoals "de opwarming van de aarde vindt niet plaats" of "de klimaatverandering wordt veroorzaakt door de zon".

Maar dat is niet waar de misinformatie zich op richt - de nadruk ligt op het aanvallen van wetenschappers en de wetenschap zelf. Er is een tekort aan onderzoek naar het begrijpen en bestrijden van dit soort misinformatie, laat staan naar publieke betrokkenheid en voorlichtingscampagnes om de schade ervan tegen te gaan.

Een andere sterke trend was de toenemende verspreiding van misinformatie over klimaatoplossingen - beweringen dat klimaatbeleid schadelijk zou zijn, het betwisten van hernieuwbare energiebronnen of het in de spotlights zetten van fossiele brandstoffen. Deze categorie wordt een steeds dominanter onderdeel van de misinformatie over het klimaat. Dit is met name het geval bij conservatieve denktanks, die zich meer richten op klimaatbeleid dan op het ontkennen van wetenschap.

Het algemene beeld in onze gegevens is duidelijk - ontkenning van oplossingen is de toekomst van misinformatie over het klimaat.

Ons onderzoek is onlangs gepubliceerd in Scientific Reports van het tijdschrift Nature. Dit was een belangrijke eerste stap in onze zoektocht naar de heilige graal van 'factchecking. De volgende stap is het samenvoegen van ons 'machine learning' onderzoek met onderzoek naar kritische denken ten aanzien van het deconstrueren en analyseren van misinformatie over het klimaat.

Dit vraagt om het samenbrengen van de zeer verschillende disciplines informatica en kritisch denken. Dit is een uitdaging, maar interdisciplinaire oplossingen zijn essentieel wanneer het gaat om complexe, onderling verbonden problemen zoals misinformatie.

We hebben nog een lange weg te gaan, maar voor nu is het belangrijk om stil te staan bij de lessen die we al hebben geleerd tijdens het deze zoektocht. En niet te vergeten bij de vrienden die we onderweg hebben gemaakt.

Dit artikel is een vertaling van een artikel dat voor het eerst werd gepubliceerd op Monash Lens. Lees het originele artikel

Translation by NdeHaan. View original English version.