Vesper toont niet alleen realtime informatie over de grondstofmarkt, het gebruikt ook machine learning om prijzen, productie en voorraadniveaus van verschillende agrarische grondstoffen te voorspellen (bijvoorbeeld zuivel, plantaardige olie en suiker). Om gebruikers te helpen begrijpen welke variabelen prijzen, productie en voorraadniveaus doen veranderen, onderzoekt Vesper in dit artikel hoe een analyse met causale inferentie kan helpen om het effect van die variabelen te kwantificeren. Daarnaast kan dit onze gebruikers helpen de impact van grote onverwachte gebeurtenissen zoals COVID-19 of de aanhoudende oorlog in Oekraïne te begrijpen en te anticiperen.
In het algemeen kun je causale inferentie inzetten om verschillende causale verbanden te analyseren en te kwantificeren. In dit artikel kwantificeren en vergelijken we daarom de causale effecten van boterimport, boterexport en boterproductie op de boterprijzen. Het artikel is als volgt opgebouwd:
- Eerst gaan we wat dieper in op wat causale inferentie precies is. - Daarna bespreken we de onderliggende marktstructuur waarmee het causale verband tussen boterimport, boterexport, boterproductie en boterprijzen wordt gevonden, en hoe het identificeren van causale verbanden gebruikers van Vesper helpt. - Tot slot raken we het machine-learning-deel van causale inferentie aan met de Microsoft DoWhy-bibliotheek, inclusief de resultaten van de causale inferentie.
Wat is causale inferentie precies?
Causale inferentie wordt gedefinieerd als een proces dat causale verbanden tussen data identificeert en het effect van een specifieke gebeurtenis schat (Eichler, 2012). Om vragen te beantwoorden als “Hoe zou een gebruiker een bepaalde film beoordelen als die aan hem wordt getoond?” en “Waardoor is de prijs van deze grondstof veranderd?”, moeten de effecten van verschillende variabelen worden gemeten en vergeleken (Moraffah et al., 2021). Neem als voorbeeld de aanbevelingsmodellen bij Netflix, zoals de gepersonaliseerde rijen met filmsuggesties op het startscherm van een gebruiker. Het klassieke aanbevelingssysteem probeert één simpele vraag te beantwoorden: “Hoe zou de gebruiker deze film beoordelen?”. Het probleem is dat gebruikers hun favoriete films toch wel kijken, wat het systeem ook aanraadt. Met causale inferentie kan Netflix het effect van verschillende filmaanbevelingen analyseren en kwantificeren, wat leidt tot een beter begrip van de eigen gebruikers en tot betere prestaties van de huidige aanbevelingsmodellen. Vanuit het perspectief van Vesper kun je causale inferentie inzetten om beter te begrijpen wat grondstofprijzen in een bepaalde richting beweegt, omhoog of omlaag. De resultaten van onze causale inferentie voor grondstoffen helpen onze klanten om beter en sneller te anticiperen wanneer specifieke marktomstandigheden veranderen.
Correlatie is geen causaliteit!
De meeste machine-learningmodellen en algoritmes die worden gebruikt om aandelen- en grondstofprijzen te voorspellen, leunen op correlaties tussen variabelen. Maar om inzicht te krijgen in de drijvende krachten achter die voorspellingen, is het heel gevaarlijk om alleen op correlatie te vertrouwen. Eenvoudig gezegd is correlatie een maat die de sterkte en de richting (positief of negatief) van het verband tussen variabelen beschrijft. Kijk je alleen naar correlatie, dan kun je gaan geloven dat margarineconsumptie en het echtscheidingspercentage in Maine een causaal verband hebben (zie de grafiek hieronder). De grafiek laat duidelijk zien dat de twee gebeurtenissen sterk gecorreleerd zijn. Daaruit volgt echter niet dat minder margarine eten tot een gezonder huwelijk leidt. Correlatie is geen causaliteit: causaliteit geeft aan of er tussen twee gebeurtenissen een oorzakelijk verband bestaat, en causale inferentie toetst of een relatie van oorzaak naar gevolg werkelijk bestaat.
Marktstructuur
Voor causale inferentie heb je een helder overzicht nodig van de verschillende factoren die de botermarkt beïnvloeden. Dat gebeurt in de vorm van een causale graaf, oftewel een probabilistisch grafisch model waarin aannames over het datagenererende proces zijn vastgelegd. De experts in marktinformatie bij Vesper maakten een graaf met alle factoren die invloed kunnen hebben op de boterproductie en de prijscyclus van boter. Die zie je hieronder. De graaf toont verschillende relaties tussen meerdere factoren, die allemaal een (in)direct verband hebben met boterimport en boterexport, boterproductie of boterprijzen. De boterprijs is de variabele waar het om draait, want we voeren causale inferentie uit om het causale effect van boterimport, boterexport en boterproductie op de boterprijzen te bepalen. Pijlen in het diagram staan voor een direct verband tussen twee variabelen. Zoals je ziet, gaan we ervan uit dat er geen direct verband bestaat tussen melkproductie en boterprijzen. Dat betekent echter niet automatisch dat er geen indirect verband is. Je kunt beargumenteren dat de productie van meer melk de boterproductie kan laten stijgen doordat de valorisatie van producten gunstig uitpakt, wat de boterprijs indirect verlaagt. Met causale inferentie kun je het causale verband tussen twee of meer indirect verbonden variabelen kwantificeren.
De valorisatie van producten is een van de belangrijkste variabelen. Je kunt die het best omschrijven als de optimale verdeling van middelen om het hoogst mogelijke rendement te halen. Vesper berekent welk product, inclusief bijproducten, het hoogste rendement oplevert voor 10.000 liter melk, gegeven de actuele prijzen van de verschillende zuivelgrondstoffen. Zijn de boterprijzen extreem hoog, dan zal de valorisatietool waarschijnlijk adviseren om meer boter te maken, omdat dat winstgevender is dan de productie van andere producten zoals kaas. Melkproductie en valorisatie hebben dus allebei invloed op de boterproductie. De boterprijzen beïnvloeden op hun beurt de uitkomsten van het valorisatiemodel van vandaag. Naast de valorisatie, en daarmee de hoeveelheid melk die in de boterproductie stroomt, wordt de boterproductie ook beïnvloed door boterimport en boterexport, consumptie en voorraadniveaus.
Het raakvlak van marktinformatie en data science
Op het eerste gezicht lijken data science en marktinformatie twee verschillende vakgebieden. De benodigde vaardigheden en praktische functies lopen uiteen, terwijl het einddoel meestal hetzelfde is: inzichten najagen om de besluitvorming binnen het bedrijf of de markt te verbeteren. Om causale inferentie voor grondstofprijzen uit te voeren, moeten we de werking van de hele markt begrijpen én de technische vaardigheid hebben om een model voor causale inferentie in te bouwen. Marktinformatie speelt een grote rol bij het opstellen van de causale graaf, waarin alle factoren worden benoemd die bijdragen aan het verband tussen twee gebeurtenissen. Met andere woorden: de marktstructuur moet vaststaan voordat het data-scienceteam het model voor causale inferentie kan integreren. Zonder de vereiste technische vaardigheden of marktkennis is het bijna onmogelijk om de resultaten van causale inferentie voor grondstofprijzen te begrijpen. Een goede samenwerking tussen de twee vakgebieden is daarom heel belangrijk, en daar draait het bij Vesper om.
Causale inferentie voor gebruikers van Vesper
Waarom zijn we bij Vesper zo geïnteresseerd in causale inferentie? Het helpt ons de grondstofmarkten beter te begrijpen en meer waarde te creëren voor onze klanten. Het stelt ons in staat om de nieuwste ontwikkelingen in AI te combineren met de marktexpertise van ons team. Cruciaal is dat geautomatiseerd en kwantitatief causaal redeneren leidt tot marktinformatie die robuuster, strategischer, completer en flexibeler is. Het volgende deel legt de belangrijkste voordelen van causale inferentie uit en hoe die onze gebruikers helpen.
De afgelopen jaren hebben we gezien hoe hard bedrijven geraakt kunnen worden door onverwachte gebeurtenissen. Handelsoorlogen, pandemiegolven, echte oorlogen, extreme weersomstandigheden en toenemende politieke instabiliteit hebben de toeleveringsketens en de fijnmazige netwerken van import en export kwetsbaarder gemaakt dan ooit. Met causale inferentie kunnen we onze klanten voorbereiden op het onverwachte. Geen enkel machine-learningalgoritme kan de precieze omvang van de volgende marktverstoring voorspellen. Maar we kunnen wel beter voorbereid zijn op onverwachte gebeurtenissen als we begrijpen welk effect de door die gebeurtenis veranderde variabelen op de markt als geheel hebben. Wordt een grote exporteur van grondstoffen bijvoorbeeld door sancties of een handelsoorlog uit de internationale markt gedrukt, dan is elke marktvoorspelling op basis van historische prijzen achterhaald. Begrijp je het effect van de exportdaling op de markt, dan begrijp je beter wat de sancties zullen doen. Met causale inferentie kunnen we data combineren met onze kennis van de marktdynamiek om vragen te beantwoorden als “Wat gebeurt er als de import in een bepaald land naar nul gaat?”, ook al is dat nooit eerder gebeurd. Zo vult causale inferentie voorspellingen aan met een robuuster en veerkrachtiger begrip van hoe de markt zich gedraagt.
Oorzaken en gevolgen begrijpen en inschatten helpt bij strategische besluitvorming. Wil een bedrijf de productie van een goed fors opvoeren, dan moet het rekening houden met de prijsverandering die daaruit volgt. Zo’n beslissing zit doorgaans niet in voorspellingen verwerkt, omdat die alleen op historische marktdata gebaseerd zijn. Voor kleine bedrijven met beperkte marktimpact is dat waarschijnlijk geen probleem. Maar de grote spelers moeten weten hoe hun acties de markt als geheel beïnvloeden. Causale inferentie maakt dat mogelijk. Als we het effect van hogere productie op de marktprijzen kennen, kunnen we de uitkomst van de beslissing van een bedrijf beter inschatten. Met modellen voor causale inferentie kunnen we de kracht van AI dus benutten voor bedrijfsplanning en strategie.
Tot slot biedt causale inferentie meer flexibiliteit bij het plannen. Onze klanten kunnen er verschillende scenario’s mee doorrekenen en zien hoe die de markten raken. Is er bijvoorbeeld onzekerheid over het weer in de komende maanden, dan kan een bedrijf nagaan wat verschillende weersomstandigheden gewoonlijk met de melkprijzen doen en daarop anticiperen. Of, denkt een bedrijf dat een concurrent de boterimport snel gaat opvoeren omdat er een nieuw partnerschap is getekend, dan kan het zich voorbereiden door in te schatten wat die zet met de boterprijzen doet. Zo vult causale analyse voorspellingen aan met marktinzichten die meer op maat zijn.
Het DoWhy-pakket voor causale inferentie
Om een complete engine voor causale inferentie te bouwen, gebruiken we een opensource-Python-bibliotheek van Microsoft: DoWhy (Sharma, Kiciman, 2020). In de woorden van de makers: net zoals machine-learningbibliotheken dat voor voorspellingen deden, is DoWhy een Python-bibliotheek die causaal denken en analyseren wil aanjagen. De bibliotheek biedt een raamwerk om causale effecten en conditionele causale effecten te schatten. Ze combineert benaderingen van causaliteit uit machine learning, statistiek en economie, wat meer flexibiliteit geeft. De bibliotheek is nog in bèta, maar heeft nu al een indrukwekkende set functionaliteiten.
De DoWhy-aanpak van causale inferentie bestaat uit vier stappen:
- Het probleem modelleren - Het causale verband identificeren - De omvang van het verband schatten - De resultaten weerleggen
De eerste stap is rechttoe rechtaan: om de causale analyse uit te voeren, moet de causale graaf zo gecodeerd zijn dat de bibliotheek die kan inlezen. Daarnaast moeten we de uitkomstvariabele en de behandelvariabele kiezen. In ons geval: boterprijzen en boterproductie.
In de tweede stap gebruikt DoWhy do-calculus om de mogelijke confounders te vinden: variabelen die het causale verband tussen de behandelvariabele (boterproductie) en de uitkomst (boterprijzen) kunnen verstoren. Een confounder kan een gemeenschappelijke oorzaak zijn: het niveau van de botervoorraad kan bijvoorbeeld zowel de productie als de prijzen beïnvloeden, dus daar moeten we rekening mee houden. Do-calculus is een formeel systeem dat het algoritme, gegeven een causale graaf, in staat stelt al zulke confounders te vinden. Er is bewezen dat het programma met do-calculus altijd kan aangeven of het causale verband waar het om gaat met de beschikbare data te identificeren is. Daardoor kunnen we in deze stap volledig op de DoWhy-bibliotheek vertrouwen.
De derde stap, het schatten van het causale verband, vraagt het meeste werk van de programmeur. Weten we eenmaal welke variabelen we moeten meenemen (waarvoor we moeten controleren), dan moeten we nog een statistisch model kiezen om de omvang van dat verband te schatten. De populairste modellen zijn onder meer eenvoudige lineaire regressie, shrinkage-regressies zoals LASSO (Tibshirani, 1996) of Ridge (Hoerl, Kennard, 1970), double machine learning-modellen (Chernozhukov et al, 2016) en causal forests (Wager, Athey, 2018). Met die laatste twee kunnen we niet alleen het gemiddelde causale effect schatten, maar ook het causale effect conditioneel op de waarde van een andere variabele. Bijvoorbeeld: wat is het verwachte effect van meer boter produceren op de boterprijs bij verschillende niveaus van de botervoorraad? Deze stap lijkt op de gebruikelijke voorspeloefening die alle machine-learningengineers en data scientists kennen. Daardoor zijn de vaardigheden die al voor voorspellingen zijn opgebouwd, herbruikbaar voor het bouwen van tools voor causale inferentie.
Tot slot bevat DoWhy een uitgebreid instrument om causale schattingen te controleren en te weerleggen. Je kunt bijvoorbeeld een willekeurige confounder aan het model toevoegen en kijken of de resultaten robuust blijven. Zo weet je zeker dat de uitkomsten die je krijgt geldig, degelijk en betrouwbaar zijn. DoWhy maakt de ontwikkeling van onze tools voor causale inferentie makkelijker en sneller. En het stelt ons in staat om betere, completere en flexibelere inzichten in de grondstofmarkt te leveren.
Resultaten van de causale inferentie
We gebruiken de graaf van de marktstructuur om de causale effecten van boterproductie, boterimport en boterexport op de boterprijzen te schatten. Het is aannemelijk dat productie en import de prijzen verlagen, terwijl export ze verhoogt. Maar dat is niet genoeg. Voor precieze en goed onderbouwde beslissingen moet je de omvang van die effecten kennen. Verlaagt import de prijzen sterker dan productie doet? Zijn de effecten van import en export op de prijzen vergelijkbaar in omvang? Om die vragen te beantwoorden hebben we hoogwaardige data en causale inferentie nodig.
We schatten dat de productie van één extra ton boter de prijs van een ton boter met 0,0046 euro verlaagt. De productie van 1.000 t boter verlaagt de prijs dus met 4,6 euro. Het effect van import werkt dezelfde kant op, maar is veel groter. De import van 1.000 t boter verlaagt de prijs van een ton boter met maar liefst 16,8 euro. De export van 1.000 t boter verhoogt de prijs van een ton boter daarentegen met 6,2 euro. De effecten werken in de verwachte richting en zijn aanzienlijk en significant. Import heeft daarvan het sterkste effect, veel groter dan export en productie.
De engine voor causale inferentie bij Vesper laat ons ook de verwachte causale effecten schatten, conditioneel op andere variabelen. We kennen de gemiddelde effecten van boterproductie, maar hoe hangen die af van het niveau van de bestaande botervoorraad? Om die vraag te beantwoorden schatten en tekenen we een model met heterogene causale effecten afhankelijk van de botervoorraden, en dat voor alle drie de factoren die ons interesseren: productie, import en export van boter.
De effecten van boterproductie op de prijzen zijn het duidelijkst en significant bij lage botervoorraden. Ligt de voorraad onder 100.000 t, dan kan het effect van 1.000 t extra boter produceren oplopen tot 7 euro. Bij hogere botervoorraden worden de effecten kleiner en bij voorraden boven 150.000 t zijn ze statistisch niet van nul te onderscheiden. Dat laat zien dat een grote botervoorraad een dempende werking op de markt kan hebben en de directe effecten van extra productie afvlakt.
Bij de boterimport zien we een ander beeld. Het causale effect van meer boter importeren hangt niet af van het niveau van de botervoorraad, en de licht zichtbare trend is statistisch niet significant. Meer boter importeren heeft sterke negatieve effecten op de prijzen, ongeacht de voorraad, al zijn de geschatte effecten bij een hoog voorraadniveau vrij onnauwkeurig.
Tot slot zijn de effecten van export, net als de effecten van productie, gevoelig voor het voorraadniveau. De grootste positieve effecten op de prijzen zie je wanneer de voorraad klein is. Dan kan de export van 1.000 t boter de prijs per ton met maar liefst 14 euro verhogen. Dat effect neemt scherp af en wordt niet meer significant bij voorraden boven 140.000 t. Dat laat zien dat export alleen een echte invloed op de prijzen heeft wanneer boter niet te ruim voorhanden is. Bij zeer hoge voorraden wordt export eerder een noodzaak dan een strategie, en vervaagt de causale invloed op de prijzen.
De belangrijkste inzichten
De hierboven genoemde inzichten helpen kopers, verkopers en handelaren op de markt voor agrarische grondstoffen om beter onderbouwde beslissingen te nemen. Vind je deze inzichten nuttig en wil je weten wat Vesper nog meer biedt? Boek dan een demo bij Yannick Aink: Yannick@vespertool.com.
Bronnen
- Eichler, Michael. Causal inference in time series analysis. na, 2012.
- Moraffah, Raha, et al. “Causal inference for time series analysis: Problems, methods and evaluation.” Knowledge and Information Systems (2021): 1–45.
- Blog, Netflix Technology. “A Survey of Causal Inference Applications at Netflix.” Medium, Netflix TechBlog, 6 June 2022, https://netflixtechblog.com/a-survey-of-causal-inference-applications-at-netflix-b62d25175e6f.
- Amit Sharma, Emre Kiciman. DoWhy: An End-to-End Library for Causal Inference. 2020. https://arxiv.org/abs/2011.04216
- Tibshirani, Robert. “Regression shrinkage and selection via the lasso.” Journal of the Royal Statistical Society: Series B (Methodological) 58.1 (1996): 267–288.
- Hoerl, Arthur E., and Robert W. Kennard. “Ridge regression: Biased estimation for nonorthogonal problems.” Technometrics 12.1 (1970): 55–67.
- Chernozhukov, Victor, et al. “Double/debiased machine learning for treatment and causal parameters.” arXiv preprint arXiv:1608.00060 (2016).
- Wager, Stefan, and Susan Athey. “Estimation and inference of heterogeneous treatment effects using random forests.” Journal of the American Statistical Association 113.523 (2018): 1228–1242.
Ga naar medium.com/vespertool voor meer artikelen over data science en development bij Vesper.
