Algoritmen reguleren?

In eerste instantie werkte het op mijn lachspieren, toen ik las over de politieke wens om algoritmen te laten controleren door accountants[1]. Vast weer een proefballonnetje, van een politicus met weinig besef van techniek. Immers, algoritmen worden op dagelijkse basis bijgesteld. Dat maakt ze tot commerciële kracht voor bedrijven als Coolblue.

Algoritmen als recepten

De bron van het bericht was om weer heel andere redenen verdacht, de VVD, onze eigen nationale kapitalistische partij. Toch bleek er een zeer lezenswaardig stuk[2] achter te zitten. Opsteller Jan Middendorp, ooit PvdA (socialistisch van het positieve soort), beschrijft toegankelijke hoe je plezier kunt hebben van algoritmen. Zo neemt hij het koken van boerenkool stamppot als voorbeeld. Volgens een recept (algoritme) meng je de op zich onsmakelijke rauwe aardappelen en boerenkool (input) in voorgeschreven verhouding en volgorde om ze garen tot je een geheel (output) krijgt dat smakelijk is (impact). Niet blind voor risico´s wordt ook genoemd dat je soms een baan niet krijgt omdat een computerprogramma vrouwen automatisch niet aan de beurt laat komen. Conclusie: de politiek heeft een taak, namelijk regelen dat ook computers onze geldende wetten volgen.

In welke internet bubbel leef jij?

Terecht maken veel mensen zich zorgen over de manier waarop wij geautomatiseerd uitsluitend boeken gesuggereerd krijgen die tegen vaccinatie pleiten, om eens een voorbeeld te noemen. Veel mensen hebben niet door hoe ze opgesloten zitten in hun eigen internet bubbel. Door daar wel inzicht in te geven maak je het internet veiliger, is het idee.

Geautomatiseerde besluiten overheid

Het begint natuurlijk bij de overheid, zegt Middendorp. Nu al worden veel besluiten genomen door computers, wat onze overheid steeds goedkoper (en effectiever) maakt, maar die besluiten moeten wel het zelfde zijn als wanneer ze genomen waren door een ambtenaar. En dat is het punt waarop hij mij om heeft.

Menselijke emoties moeilijk controleerbaar

Van oudsher doen ambtenaren zorgvuldig en gewetensvol hun werk. Ondertussen blijven het echter mensen, met menselijke emoties. Gevolg is dat je nooit weet, ook zij zelf niet, of hun eigen overtuiging een rol speelde in een afweging. Een algoritme is wat dat betreft makkelijker te controleren, ook al heb je er misschien wat technische kennis voor nodig. Als oplossing noemt Middendorp dat de overheid bij beslissingen zou moeten laten zien welke algoritmen zijn gebruikt. Of dat de juiste zijn, en of ze goed werkten, kun je achteraf laten toetsen door de rechter. Als je dat structureel vastlegt kun je jaarlijks door een accountant laten controleren of gebruikte algoritmen de geldende wettelijke regels hebben gevolgd.

Aansluiten bij bestaande wetgeving

Slim doorgedacht is dat we nu al een heleboel regels hebben rond privacy, via de AVG. Veel hebben we Europees laten vastleggen, zodat ook andere landen zich er aan moeten houden. En dat zou ook moeten kunnen met algoritmen.

Draagvlak als sleutelwoord.

Neem het initiatief, is de opdracht aan de regering, om te onderzoeken hoe we regels kunnen opstellen waar we allemaal beter van worden. Zorg voor regels die gewone consumenten zo veel inzicht geven dat draagvlak ontstaat. Gebruik onze eigen overheid als proeftuin en bedenk hoe dat Europees geregeld kan worden. Laat dus eigenlijk internationaal zien hoe goed Polderland Nederland is in technische en maatschappelijke ontwikkelingen op elkaar afstemmen.

© Jeroen van Rossum, 31 mei 2019.

De redactie van ESK belicht actuele kwesties. Wij leggen het verband tussen (fiscale) wetgeving en ondernemen, maar een persoonlijke opinie steken wij niet onder stoelen of banken. Als lezer kun je vragen op ons formulier stellen. Wij doen ons best om juiste en accurate informatie te geven, maar zijn niet aansprakelijk voor eventuele fouten of verkeerde interpretaties.

Waarschuwing: wat waar is als het wordt geschreven kan achterhaald raken door ontwikkelingen in wetgeving, techniek en economie. Raadpleeg daarom altijd een professional voordat je grote beslissingen neemt. De kosten om een deskundige in te huren wegen niet op tegen de kosten van een miskleun.

Bronnen: