‘We kunnen niet roekeloos blijven programmeren’

Interview in Vrij Nederland, 14 april door Tim de Gier.

Zeynep Tufekci waarschuwt voor de grote boze algoritmen. ‘Dit is het jaar waarin we schrikken van wat computers al kunnen. Maar het is nog niet te laat om aan tafel te gaan zitten en standaarden te bedenken.’

Foto: Dan Sears/UNC-Chapel Hill

Foto: Dan Sears/UNC-Chapel Hill

Teken des tijds: tegenover mij zit Zeynep Tufekci, de Turks-Amerikaanse sociologe, terwijl ze met links nacho’s eet, met rechts vragen op Twitter beantwoordt en ondertussen in essayistische betoogjes tegen mij praat. Zeynep is een onwaarschijnlijk kijkcijferkanon. Haar essays veronderstellen een hoop technische kennis, zijn eerder wetenschappelijk dan journalistiek en bulken van jargon. Misschien is dat ook wel de reden dat ze lange tijd vooral omarmd werd door de internetgemeenschap. Zeynep is een bevlogen technologieschrijver en valt altijd met de deur in huis. Ik noem haar Zeynep en niet Tufekci, omdat de meeste mensen haar zullen kennen via haar twitterhandle: @zeynep

Deze maand begint ze met haar column in The New York Times, over haar favoriete onderwerp: de sociologie van het internet. Ik leerde Zeynep ongeveer een jaar geleden kennen door haar geweldige essay ‘Is the internet good or bad? Yes’, waarin ze betoogt dat het internet zowaar goed én slecht is, net als de echte wereld. Daarin schrijft ze ook dat het moeilijk is om wezenlijk over de dreigingen van technologie te praten, omdat onze metaforen (zoals 1984 van George Orwell en The Circle van Dave Eggers) hopeloos verouderd zijn.

Tussen de nacho’s en tweets door bespraken we wat volgens haar het belangrijke onderwerp van het nieuwe jaar wordt: grote, boze algoritmen. ‘Dit is het jaar waarin we schrikken van wat computers al kunnen. En het is een beetje eng. Een algoritme is eigenlijk gewoon een computerprogramma, maar in dit geval bedoel ik een complexe serie regels die bepaalde resultaten bepaalt, zoals de zoekresultaten van Google of de tijdlijn van Facebook. We vinden het leuk als computers ons leven praktischer maken en ons met elkaar verbinden, maar we vinden het niet leuk als ze beslissingen voor ons gaan nemen zonder dat we het doorhebben. En dat is precies wat algoritmen doen.’

‘Lange tijd waren de pogingen tevergeefs. Telkens als we dachten dat computers zelf konden gaan denken, lukte het nét niet’

Wij bepalen toch wat het algoritme doet? Ook bij Facebook en Google zitten mensen achter de knoppen.
‘Zo was het ooit. Eerst bepaalden wij de regels. We vertelden de computer: als een persoon zijn wenkbrauwen optrekt en zijn mondhoeken omhoog trekt, dan is hij vrolijk. Als die mondhoeken naar beneden staan, dan is hij treurig. Zo leerden wij een computer wanneer iemand vrolijk is en wanneer niet. Een andere manier om de computer hetzelfde te leren, is door hem big data te voeren. Je zegt: dit zijn tien mensen, deze twee mensen zijn vrolijk en de rest is somber. Die training herhaal je net zo lang met verschillende testgroepen tot de computer vrolijke en sombere mensen kan onderscheiden. Dat is een zelflerend algoritme. Die hebben we geen regels gegeven, maar die hebben we getraind om naar regels te zoeken.’

Klinkt handig.
‘Dat is het verleidelijke. Het is heel handig. Maar stel je voor: je gebruikt een algoritme om de perfecte mensen aan te nemen voor je bedrijf. Je voert de computer tachtig werknemers en hun beoordeling. Je vertelt de computer over welke mensen je tevreden bent en over welke niet. En dan gooi je er nog honderd voorbeelden in. En dan nog eens. Daarna vraag je de computer: “Dit zijn tien mensen, wie moet ik inhuren?” Het algoritme kiest voor je. Geloof me, dit werkt geweldig. Beter dan een menselijke beslissing. Je weet alleen niet welke variabelen het algoritme heeft gebruikt, want dat bepaalt hij zelf. Misschien houdt het algoritme wel rekening met risico’s op depressie bij een potentiële aanwinst. Misschien zijn de variabelen wel seksistisch. Of racistisch. Het punt is vooral dat je niet weet wat hij doet.’

En daar komen we dit jaar pas achter?
‘Ja, omdat het pas sinds kort goed werkt. Lange tijd waren de pogingen tevergeefs. Telkens als we dachten dat computers zelf konden gaan denken, lukte het nét niet. Achteraf bleek dat we de rekenkracht nog niet hadden. En de data. Nu hebben we die wel.’

‘Silicon Valley is niet kwaadaardig. We hadden het een stuk slechter kunnen treffen dan Mark Zuckerberg’

En als we de code openbaar maken? Dan kunnen we zelf zien welke beslissingen zijn genomen?
‘Dat werkt niet. Een beetje flink algoritme, zoals dat van Google, is te ingewikkeld voor iemand om te begrijpen. Je weet misschien waar je begonnen bent, maar je weet niet wat het algoritme zichzelf heeft geleerd. Er zit een rekenkracht achter waar geen mens in mee kan komen. Bovendien is er een reden waarom al die bedrijven geheimzinnig doen over hun methodes: als je het algoritme openbaar maakt, kunnen mensen het bespelen. Dat wil je ook niet.’

Wat wil je dan?
‘Wat ik echt wil, is dat we niet roekeloos blijven programmeren. Je kunt niet steeds zeggen dat een service handiger is geworden en dat het voor de rest je verantwoordelijkheid niet is. Silicon Valley staat wat dat betreft nog in de kinderschoenen. Ze zijn niet kwaadaardig, we hadden het een stuk slechter kunnen treffen dan Mark Zuckerberg, maar hij en zijn collega’s richten zich uitsluitend op bezit. Als dat zo doorgaat, is straks heel Silicon Valley in handen van Wall Street. Nu is het nog niet te laat om aan tafel te gaan zitten, standaarden te bedenken en instituties. Ooit wilden we de autogordel, tegen allerlei commerciële belangen in, en we kregen de autogordel. Dat kan ook in Silicon Valley. Het is tijd om volwassen te worden.’

Reacties

Nog geen reacties

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s