Marleen Huysman digitaal socioloog
Chirurgen werken anders met een operatierobot en de politie leert misdaden te voorspellen: AI heeft invloed op organisaties.
Voor een socioloog heeft Marleen Huysman een ongebruikelijk grote en multidisciplinaire onderzoeksgroep om zich heen verzameld: 35 onderzoekers, waaronder bedrijfskundigen, sociologen, filosofen, antropologen, industrieel ontwerpers, ingenieurs en informatici. „We vormen een soort lab en opereren heel anders dan de meeste sociale wetenschappers”, vertelt ze in een vergaderkamer van haar onderzoeksinstituut bij de Vrije Universiteit in Amsterdam. „Als detectives rafelen we uit elkaar hoe digitale innovaties organisaties veranderen. Dat doen we op de werkvloer zelf: een soort embedded research.”
Huysman leidt het KIN Center for Digital Innovation. Ze vertelt dat ze vroeger weleens jaloers was op het lab dat haar man, natuurkundige Leo Kouwenhoven, jarenlang aan de TU Delft leidde, voor hij de overstap maakte naar Microsoft. „Vroeger werkte ik meestal in mijn eentje. Maar ik dacht: waarom zou ik ook niet zo’n onderzoeksomgeving als Leo om me heen kunnen creëren? Als je echt wilt weten wat de gevolgen zijn van een digitale innovatie in een organisatie, dan heb je een groot, multidisciplinair team nodig. Onderzoekers van artificial intelligence – AI – zijn meestal alleen bezig met wat de computer kan. Economen kijken vooral naar hoe AI banen verandert of wat de invloed is op economische ongelijkheid. Wij bestuderen het grotere plaatje.”
Jullie onderzochten wat de gevolgen zijn voor het werk in een operatiekamer wanneer een operatierobot wordt ingezet. Wat vonden jullie?
„We zagen dat de coördinatie tussen de teamleden in de operatiekamer totaal verandert. Bij een operatie zonder robot staat de chirurg aan de operatietafel, dicht bij de assistenten. Bij een operatie met een robot zit de chirurg in een hoek van de operatiekamer en kijkt naar een scherm. Hij is ondergedompeld in een virtuele wereld. Een chirurg omschreef het alsof hij aan het zwemmen is in het lichaam van de patiënt.
„De robot is groot en staat in het midden van de kamer. Omdat de chirurg zo opgaat in wat hij op zijn scherm ziet, hoort hij een waarschuwend geluid van een assistent bijvoorbeeld minder goed. Iets anders is dat de communicatie met de assistenten traditioneel vaak impliciet, via gebaren of lichaamstaal, gebeurde. De robot maakt de afstand tussen chirurg en assistenten groter, waardoor de communicatie explicieter wordt. Dan moet de chirurg bijvoorbeeld zeggen wat er moet gebeuren. Hij moet op een nieuwe manier leren communiceren met de assistenten die aan de operatietafel staan.
“De cultuur van de politie is zodanig dat agenten in actie willen komen”
– Marleen Huysman socioloog
„De assistenten op hun beurt krijgen belangrijkere taken dan voorheen. Ineens moeten ze bijvoorbeeld helpen om de armen van de robot beter in de patiënt te plaatsen, of een patiënt openknippen, taken waarvoor de assistent niet is opgeleid. Dit zijn allemaal veranderingen in de organisatie van een operatieteam waarover niet is nagedacht bij de introductie van de operatierobot. Ziekenhuizen leren dat nu met vallen en opstaan.”
Jullie bestuderen ook de gevolgen voor de politie wanneer data gebruikt worden om misdaden te voorspellen. Wat zijn de conclusies?
„Stel dat historische data laten zien dat er op maandagochtend een grote kans is dat er auto’s in Duivendrecht worden gestolen. Je zou zeggen dat agenten dan van tevoren actie gaan ondernemen, zodat op maandagochtend deze kans zo klein mogelijk wordt gemaakt. Maar de cultuur van de politie is zodanig dat agenten in actie willen komen en dus pas op maandagochtend die kant op gaan om te kijken of ze boeven kunnen vangen. Het gaat om actie, niet om preventie. Zo is er binnen sommige districten een prijs voor de ‘vangst van de maand’ en geen prijs voor de beste preventieve actie.
„Bovendien zijn de data lang niet altijd van goede kwaliteit en ontbreken er gegevens van allerlei plekken. Data vragen dus om interpretatie en filtering. Om dat niet aan de agenten zelf over te laten, heeft de politie nu een intelligence unit opgericht, en dat vind ik een goede stap. Deze eenheid maakt de vertaalslag van de data naar wat politieagenten concreet moeten doen. We zien dat er op het bureau anders wordt nagedacht, maar dat is een langzaam veranderingsproces.”
Wat zeggen de voorbeelden van de operatierobot en de politie over de gevolgen van digitale innovaties op de werkvloer in het algemeen?
„Wanneer een digitale innovatie wordt geïntroduceerd, verandert de hele dynamiek in een organisatie. Daar is tot nu toe heel weinig aandacht voor geweest. De meeste aandacht is de afgelopen jaren uitgegaan naar wat digitale innovaties met banen doen. Welke banen verdwijnen er? Hoe moeten vaardigheden van werknemers veranderen? Dat is allemaal op het individu gericht. Al die innovaties hebben ook gevolgen voor organisaties. Je ziet dat technologie vaak totaal onverwachte effecten heeft op de mensen die er in de praktijk mee moeten omgaan.”
De beloften van nieuwe technologieën zijn natuurlijk aantrekkelijk voor managers…
„Zeker. Ik heb in de loop der jaren al heel wat hypes voorbij zien komen: kennismanagementsystemen, sociale media voor werknemers… AI en datagedreven werken zijn de nieuwe hypes. Ze worden verkocht als iets dat het werk effectiever, objectiever en transparanter maakt, maar de praktijk kan heel anders uitpakken.
„Neem de wet dat patiënten direct toegang tot hun eigen medische data moeten krijgen. Het idee is prachtig: geef patiënten meer zeggenschap over hun eigen ziekte, dan zijn ze niet meer zo afhankelijk van hun arts. Wij hebben er onderzoek naar gedaan en concluderen dat juist het tegenovergestelde gebeurt: de patiënt gaat zich afhankelijker van de arts voelen. Het interpreteren van medische data vereist vaak een expertise die de patiënt zelf niet heeft. Dan heeft hij toch de hulp van de arts nodig. Directe toegang tot medische data maakt de patiënt onzeker en bezorgt de arts nog meer werk.”
Waarop gaat u zich de komende jaren richten?
„Ik ben benieuwd hoe AI-toepassingen in de praktijk van organisaties gaan uitpakken. De eerste toepassingen zijn er nu, bijvoorbeeld het gebruik van AI bij personeelsselectie. We zijn net met een studie hiernaar begonnen. We doen dat met een open blik. Ik vind de discussies over AI in de media nu óf heel positief – AI gaat al onze problemen oplossen – óf heel negatief – bijvoorbeeld dat AI vol vooroordelen zit. Er zit zo weinig tussenin. We moeten meer met de voeten in de modder, de invloed van AI in de praktijk onderzoeken. Ook wil ik de komende jaren de resultaten van mijn onderzoeksgroep meer terugkoppelen naar de ontwerpers van digitale innovaties zodat zij met betere ontwerpen kunnen komen.”
Dit interview door Bennie Mols met Marleen Huysman, digitaal socioloog aan de VU en trekker van programmalijn Work & Organisations, werd vorige maand gepubliceerd in NRC. Met toestemming van de auteur plaatsen wij het nu hier.