Wereldwijd staan overheden voor grote opgaven, zoals klimaatverandering en maatschappelijke ongelijkheid. Hoe kunnen zij zich beter toerusten voor deze opgaven? En welke rol kan evaluatieonderzoek hierbij spelen? Deze vragen staan centraal in het toegankelijk geschreven boek Changing bureaucracies: Adapting to uncertainty, and how evaluation can help (Abingdon/New York: Routledge 2021), onder eindredactie van Burt Perrin en Tony Tyrrell. Jedid-Jah Jonker bespreekt deze bundel en staat hierbij onder meer stil bij de relevantie van de inzichten uit het boek voor de Nederlandse overheid.

Dutch social policies are aimed at the integration and participation of all people. This creates challenges for persons with a mental vulnerability and their neighbourhoods. Five municipalities in the province of Flevoland asked us to help them improve the move from protected living to living in the neighbourhood. We used an arts-based participatory action research design and we followed ‘hot topics’, topics that sparked people’s energy and emotion, and which led to empowerment and participation. Focusing on these topics, which initially might not seem to be closely connected to the main research topic, might produce more information, and energy to take action on it, rather than rigidly sticking with the initial research topics. In this article, we focus on the first phases of the project. The emotions that people with mental vulnerabilities expressed when talking about their dogs, led us to the core of what really mattered to them in terms of inclusive living and participation. The dog functioned as an unexpected ‘hot topic’. In a symbolic sense, ‘the dog’ stands for a diverse range of lifeworld topics that can act as a creative catalyst for social change.

Vooraf

Participatief actieonderzoek en responsieve evaluatie staan volop in de belangstelling bij beleidsmakers en onderzoekers. Dit type beleidsonderzoek en -evaluatie beoogt democratisch, inclusief én impactvol te zijn. Het gaat om onderzoek mét in plaats van óver mensen. En het is actiegericht: onderzoek wil bijdragen aan concrete oplossingen door met betrokkenen gezamenlijke (verbeter)acties te ontwikkelen in de praktijk, en daarop te reflecteren en van te leren. Dit alles met het oog op sociale inclusie. Het zijn mooie idealen, maar wat betekent dit in de alledaagse, vaak weerbarstige onderzoekspraktijk?

Op 20 januari 2020 organiseerde prof. Abma daarover een symposium, getiteld ‘Responsive, Participatory Research: Past, Present and Future Perspectives’ (Vrije Universiteit, Amsterdam). De rode draad op het symposium was de vraag wat goed en ethisch verantwoord participatief onderzoek is, en wat dit vraagt van onderzoekers en beleidsmakers. Drie lezingen op deze conferentie zijn nadien omgewerkt tot essays om lezers van Beleidsonderzoek Online vanuit verschillende perspectieven beter kennis te laten maken met deze vorm van onderzoek:

Prof. Weerman en haar team focussen in hun bijdrage op het zich in de praktijk ontwikkelende onderzoeksdesign en het inzetten van creatieve methoden om participatie te bevorderen. Ze gaan na welke kwaliteitscriteria aan participatief actieonderzoek worden gesteld en hechten daarbij met name aan eisen ten aanzien van participatie, samen leren en verschil maken (zie BoO juli 2021). Ze benadrukken het belang van creativiteit en flexibiliteit.

Prof. Abma bespreekt in haar artikel de normatieve dimensies en de ethiek van participatief actieonderzoek (zie BoO september 2020). Ze illustreert met een voorbeeld uit de crisishulpverlening aan GGZ-cliënten dat participatief actieonderzoek niet slechts een methodisch-technische exercitie is, maar een sociaal-politiek proces waarbij bestaande machtsverhoudingen verschuiven om ruimte te geven aan nieuwe stemmen en kennis. Dit omvat het zien van en stilstaan bij ethisch saillante dilemma’s en morele reflectie.

De bijdrage van prof. Cook (zie BoO februari 2021) gaat over de weerbarstige praktijk van participatief actieonderzoek. Het doel is samen leren en voorbij geijkte oplossingen komen. Zij laat zien dat dit uitdagend is voor professionals die geconfronteerd worden met burgers die feedback geven en vragen om het (deels) loslaten van vaststaande professionele kaders. Er ontstaat dan ongemak en onzekerheid, maar zo beoogt en laat Cook overtuigend zien, deze ‘mess’ (niet meer goed weten wat goed en nodig is) is productief om te komen tot hernieuwde inzichten en innovaties.

(Introductietekst opgesteld door prof. T. Abma)

Participatory research is increasingly being perceived as a democratic and transformative approach to social situations by both academics and policymakers. The article reflects on what it means to do participatory research, what it contributes to broader knowledge building, and why mess may not only need to be present in participatory research but encouraged. The purposes of participation and mess as nourishment for critical enquiry and more radical learning opportunities are considered and illuminated using case study material from the Family Based Positive Support Project.

Vooraf

Participatief actieonderzoek en responsieve evaluatie staan volop in de belangstelling bij beleidsmakers en onderzoekers. Dit type beleidsonderzoek en -evaluatie beoogt democratisch, inclusief én impactvol te zijn. Het gaat om onderzoek mét in plaats van óver mensen. En het is actiegericht: onderzoek wil bijdragen aan concrete oplossingen door met betrokkenen gezamenlijke (verbeter)acties te ontwikkelen in de praktijk, en daarop te reflecteren en van te leren. Dit alles met het oog op sociale inclusie. Het zijn mooie idealen, maar wat betekent dit in de alledaagse, vaak weerbarstige onderzoekspraktijk?

Op 20 januari 2020 organiseerde prof. Abma daarover een symposium, getiteld ‘Responsive, Participatory Research: Past, Present and Future Perspectives’ (Vrije Universiteit, Amsterdam). De rode draad op het symposium was de vraag wat goed en ethisch verantwoord participatief onderzoek is, en wat dit vraagt van onderzoekers en beleidsmakers. Drie lezingen op deze conferentie zijn nadien omgewerkt tot essays om lezers van Beleidsonderzoek Online vanuit verschillende perspectieven beter kennis te laten maken met deze vorm van onderzoek:

Prof. Weerman en haar team focussen in hun bijdrage op het zich in de praktijk ontwikkelende onderzoeksdesign en het inzetten van creatieve methoden om participatie te bevorderen. Ze gaan na welke kwaliteitscriteria aan participatief actieonderzoek worden gesteld en hechten daarbij met name aan eisen ten aanzien van participatie, samen leren en verschil maken (zie BoO juli 2021). Ze benadrukken het belang van creativiteit en flexibiliteit.

Prof. Abma bespreekt in haar artikel de normatieve dimensies en de ethiek van participatief actieonderzoek (zie BoO september 2020). Ze illustreert met een voorbeeld uit de crisishulpverlening aan GGZ-cliënten dat participatief actieonderzoek niet slechts een methodisch-technische exercitie is, maar een sociaal-politiek proces waarbij bestaande machtsverhoudingen verschuiven om ruimte te geven aan nieuwe stemmen en kennis. Dit omvat het zien van en stilstaan bij ethisch saillante dilemma’s en morele reflectie.

De bijdrage van prof. Cook (zie BoO februari 2021) gaat over de weerbarstige praktijk van participatief actieonderzoek. Het doel is samen leren en voorbij geijkte oplossingen komen. Zij laat zien dat dit uitdagend is voor professionals die geconfronteerd worden met burgers die feedback geven en vragen om het (deels) loslaten van vaststaande professionele kaders. Er ontstaat dan ongemak en onzekerheid, maar zo beoogt en laat Cook overtuigend zien, deze ‘mess’ (niet meer goed weten wat goed en nodig is) is productief om te komen tot hernieuwde inzichten en innovaties.

(Introductietekst opgesteld door prof. T. Abma)

Volgens de auteurs van dit boek vertoont de huidige representatieve keuzedemocratie scheurtjes, om niet te zeggen barsten. Er is steeds minder dualisme tussen kabinet en Kamer. Keuzes worden gemaakt op basis van een relatief gesloten netwerk dat denkt in termen belangenuitruil en kleine stappen. Kennis uit onderzoek wordt in dat proces onderbenut. Besturen bestaat uit top-down processen. De politieke en ambtelijke top heeft een obsessie om altijd in control te willen zijn. Die regenteske en conservatieve benadering past volgens de auteurs echter steeds minder in een steeds complexere wereld. We moeten daarom streven naar een participatieve kennisdemocratie, waarin de beleidsambtenaar van de 21ste eeuw functioneert als een katalyserende spil in een proces van open en innovatieve beleidsontwikkeling.
Het is een waardevol boek met een belangrijke boodschap: veel kan en moet inderdaad anders. Enkele belangrijke thema’s komen in het boek echter onvoldoende aan de orde. In deze boekbespreking wordt hier dieper op ingegaan.

‘The institutionalisation of evaluation in Europe’ is een lijvige, Engelstalige bundel over de institutionalisering van de beleidsevaluatie in Europa, onder redactie van drie Duitse evaluatiedeskundigen. Het boek bestaat uit een inleidend hoofdstuk over het analytisch begrippenkader en de gevolgde methode, zestien landenhoofdstukken, geschreven door nationale experts en twee internationale organisaties, en tot slot een synthesehoofdstuk van de hand van de drie redacteuren. Centraal thema is de verankering van de beleidsevaluatie in het politiek-bestuurlijk systeem, de civiele samenleving en de beroepsgroepen. De bundel is de eerste in een reeks van vier boeken, die samen een ‘wereldkaart van evaluatiesystemen’ moeten opleveren. Elk hoofdstuk bevat een uitgebreid notenapparaat, literatuurverwijzingen, figuren en tabellen.

Hoeveel nieuwe methoden en technieken van sociaalwetenschappelijk onderzoek zijn er sinds de jaren zestig van de vorige eeuw bij gekomen? Moderne ICT heeft het allemaal wel sneller en makkelijker gemaakt, maar in wezen gaat het nog steeds om dezelfde methoden, wellicht op een enkele uitzondering na. Maar misschien levert deze column reacties op die dit tegenspreken.

Een reflexieve kijk op beleidsonderzoek gaat uit van continue dynamiek tussen kennisontwikkeling en beleids- en uitvoeringspraktijken. Beleidsonderzoekers zoeken naar houvast om gedegen en relevant onderzoek te blijven doen, onderwijl inspelend op onzekerheden, onvoorspelbaarheid en kritische geluiden die kenmerkend zijn voor de huidige kennissamenleving. Via omgevingsbewust werken kunnen zij hun onderzoeksaanpak leren afstemmen op de kenmerken en maatschappelijke context van beleidsdossiers. Via kwaliteitsbewust werken kunnen zij leren inspelen op de verwachtingen rondom een bepaalde expertrol en onderzoeksaanpak binnen de eigen contexten van onafhankelijkheid en wetenschappelijke verantwoording.
Aan de hand van een casus – de lerende evaluatie van het Natuurpact, een innovatieve evaluatiestudie bij het Planbureau voor de Leefomgeving – laten we zien hoe een reflexieve aanpak helpt om onderzoek in de nabijheid van de dynamische beleidspraktijk uit te voeren. Doordat deze aanpak buiten de comfortzone van onderzoekers ligt, is omgevingsbewust en kwaliteitsbewust werken voor onderzoekers geen vanzelfsprekendheid. We roepen beleidsonderzoekers zelf, de organisaties waar ze werkzaam zijn en beleidsmedewerkers op om hun reflexieve vaardigheden verder te ontwikkelen via het inrichten van lerende processen, effectieve kennisdeling via Communities of Practice en leerwerktrajecten, en open en adaptieve kennis-beleidsarrangementen.

Nederland staat voor forse en complexe beleidsopgaven. Deze opgaven vragen om een bijzondere beleidsaanpak met een aansluitende wijze van beleidsevaluatie – namelijk één die leren ondersteunt om iteratief de kwaliteit van het beleid te verbeteren en de weg naar de beleidsambities te vinden. Beleidsonderzoekers en beleidsbetrokkenen werken in lerende evaluaties samen om kennis te produceren voor het gelijktijdig verantwoorden en leren van beleid. Verondersteld wordt dat de kwaliteit en bruikbaarheid van de geproduceerde kennis met deze benadering groter zijn dan bij reguliere, op verantwoording georiënteerde, evaluatiemethoden. Als gevolg daarvan zou lerend evalueren meer impact hebben op beleid voor complexe opgaven. In dit artikel wordt aandacht besteed aan de waarde van lerend evalueren vanuit het perspectief van beleidsbetrokkenen en beleidsonderzoekers van de lerende evaluatie van het Natuurpact (2014-2017), uitgevoerd door het PBL en de WUR. Geconcludeerd wordt dat lerend evalueren de kwaliteit, bruikbaarheid en impact (minder aantoonbaar) van de geproduceerde kennis vergroot, maar onder specifieke voorwaarden: namelijk wanneer onderzoekers erin slagen om leren en verantwoorden, met de bijbehorende rollen en kwaliteitsstandaarden, te benaderen als wederzijds versterkend in plaats van tegenstrijdig. Onderzoekers hebben voelsprieten nodig voor de wisselwerking tussen het proces van kennisproductie en de politiek-bestuurlijke context waarin deze kennis wordt gebruikt. Zowel in de beleids- als onderzoekspraktijk is ruimte nodig voor een verbrede kijk op de functie van beleidsevaluatie om lerend evalueren toe te kunnen passen.

De focus op effectiviteit en vooral ook efficiëntie in beleid leidt wellicht tot beleidsuitvoering die efficiënt is voor de overheid, maar of dat ook zo is voor andere stakeholders, wordt misschien uit het oog verloren. Dat laat de huidige coronacrisis zien, maar blijkt ook uit andere voorbeelden. Voor beleidsonderzoek is het relevant om beleid te evalueren binnen de bredere maatschappelijke context en met de vraag voor wie beleid efficiënt is.

Onder redactie van B. Guy Peters en Guillaume Fontaine verscheen in 2020 bij EE Publishers een handboek over vergelijkende beleidsanalyse. Dit terrein van onderzoek heeft stevige raakvlakken met beleidsevaluatie en beleidsanalyses (als die niet-vergelijkend zijn). Een breed en interessant spectrum van onderwerpen komt aan de orde, onder andere over methodologie(en), de rol van theorieën, diverse inhoudelijke onderwerpen en – voor wie het breed wil interpreteren – zelfs de groei van kennis op dit specialisme.

Het boek van voormalig topambtenaar Roel Bekker Dat had niet zo gemoeten! analyseert op scherpe wijze fouten en falen bij de overheid. Doordat de overheid allerlei steken laat vallen bij de voorbereiding van beleid en bovendien te weinig leert van beleidsevaluaties, ontstaat er beleid dat verre van optimaal functioneert, onder meer omdat de uitvoering wordt belast met (zeer) ingewikkelde procedures. Voor de overheid valt uit dit boek veel te leren over hoe het beter kan worden aangepakt. De vraag is wel of dat ook gaat gebeuren, want eerdere publicaties met waardevolle aanbevelingen op dit gebied hebben maar weinig effect gehad.

Participatory and responsive approaches to research strive to be democratic, inclusive and impactful. Participatory researchers share a commitment to epistemic justice and actively engage citizens and users as well as other stakeholders in the co-creation of knowledge for social change. While more and more researchers and policymakers feel attracted to these approaches in practice, the normative ideals of social inclusion and justice are sometimes hard to realize, because of established interests, power relations and system requirements. In this article I argue that participatory researchers and evaluators have a moral responsibility to do ‘ethics work’. This is more than just following ethical principles and codes of conduct. ‘Ethics work’ entails the labour and effort one puts into recognizing ethically salient aspects of situations, developing oneself as a reflexive practitioner, paying attention to emotions and relationships, collaboratively working out the right course of action and reflecting in the company of critical friends. In this article I present the theory and ethics of participatory approaches, illustrate ethical issues and ethics work related to collaboration, politics and power, and share lessons based on ten years of practice in the field of health and social well-being.

Vooraf

Participatief actieonderzoek en responsieve evaluatie staan volop in de belangstelling bij beleidsmakers en onderzoekers. Dit type beleidsonderzoek en -evaluatie beoogt democratisch, inclusief én impactvol te zijn. Het gaat om onderzoek mét in plaats van óver mensen. En het is actiegericht: onderzoek wil bijdragen aan concrete oplossingen door met betrokkenen gezamenlijke (verbeter)acties te ontwikkelen in de praktijk, en daarop te reflecteren en van te leren. Dit alles met het oog op sociale inclusie. Het zijn mooie idealen, maar wat betekent dit in de alledaagse, vaak weerbarstige onderzoekspraktijk?

Op 20 januari 2020 organiseerde prof. Abma daarover een symposium, getiteld ‘Responsive, Participatory Research: Past, Present and Future Perspectives’ (Vrije Universiteit, Amsterdam). De rode draad op het symposium was de vraag wat goed en ethisch verantwoord participatief onderzoek is, en wat dit vraagt van onderzoekers en beleidsmakers. Drie lezingen op deze conferentie zijn nadien omgewerkt tot essays om lezers van Beleidsonderzoek Online vanuit verschillende perspectieven beter kennis te laten maken met deze vorm van onderzoek:

Prof. Weerman en haar team focussen in hun bijdrage op het zich in de praktijk ontwikkelende onderzoeksdesign en het inzetten van creatieve methoden om participatie te bevorderen. Ze gaan na welke kwaliteitscriteria aan participatief actieonderzoek worden gesteld en hechten daarbij met name aan eisen ten aanzien van participatie, samen leren en verschil maken (zie BoO juli 2021). Ze benadrukken het belang van creativiteit en flexibiliteit.

Prof. Abma bespreekt in haar artikel de normatieve dimensies en de ethiek van participatief actieonderzoek (zie BoO september 2020). Ze illustreert met een voorbeeld uit de crisishulpverlening aan GGZ-cliënten dat participatief actieonderzoek niet slechts een methodisch-technische exercitie is, maar een sociaal-politiek proces waarbij bestaande machtsverhoudingen verschuiven om ruimte te geven aan nieuwe stemmen en kennis. Dit omvat het zien van en stilstaan bij ethisch saillante dilemma’s en morele reflectie.

De bijdrage van prof. Cook (zie BoO februari 2021) gaat over de weerbarstige praktijk van participatief actieonderzoek. Het doel is samen leren en voorbij geijkte oplossingen komen. Zij laat zien dat dit uitdagend is voor professionals die geconfronteerd worden met burgers die feedback geven en vragen om het (deels) loslaten van vaststaande professionele kaders. Er ontstaat dan ongemak en onzekerheid, maar zo beoogt en laat Cook overtuigend zien, deze ‘mess’ (niet meer goed weten wat goed en nodig is) is productief om te komen tot hernieuwde inzichten en innovaties.

(Introductietekst opgesteld door prof. T. Abma)

In maart 2020 verscheen het boek Beleidsevaluatie in theorie en praktijk van Peter van der Knaap, Valérie Pattyn en Dick Hanemaayer. Joost Fledderus bespreekt de inhoud van het boek en geeft aan welke meerwaarde het biedt voor (aankomende) beleidsonderzoekers.

Theorieën en methoden uit de gedragswetenschappen betreden steeds nadrukkelijker de beleidsscene. Gedragsinzichten en nudging beloven beleid te verrijken en te versterken. Het begin van deze gedragswetenschappelijke omslag of behavioural turn laat men doorgaans samenvallen met de publicatie van het boek Nudge van Richard Thaler en Cass Sunstein in 2008. In dit artikel plaatsen we nudging in perspectief en argumenteren we dat het concept zowel een zegen als een vloek betekent, en zowel een katalysator als een rem is voor de bredere toepassing en verankering van gedragsinzichten in beleid. Ondanks het aantrekkelijke narratief botst nudging op functionele limieten en ethische bezwaren. Om de gedragswetenschappelijke, experimentele en evidence-based beleidsbeloften alsnog in te lossen, zien we een strategie van steeds verdere verbreding. Het programma van de Behavioural Insights-beweging op basis van vijf pijlers leek in eerste instantie een oplossing te bieden, maar kampt door een eendimensionale interpretatie met interne spanningen. De nog bredere en ambitieuzere Behavioural Public Policy-agenda biedt nieuwe perspectieven, maar moet op functioneel en ethisch vlak nog verder onderbouwd worden.

Naar aanleiding van 25 jaar Vereniging voor Beleidsonderzoek staat dit artikel stil bij de rol van beleidsonderzoek. Het belang daarvan wordt nogal eens onderschat – zowel door beleidsmakers als onderzoekers zelf. Vanuit een wat breder perspectief bezien blijkt het voor de huidige samenleving – getypeerd als ‘een pragmacratie’ – echter een onmisbare functie te vervullen. Beleid en praktijk zijn vaak indirect gebaseerd op wetenschappelijke concepten, onderzoeksresultaten en toekomstverkenningen. Vooral de sociale wetenschappen maken zichtbaar wat mogelijk is, en beleidsonderzoek doet dat dan ook nog eens op een tijdige, oplossingsgerichte manier. Daarbij zijn er verschillende manieren om impact te hebben, waarbij de beleidsonderzoeker moet vasthouden aan zijn onafhankelijkheid en controleerbaarheid.
Dit artikel is een uitwerking van de lezing van Hans Boutellier op het VBO-congres op 7 november 2019 en is gebaseerd op het gelijknamige hoofdstuk uit Het seculiere experiment: Over westerse waarden in radicale tijden (herziene versie, 2019). Zie ook het essay van Peter van Hoesel, Beleidsonderzoek in de periode 1970-1995, Beleidsonderzoek Online februari 2020.

Beleidsonderzoek is een vak dat in de afgelopen vijftig jaar geleidelijk is ontwikkeld tot een echte professie. In dit essay wordt de eerste helft van deze periode beschreven en op diverse punten vergeleken met de huidige situatie. De terugblik bestaat uit drie onderdelen: professionalisering; relatie met opdrachtgevers; ambachtelijke aspecten.

Q-methodologie is een nog relatief onbekende onderzoeksmethode, met veel potentieel voor beleidsonderzoek en -analyse. De benaderingen, doelen en onderzoeksvragen in verschillende toepassingen lopen uiteen, maar vertonen ook duidelijke overeenkomsten. In dit artikel beschrijven we de belangrijkste theoretische en analytische bouwstenen van de methode, en een praktijkgericht 10-stappenplan waarmee men snel zelf aan de slag kan met Q-methodologie. Op basis van een aantal toepassingen van Q-methodologie in Nederland en Vlaanderen laat dit artikel op inzichtelijke wijze zien wat Q-methodologie toevoegt aan de toolbox van beleidsonderzoekers. Naast de theoretische achtergrond van de methode biedt deze bijdrage een praktisch stappenplan voor het gebruik van de methode in de praktijk.

Voor doeltreffend en doelmatig beleid is het essentieel om verantwoording af te leggen over de gemaakte keuzes en te leren van de lessen uit het verleden. Om dit te stimuleren verplicht de Regeling Periodiek Evaluatieonderzoek (RPE) de rijksoverheid om periodiek beleidsdoorlichtingen te (laten) verrichten. Een beleidsdoorlichting bundelt alle beschikbare kennis over de doeltreffendheid en doelmatigheid van een volledig beleidsterrein over een bepaalde periode. Daartoe worden alle tussentijds uitgevoerde beleidsevaluaties bestudeerd.
Dit artikel beschrijft de kwaliteit van beleidsdoorlichtingen. Het artikel is gebaseerd op onderzoek van SEO Economisch Onderzoek in opdracht van het Ministerie van Financiën. Het gebruik van beleidsdoorlichtingen valt buiten de scope van dit artikel.
Uit een steekproef van 49 beleidsdoorlichtingen blijkt dat de doeltreffendheid en doelmatigheid van het gevoerd beleid vaak niet goed in beeld komen. Dit komt onder meer omdat er te weinig goed evaluatieonderzoek wordt uitgevoerd en omdat beleidsdoelstellingen met enige regelmaat worden aangepast. Het gevolg hiervan is dat uitspraken over de doeltreffendheid van beleid meestal niet stevig onderbouwd zijn en de doelmatigheid van beleid onderbelicht blijft. Dit maakt het minder goed mogelijk om lessen uit het verleden te trekken.
Er is ruimte voor verbetering. Zo kan (1) het lerend vermogen van ministeries intern versterkt worden, (2) kunnen departementen hun beleidsevaluaties systematischer uitvoeren om volledigheid te waarborgen, (3) dient er ex ante te worden vastgesteld hoe de doeltreffendheid en doelmatigheid van beleidsmaatregelen ex post (causaal) kunnen worden geëvalueerd, (4) kan de onafhankelijk deskundige die bij beleidsdoorlichtingen wordt ingezet tevens de kwaliteit van het beschikbare evaluatiemateriaal vaststellen, en (5) kan worden overwogen om beleidsdoorlichtingen strategisch te plannen aan het eind van een kabinetsperiode. Op deze manier neemt de toegevoegde waarde van de beleidsdoorlichting toe.

Beleidsevaluatie richt zich steeds naar informatiebehoeften en technische mogelijkheden. Hierdoor is het gebruik van cijfermatige informatie toegenomen. Met name bestaande data worden, met steeds betere analysetechnieken, ingezet omdat ze beschikbaar zijn en relatief goedkoop. Dit gaat echter ten koste van de validiteit en diepgang van onderzoek. Dat is in zekere zin een regressie, een achteruitgang. We zien echter ook progressie in het beleidsonderzoek. In de eerste plaats komt er steeds meer belangstelling voor de zogenoemde mixed methods-benadering. Ten tweede is er een groeiende belangstelling voor participerende, interactieve en responsieve vormen van onderzoek. Er ontstaat weer meer oog voor de wereld achter de cijfers, het hoe en waarom van beleid, en vooral voor de mensen in die wereld.

Overheidsbeleid heeft steeds meer te maken met digitalisering en data-ificering van de samenleving en het menselijk gedrag. Dat betekent uitdagingen voor beleidsevaluatoren. In dit artikel gaat het om éen van de daarmee gepaard gaande verschijnselen: Big Data en Artificiële Intelligentie (BD/AI). Het artikel stelt, na erop gewezen te hebben dat de evaluatieprofessie langere tijd niet erg actief op digitaal gebied is geweest, ten eerste de vraag wat BD/AI te bieden hebben aan evaluatieonderzoek van (digitaal) beleid. Vijf toepassingsmogelijkheden worden besproken die de kwaliteit, bruikbaarheid en relevantie van evaluatieonderzoek kunnen bevorderen. De tweede vraag is wat evaluatieonderzoek te bieden heeft, als het gaat om het analyseren/onderzoeken van de betrouwbaarheid, validiteit en enkele andere aspecten van Big Data en AI. Ook daar worden verschillende mogelijkheden (en moeilijkheden) geschetst. Naar het oordeel van de schrijver is het enerzijds dienstig (meer) gebruik te maken van BD/AI in evaluatieonderzoek, maar doen onderzoekers er ook goed aan (meer) aandacht uit te laten gaan naar: de assumpties die aan BD/AI ten grondslag liggen (inclusief het ‘black box’-probleem); de validiteit, veiligheid en geloofwaardigheid van algoritmes; de bedoelde en onbedoelde consequenties van het gebruik ervan; én de vraag of de claims dat digitale interventies die mede gebaseerd zijn op BD/AI effectief (of effectiever zijn dan andere), onderbouwd en valide zijn.