Ik verbaas mij over: Het geloof van bibliotheken in AI

Datum: 22-03-2022

Ik verbaas mij over
Het geloof van bibliotheken in AI

In mijn blog van 22 februari 2022 beloofde ik af en toe mijn verbazing over iets met de lezers te delen. Precies een maand later heb ik weer zo’n moment van verbazing.

In het FD van maandag 21 maart stond een artikel over de beleidswijziging van NBD Biblion, een stichting, die openbare bibliotheken van boeken voorziet. Ook andere media berichtten daarover.

NBD Biblion had 700 recensenten, die korte beschrijvingen van nieuwe boeken maakten, die -naast andere gegevens- gebruikt kunnen worden door bibliotheken om te bepalen of ze een boek in de collectie opnemen. Deze recensenten hadden verschillende specialisaties. De directeur van NBD Biblion, Nina Nannini, heeft al die recensenten in maart per mail laten weten dat de organisatie niet langer van hun diensten gebruik zal maken. Je kunt ook verbaasd zijn over het per mail terzijde zetten van 700 mensen, maar dat is niet waar ik het over wil hebben.

 

De reden dat NBD Biblion geen gebruik meer maakt van diensten van de recensenten is dat de organisatie software heeft ontwikkeld, die met kunstmatige intelligentie(AI[1]) automatisch een recensie maakt. Daar verbaas ik me over. Nergens blijkt dat NBD Biblion de kennis van de recensenten heeft gebruikt als input voor de algoritmen, die de recensie moeten maken. Dat lijkt me onwaarschijnlijk. Bij bijna alle algoritmen, die de basis zijn van AI systemen, worden de experts gebruikt om hun kennis in te voeren in het algoritme, zodat de beslisboom in dat algoritme gevoed wordt met HI, human intelligence, voordat het als AI aan de gang kan. Is dat bij de beoordeling van boeken niet nodig? Ik kan het me nauwelijks voorstellen.

 

Het lijkt erop dat NBD Biblion ook niet gekeken heeft naar de problemen van de AI van social media, waarin juist het beoordelen van ambivalente informatie het lastigste is gebleken. Zo kan Twitter nog steeds een artikel over een borstreconstructie weigeren, omdat er een vrouwentepel zichtbaar is. Bij het algoritme van NBD Biblion gaat iets soortgelijks mis als de nieuwste roman van Ronald Giphart, over een jongen van 10 die misbruikt wordt, geclassificeerd wordt als een seksboek. Volgens de directeur zijn dat aanloopproblemen, die opgelost kunnen worden. Overschat ze daarmee niet het vermogen van de algoritme bouwers om menselijke kennis om te zetten in binaire beoordelingen?

 

Volgens Nannini is het algoritme niet gebouwd om de kosten van recensenten te besparen, maar om de snelheid van de beoordeling te verhogen. Als dat het geval is, kun je veel beter het algoritme een eerste selectie laten doen, die daarna door een echt mens beoordeeld en zo nodig gecorrigeerd wordt. Zo doen ze het bij algoritmen, die biopten beoordelen of röntgenfoto’s. Daar heeft uiteindelijk de dokter het laatste woord. Ook bij Facebook zijn er inmiddels hele volksstammen mensen, die de uitkomsten van de algoritme corrigeren. Is dat bij de beoordeling van boeken niet nodig? Ik geloof er niets van. NBD Biblion zelf is er mijns inziens veel te optimistisch over.

 

Ik verbaas me er dus over, afgaand op de beschikbare informatie, dat een organisatie zoals NBD Biblion in 2022 zo naïef kan zijn over de inzet van AI bij de beoordeling van zaken, die eerst door mensen gedaan werden. We weten toch inmiddels wat er allemaal mis kan gaan bij optimisme en naïviteit over de inzet van AI. Denk alleen al aan het systeem Syri, dat gemeenten moest helpen om uitkeringsfraudeurs te vinden. Het systeem is afgeschaft vanwege de slechte resultaten en de vele menselijke vooroordelen, die in het algoritme werden opgenomen.

 

[1] Ook in Nederland gebruiken we de afkorting AI, artificial intelligence, omdat KI ook de afkorting is van kunstmatige inseminatie van koeien.