Tijdens de European Convention on Artificial Intelligence (ECAI) van begin september gingen wetenschappers met elkaar in discussie over ethische vraagstukken en kunstmatige intelligentie. ‘Discussie was er echter weinig: allen waren het met elkaar eens dat KI een interessante ontwikkeling is, maar de mens moet wel opletten om niet de controle uit handen te geven,’ schreef auteur en journalist Nick Kivits in het Financieele Dagblad. ‘De mens moet “in the loop” blijven.’
Maar hoe komt de mens zelf eigenlijk tot een moreel oordeel? Onderzoek naar het ‘trolleyprobleem’ werpt hier een interessant licht op. In het klassieke probleem stevent een op hol geslagen trein richting een groep mensen en de enige manier om ze te redden is een wissel omgooien. Deze spoorwissel komt met een nadeel: op het spoor waar de trein terechtkomt staat een ander persoon die het ongeluk niet zal overleven. Wat doe je?
De meeste mensen zeggen de wissel om te gooien. Maar dat wordt al anders wanneer de enige manier om de trein te stoppen (en een groep mensen te redden) is een vreemde van een brug te duwen voor de trein. Veel minder mensen zeggen dit te zullen doen, ondanks dat de uitkomst hetzelfde is: een persoon wordt opgeofferd om een groep te redden.
In een studie uit 2014 blijkt dat ook de taal waarin een probleem wordt beschreven uitmaakt voor het morele oordeel dat iemand velt. Proefpersonen kregen verhalen te horen die veel mensen moreel verwerpelijk vinden, zoals een verhaal over iemand die zijn hond opat nadat die was overreden door een auto. Degenen die deze verhalen lazen in een tweede taal beoordeelden deze acties als minder fout als degenen die erover lazen in hun moedertaal.
In een artikel beschrijft psycholoog en taalkundige Julie Sedivy twee verklaringen voor dit effect van taal. Ten eerste zou het kunnen zijn dat zulke oordelen twee verschillende en elkaar concurrerende manieren van denken aanspreken, waarbij de moedertaal het snelle onderbuik gevoel aanspreekt en de tweede taal meer zorgvuldig overdenken. ‘Wanneer we een vreemde taal spreken komen we onbewust in een meer overwegende modus omdat de moeite om een niet-moedertaal te spreken ons cognitieve systeem aanspoort tot inspanning.’ Een andere verklaring is dat de moedertaal intensere gevoelens losmaakt uit onze kindertijd dan een taal die vaak in een educatieve setting is geleerd.
Het lijkt schier onmogelijk om al deze nuances in een kunstmatig systeem te programmeren, omdat, zoals filosoof Michael Bratman in het FD stelt, een machine alleen de taak ziet die hij moet uitvoeren. ‘Je kunt wel voorwaarden programmeren waar hij rekening mee moet houden, maar we zijn nog lang niet zo ver dat we op dit vlak de nuances van het menselijk brein kunnen nabootsen – als ons dat ooit al gaat lukken.’
