Nu is dat van die gelijkgestemde moraal bij mensen onderling al zeer de vraag (mijn moraal verschilt nogal van die van Balkenende), en dat probleem wordt nog eens vergroot doordat organisaties, of dat nu landen zijn of instellingen, een eigen moraal ontwikkelen (die jullie en ik ook niet hoeven delen). Waarom zou je dan voorshands uitgaan van een door alle AI gelijkelijk gedragen moraal, als mensne het onderling al niet eens zijn?

Als je er verder van uitgaat dat internet, of robots, op enige wijze intelligentie zullen ontwikkelen, wat maakt dan dat je denkt dat het al of niet inbouwen van een moraal een oplossing kan zijn? Is er binnen diezelfde redenering reden om aan te nemen dat zo’n evolutie naar intelligentie stopt bij de grenzen die mensen eraan stellen? Waarom zouden ze niet hun eigen moraal (of moralen) ontwikkelen? En zouden ze een moraal ontwikkelen die niet strookt met de onze, kunnen mensen dan nog ingrijpen?

De activiteiten van de mens met betrekking tot ontwikkelen van intelligentie verleggen het zwaartepunt in toenemende mate naar het situatie waarin kunstmatige vormen van intelligentie als opties worden beschouwd die tot zaken in staat zijn die het menselijke denkvermogen te boven gaan. Niemand die zich daar dermate over opwindt dat het leidt tot een spetterend protest. De huidige generatie intelligente machines werken op basis van binaire logica, die in wezen inferieur is aan de manier waarop menselijke hersenen werken. In plaats van te rekenen met enen en nullen, hebben wij schakelaars in ons hoofd die tussen drie standen kunnen kiezen. Deze manier van denken kan binaire logica tot een onhandig gepruts degraderen. Het feit dat de meeste mensen slechts 10% ven hun hersenen gebruiken, zegt iets over de oorzaak van de povere resultaten van onze denkarbeid, maar niets over de aanleg. Om te stellen dat het niet realistisch is om met grotere inspanning onderzoeken in gang te zetten die gericht zijn op het ontdekken van het menselijke potentieel, wordt mijns inziens weerlegd door mensen als Daniel Tammet, schrijver van “Born on a blue day”, die hypercomplexe berekeningen kan uitvoeren met een duizelingwekkende snelheid. De wetenschap zou zich ernstig moeten afvragen waarom Tammet’s denkprestaties niet meer algemeen voorkomen en waarom de meerderheid van de mensen niet tot vergelijkbare prestaties in staat is.

Ik heb er weinig trek in om als de koolmees mij wezenloos te slepen met wurmen om een vraatzuchtig jong in leven te houden (die mijn eigen kinderen uit het nest heeft gekiept toen ik op zoek was naar wurmen om zijn honger te stillen), terwijl zijn werkelijke ouder vanuit een boom verderop tevreden toekijkt hoe ik mij uit de naad werk voor zijn nageslacht.

dirk van weelden