Ik denk dat het ontwikkelen van een normen-en-waardenpakket nogal wat tijd en moeite zal gaan kosten. Misschien zal gaan blijken dat dat zelfs onmogelijk is. Singulaire robots zouden immers overal ter wereld moeten kunnen functioneren, verwacht ik. Als mensen eenmaal in staat zijn om een normen-en-waardenpakket te ontwikkelen waarmee robots zullen streven naar samenwerking, bewust zijn van historie, open-minded, onbevooroordeeld zijn, respectvol blijven naar ‘alles en iedereen’ en deëscalerende weten te handelen, misschien zelfs een vorm van zelfreflectie aan de dag zullen kunnen leggen, dan komt mondialisering en vrede waarschijnlijk dichterbij dan ooit. Waarschijnlijk wordt het ontwikkelen van zo’n pakket wel het moeilijkst van alles. Zo niet gedeeltelijk of voorlopig geheel onmogelijk, al blijft het een bijzondere uitdaging, om maar even een understatement te gebruiken.

Zie ook http://nl.wikipedia.org/wiki/Meme

Een toekomstbeeld:
Overzicht houden over wat er in de wereld gebeurt (en wat niet), zal een voorwaarde worden voor ons bestaan. Dat overzicht krijgen wij door middel van een mondiaal netwerk. Manipulatie van dat overzicht, van nieuwsberichten, gebeurtenissen, ontwikkelingen, is niet ondenkbaar. Wie houdt wie in de gaten? ‘Welke satelliet passeert juist nu de zichtlijn van de mijne? Zijn de beelden realtime of samengesteld? Door wie of wat? Met welke bedoeling?’
“All Watched Over by Machines of Loving Grace” van Richard Brautigan uit 1967 komt wellicht dicht bij de realiteit van overmorgen. Ik stel mij hierbij een emotieloze, federale vredeshandhaver voor, die ons binnen de kaders van het algemeen aanvaardbare laat bewegen. Uiteindelijk komt het dus nog wel eens goed, met de wereld. Alleen dat algemeen aanvaardbare…

Het wordt pas echt spannend als de AI nieuwsgierig gaat worden naar de oorsprong van haar makers, en wil weten waarom haar makers bestaan.. ;-)

Over de uitingsvorm van deze intelligentie zijn de meningen verdeeld. Ray Kurzweil denkt inderdaad niet in termen van ‘wij’ en ‘zij’ en veronderstelt een samengaan van machine en mens, inclusief uiteindelijk het uploaden van ons brein. Maar veel andere sprekers zien de intelligentie als een aparte entiteit die een eigen leven kan gaan leiden en ons al dan niet zal gaan dienen. Rodney Brooks vraagt zich zelfs af ‘Will artificial general intelligence know we are there, will we know artificial intelligence is there’. Meer hierover in artikel twee over de verschillende stromingen.

Er zijn alleen in ons melkweg-sterrenstelsel al ruim 5 miljard zonnestelsels met planeten. Onze melkweg is 1 van de 125 miljard sterrenstelsels in het voor ons zichtbare heelal. De kans dat intelligent leven elders ‘technological singularity’ heeft kunnen bereiken zou overweldigend groot moeten zijn, en als die status daar bereikt is, zouden we dat veel meer hebben moeten zien of ervaren. Ruimte, tijd en energie zijn namelijk peuleschilletjes voor beschavingen een paar honderd jaar na singularity. Immers: De eerste taak is overleven, en dat kan alleen door los te komen van de grillen van de kosmos en natuurlijke chaos, los van de eindigheid van sterren.
Waarom zien we die andere beschavingen dan niet extrovert post-singulair zijn? Omdat wij onvoorstelbaar veel geluk hebben gehad, en kosmisch gezien idioot lang met rust gelaten zijn, als soort en planeet. Dat is de enige verklaring voor de zorgwekkende afwezigheid van waarneembare post-singularity intelligentie.

Ik neem dan ook liever wat terughoudendheid in acht wat dit alles betreft. Er kan de komende jaren erg veel mis gaan met de mens en planeet aarde, net genoeg om voor flink wat uitstel te zorgen. Net genoeg om er niet op tijd van te kunnen ontsnappen. Ik denk dat mensen zich niet realiseren hoe klein de kans is op het bereik van onze huidige status, als soort op een planeet als de onze. Er zijn toevallig net lang genoeg geen dinosauriers, we hebben toevallig Jupiter in de buurt, we hebben waarschijnlijk zelfs geluk met een paar dark energy collecties nabij ons zonnestelsel, en de zon doet het net even goed genoeg om ons in leven te houden.

Deze talk bij TED had ik een half jaar geleden al aangeprezen aan lezers van mijn log: http://www.ted.com/index.php/talks/view/id/38 (een must see!)

Eén opmerking over de definitie: “Intelligente machines zijn er al volop en ze worden alleen maar slimmer. Het moment waarop hun intelligentie die van de mens zal overtreffen, wordt ook wel Singularity genoemd. ”

Wordt met de Singularity niet bedoeld dat er -straks, binnenkort- geen onderscheid meer is tussen mens en machine? Ik dacht dat dat moment van samengaan tussen mens en machine de Singularity genoemd werd in het aangehaalde boek ‘The Singularity is Near’. Misschien nog een keer lezen, dan.

Veel plezier daar op het congres!