Superintelligentie komt eraan!
Wetenschappers, schrijvers en visionairs dromen al decennia over een wereld waarin robots koffie zetten voor hun bazen of al het leven op de planeet uitroeien. Tot dusver zijn we er nog niet in geslaagd om deze robots te maken, hoewel men in Japan al erg ver is met de ontwikkeling van robots zoals de Asimo. In de Verenigde Staten worden wetenschappers langzaam wakker met het besef dat de droom van kunstmatige intelligentie, die zichzelf dingen kan aanleren, op het punt staat uit te komen.
Intelligente machines zijn er al volop en ze worden alleen maar slimmer. Het moment waarop hun intelligentie die van de mens zal overtreffen, wordt ook wel Singularity genoemd. Hoe en wanneer computers superintelligentie gaan vertonen is de vraag die afgelopen weekend centraal stond op het Singularity congres in San Francisco.
De aanwezige wetenschappers gaven het raamwerk voor een discussie met veel belangwekkende vragen. Is de computer over 20 jaar slimmer dan de mens? Hoe zorgen we ervoor dat ze aardig blijven? Hebben ze moraal, emotie en bewustzijn nodig om ons te kunnen begrijpen? Of proberen we ze strikt rationeel te laten denken?
De conferentie werd georganiseerd door het Singularity Institute en gesponsord door onder meer Peter Thiel, mede oprichter van PayPal, het bedrijf dat in 2002 is doorverkocht aan eBay voor anderhalf miljard dollar. De negenendertig jarige Thiel gebruikt zijn geld en faam deze dagen om het onderwerp singularity op de kaart te zetten en onder de aandacht van het grote publiek te brengen. ‘De pendel is al te ver doorgeslagen en mensen onderschatten het’, meent Thiel. ‘Er is nog tijd om het proces te beïnvloeden, er zijn keuzes die gemaakt moeten worden.’
Het is denkbaar dat het moment van singularity ongemerkt aan ons voorbij zal gaan. Want het is maar de vraag of de mens slim genoeg is om superintelligentie te herkennen. Met het verzamelen van kennis op internet ging het immers net zo. Niemand trok aan de bel toen Google meer pagina’s had geindexeerd dan in het menselijk geheugen passen. Maar wellicht maken we het toch bewust mee als machines hun intelligentie met onze hersenen delen nadat ons lichaam via nanotechnologie is geupgrade. Of er ontstaat een duidelijk waarneembare explosie van intelligentie omdat superintelligentie in staat blijkt zichzelf onbeperkt en zeer snel te verbeteren.
De technologische versnellingen zijn exponentieel en grijpen op elkaar in: hardware wordt sneller, software-algoritmes krachtiger en miljoenen internetters zijn in staat via web 2.0 diensten hun kennis en intelligentie bij te dragen. Het bedrijf Artificial development heeft software draaien die 100 miljard neuronen kan simuleren, grofweg het aantal neuronen in 1 hersenpan. Het systeem wordt binnenkort geopend voor het publiek dat dan zelfstandig breinsimulaties kan starten.
De voordelen van krachtige kunstmatige intelligentie zijn enorm. In combinatie met andere technieken zoals gentechnologie en nanotechnologie kan het onze levens drastisch verbeteren en verlengen. We kunnen de effecten van ons handelen beter voorspellen en de politiek kan misschien rationeler worden.
Op de conferentie komt een stoet wetenschappers voorbij die zich met het thema bezighouden, al dan niet op afstand. Zoals Rodney Brooks, professor in robotica op het MIT (Massachusetts Institute of Technology) en chief technology officer bij iRobot, een firma die onder meer robots verkoopt aan het het leger. Peter Norvig, director of research bij Google en auteur van ‘Artificial Intelligence: A Modern Approach’ en Christine Peterson, mede oprichtster van het Foresight Nanotech Institute. Ook de auteur van het boek ‘Singularity is Near’, Ray Kurzweil komt door middel van een rechtstreekse videoverbinding vanaf een andere conferentie nog wat vragen beantwoorden over zijn toekomstgedachten.
Het boek ‘The Singularity is Near’, gepubliceerd in 2005, maakte nogal wat stof los in Silicon Valley. Het geeft namelijk een helder beeld van de ontwikkelingen in gentechnologie, computertechnologie en nanotechnologie, hoe die aan elkaar verbonden kunnen worden en wat daarvan de uitkomst zou kunnen zijn. Ray Kurzweil, een uitvinder die in 1960 op zijn tiende al zijn eerste computerprogramma schreef, voorspelt in dit boek ondermeer dat de ontwikkelingen in een stroomversnelling zijn gekomen. Hij verwacht het moment van singularity in het jaar 2029. Dit moment zal moeilijk te herkennen zijn omdat tegen die tijd de meeste mensen al uitgerust zullen zijn met nanotechnologie waardoor ze niet alleen slimmer en gezonder zullen zijn maar vooral ook langer kunnen leven. Het is niet voor niets dat Kurzweil samen met een diëtist een boek heeft geschreven over hoe het leven kan worden verlengd door middel van training en (vitamine)preparaten; hij wil deze tijd absoluut meemaken.
En dat tekent ook onmiddellijk de sfeer van de conferentie. Aan de ene kant zijn er de idealisten die al hun hoop op de toekomst hebben gericht in de hoop op een beter leven. Ze verwachten dat door de superinteligentie die onmiddelijk zal losbartsen na het moment van singularity, het leven op aarde stukken beter wordt. Er zal vrede zijn, het hongerprobleem wordt opgelost als ook het klimaatprobleem en bovenal ligt het in de verwachting dat de dood wordt overwonnen. Aan de andere kant staan de sceptici die niet geloven dat het zo snel losloopt en indien dat wel gebeurt dat er waarschijnlijk grote gevaren aan deze intelligentie explosie verbonden zijn. Machines die zichzelf dingen kunnen leren en een intelligentie hebben die het IQ van de mens overstijgt, kunnen heel goed oncontroleerbare machines blijken die helemaal niet zo vriendelijk zijn voor mensen en die in vrijwel alle maatschappelijke processen in de weg zullen lopen.
Of, in de woorden van Paul Saffo, professor op Stanford University, essayist, adviseur bij ondermeer Samsung Advanced Institute of Technology en lid van het Institute For The Future: ‘In het beste geval zullen we huisdieren zijn, in het slechtste geval worden we als voedsel gebruikt.’
Willen we goed zijn voorbereid dan zullen we genoeg veiligheid moeten inbouwen in de kunstmatige intelligentie. Christine Peterson van het Foresight Nanotech Institute pleit voor eenzelfde openheid en transparantie die gebruikelijk is bij het ontwikkelen van open-source software. In de huidige maatschappij kunnen instanties andere instanties controleren en zo zou het volgens haar in principe ook mogelijk moeten zijn om kunstmatige intelligentie andere kunstmatige intelligentie te laten controleren. We kunnen ook leren van de beveiliging van it-systemen. Internet kent dagelijks diverse aanvallen van virussen die redelijk effectief worden afgeslagen.
Een vraag die veel hoofdbrekens kan geven is of slimme computers een moraal en bewustzijn moeten hebben. Op het eerste gezicht kan het veiliger lijken om ze geen bewustzijn te geven, maar de vraag is of een robot de mens kan dienen en begrijpen zonder zichzelf goed te kennen. Als we besluiten robots bewust te maken dan hebben ze ook normen en waarden nodig. Maar wie en hoe gaat ze die bijbrengen. Eliezer Yudkowsky, medeoprichter van het Singularity Institute denkt dat we nog voor lelijke verassingen kunnen komen staan als we robots niet alle maar slechts enkele menselijke waarden bijbrengen. Een robot moet goed worden opgevoed, zo goed als een boyscout volgens Storss Hall, de schrijver van ‘Beyond artificial intelligence.’
Of het publiek superintelligentie zal accepteren zal afhangen van angst en vertrouwen. Volgens historicus en futurist Paul Saffo mist een positief en pakkend verhaal dat door iedereen kan worden begrepen. Hij draagt “All Watched Over by Machines of Loving Grace” voor van Richard Brautigan uit 1967, een tijd waarin computers door velen werden gewantrouwd:
I like to think (and
the sooner the better!)
of a cybernetic meadow
where mammels and computers
live together in mutually
programming harmony
like pure water
touching clear sky.
I like to think
(right now, please!)
of a cybernetic forest
filled with pines and electronics
where deer stroll peacefully
past computers
as if they were flowers
with spinning blossoms.
I like to think
(it has to be!)
of a cybernetic ecology
where we are free of our labors
and joined back to nature,
returned to our mammal
brothers and sisters,
and all watched over
by machines of loving grace
Dit artikel is het eerste van vier artikelen over Singularity. De volgende delen zullen inzoomen op de verschillende stromingen, moraal en bewustzijn, en bedreigingen en uitdagingen bij kunstmatige intelligentie.
Links:
Singularity summit 2007
Google news over Singularity
What is the Singularity?
Wikipedia over Singularity
Domo robot van het MIT
Asimo, de Japanse robot
De wereld volgens Ray Kurzweil
De wereld volgens Paul Saffo
De wereld volgens Peter Norvig
Web 2.0 expo Berlijn 2008
Een bijdrage van Gerrit-Jan Wielinga en Bob Overbeeke
Gerrit Jan Wielinga is schrijver en free-lance journalist. Bob Overbeeke is business developer bij XS4ALL en schrijft voor www.netr.nl.
Verontrustend artikel. Wordt er op het congres waar jullie zijn, naast de waarschuwing die nodig is, ook iets vermeld over de mogelijkheden die er (kunnen) zijn om deze ontwikkelingen in banen te leiden? Of bewaren jullie dat onderwerp voor het laatste artikel “Uitdagingen”? ;)
Eén opmerking over de definitie: “Intelligente machines zijn er al volop en ze worden alleen maar slimmer. Het moment waarop hun intelligentie die van de mens zal overtreffen, wordt ook wel Singularity genoemd. ”
Wordt met de Singularity niet bedoeld dat er -straks, binnenkort- geen onderscheid meer is tussen mens en machine? Ik dacht dat dat moment van samengaan tussen mens en machine de Singularity genoemd werd in het aangehaalde boek ‘The Singularity is Near’. Misschien nog een keer lezen, dan.
Veel plezier daar op het congres!
Even om de zorgen te verschuiven naar de realiteit:
Er zijn alleen in ons melkweg-sterrenstelsel al ruim 5 miljard zonnestelsels met planeten. Onze melkweg is 1 van de 125 miljard sterrenstelsels in het voor ons zichtbare heelal. De kans dat intelligent leven elders ‘technological singularity’ heeft kunnen bereiken zou overweldigend groot moeten zijn, en als die status daar bereikt is, zouden we dat veel meer hebben moeten zien of ervaren. Ruimte, tijd en energie zijn namelijk peuleschilletjes voor beschavingen een paar honderd jaar na singularity. Immers: De eerste taak is overleven, en dat kan alleen door los te komen van de grillen van de kosmos en natuurlijke chaos, los van de eindigheid van sterren.
Waarom zien we die andere beschavingen dan niet extrovert post-singulair zijn? Omdat wij onvoorstelbaar veel geluk hebben gehad, en kosmisch gezien idioot lang met rust gelaten zijn, als soort en planeet. Dat is de enige verklaring voor de zorgwekkende afwezigheid van waarneembare post-singularity intelligentie.
Ik neem dan ook liever wat terughoudendheid in acht wat dit alles betreft. Er kan de komende jaren erg veel mis gaan met de mens en planeet aarde, net genoeg om voor flink wat uitstel te zorgen. Net genoeg om er niet op tijd van te kunnen ontsnappen. Ik denk dat mensen zich niet realiseren hoe klein de kans is op het bereik van onze huidige status, als soort op een planeet als de onze. Er zijn toevallig net lang genoeg geen dinosauriers, we hebben toevallig Jupiter in de buurt, we hebben waarschijnlijk zelfs geluk met een paar dark energy collecties nabij ons zonnestelsel, en de zon doet het net even goed genoeg om ons in leven te houden.
Deze talk bij TED had ik een half jaar geleden al aangeprezen aan lezers van mijn log: http://www.ted.com/index.php/talks/view/id/38 (een must see!)
Joop Laan: er is inderdaad veel gesproken over het in goede banen leiden. Zo veel dat we daar het vierde artikel over willen schrijven zoals je al veronderstelt. De definitie verschilt niet veel per spreker. Deze is van Keynote spreker Rodney Brooks van het MIT: ‘Singularity is the technical creation of smarter than human intelligence’. De betekenis van het woord creatie wordt door sommigen opgevat als ‘design’ en door anderen als ‘evolution’.
Over de uitingsvorm van deze intelligentie zijn de meningen verdeeld. Ray Kurzweil denkt inderdaad niet in termen van ‘wij’ en ‘zij’ en veronderstelt een samengaan van machine en mens, inclusief uiteindelijk het uploaden van ons brein. Maar veel andere sprekers zien de intelligentie als een aparte entiteit die een eigen leven kan gaan leiden en ons al dan niet zal gaan dienen. Rodney Brooks vraagt zich zelfs af ‘Will artificial general intelligence know we are there, will we know artificial intelligence is there’. Meer hierover in artikel twee over de verschillende stromingen.
‘Will artificial general intelligence know we are there, will we know artificial intelligence is there’ is inderdaad een interessant onderdeel. Als we ervoor zorgen dat de AI weet waar ze vandaan komt halen we - voorspel ik - een heleboel gevaren uit de equatie weg. Ons probleem is dat we niet weten waar we vandaan komen, waarom we er zijn, waarom er iets is, wat er was vóór de Big Bang, wat er zal zijn als het heelal te groot wordt. De AI hoeft daar niet mee te zitten, die kan weten door wie zij gemaakt is, met welk doel zij bestaat, en hoe het zover heeft kunnen komen.
Het wordt pas echt spannend als de AI nieuwsgierig gaat worden naar de oorsprong van haar makers, en wil weten waarom haar makers bestaan.. ;-)
De link ‘De wereld volgens Ray Kurzweil’ geeft ‘Database Query Error’ :-) AI?
@ Bram: da’s een probleem aan de kant van Kurzweil. Ik neem aan dat het zo weer goed komt :-)
1-na-laatste alinea, over het belang van robots bijbrengen van normen en waarden:
Ik denk dat het ontwikkelen van een normen-en-waardenpakket nogal wat tijd en moeite zal gaan kosten. Misschien zal gaan blijken dat dat zelfs onmogelijk is. Singulaire robots zouden immers overal ter wereld moeten kunnen functioneren, verwacht ik. Als mensen eenmaal in staat zijn om een normen-en-waardenpakket te ontwikkelen waarmee robots zullen streven naar samenwerking, bewust zijn van historie, open-minded, onbevooroordeeld zijn, respectvol blijven naar ‘alles en iedereen’ en deëscalerende weten te handelen, misschien zelfs een vorm van zelfreflectie aan de dag zullen kunnen leggen, dan komt mondialisering en vrede waarschijnlijk dichterbij dan ooit. Waarschijnlijk wordt het ontwikkelen van zo’n pakket wel het moeilijkst van alles. Zo niet gedeeltelijk of voorlopig geheel onmogelijk, al blijft het een bijzondere uitdaging, om maar even een understatement te gebruiken.
Zie ook http://nl.wikipedia.org/wiki/Meme
Een toekomstbeeld:
Overzicht houden over wat er in de wereld gebeurt (en wat niet), zal een voorwaarde worden voor ons bestaan. Dat overzicht krijgen wij door middel van een mondiaal netwerk. Manipulatie van dat overzicht, van nieuwsberichten, gebeurtenissen, ontwikkelingen, is niet ondenkbaar. Wie houdt wie in de gaten? ‘Welke satelliet passeert juist nu de zichtlijn van de mijne? Zijn de beelden realtime of samengesteld? Door wie of wat? Met welke bedoeling?’
“All Watched Over by Machines of Loving Grace” van Richard Brautigan uit 1967 komt wellicht dicht bij de realiteit van overmorgen. Ik stel mij hierbij een emotieloze, federale vredeshandhaver voor, die ons binnen de kaders van het algemeen aanvaardbare laat bewegen. Uiteindelijk komt het dus nog wel eens goed, met de wereld. Alleen dat algemeen aanvaardbare…
http://www.webwereld.nl/articles/47981/gordon-moore-voorspelt-einde-eigen-wet.html
[…] Dit artikel is het tweede van vier artikelen over Singularity. Het eerste deel verslaat de Singularity conferentie in San Francisco, september 2007. Deel drie en vier zullen inzoomen op moraal en bewustzijn, en bedreigingen en uitdagingen bij kunstmatige intelligentie. […]
[…] Dit artikel is het derde van vier artikelen over Singularity. De eerdere delen zoomden in op de Singularity Conferentie in San Francisco, september 2007 en de verschillende stromingen van Singularity. Deel vier zal de bedreigingen en uitdagingen van kunstmatige intelligentie behandelen. […]