Filosofie

Superintelligentie: moeten we bang worden?

In zijn nieuwe boek Superintelligentie schaart Nick Bostrom (directeur van het Future of Humanity Institute van de University of Oxford) zich onder de groeiende groep wetenschappers, waaronder grootheden als Stephen Hawkins, die waarschuwen tegen de dreiging van kunstmatige intelligentie. Als we niet uitkijken kunnen de gevolgen catastrofaal zijn: wezens die vele malen intelligenter zijn dan wijzelf zouden de boel wel eens kunnen overnemen. Ik ben niet heel erg gealarmeerd door Bostrom’s betoog. Zijn redenering gaat namelijk te kort door de bocht. The devil is in the details.

Super-intelligentie definiëert Bostrom in relatie tot menslijke intelligentie: sneller, slimmer en meer. Wat menselijke intelligentie is, is een vraag die hij niet stelt. Dat is onterecht, want daardoor worden cruciale moeilijkheden in de vergelijking tussen wat we oorspronkelijk ‘intelligentie’ noemen en de kunstmatige variant daarvan onder het vloerkleed geveegd. Zo blijkt steeds meer dat menselijke intelligentie afhankelijk is van biologische factoren zoals onze belichaming en omgevingsfactoren zoals de culturele ‘niche’ die mensen wel en apen niet hebben weten op te bouwen gedurende hun evolutie. In de afgelopen 25 jaar is er in de cogitiewetenschap en –filosofie een belangrijks stroming ontstaan die draait om deze afhankelijkheid (samengevat onder de naam ‘belichaamde, gesitueerde cognitie’). Bostrom lijkt deze vrijwel te negeren.

Door niet naar de specifieke eigenschappen van menselijke intelligentie te kijken is het makkelijk een cruciaal verschil tussen mens en machine te negeren: computers en robots die vandaag de dag menselijke cognitieve taken beter kunnen dan mensen hebben een ‘cognitieve architectuur’ (kort gezegd: ‘programmering’) die volstrekt niet lijkt op die van mensen. Ze kunnen dus wat wij kunnen, vaak beter zelfs, maar doen dat op een totaal andere manier (een manier, overigens, die vele malen meer energie vraagt dan onze door evolutie efficiënt gemaakte breinen). Successvolle, taak-gerichte computers lijken dus niet op ons brein.

Dat neemt niet weg dat er computers zijn die wel op ons brein lijken. Wetenschappers zijn steeds beter in staat gedeeltes van ons biologische brein digitaal na te maken. Maar het doel van die ontwikkeling is vooralsnog vooral te begrijpen hoe ons brein werkt. De lezer van Bostrom’s boek kan echter de indruk krijgen dat het digitale brein een ontwikkeling is die in het verlengde ligt van de vele computers die menselijke taken bovenmenselijk goed kunnen. En omdat ons brein ongelooflijk veel taken, flexibel kan combineren dankzij iets dat ver uitstijgt boven taak-gerichte, specifieke intelligentie—iets dat Bostrom ‘algemene intelligentie’ noemt—kan de indruk ontstaat dat we op weg zijn naar een superbrein dat de taken die computers nu al veel beter dan ons kunnen—en meer—kan integreren. En zo ontstaat een horrorscenario van wezens met een algemene intelligentie die de onze ver overtreft.

Maar in werkelijkheid zijn computers die beter presteren dan mensen en het digitale brein gescheiden ontwikkelingen. Beide types computer werken met radicaal verschillende cognitieve architecturen. Niets wijst er op dat die ooit met elkaar verweven zouden kunnen worden. Bostrom’s horroscenario is dus alleen een optie als algemene intelligentie mogelijk is in computers die radicaal anders geprogrammeerd zijn dan ons brein. Kan dat? Zolang je relatief onduidelijk bent over de wat algemene intelligentie eigenlijk is, zoals Bostrom, kun je denken van wel. Maar als je werkelijk inzoomt op ons menselijke niveau van flexibiliteit, creativiteit, aanpassingsvermogen en vooral ons vermogen om allerlei meer specifieke cognitieve capaciteiten te combineren in nieuwe situaties, dan wordt het anders. Voorlopig lijkt niets in de huidige toepassingsgerichte kunstmatige intelligentie ook maar in de verste verte hierop. En hoe meer deze flexibiliteit en creativiteit gegrond blijkt in onze biologie en onze lichamelijkheid, hoe minder dat verbaast. De beste hoop voor werkelijke algemene kunstmatige intelligentie is het pad van het digitale brein. Maar dat pad levert bij lange na niet genoeg toepassingen op om een economisch rendabele ontwikkeling in gang te zetten die leidt tot een intelligentie die de onze ver overtreft.

Toekomstige superintelligentie zal niet bestaan in superwezens met quasi-menselijke verlangens, gedachten en doelen. Het zal gaan om taak-gerichte toepassingen en niet om de algemene intelligentie die (met alle beperkingen die ons eigen zijn) kenmerkend is voor mensen. Er is mijns inziens dus geen reden voor Bostrom’s type van bezorgdheid. Maar alert moeten we natuurlijk wel zijn, net zoals bij andere technologische ontwikkelingen.

11 gedachten over “Superintelligentie: moeten we bang worden?

  1. Lijkt me een zeer terechte analyse Marc.

    Tegelijkertijd kunnen we ons de vraag stellen of computers wel per se onze intelligentie zullen moeten evenaren of zelfs voorbijstreven om bedreigend te worden. Want hoewel computerprogramma’s dan wel niet in onze ecologische niche leven, is er wel een soort van niche waar ze in leven, die mogelijk gemaakt wordt door bijvoorbeeld het wereld wijde web. (bij wijze van illustratie: in de film ‘Her’ besluiten intelligente operating systems op een bepaald moment om zich niet langer bezig te houden met ons simpele mensen, en zich terug te trekken in een digitale wereld). Zo kunnen we ons een supercomputervirus voorstellen dat steeds betere versies van zichzelf kan maken, en derhalve het hele internet en alle installaties die daarmee verbonden zijn (serverfarms, elektriciteitscentrales, banken, etc) kan uitschakelen. In onze samenleving zal dit toch een vernietigend effect hebben. Een dergelijk supervirus zal geen menselijke intelligentie nodig hebben om toch effectief te zijn. Dit is wellicht een totaal andere dreiging dan waar Bostrom op doelt, maar evengoed potentieel desastreus.

    Like

    1. Misschien is deze optie serieuzer, Jasper, en we moeten uiteraard alert zijn op dit soort mogelijkheden. Maar ook hier denk ik dat de technische details van cruciaal belang zijn. De compatibiliteitsproblemen die zo’n ‘intelligentie’ moet oplossen om überhaupt te kunnen ontstaat zijn enorm. De mogelijkheid die je beschrijft draait om zelf-organisatie, niet binnen een bestaand computerplatform waarin z.g. ‘autopoeisis’ wordt gesimuleerd, maar als werkelijkheid. Of een programma dat binnen een computertaal geschreven is in staat is om zelfstandig kennis op te doen van andere programmeertalen om zichzelf daarin te herschrijven (mij lijkt dat zoiets een voorwaarde is voor het scenario dat je schetst) lijkt me een open vraag. Maar wel één die het beste door getrainde AI onderzoekers kan worden beantwoord. Voorlopig komen de waarschuwingen niet uit die hoek.

      Like

      1. Uiteraard zijn de technische details van belang, en ik zou ook niet durven dromen om hier een voorspelling over te doen. Virussen die specifiek kerncentrales aanvallen bestaan overigens al wel. Misschien moeten we voorlopig nog banger zijn voor elkaar dan voor zelf-lerende programma’s ;). Overigens, in dit verband is het boek ‘Prey’ van Crichton interessant, gaat over mini robotjes die zelf-organiseren en zo een groter ‘organisme’ vormen.

        Like

  2. Lijkt me ook een kwestie van ‘zoals de waard is, vertrouwt hij zijn gasten’. Wij projecteren ons eigen gedrag ten aanzien van wezens met minder cognitieve vermogens (die eten we op of we voeren er experimenten op uit) op wezens met hogere intelligentie. Maar het valt moeilijk te bedenken wat voor ethiek een ‘hogere’ intelligentie erop zal nahouden.

    Like

  3. Dat menselijke intelligentie totaal anders functioneert als kunstmatige intelligentie is een oud inzicht. In 1972 publiceerde Hubert Dreyfus zijn geruchtmakende boek ‘What computers still can’t do, a critique of artificial intelligence. Het opmerkelijke van het boek zit hem niet alleen in het feit dat dreyfus korte metten maakt met de pretenties van specialisten op het gebied van de informatica, maar ook in het feit dat hij op ruime schaal gebruik maakt van de fenomenologische ideeën van Heidegger.
    Dat wil ondertussen niet zeggen dat de problemen met de nieuwe technische mogelijkheden zijn beteugeld. Deze liggen m.i,. echter op een ander vlak. De ontwikkelingen die zich momenteel voltrekken stellen het aanpassingsvermogen van de samenleving op de proef. Er zullen nieuwe vormen van organisatie, bescherming van privacy, nieuwe maatschappelijke arrangementen etc moeten worden bedacht. En dat zal bovendien redelijk snel moeten gebeuren. Ook het vernuft van de politici zal danig op de proef worden gesteld.

    Like

  4. Dreyfus hield nog geen rekening met connectionistische benaderingen en een belangrijk deel van zijn argumentatie gaat daarvoor niet op. Bostrom rekent voor een deel van zijn betoog op deze benadering maar is te vaag over de incompatibiliteit daarvan met GOFAI (= good old-fashioned artificial intelligence).

    Like

  5. Kunstmatige intelligentie kan niet meer als een fantasie gezien worden, maar heeft intussen al werkende toepassingen, zoals de Watson technologie van IBM. (Ref 1)
    Er zijn verschillende werkende implementaties, maar die gebaseerd zijn op Recursieve Neurale Netwerken (RNN) lijken toch wel het meest succesvol en die werken op een manier die te vergelijken is met de manier waarop ons brein werkt. (Ref 2)
    Dat kan ook worden gezegd van alternatieve theorieën, zoals Hierarchical Temporal Memory (HTM) en Cortical Learning Algorithm (CLA), ontwikkeld door Jeff Hawkins. (Ref 3)

    Het verschil wordt voornamelijk bepaald door de huidige onmogelijkheid de schaal waarop ons brein werkt te evenaren en, uiteraard, dat een AI geen mens van vlees en bloed is.

    Een kenmerk van AI is dat die, evenals de mens, zelfreflectie kent. Ik zou niet weten hoe je zou kunnen voorkomen dat een AI zich bewust wordt van zijn eigen stoffelijke wezen, zoals dat ook bij vrijwel ieder mens het geval is. Je moet dan actief de waarneming van het ‘zelf’ als stoffelijk wezen door censuur uitsluiten op een manier die niet door de AI opgemerkt kan worden en het is nog maar de vraag of dat in principe mogelijk is.

    Dat censuur zou kunnen werken heeft Helen Keller aangetoond. Zij schreef over hoe zij zich haar situatie herinnerde toen ze nog doofstom en blind was en geen taal kende het volgende.
    “When I learned the meaning of ‘I’ and ‘me’ and found that I was something, I began to think. Then consciousness first existed for me”. (Ref 4)
    Normaal kan niemand zich herinneren hoe men die ik-loze periode van ons leven doorgekomen is, maar zij dus wel.
    Diezelfde censuur was voor haar een ernstige beperking voor haar cognitieve vermogen.

    Of een zelfbewuste AI ook ongecontroleerd macht over mensen kan uitoefenen zou je eerst eens wat realistische scenario’s moeten uitwerken, alvorens je daarover iets zinnigs kunt zeggen. Een AI moet ook zo zijn twijfels hebben, want, in tegenstelling van de meeste mensen, is een AI in staat de implicaties van de onvolledigheidsstellingen van Gödel te doorgronden, als hij ze al niet zelf kan bedenken.

    Referenties
    1. IBM Watson Smartest Machine on Earth Full Documentary

    2.Jürgen Schmidhuber’s page on Recurrent Neural Networks
    http://people.idsia.ch/~juergen/whatsnew.html
    Zie ook https://www.reddit.com/r/MachineLearning/comments/2xcyrl/i_am_jürgen_schmidhuber_ama
    3. Leading the New Era of Machine Intelligence
    http://numenta.com/
    4. Helen Keller, “The Story of My Life”
    http://www.percepp.com/keller.htm

    Like

  6. Dit waren precies de voorbeelden die ik in gedachten had, Bert. Watson is het perfecte voorbeeld van klassieke AI. Het kan de beste Jeopardy speler verslaan, maar doet dat op een manier die totaal anders (en honderden malen minder efficient) is dan het menselijke brein. Recursieve neurale netwerken, daarentegen, lijken wel op ons brein. Maar het soort van taken waar dat soort netwerken goed in zijn, zijn volstrekt anders van aard dan het soort taken waar Watson goed in is. Watson is goed in ‘hogere’ kennis: feiten, sommen, zelfs woordassociaties. RNN’s zijn goed in ‘lagere’ sensory-motorische taken; visuele patroonherkenning of het aansturen van bewegingen bijvoorbeeld. Het gaat om twee totaal verschillende soorten van AI met onvergelijkbare en incompatibele cognitieve architecturen en totaal andere vaardigheden.
    Als je de incompatibiliteit van beide types AI vergeet kan het lijken alsof we bijna systemen hebben die gaan lijken op wezens zoals wij zijn. Als je er wel rekening mee houdt is het duidelijk dat we nog geen idee hebben hoe zulke kunstmatige wezen te maken zijn. Het verbaasd mij dat dit cruciale stukje informatie in populaire stukken over AI meestal niet wordt genoemd.

    Like

  7. Marc, bij mijn weten worden in Watson hybride technieken toegepast, in ieder geval wordt in bijgaande beschrijving gerefereerd aan onderzoekers op het gebied van neurale computatie en neurale netwerken. (Ref.1)
    Watson leunt sterk op statistische analyse en recent is gevonden dat neurons in het brein zelf ook op basis van statistische analyse van hun ingangssignalen blijken te werken. (Ref. 2)
    Je kunt dus niet zeggen dat Watson op een heel andere manier werkt als het brein, net zo min als je kunt zeggen dat RNNs exact op dezelfde manier als het brein werken. Bij beide methodes is het brein als voorbeeld genomen.
    In ieder geval heeft IBM recent een RNN op een chip geintroduceert met daarop 1 miljoen neurons en 256 miljoen synapsen die 70 milliwatt gebruikt en 46 miljard synaptische operaties per seconde kan uitvoeren. (Ref. 3)
    Hoe dan ook, een kunstmatig brein hoeft niet per se precies hetzelfde als het menselijk brein te werken om intelligent te zijn. Het zou mij niets verbazen als het menselijk brein niet optimaal werkt vanwege allerlei beperkingen die met onze biologie en fysiologie samenhangt.

    Referenties
    1. [Using these intermediate models, the system produces an ensemble of intermediate scores. Motivated by hierarchical techniques such as mixture of experts (Jacobs et al. 1991) and stacked generalization (Wolpert 1992), a metalearner is trained over this ensemble. This approach allows for iteratively enhancing the system with more sophisticated and deeper hierarchical models while retaining flexibility for robustness and experimentation as scorers are modified and added to the system.]
    []Jacobs, R.; Jordan, M. I.; Nowlan. S. J.; and Hinton, G. E. 1991. Adaptive Mixtures of Local Experts. Neural Computation 3(1): 79-–87.
    Wolpert, D. H. 1992. Stacked Generalization. Neural Networks 5(2): 241–259.]
    http://www.aaai.org/Magazine/Watson/watson.php

    2. Brain Makes Decisions with Same Method Used to Break WW2 Enigma Code
    http://newsroom.cumc.columbia.edu/blog/2015/02/19/brain-makes-decisions-method-used-break-ww2-enigma-code/

    3. http://www.research.ibm.com/articles/brain-chip.shtml

    Like

  8. Bert, Watson gebruikt inderdaad ook neurale netwerken naast klassieke AI. Drie punten zijn belangrijk: (1) De neurale netwerken zitten aan de periferie van het totale systeem van Watson. Spraakherkenning, bijvoorbeeld, werkt met dat soort netwerken, en Watson is daar erg goed in. (2) De samenwerking tussen de neurale netwerken in Watson en de klassieke AI is een koppeling van verder gescheiden systemen. Er is geen integratie tussen de netwerken en klassieke AI. (3) De ‘kern’ van Watson is nog steeds een klassiek systeem; afgezien van de interfaces waarmee Watson interageert met de buitenwereld is het vooral een combinatie van enorm uitgebreide databases en hele slimme en snelle zoekalgoritmes. Dat laatste is waar ik op doelde. Het is dat systeem dat zo veel energie vraagt, ook.
    Dat maakt Watson werkelijk een ander soort systeem dan onze breinen. Eén van de wonderlijke eigenschappen van ons brein is dat gedeeltes met verschillende functies (bijvoorbeeld motorische en sensorische functies) op precies dezelfde manier werken, met de zelfde cellen in dezelfde soort ‘schakelingen’. Er is geen sprake van fundamenteel andere programmering voor andere functies, zoals bij Watson wel het geval is. (Nieuwe theorieën over de werking van ons brein zoals ‘predictive coding’ kunnen nu uitleggen waarom hetzelfde type programmering in ons brein verschillende functies dient).
    Maar, zeg je, en velen met jou, een computer hoeft niet op een brein te lijken om toch intelligent te zijn. Dat zou best kunnen. Maar er wordt mij te gemakkelijk omgegaan met het woord ‘intelligent’. Natuurlijk kun je dat zo definiëren dat allerlei computers heel intelligent zijn en ik heb daar absoluut geen bezwaar tegen. Waar het mij om gaat is dat mensen als Bostrom een hele ‘dikke’ notie van het begrip ‘intelligentie’ hanteren die volledig ontleend is aan menselijke intelligentie, maar die verder nergens gedefiniëerd wordt. Als je zo’n notie hanteert kun je niet zo maar zeggen dat computers niet op breinen hoeven te lijken om op die manier intelligent te zijn. Wat je zegt is dat het mogelijk moet zijn dat computers zich gedragen als breinen zonder dat ze geprogrammeerd zijn zoals breinen. Of dat kan is een empirische kwestie. Dat zullen we moeten zien.
    Veel mensen zien Watson als een eerste aanwijzing dat zoiets inderdaad mogelijk is. Ik zie er eerlijk gezegd precies het tegenovergestelde in. In veel interacties lijkt Watson een bijna-menselijke Jeopardy speler. Maar op cruciale momenten blijkt hij een machine die niet begrijpt wat er om hem heen gebeurt. Het is een typisch voorbeeld van niet-flexibele, niet-spontane klassieke AI met een zeer gebrekkig leervermogen. Zo kan hij niet reageren wanneer het publiek en medespelers lachen als hij vraagt om een categorie vragen onder de noemer “chicks dig me”. Hij heeft ook niet de expressiemogelijkheden om een gepaste reactie in vorm te geven. Lachen zit niet in zijn repertoire en de cognitie daarachter is van een totaal ander soort dan waarvoor hij gemaakt is (zie voor een persiflage op zijn vlakke stemgebruik: https://www.youtube.com/watch?v=QLH8ZNkv3Zs).

    Like

  9. Marc, ik zie Watson als een eerste succesvolle stap in de richting van een kunstmatige intelligentie die andere begrenzingen heeft dan de menselijke. Ik verwacht allerminst dat je met een AI een dialoog aan kan gaan die niet verschilt met een dialoog tussen twee mensen. Die verschillen zullen altijd prominent aanwezig zijn.
    IBM’s Watson kan wel ironisch bedoelde data onderscheiden, maar, zoals een IBM medewerker opmerkte: “Watson does not smile”. Ik twijfel er niet aan dat dit wel gaat gebeuren, net als ik er niet aan twijfel dat een AI zelfbewust zal worden, omdat dit niet te voorkomen is. Inderdaad, we zullen zien.

    Als je in deze materie geïnteresseerd bent, mag je de AI onderzoeker Jürgen Schmidhuber niet missen.
    Die man kent geen valse bescheidenheid als hij van zichzelf zegt “His formal theory of creativity & curiosity & fun explains art, science, music, and humor.] (Ref 1)

    Er zijn meer van die mensen die hun sporen op het gebied van AI en neuro- en cognitieve wetenschappen verdiend hebben. Ik noem uit mijn hoofd Ray Kurzweil, Max Tegmark, Elon Musk, Stephen Wolfram, Douglas Hofstadter, Daniel Dennett, Jonah Lehrer, en Jeff Hawkins, die zowel neurowetenschapper als AI expert is. Dan vergeet ik nog Donald Hebb, de ontdekker van het principe waarop RNNs gebaseerd zijn.
    Behalve Dennett ontbreken filosofen, maar die lijkt mij uitzonderlijk omdat hij strikt binnen de empirie probeert te blijven en buitengewoon veel moeite doet om op de hoogte te blijven van de bevindingen van de empirische wetenschappen.
    Toegegeven, mijn optimisme is misschien niet gerechtvaardigd, maar ik heb vanuit mijn eigen technische achtergrond een grote affiniteit met mensen die gedurfde en originele toepassingen uitvinden op basis van wat de wetenschap aanreikt.

    Referenties
    1. http://people.idsia.ch/~juergen/
    http://www.reddit.com/r/MachineLearning/comments/2xcyrl/i_am_j%C3%BCrgen_schmidhuber_ama/

    Like

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s