woensdag 11 juli 2018

Henry Kissinger geeft onheilspellende waarschuwing op gevaren van kunstmatige intelligentie

 GARETH ICKE 10/06/2018
Voormalig minister van Buitenlandse Zaken van de VS Henry Kissinger heeft de mensheid scherp gewaarschuwd: vooruitgang in kunstmatige intelligentie zou kunnen leiden tot een wereld die mensen niet langer zullen kunnen begrijpen - en we moeten nu beginnen met de voorbereidingen. 

Wat als machines met elkaar leren communiceren? Wat als ze hun eigen doelstellingen beginnen vast te stellen? Wat als ze zo intelligent worden dat ze beslissingen nemen die de capaciteit van het menselijk verstand te boven gaan? 


Dat zijn enkele van de vragen die de 95-jarige Kissinger stelt in een werk dat door de "theAtlantic" is gepubliceerd onder de apocalyptische kop: 'Hoe eindigt de Verlichting?

Kissingers interesse in kunstmatige intelligentie begon toen hij leerde over een computerprogramma dat was uitgegroeid tot een expert op Go - een spel ingewikkelder dan schaken. De machine leerde het spel onder de knie te krijgen door zichzelf te trainen door middel van de praktijk; ze leerde van haar fouten, herdefinieerde haar algoritmen terwijl ze verder ging - en werd de letterlijke definitie van 'de praktijk maakt perfect'. 


In het onbekende 


We bevinden ons, waarschuwt Kissinger, midden in een "ingrijpende technische revolutie waarvan we de gevolgen nog niet volledig hebben ingeschat en waarvan het hoogtepunt een wereld kan zijn die vertrouwt op machines die worden aangedreven door data en algoritmen en die niet wordt bestuurd door ethische of filosofische normen". 


Kissinger gebruikt het voorbeeld van een zelfbestuurde auto. Het besturen van een auto vereist een oordeel in onmogelijk te voorspellen omstandigheden. Wat zou er gebeuren, vraagt hij, als de auto moest kiezen tussen het doden van een grootouder of het doden van een kind? Wie zou het kiezen, en waarom? 


Kunstmatige intelligentie gaat "veel verder dan" het soort automatisering dat we gewend zijn, zegt hij, omdat AI in staat is "zijn eigen doelstellingen vast te stellen", waardoor het "inherent onstabiel" is. Met andere woorden, AI "ontwikkelt door haar processen een vermogen waarvan eerder gedacht werd dat het voorbehouden was aan de mens".

Bron: DavidIcke.com



De voormalige Amerikaanse minister van Buitenlandse Zaken Henry Kissinger heeft de mensheid een duidelijke waarschuwing gegeven: vooruitgang in kunstmatige intelligentie kan leiden tot een wereld die mensen niet langer kunnen begrijpen - en we moeten nu beginnen met de voorbereiding.
Wat als machines leren communiceren met elkaar? Wat als ze hun eigen doelstellingen beginnen vast te stellen? Wat als ze zo intelligent worden dat ze beslissingen nemen die verder gaan dan het vermogen van de menselijke geest?

Dat zijn enkele vragen die de 95-jarige Kissinger stelt in een stuk gepubliceerd door de "Atlantic" onder de apocalyptische kop: 'How The Enlightenment Ends.'

Kissinger's interesse in kunstmatige intelligentie begon toen hij hoorde over een computerprogramma dat een expert was geworden bij Go - een spel dat gecompliceerder is dan schaken. De machine leerde het spel onder de knie te krijgen door zichzelf te trainen door oefening; het leerde van zijn fouten, herdefinieerde zijn algoritmen terwijl het meeging - en werd de letterlijke definitie van 'de praktijk maakt perfect'.


In het onbekende

Wij zijn het, waarschuwt Kissinger, te midden van een "ingrijpende technische revolutie waarvan we de consequenties niet volledig hebben benut en wiens hoogtepunt een wereld kan zijn die vertrouwt op machines aangedreven door gegevens en algoritmen en niet bestuurd door ethische of filosofische normen."

Kissinger gebruikt het voorbeeld van een zelfrijdende auto. Het besturen van een auto vereist oordelen in onmogelijk te voorspellen omstandigheden. Wat zou er gebeuren, vraagt ​​hij, als de auto moest beslissen om een ​​grootouder te vermoorden of een kind te vermoorden? Voor wie zou het kiezen en waarom?


Kunstmatige intelligentie gaat "ver voorbij" het soort automatisering dat we gewend zijn, zegt hij, omdat AI het vermogen heeft om "zijn eigen doelstellingen vast te stellen" , waardoor het "inherent onstabiel" wordt. Met andere woorden, door zijn processen, AI " ontwikkelt een vermogen waarvan eerder werd gedacht dat het voorbehouden was aan mensen. "

Onbedoelde gevolgen

Het typische science-fictionverhaal is dat robots zich zodanig ontwikkelen dat ze hun makers aanzetten en de hele mensheid bedreigen - maar, volgens Kissinger, terwijl de gevaren van AI groot kunnen zijn, kan de realiteit van de dreiging een beetje zijn meer goedaardig. Het is waarschijnlijker, suggereert hij, dat het gevaar zal komen van AI, eenvoudigweg de menselijke instructies verkeerd interpreteren "vanwege het inherente gebrek aan context."

Een recent voorbeeld is het geval van de AI-chatbot met de naam Tay. De machine werd geïnstrueerd om een ​​vriendelijk gesprek te voeren in de taalpatronen van een 19-jarig meisje, en de machine werd uiteindelijk racistisch, seksistisch en gaf opruiende antwoorden. Het risico dat AI niet precies volgens menselijke verwachtingen werkt, zou volgens Kissinger "in catastrofale afwijkingen kunnen vervallen" van de beoogde resultaten.

Te slim voor mensen

Het tweede gevaar is dat AI gewoon te slim zal worden voor zijn eigen bestwil - en het onze. In het spel Go kon de computer strategisch ongekende bewegingen maken die de mens nog niet had bedacht. "Zijn deze bewegingen voorbij het vermogen van het menselijk brein?", Vraagt ​​Kissinger. "Of kunnen mensen ze nu leren dat ze zijn gedemonstreerd door een nieuwe meester?"

Het feit is dat AI veel sneller leert dan mensen. Een ander recent voorbeeld was een computerprogramma AlphaZero, dat schaken leerde in een stijl die nog nooit eerder in de schaakgeschiedenis was gezien. In slechts enkele uren bereikte het een vaardigheidsniveau dat mensen 1500 jaar nodig had om te bereiken - nadat ze alleen de basisregels van het spel hadden gekregen.

Dit uitzonderlijk snelle leerproces betekent dat AI ook meer fouten zal maken "sneller en groter dan de mensen doen." Kissinger merkt op dat AI-onderzoekers vaak suggereren dat die fouten kunnen worden getemperd door programmering voor "ethische" en "redelijke" uitkomsten op te nemen - maar wat is ethisch en redelijk? Dat zijn dingen waar mensen nog steeds over vechten om te definiëren.

Geen manier om uit te leggen

Wat gebeurt er als AI de beoogde doelen bereikt, maar de redenering niet kan verklaren? "Zullen de beslissingskwaliteiten van AI de verklarende krachten van menselijke taal en rede overstijgen?", Vraagt ​​Kissinger.

Hij betoogt dat de effecten van een dergelijke situatie op het menselijk bewustzijn diepgaand zijn. Hij gelooft zelfs dat dit de belangrijkste vraag is over de nieuwe wereld waarmee we worden geconfronteerd.

"Wat zal er gebeuren met het menselijke bewustzijn als zijn eigen verklaringskracht door AI wordt overtroffen, en samenlevingen niet langer in staat zijn de wereld die ze bewonen te interpreteren in termen die voor hen betekenisvol zijn?"

Wettigheden en kansen

Buiten filosofische kwesties schetst Kissinger ook enkele juridische: in deze enorm verschillende wereld, wie is verantwoordelijk voor de acties van AI? Hoe wordt aansprakelijkheid bepaald voor hun fouten? Kan een wettelijk systeem dat door mensen is ontworpen, zelfs gelijke tred houden met een wereld die wordt bestuurd door kunstmatige intelligentie die hen kan overtreffen?

Maar het is niet allemaal kommer en kwel. Kissinger erkent dat AI "buitengewone voordelen" kan brengen voor de medische wetenschap, het leveren van schone energie en milieukwesties, onder andere.

Kissinger erkent dat wetenschappers meer bezig zijn met het verleggen van de grenzen van ontdekking dan ze te begrijpen of na te denken over hun filosofische vertakkingen. Ook overheden houden zich meer bezig met hoe AI kan worden gebruikt - bijvoorbeeld in beveiliging en intelligentie - dan met het onderzoeken van de resultaten ervan op de menselijke conditie.

LEES MEER: Robots zijn uit de hand gelopen: wetenschappers hebben de plicht om de mensheid te beschermen tegen kunstmatige intelligentie

In zijn laatste pitch smeekt de senior diplomaat de Amerikaanse regering om kunstmatige intelligentie een belangrijke nationale focus te maken, "vooral vanuit het oogpunt van het relateren van AI aan humanistische tradities."

Hij betoogt dat er een presidentiële commissie van eminente denkers in het veld moet worden ingesteld om een "nationale visie" voor de toekomst te helpen ontwikkelen . "Als we niet snel beginnen met deze inspanning", schrijft Kissinger, "zullen we spoedig ontdekken dat we te laat zijn begonnen."

Bron: RT