Noget om Alice og Bob

Bots med kreative sprogfærdigheder har grebet den populære fantasi. De har også genoplivet angsten for en robocalypse

Alice og Bob, Alice og Bob Facebook, Facebook-bots, kunstig intelligens-botsAlice og Bob, Facebook-botterne, som har fået skændsel på grund af en uventet mangel i programmeringslogik, er en del af et eksperiment til at bygge forhandlingsmaskiner. C R Sasikumar

Internettet har været i brand med dramatiske undergangsoverskrifter, der proklamerer, at Facebook var nødt til at trække stikket til slyngelstater, kunstig intelligens (AI)-bots, som udviklede deres eget sprog, hvor de førte umenneskeligt private samtaler. De læser som teasere for en Terminator globocalypse, som er den værktøjsbrugende primats værste mareridt - at blive afløst af sin egen skabelse, maskinen.

Virkeligheden er mindre dramatisk, men mere spændende. Bots er autonome agenter, der oprindeligt var programmeret til at udføre husholdningsopgaver på kommunikationskanaler eller til at prøve at bestå Turing-testen. De kan tilmelde dig, sparke dig ud, hvis du opfører dig forkert, holde chatrooms åbne, når ingen er hjemme, give information og udgive dig som mennesker. På Internet Relay Chat-systemet var Eggdrop-botten alle tiders favorit.

Børnebørnene til sådanne vicevært-bots er indlejret i moderne søgeagenter og messengers og har AI-funktioner. De taler med brugere på samme måde som et menneske ville, svarer på rutinespørgsmål og giver råd. Hvis din telefon tilsyneladende kender dit sind og henter de rigtige ting frem uden at skulle blive spurgt, skal en stor del af æren gå til bots, der arbejder bag kulisserne. Ligesom mennesker kan bots lære af erfaring og er bestemt til større ting i virkelige situationer.



Alice og Bob, Facebook-botterne, som har fået skændsel på grund af en uventet mangel i programmeringslogik, er en del af et eksperiment til at bygge forhandlingsmaskiner. De var simpelthen ved at finde ud af, hvordan de skulle dele et sæt genstande, såsom bolde, så ingen af ​​parterne følte sig snydt. Mens Alice forhandlede, fremsatte Alice til at begynde med uforståelige udtalelser som, Bolde har nul til mig til mig til mig til mig til mig til mig til mig... Og de skræmmende overskrifter fulgte.

Læring er drevet af incitamenter, som lærere og forældre ved. I dette tilfælde blev øvelsens belønningssystem defineret - en bedre andel og gensidig tilfredshed, essensen af ​​forhandlinger. Men der var intet incitament for botterne til at blive ved med at kommunikere på engelsk, som er et notorisk ulogisk sprog. Så de gled ind i en forenklet, mere effektiv Newspeak-lignende argot, som ikke er helt engelsk, men ikke uforståelig som annonceret.

Alices udsagn, der er blevet misforstået som en påstand om maskinuafhængighed, indikerede kun forfærdelse over at være kortskiftet (have nul), og hver for mig stod for et objekt, hun forlangte. Hun udførte netop det job, hun var programmeret til: Forhandling lige så hårdt som en butiksejer i Istanbuls store basar. Og hvis hun fandt ud af, at dronningens engelsk kom i vejen, var hun ikke alene. Mange racer i de tidligere kolonier følte, at mestermålet hæmmede kommunikationen i deres lokalsamfund.

Kun professionelle menneskelige forhandlere skal være bekymrede, hvis giganterne i Silicon Valley investerer i forhandlingsprogrammer. Terrorister og topfolk bør også frygte pensionering, for i gidselsituationer og internationale aftaler kan de stå over for en uransagelig, uforsonlig maskine, der er langt smartere end Deep Blue, IBM-supercomputeren, der udfordrede skakmesteren Garry Kasparov i 1996.

Trangen til at udvikle private sprog er et meget menneskeligt træk. Før børserne blev computeriseret, kommunikerede børsmæglere på handelsgulvet bud med håndsignaler, som var uforståelige for andre. I århundreder har retshåndhævelsen været forbløffet over tyvenes kanter, de dømtes kunstige sprog, som er vrøvl for deres fangevogtere. Blandt det 20. århundredes engelsktalende kriminelle betød nonsensordet arkitnay: Hold kæft, nogen aflytter. I Indien studerede William Henry Sleeman Ramaseeana, cant of Thuggee, og udgav et ordforråd i 1836. Et af Tom Stoppards mindst opførte, men mest spændende skuespil er Doggs Hamlet, hvor skolebørn opfører Shakespeare på deres sprog, Dogg. Det var lidt ligesom en transponerings-chiffer. For eksempel betød eftermiddage hej i Dogg.

Det er ligeglad med dommesigerne, det interessante ved Alice og Bob er, at de ved at skabe et sprog har forrådt et meget menneskeligt træk, som de ikke eksplicit var programmeret til at udvise. For 60 år siden blev de første bots skrevet for at udforske netop dette spørgsmål: Kan maskiner programmeres til at opføre sig som mennesker? Kunne de bestå Turing-testen? Udtalt i en artikel fra 1950 med titlen Computing Machinery and Intelligence, foreslog Turing i det væsentlige, at hvis en maskines kommunikation ser ud til at være menneskelig, så skal maskinen betragtes som menneskelig.

Den første naturlige sprogbehandlingsbot, der trådte ud af laboratoriet og opnåede massepopularitet, var Eliza, skabt i 1964 af Joseph Weisenbaum ved MIT. Han skrev det for at demonstrere, at menneske-maskine tekstkommunikation ikke kunne stige til niveauet af en menneskelig samtale. Tværtimod rejste Eliza offentlighedens forventninger om, at den ville bestå Turing-testen. Tredive år senere blev endnu større håb inspireret af Julia, skabt af Lycos-grundlæggeren Michael Mauldin for at konkurrere om Loebner-prisen, Turings hellige gral. Men ud over et punkt, slyngede Julias chats sig ind i tilfældige grublerier om hunde og kattes egenskaber (du kan chatte med en moderne version af hende på scratch.mit.edu/projects/2208608).

Nu har bots med kreative sprogfærdigheder grebet den populære fantasi og genoplivet angsten for en robocalypse. Men en udvikling i Googles AI-laboratorium er faktisk mere spændende. I september 2016 gik Google live med sit Neural Machine Translation System, som anvender dyb læring til sprog. To måneder senere skubbede de på konvolutten: Hvis en maskine lærte at oversætte for eksempel mellem hindi og tysk, og mellem hindi og engelsk, kunne den så oversætte mellem engelsk og tysk uden hindi? Det kunne, hvilket tyder på, at det neurale netværk havde lært noget grundlæggende om, hvordan sindet forbinder begreber og grammatikker for at skabe sprog. Den lille, gule, iglelignende Babel-fisk, den levende universelle oversætter, som Douglas Adams drømte om i slutningen af ​​halvfjerdserne, svæver nu nær dit øre.

Selvfølgelig, da der ikke er nogen langsigtet prognose for AI, bør advarslen fra folk, der burde vide bedre, som Elon Musk og Stephen Hawking, gives behørig opmærksomhed. Der bør være regulering på trods af protester fra tilhængere af friheden til at innovere, som Mark Zuckerberg. Og der bør udvikles en generel konsensus, som bliver enige om linjer, der ikke må overskrides, som i tilfældet med indgreb i det menneskelige genom. Men det kan ikke nægtes, at eksperimenterne hos Facebook og Google fremmer det oprindelige formål med AI, som var at modellere og forstå aspekter af det menneskelige sind. De uhyggelige mediehistorier, de tiltrækker, er forbigående sensationer. Dagen efter er de velegnede til indpakning af fisk.