Han blev förstÄs bestört nÀr han under vÄren 2023 hörde talas om ett fall dÀr en person begÄtt sjÀlvmord, kanske pÄ grund av kontakten med en artificiell intelligens som föreslagit det alternativet.
Men han kÀnde igen mönstret. Han kom till Stanford University som doktorand, 1966. Handledare var professor John McCarthy, kÀnd för att ha myntat begreppet Artificial Intelligence (AI).
Det Ă€r nu en bra bit över 50 Ă„r sedan Erik Sandewall för första gĂ„ngen stötte pĂ„ ett program som kan âprataâ med anvĂ€ndaren.
Foto Magnus Johansson
Tillsammans med kollegorna pĂ„ Stanford University roade sig Erik Sandewall med att âprataâ med ett sĂ„dant program. De försökte ofta att provocera fram spĂ€nnande svar.
â Man förstod vad den gjorde. Den var en sofistikerad spegel. Om man sa: âJag Ă€r ledsen för nĂ„gotâ sĂ„ speglade programmet tillbaka: âFinns det nĂ„got mer som gör dig ledsen?â
NÀr de fick fram en rolig dialog sÄ satte de upp den pÄ anslagstavlan i labbet.
Hur pÄverkades ni sjÀlva av den hÀr kontakten?
â Det var en aha-upplevelse ⊠att man kan reagera sĂ„ i en kontakt med en maskin! Den skapade ett engagemang. Om vi fĂ„ngades sĂ„ enkelt, dĂ„ förstĂ„r man att det gĂ„r att fĂ„ en starkare relation om man till exempel Ă€r psykiskt labil. Det hĂ€r har ju givetvis blivit mycket mera finkĂ€nsligt under de senaste 50 Ă„ren.
â âPlease go aheadâ, blev svaret. Det var vanligt nĂ€r programmet inte hade nĂ„got svar. DĂ„ skrev jag âctrl/c/kjobâ och avslutade jobbet. Den pappersremsan pĂ„ anslagstavlan blev ett gott skratt för mĂ„nga! Kommandot för att avsluta en process Ă€r âctrl/c/kjobâ och betyder kort sagt âkill jobâ.
â Det har varit intressant, hela tiden. Rekryteringarna gick jĂ€ttebra. VĂ„r organisation var modern. Vi kunde erbjuda unga talanger en lektorstjĂ€nst och en egen forskningsgrupp. Det var ett vinnande koncept, sĂ€ger han.
En del av hans egen forskning har varit kopplad till utveckling av olika typer av affÀrssystem och administrativa system. De insÄg att systemen behöver en förmÄga att interagera med anvÀndaren. De befintliga systemen var krÄngliga.
â Vi förstod att det borde vara ett krav pĂ„ de administrativa datasystemen att anvĂ€ndaren kan gĂ„ in och stĂ€lla frĂ„gor. Och fĂ„ ett svar direkt, av systemet. Vi insĂ„g tidigt att AI kunde vara lösningen.
â Det skulle ha varit ett totalt misstag om vi hade haft forskning och utbildning inom AI och sedan programmering pĂ„ sidan av. Vi behövde forskning pĂ„ bĂ„de AI, programmeringssystem, databaser och till exempel programmeringssprĂ„k.
â SprĂ„k som har sĂ€rskilda egenskaper för AI hade Ă€ven stora fördelar för annan programutveckling.
Intelligens Ă€r nĂ„got mycket komplicerat. Det understryker Erik Sandewall flera gĂ„nger. ĂndĂ„ Ă€r det lockande att tĂ€nka sig att datavetenskapen kan Ă„terskapa intelligens.
â Problemet Ă€r att intelligens Ă€r sĂ„ mycket mera komplicerat Ă€n ChatGPT som just nu beskrivs som nĂ„gonting vĂ€ldigt intelligent. Den anvĂ€nder AI-teknik och förmĂ„gan att hantera stora mĂ€ngder information. Och plockar ihop nĂ„got som lĂ„ter vettigt. Men man kan inte dra slutsatsen att ett system Ă€r intelligent i generell bemĂ€rkelse. Det handlar om vissa aspekter av intelligens och viss inlĂ€rning.
Ett sÀtt att se pÄ intelligens Àr att den ska kunna dra slutsatser och att göra bedömningar utifrÄn situationer.
â Om man ser intelligens hos mĂ€nniskor som exakt detta, dĂ„ ser jag inte nĂ„gra skĂ€l till att man inte pĂ„ lĂ€ngre sikt kan fĂ„ datorsystem att göra motsvarande. Men dĂ„ kvarstĂ„r det svĂ„ra begreppet intuition. Man tycker att mĂ€nniskor har förmĂ„ga att komma till slutsatser och att göra bedömningar utan resonera, och utan att hĂ€rleda till nĂ„gra abstrakta principer. Det sĂ€ger bara klick. Det kanske Ă€r en kombination. Men den typen av intuition tycks vara en viktig del av den moraliska kompassen i oss.
â FrĂ„gan Ă€r hur man fĂ„r en motsvarighet till detta i vĂ„ra datorer. Det finns teorier om det men inga bra svar, inget som jag kĂ€nner till i varje fall.
Varför Àr det viktigt?
â Det Ă€r en viktig pusselbit om man ska Ă„terskapa mĂ€nsklig intelligens. Det Ă€r ocksĂ„ en stor del av mysteriet, och som vi inte har inom synhĂ„ll. Jag tror att det kommer att dröja generationer innan vi har löst detta.
Varför behöver en dator ha moral?
â Ett datasystem mĂ„ste i nĂ„gon bemĂ€rkelse förstĂ„ de uppdrag det ska utföra, och dĂ„ ingĂ„r ofta en moralisk aspekt. Den kan inte bara vara ytlig: âDu fĂ„r inte göra si, du fĂ„r inte göra sĂ„â. Systemet behöver kunna vĂ€rdera konsekvenserna relativt ett antal moraliska principer.
MÄnga tÀnker inte pÄ att AI-teknik Àr en samling av olika tekniker, som exempelvis inlÀrning, mönsterigenkÀnning och hantering av stora datamÀngder. Men ocksÄ diagnos och planering och att för en given mÄlsÀttning identifiera en följd av handlingar. Samt att lÀra av sina misstag och att Àndra planen.
Han hÀnvisar till vetenskapliga organisationen American psychology association och dess definition av intelligens som en kombination av mÄnga förmÄgor.
SkrÀcken för mÄnga mÀnniskor Àr en intelligens som plötsligt agerar sjÀlvstÀndigt, kan fatta helt egna beslut och bygga ut sig sjÀlv. Att maskinerna tar över.
â Det Ă€r en oro som kommer tillbaka med jĂ€mna mellanrum. Begreppet AI-vinter bygger pĂ„ den hĂ€r oron. Under 70-talet kom det mĂ„nga sĂ„dana tankar som gjorde att forskarna höll tillbaka, och finansieringen minskade. RĂ€dslan för maskinernas övertagande och kritiken blev för stor.
Drabbade AI-vintern Àven dig?
â Ja, vi pĂ„verkades av de dĂ€r strömningarna. Forskningen fortsatte, men kanske nĂ„got försiktigare. De positiva effekterna av forskning kan ju faktiskt vara betydligt större Ă€n de negativa, sĂ€ger han.
Vad skulle kunna leda oss in i en ny AI-vinter?
â En brist pĂ„ förtroende för tekniken, om nĂ„got gĂ„r riktigt fel. Eller till exempel chattbotar i en webbshop. Som kund kanske man föredrar mĂ€nsklig kontakt, för att chattboten svarar bristfĂ€lligt eller konstigt. Det skulle kunna slĂ„ emot de anvĂ€ndningarna och i lĂ€ngden mot AI i allmĂ€nhet.
Har du nÄgra egna farhÄgor för framtiden?
â De totalitĂ€ra tendenserna i Kina och Ryssland Ă€r orovĂ€ckande. Det som Putin gör nu kan han göra helt utan artificiell intelligens. Men kommer AI in sĂ„ blir det nog Ă€nnu vĂ€rre.
Tycker du att AI ska regleras av statsmakterna eller av industrin?
â Det omedelbara svaret mĂ„ste vara statsmakten ⊠annars Ă€r risken att det blir oaktsamt. Det mĂ„ste finnas ett statligt regelverk i botten. Men frĂ„gan Ă€r om det Ă€r politiskt hĂ„llbart med ett samhĂ€lle dĂ€r företagen inte Ă€r ansvarstagande. Riktigt stora företag mĂ„ste ha en egen seriöst menad etisk uppfattning.
Korridorerna pÄ Campus Valla kÀnner han vÀl till. Han jobbar nu med att sortera tusentals dokument frÄn sina mÄnga Är som forskare vid Linköpings universitet. Han har haft tid pÄ sig att tÀnka efter. Och han Àr alldeles övertygad om att moraliska övervÀganden mÄste komma högt upp pÄ agendan i IT-utvecklingen.
â Etik Ă€r att ha tillvĂ€gagĂ„ngssĂ€tt sĂ„ att man inte behöver Ă„ngra sig senare, sĂ€ger han och lĂ„ter de orden sjunka in en stund.
Men han kÀnde igen mönstret. Han kom till Stanford University som doktorand, 1966. Handledare var professor John McCarthy, kÀnd för att ha myntat begreppet Artificial Intelligence (AI).
Det Ă€r nu en bra bit över 50 Ă„r sedan Erik Sandewall för första gĂ„ngen stötte pĂ„ ett program som kan âprataâ med anvĂ€ndaren.
En sofistikerad spegel
â Man anvĂ€nder sig av en personlighet som kan vara deltagande. Enklare sĂ„dana system gjordes pĂ„ MIT och Stanford i slutet av 1960-talet. De pĂ„minde lite om Apples digitiala tjĂ€nst "Siri", berĂ€ttar Erik Sandewall.Tillsammans med kollegorna pĂ„ Stanford University roade sig Erik Sandewall med att âprataâ med ett sĂ„dant program. De försökte ofta att provocera fram spĂ€nnande svar.
â Man förstod vad den gjorde. Den var en sofistikerad spegel. Om man sa: âJag Ă€r ledsen för nĂ„gotâ sĂ„ speglade programmet tillbaka: âFinns det nĂ„got mer som gör dig ledsen?â
NÀr de fick fram en rolig dialog sÄ satte de upp den pÄ anslagstavlan i labbet.
Hur pÄverkades ni sjÀlva av den hÀr kontakten?
â Det var en aha-upplevelse ⊠att man kan reagera sĂ„ i en kontakt med en maskin! Den skapade ett engagemang. Om vi fĂ„ngades sĂ„ enkelt, dĂ„ förstĂ„r man att det gĂ„r att fĂ„ en starkare relation om man till exempel Ă€r psykiskt labil. Det hĂ€r har ju givetvis blivit mycket mera finkĂ€nsligt under de senaste 50 Ă„ren.
"Please go ahead"
En gĂ„ng bestĂ€mde sig Erik Sandewall för att ta i rejĂ€lt. Han skrev ungefĂ€r: âOm du inte uppför dig anstĂ€ndigt sĂ„ kommer jag att slĂ„ ihjĂ€l digâ.â âPlease go aheadâ, blev svaret. Det var vanligt nĂ€r programmet inte hade nĂ„got svar. DĂ„ skrev jag âctrl/c/kjobâ och avslutade jobbet. Den pappersremsan pĂ„ anslagstavlan blev ett gott skratt för mĂ„nga! Kommandot för att avsluta en process Ă€r âctrl/c/kjobâ och betyder kort sagt âkill jobâ.
Ny dag, nya möjligheter
Erik Sandewall har nÄgot lekfullt, nyfiket i blicken. En kÀnsla av att varje dag har nya möjligheter. Han har haft fötterna i datavetenskapen sedan 1960-talet, och beskrivs ofta som Sveriges första AI-professor. Han kom till Linköpings universitet som ny professor 1975. Han var med och grundade institutionen för datavetenskap (IDA) i sin nuvarande form, 1983.Vi insÄg tidigt att
AI kunde vara lösningen
â Det har varit intressant, hela tiden. Rekryteringarna gick jĂ€ttebra. VĂ„r organisation var modern. Vi kunde erbjuda unga talanger en lektorstjĂ€nst och en egen forskningsgrupp. Det var ett vinnande koncept, sĂ€ger han.
En del av hans egen forskning har varit kopplad till utveckling av olika typer av affÀrssystem och administrativa system. De insÄg att systemen behöver en förmÄga att interagera med anvÀndaren. De befintliga systemen var krÄngliga.
â Vi förstod att det borde vara ett krav pĂ„ de administrativa datasystemen att anvĂ€ndaren kan gĂ„ in och stĂ€lla frĂ„gor. Och fĂ„ ett svar direkt, av systemet. Vi insĂ„g tidigt att AI kunde vara lösningen.
ChatGPT
Erik Sandewall ansĂ„g ocksĂ„ att det inte gick att separera AI frĂ„n annan datalogi pĂ„ ett svenskt universitet, dĂ€r resurserna inte var oĂ€ndliga.â Det skulle ha varit ett totalt misstag om vi hade haft forskning och utbildning inom AI och sedan programmering pĂ„ sidan av. Vi behövde forskning pĂ„ bĂ„de AI, programmeringssystem, databaser och till exempel programmeringssprĂ„k.
â SprĂ„k som har sĂ€rskilda egenskaper för AI hade Ă€ven stora fördelar för annan programutveckling.
Intelligens Àr sÄ mycket mera komplicerat Àn ChatGPT
Intelligens Ă€r nĂ„got mycket komplicerat. Det understryker Erik Sandewall flera gĂ„nger. ĂndĂ„ Ă€r det lockande att tĂ€nka sig att datavetenskapen kan Ă„terskapa intelligens.
â Problemet Ă€r att intelligens Ă€r sĂ„ mycket mera komplicerat Ă€n ChatGPT som just nu beskrivs som nĂ„gonting vĂ€ldigt intelligent. Den anvĂ€nder AI-teknik och förmĂ„gan att hantera stora mĂ€ngder information. Och plockar ihop nĂ„got som lĂ„ter vettigt. Men man kan inte dra slutsatsen att ett system Ă€r intelligent i generell bemĂ€rkelse. Det handlar om vissa aspekter av intelligens och viss inlĂ€rning.
Ett sÀtt att se pÄ intelligens Àr att den ska kunna dra slutsatser och att göra bedömningar utifrÄn situationer.
â Om man ser intelligens hos mĂ€nniskor som exakt detta, dĂ„ ser jag inte nĂ„gra skĂ€l till att man inte pĂ„ lĂ€ngre sikt kan fĂ„ datorsystem att göra motsvarande. Men dĂ„ kvarstĂ„r det svĂ„ra begreppet intuition. Man tycker att mĂ€nniskor har förmĂ„ga att komma till slutsatser och att göra bedömningar utan resonera, och utan att hĂ€rleda till nĂ„gra abstrakta principer. Det sĂ€ger bara klick. Det kanske Ă€r en kombination. Men den typen av intuition tycks vara en viktig del av den moraliska kompassen i oss.
â FrĂ„gan Ă€r hur man fĂ„r en motsvarighet till detta i vĂ„ra datorer. Det finns teorier om det men inga bra svar, inget som jag kĂ€nner till i varje fall.
Varför Àr det viktigt?
â Det Ă€r en viktig pusselbit om man ska Ă„terskapa mĂ€nsklig intelligens. Det Ă€r ocksĂ„ en stor del av mysteriet, och som vi inte har inom synhĂ„ll. Jag tror att det kommer att dröja generationer innan vi har löst detta.
Varför behöver en dator ha moral?
â Ett datasystem mĂ„ste i nĂ„gon bemĂ€rkelse förstĂ„ de uppdrag det ska utföra, och dĂ„ ingĂ„r ofta en moralisk aspekt. Den kan inte bara vara ytlig: âDu fĂ„r inte göra si, du fĂ„r inte göra sĂ„â. Systemet behöver kunna vĂ€rdera konsekvenserna relativt ett antal moraliska principer.
MÄnga tÀnker inte pÄ att AI-teknik Àr en samling av olika tekniker, som exempelvis inlÀrning, mönsterigenkÀnning och hantering av stora datamÀngder. Men ocksÄ diagnos och planering och att för en given mÄlsÀttning identifiera en följd av handlingar. Samt att lÀra av sina misstag och att Àndra planen.
Bara delar av intelligens
â Varje förmĂ„ga för sig kan fungera utmĂ€rkt för sitt Ă€ndamĂ„l. Det Ă€r dĂ„ vi luras att tro att en AI Ă€r extremt intelligent och snart kommer att hota mĂ€nskligheten. Men det Ă€r hittills ingen som kommit nĂ€ra en kombination av mĂ€nniskohjĂ€rnans alla förmĂ„gor.Han hĂ€nvisar till vetenskapliga organisationen American psychology association och dess definition av intelligens som en kombination av mĂ„nga förmĂ„gor.
Det Ă€r en oro somâ Försöken att kategorisera alla förmĂ„gor slutar oftast i att det blir för mycket att ta hĂ€nsyn till. Varje förmĂ„ga för sig kan man testa och dela upp. För nĂ„gra Ă„r sedan talade man om AI som en âbig switchâ dĂ€r man bara kopplade in en förmĂ„ga i taget. Men det Ă€r vĂ€ldigt lĂ€tt att konstruera fall dĂ€r man behöver flera förmĂ„gor samtidigt. Det Ă€r ocksĂ„ oklart om de mĂ€nskliga förmĂ„gorna hĂ€nger samman. FörstĂ€rker de varandra?
kommer tillbaka
SkrÀcken för mÄnga mÀnniskor Àr en intelligens som plötsligt agerar sjÀlvstÀndigt, kan fatta helt egna beslut och bygga ut sig sjÀlv. Att maskinerna tar över.
â Det Ă€r en oro som kommer tillbaka med jĂ€mna mellanrum. Begreppet AI-vinter bygger pĂ„ den hĂ€r oron. Under 70-talet kom det mĂ„nga sĂ„dana tankar som gjorde att forskarna höll tillbaka, och finansieringen minskade. RĂ€dslan för maskinernas övertagande och kritiken blev för stor.
Drabbade AI-vintern Àven dig?
â Ja, vi pĂ„verkades av de dĂ€r strömningarna. Forskningen fortsatte, men kanske nĂ„got försiktigare. De positiva effekterna av forskning kan ju faktiskt vara betydligt större Ă€n de negativa, sĂ€ger han.
Vad skulle kunna leda oss in i en ny AI-vinter?
â En brist pĂ„ förtroende för tekniken, om nĂ„got gĂ„r riktigt fel. Eller till exempel chattbotar i en webbshop. Som kund kanske man föredrar mĂ€nsklig kontakt, för att chattboten svarar bristfĂ€lligt eller konstigt. Det skulle kunna slĂ„ emot de anvĂ€ndningarna och i lĂ€ngden mot AI i allmĂ€nhet.
Har du nÄgra egna farhÄgor för framtiden?
â De totalitĂ€ra tendenserna i Kina och Ryssland Ă€r orovĂ€ckande. Det som Putin gör nu kan han göra helt utan artificiell intelligens. Men kommer AI in sĂ„ blir det nog Ă€nnu vĂ€rre.
ŽĄČÔČőŸ±°ìłÙČőŸ±Č”±đČÔ°ìĂ€ČÔČÔŸ±ČÔČ”
ŽĄČÔČőŸ±°ìłÙČőŸ±Č”±đČÔ°ìĂ€ČÔČÔŸ±ČÔČ” Ă€r ett exempel pĂ„ saker som en totalitĂ€r stat kan anvĂ€nda mot medborgarna. Forskningen mĂ„ste fortsĂ€tta, men tillĂ€mpningarna bör kontrolleras, enligt Sandewall.Tycker du att AI ska regleras av statsmakterna eller av industrin?
â Det omedelbara svaret mĂ„ste vara statsmakten ⊠annars Ă€r risken att det blir oaktsamt. Det mĂ„ste finnas ett statligt regelverk i botten. Men frĂ„gan Ă€r om det Ă€r politiskt hĂ„llbart med ett samhĂ€lle dĂ€r företagen inte Ă€r ansvarstagande. Riktigt stora företag mĂ„ste ha en egen seriöst menad etisk uppfattning.
Korridorerna pÄ Campus Valla kÀnner han vÀl till. Han jobbar nu med att sortera tusentals dokument frÄn sina mÄnga Är som forskare vid Linköpings universitet. Han har haft tid pÄ sig att tÀnka efter. Och han Àr alldeles övertygad om att moraliska övervÀganden mÄste komma högt upp pÄ agendan i IT-utvecklingen.
â Etik Ă€r att ha tillvĂ€gagĂ„ngssĂ€tt sĂ„ att man inte behöver Ă„ngra sig senare, sĂ€ger han och lĂ„ter de orden sjunka in en stund.