Därför är människor smartare än artificiella intelligenser som chat gpt
Kan en artificiell intelligens tänka om den kan diskutera filosofi? Njäe, säger Benjamin Nedergård som jobbar med artificiell intelligens.
Vad är egentligen skillanden på hur en AI och en människa tänker? Kan man ens säga att en AI tänker?
– När en AI ”tänker” är det linjär algebra hela vägen. Det är bara en funktion, säger Benjamin Nedergård som jobbar som machine learning engineer. Han diskuterar AI tillsammans med Petter Sandelin i podden Petter söker meningen med livet.
Ny podd: Petter söker meningen med livet
När Petter går på fest vill han diskutera livets djupa frågor men istället pratar alla om tv-serier. Därför gör han en podd där han diskuterar existentiella frågor med gäster.
Det är bara matte hela vägen.
Benjamin Nedergård
Så lär sig en AI att spela Mario
Den omtalade chatboten Chat GPT har utvecklas med hjälp av förstärkningsinlärning eller reinforcement learning. Benjamin förklarar konceptet. Tänk dig att du gör en AI som ska klara av att spela Mario på egen hand.
– När är det bäst att springa till höger och när är det bäst att springa till vänster och hoppa? Att koda det för hand är inte en simpel uppgift, säger Benjamin Nedergård.
Ett sätt att närma sig uppgiften kunde vara att lära nätverket hur det ska göra i just den här situationen, så kallad vägledd lärning eller supervised learning. Men det skulle vara otroligt arbetsdrygt att gå genom alla situationer i spelet.
Istället ger du nätverket allmänna mål och delmål.
– Om den förlorar får den minus hundra poäng och om den vinner får den plus hundra.
Kanske får AI:n också poäng då lyckas hoppa över en fiende. Den har inte vunnit men den har i alla fall gjort något rätt.
Trots att nätverket är ”intelligent” så är det alltså hela tiden en människa som noga måste ställa upp målen.
Även om en AI diskuterar filosofi på ett trovärdigt sätt kan vi alltså inte riktigt säga att den ”tänker”. I alla fall inte på samma sätt som en människa.
– Det är bara matte hela vägen. En matrisräkning.
Kommer AI att styra över människor?
Inom AI pratar man ofta om artificiell generell intelligens (AGI) som en helig graal. Om mänskligheten kan uppfinna en sådan kan det förändra världen.
– En generell intelligens kan strukturera om sig själv och lära sig hur den ska strukturera sig för att uppnå bästa resultat.
För tillfället är alla artificiella intelligenser ett resultat av människorna som kodat dem och den är helt beroende av den data vi ger den.
Så här förutspår en AI elpriset
Benjamin ger mycket förenklad version av hur en AI idag kan fungera. Låt oss säga att du vill förutspå elpriset. Du ger din AI utetemperaturen. Uträkningen sker med neuroner i ett dolt lager. Resultatet är elpriset.
– Den kan inte veta några andra variabler för det enda den fått är temperaturen.
I exemplet har du dessutom använt dig av något som kallas domain knowledge. Vi människor vet redan att elpriset påverkas av hur kallt det är. Det är något vi lärt oss. Återigen är alltså den artificiella intelligensen ett resultat av vår kunskap.
– Vilka variabler borde man lägga till? Vilka saboterar? Allt sånt är något du måste fundera på när du gör neurala nätverk, men en generell intelligens kanske kunde göra det själv.
Idag tror många att just reinforcement learning är det närmaste vi kommit en generell intelligens.
Är en AI, artificiell intelligens, slutet för mänskligheten?
Går mänskligheten under?
Om mänskligheten lyckas åstadkomma en avancerad generell intelligens så kan det faktiskt förändra världen. Man brukar säga att det finns två scenarion: domedagen och himmelriket.
Domedagsscenariot är bekant från filmer som Terminator. Intelligensen sprider sig själv och blir ett hinder istället för ett hjälpmedel.
Att hantera en avancerad intelligens kan vara knepigt. Säg till exempel att du vill att den ska lösa problemet med världshunger.
– Om du bara mäter hur många människor som går hungriga till sängs varje dag och målet är att minimera den summan, så är det bästa om inga människor existerar.
Det är alltså säkrast att inte ge artificiella intelligenser tillgång till kärnvapen om man ber dem lösa världspolitiska frågor.
Hur ser då drömscenariot ut?
– Det andra alternativet är att vi som människor utvecklas mycket snabbare än vi någonsin gjort i vår historia. Det kan gå så snabbt att vi biologiskt inte riktigt hinner med, säger Benjamin Nedergård.
Benjamin ger exempel på hur Googles Deepmind redan idag påverkar utvecklingen av nya mediciner. Deepminds AI har lyckats räkna ut strukturen hos ett protein med hög träffsäkerhet. Tidigare har det här varit en lång och arbetsdryg process för forskare. Nätverket räknar ut det på nolltid.
–Det här är innan general intelligence. Det här är standard AI vi har idag.
Om en generell intelligens tar sig an liknande problem och utvecklas exponentiellt kan det gå snabbare än någon kan föreställa sig.
–All vår medicinska forskning kanske blir uträknad och förbättrad inom en vecka eller en dag. Det gäller förstås alla branscher.
Människor utvecklas hela tiden
En annan skillnad mellan människor och AI är att en AI har utvecklingsfas och sedan oftast är statisk medan den används. Människor utvecklas hela tiden.
Om du har en självkörande bil vill du inte att den ska testa nya strategier då ni åker 100 km/h. Du vill inte att den tänker ”Hmm, undrar om jag kan köra in i det där nya vägmärket?”.
– Där är den primitiv i jämförelse med människan. Vi vet lite mer när vi borde ta in ny information.
Människor är väldigt bra på att veta när det lönar sig att testa nya strategier och på att använda oss av ny kunskap i farten.
En omöjlig uppgift?
Det största problemet med att bygga att bygga en intelligens som verkligen ”tänker” är sist och slutligen vi inte riktigt vet vad det är vi försöker skapa. Det är lite som när man på 1920-talet föreställde sig flygande bilar.
– Om man inte kan definiera vad något är så är det svårt att skapa det. Du kan inte bygga en stol om du inte vet vad en stol är, säger Benjamin Nedergård.
Hör hela diskussionen i podden Petter söker meningen med livet.
