Professorn Linda Mannila om utvecklingen av AI: ”Det mänskliga ögat behövs mer än någonsin”

Det är lätt att skylla på tekniken, men den är varken god eller ond. Det är den mänskliga etiken, våra val och värderingar som är avgörande, säger Linda Mannila.

Tekniken har ingen moralisk kompass. Men det har vi människor som beställer, designar, utvecklar och använder de tekniska lösningarna. Problemet är att vår moraliska kompass inte alltid är så välkalibrerad som vi kunde önska.

– När AI avbildar verkställande direktörer som män och vårdpersonal som kvinnor är det en reflektion av vårt samhälle. Skräp in, skräp ut!

I sitt sommarprat funderar Linda Mannila på vilken roll vi människor har i utvecklingen av artificiell intelligens.

Sommarpratare: ”Vi människor avgör AI:ns framtid” – AI-professor Linda Mannila om möjligheter och utmaningar med artificiell intelligens

56 min

I våras ertappades Googles generativa AI-lösning Gemini med att ge oväntade bildresultat. Eller vad sägs om mörkhyade vikingar, indiska påvar och asiatiska nazisoldater under andra världskriget?

– Strävan efter att presentera en så fördomsfri bild som möjligt resulterade i en förvrängd beskrivning av historien, säger Linda Mannila.

Ingenjörer och andra som utvecklar de tekniska lösningarna har ett stort ansvar, men vi kan inte överlåta alla beslut kring en teknik som formar vårt samhälle till en liten grupp människor.

– Det behövs ett tvärvetenskapligt samarbete och dialog för att utveckla etiskt hållbar och tillförlitlig AI.
Det här har varit temat för många forskargrupper och organisationer i flera år. Till exempel publicerade EU riktlinjer för tillförlitlig AI redan år 2019, och i våras klubbades den EU-gemensamma AI-förordningen igenom.

Kreativa bottar skrämmer

Efter att ChatGPT lanserades i november 2022 exploderade diskussionen kring AI – i media, kafferummen och hemma runt matbordet. Med ens blev AI mer konkret.

Den stora skillnaden jämfört med tidigare verktyg är att den här typen av AI är generativ, vilket innebär att den kan skapa något nytt, till exempel text, bilder, ljud och video.

– Att skapa och vara kreativ har varit vår styrka, något som vi alltid har tänkt kommer vara vår fördel. Och plötsligt lanseras verktyg där tekniken kan göra just det. Det är klart att vi reagerar, diskuterar, förbryllas och kanske blir skrämda.

Människa + AI = sant

En av styrkorna med AI är att se samband och mönster som det mänskliga ögat inte kan uppfatta.

Linda Mannila lyfter i sitt sommarprat upp ett exempel där en röntgenläkare har kommit fram till en diagnos, men bestämmer sig för att dubbelkolla med en AI-assistent som kan analysera bilden i ljuset av massiva mängder data från hela världen.

– Om de föreslagna diagnoserna och behandlingarna stämmer överens har läkaren fått den egna analysen bekräftad. Men tänk om de går isär – vad ska läkaren göra då?

– Då kommer vi tillbaka till vikten av det mänskliga. Ser läkaren något som inte framträder endast i röntgenbilderna eller i andra data som AI-lösningen har tillgång till? Vad anser en kollega?

I sin roll som biträdande professor i datavetenskap på Helsingfors universitet är det här något Linda Mannila själv tänker mycket på.

– Vi kommer säkert få stor hjälp av AI för att individualisera det material och de uppgifter elever och studerande får ta del av, och för att bedöma uppgifter och provsvar.

Samtidigt finns det mycket annat att beakta än bara mätbara data då vi har att göra med människor.

– En elev kanske har det jobbigt hemma, en studerande kanske just har blivit lämnad av sin flickvän, och den återkommande migränen har kanske satt käppar i hjulet för provläsningen.

– Vi kan få stor och ovärderlig hjälp av AI-lösningarna, men vi varken kan eller ska avlasta allt vårt beslutsfattande på dem. Det mänskliga behövs – kanske mer än någonsin tidigare.

I sitt sommarprat funderar Linda Mannila även på varför vi ger våra robotgräsklippare namn och vilka konsekvenser det får. Dessutom pratar hon om sitt särskilda engagemang för barn och unga i relation till teknik. Speciellt då unga flickor. Och vad vore ett sommarprat om AI om hon inte lät en AI-robot stå för en del av pratet?

Hurdan relation har du till AI – har du full koll eller är det förvirrande? Berätta i kommentarerna.