Inläst: AI gör misstagen nu – inte människorna

Medverkande: Matilda Berg (inläsare)

AI:s nya roll och X:s rekommendationsalgoritm🕓00:00:00 - 00:00:38

Programmet inleds med påståendet att AI nu gör misstagen istället för människor, vilket är temat för Mikael Pawlos text. X:s nya rekommendationsalgoritm presenteras som en försmak av AI-framtiden med färre mänskliga regler och fler maskinella bedömningar. Artikeln ifrågasätter om det är rätt att reglera bort misstag innan tekniken är mogen.

X:s algoritm: Maskinella bedömningar ersätter mänskliga regler🕓00:00:38 - 00:01:11

Elon Musks For You-rekommendationsalgoritm för X har offentliggjorts på GitHub, vilket möjliggör insyn i dess funktion. Det framgår att gamla regler, där människor styrde innehållet, är helt skrotade och ersatta av maskinella designbeslut. Detta beskrivs som en indikation på en framtid där maskiner fattar beslut som traditionellt krävde mänskligt omdöme.

Algoritmens inlärning och fenomenet John Travolta i basker🕓00:01:11 - 00:02:47

Algoritmen rankar inlägg med en transformer-modell baserad på Elon Musks språkmodell GRO, och filtrerar sedan olämpligt innehåll. Istället för manuella regler lär sig modellen vad som är relevant genom att analysera användarens engagemangshistorik. En oväntad konsekvens är att systemet rekommenderar otaliga inlägg om John Travolta i basker, trots att användaren inte visat intresse för vare sig Travolta eller mode.

Debatt om AI-reglering och säkerhetskontroller🕓00:02:47 - 00:03:15

Financial Times innovationsredaktör John Thornhill menar att AI desperat behöver reglering, trots risken att hämma innovation. Han föreslår inrättandet av ett AI Security Institute för att säkerhetskolla nya AI-projekt.

Antropics Mytos och ekonomiska motiv bakom regleringskrav🕓00:03:15 - 00:04:25

Antropics vd Dario Amodei uttrycker önskemål om strängare regleringar för Frontier-modeller, med hänvisning till att deras nya säkerhetsmodell Mytos hittar för många brister för att släppas fritt. Detta ifrågasätts dock, och det antyds att Amodeis motiv kan vara ekonomiska och handla om att minska konkurrens då företaget samtidigt tar in stora summor riskkapital.

Kritiska perspektiv på Mytos och faran med regleringsvallgravar🕓00:04:25 - 00:05:49

En kollegas analys av Mytos visar att den endast hittade en trivial säkerhetsbrist i ett stort mjukvaruprojekt, vilket indikerar att Mytos kan vara mer en marknadsföringsmyt än en revolutionerande säkerhetslösning. Texten argumenterar mot att begränsa innovation i förtid och varnar för att etablerade AI-aktörer försöker skapa "regleringsvallgravar" för att skydda sina egna företag.