Marcus Williams

Träffa Marcus

Marcus tog sin masterexamen i teknisk fysik och maskininlärning (ML) vid Lunds universitet 2023. Hans initiala intresse för ML drevs av målet att bota åldrande, eftersom han insåg dess potential att förlänga den mänskliga livslängden med tusentals år. Snart övergick han dock till att fokusera på AI-anpassning, eftersom han trodde att artificiell superintelligens (ASI) var nära förestående och antingen skulle kunna leda till att människan utrotas eller lösa åldrandet tillsammans med andra globala utmaningar.

Efter sin examen var Marcus delaktig i ett teoretiskt projekt om förstärkningsinlärning (RL) vid AI Safety Hub Oxford. Teamets artikel, "On the Expressivity of Objective-Specification Formalisms in Reinforcement Learning" accepterades vid den internationella konferensen om inlärningsrepresentationer (ICLR) 2024. Subsequently, he received a Long-Term Future Fund (LTFF) grant for a six-month independent project titled "Multi-Objective RL from AI Feedback". År 2024 skrev Marcus in sig i MATS där han arbetar med Micah Carroll på "Emergence of harmful behavior during RL on user feedback in LLMs" ett projekt som undersöker hur bedrägeri och manipulation kan uppstå naturligt när man optimerar för användarnöjdhet.

Interaktioner med EA och hur EA har påverkat Marcus karriär

Även om han kanske inte var bekant med termen från början, påverkade den centrala EA-principen om maximering av förväntad nytta Marcus beslut att arbeta med att bota åldrande och senare med AI-alignment. Han uppskattade att hitta EA Lund och att kunna diskutera sådana ämnen med likasinnade, samt att få stöd och input till anslagsansökningar från EA Sverige.

Utmaningar med en okonventionell karriärväg

Marcus bestämde sig för att inte söka någon "vanlig" anställning efter universitetet, utan att arbeta oavlönat med AI-säkerhetsprojektet på AI Safety Hub Oxford. Detta innebar en stor osäkerhet om framtiden och många människor som sa till honom att det var ett fruktansvärt misstag. Dessutom arbetade Marcus med sitt Multi-Objective RL-projekt ensam i 6 månader utan några samarbetspartners eller mentorer, vilket visade sig vara ganska isolerande och mindre produktivt än om han hade hittat hjälp eller stöd.

Varför Marcus tycker att AI-alignment är viktigt att arbeta med

Marcus tror att ASI är nära förestående och innebär både en risk för mänsklig utrotning och en möjlighet att lösa alla globala problem och inleda en era av aldrig tidigare skådat välbefinnande för allt liv. Även om utmaningen med alignment är betydande, anser han att dess svårighetsgrad har överskattats något och att den är mer hanterbar än vad som ofta uppfattas.

Marcus tips till personer som är intresserade av en karriär inom AI-säkerhetsforskning

1. Engagera dig i direkt forskning: Inträdesbarriären för att bidra till fältet är lägre än vad man kan förvänta sig. Jag tror att en hängiven och någorlunda kompetent person kan uppnå forskningsfronten inom ett år.
2. Det är lättare att hitta möjligheter om du är beredd att arbeta oavlönat. Medan ribban för att bli antagen till betalda program som MATS, ARENA och LASR är mycket hög, är ribban för att delta i obetalda alternativ som SPAR eller AI Safety Camp mycket lägre. Om möjligt bör du överväga att delta i obetalda program för att få erfarenhet.
3. Hitta samarbetspartners och mentorer. Du kommer att bli mycket mer produktiv och motiverad om du kan hitta bra medarbetare och mentorer.
4. Låt inte universitetet komma i vägen för din utbildning. Enligt min mening gör svenska universitet inte ett bra jobb, särskilt inte inom ML-området. De saker jag lärde mig var mycket föråldrade och de flesta professorer gjorde ett dåligt jobb med att undervisa. Med detta sagt tycker jag fortfarande att universitetet kan vara en bra idé (om du får CSN) eftersom det ger dig en stabil inkomst under många år, så att du kan lära dig och göra forskningsprojekt på sidan utan osäkerhet och krångel med att ansöka om jobb / stipendier.
5. Ett arbete som du trivs med känns inte som ett arbete. Jag har alltid trott att han hatade att arbeta. För några år sedan slutade jag på en praktikplats inom mjukvaruutveckling efter en vecka eftersom det var outhärdligt. Något som MATS lärde mig var att om ditt arbete är spännande/intressant, känns betydelsefullt och om du har bra medarbetare, så kan det vara fantastiskt att arbeta. Nu jobbar jag 70 timmar i veckan men är lyckligare än någonsin.
6. Ha inte ditt rådgivningssamtal med 80,000 Hours för tidigt. Även om det är lättare att ha flera samtal nu, kände jag att han hade mitt karriärrådgivningssamtal för tidigt, när jag knappt visste vilka inriktningar inom inriktningsforskningen som jag var mest intresserad av. Om jag hade fått det senare tror jag att jag hade fått ut mer av det.