Leopold Aschenbrenner
Leopold Aschenbrenner | |
|---|---|
| Gebore | Leopold Aschenbrenner 2001 of 2002 Duitsland |
| Beroep | Navorser en belegger in kunsmatige intelligensie |
| Bekend vir | Situational Awareness |
Leopold Aschenbrenner (gebore 2001 of 2002[1]) is 'n Duitse navorser en belegger in kunsmatige intelligensie (KI). Hy was deel van OpenAI se "Superalignment"-span voordat hy in April 2024 afgedank is oor 'n beweerde inligtinglek. Hy het 'n gewilde essay gepubliseer met die titel "Situational Awareness" oor die opkoms van kunsmatige algemene intelligensie en verwante sekuriteitsrisiko's.
Biografie
[wysig | wysig bron]Aschenbrenner is in Duitsland gebore. Hy is opgevoed aan die John F. Kennedy-skool in Berlyn en het in 2021 op 19-jarige ouderdom as valedictorian aan die Columbia-universiteit gegradueer.[1][2] Hy het navorsing gedoen vir die Global Priorities Initiative aan die Universiteit van Oxford en was mede-outeur van 'n werksartikel in 2024 saam met Philip Trammell van Oxford. Hy het ook ervaring met die effektiewe altruïsme-beweging.[3] As deel van die beweging was Aschenbrenner 'n lid van die FTX Future Fund-span, 'n filantropiese inisiatief wat deur die FTX-stigting geskep is, van Februarie 2022 tot FTX se bankrotskap in November van daardie jaar.[4][5]
OpenAI
[wysig | wysig bron]Aschenbrenner het in 2023 by OpenAI aangesluit, aan 'n projek genaamd "Superalignment" wat ondersoek hoe potensiële toekomstige superintelligensies met menslike waardes in lyn gebring kan word.[6]
In April 2023 het 'n kuberkraker toegang verkry tot OpenAI se interne boodskapstelsel en inligting gesteel, 'n gebeurtenis wat OpenAI privaat gehou het.[7] Daarna het Aschenbrenner 'n memo aan OpenAI se direksie geskryf oor die moontlikheid van industriële spioenasie deur Chinese en ander buitelandse entiteite, waarin hy aangevoer het dat OpenAI se sekuriteit onvoldoende was. Volgens Aschenbrenner het hierdie memo gelei tot spanning tussen die direksie en die leierskap oor sekuriteit, en hy het 'n waarskuwing van menslike hulpbronne ontvang. OpenAI het hom later in April 2024 afgedank oor 'n beweerde inligtinglek, wat volgens Aschenbrenner oor 'n goedaardige dinkskrumdokument gegaan het wat met drie eksterne navorsers vir terugvoer gedeel is. OpenAI het verklaar dat die ontslag nie verband hou met die sekuriteitsmemo nie, terwyl Aschenbrenner gesê het dat dit destyds eksplisiet aan hom gemaak is dat dit 'n belangrike rede was.[8][9] Die "Superalignment"-span is 'n maand later ontbind, met die vertrek van ander navorsers soos Ilya Sutskever en Jan Leike uit OpenAI.[10]
Beleggings
[wysig | wysig bron]Aschenbrenner het gesê dat hy 'n beleggingsfirma begin het met beleggers Patrick en John Collison, Daniel Gross, en Nat Friedman.[11][12] Vernoem na sy opstel Situasionele Bewustheid, bestuur die KI-gefokusde verskansingsfonds meer as $1.5 miljard vanaf 2025.[13]
Situational Awareness essay
[wysig | wysig bron]In 2024 het Aschenbrenner 'n 165-bladsy essay geskryf met die titel "Situational Awareness: The Decade Ahead". Dit bevat afdelings wat die opkoms van AKI voorspel, 'n pad van AKI na superintelligensie verbeel, vier risiko's vir die mensdom beskryf, 'n manier uiteensit vir mense om superintelligente masjiene te hanteer, en die beginsels van 'n "AKI-realisme" artikuleer. Hy waarsku spesifiek dat die Verenigde State hulle moet verdedig teen die gebruik van KI-tegnologieë deur lande soos Rusland en die Volksrepubliek China.[12] Sy analise is gebaseer op toekomstige kapasiteit vir KI-stelsels om KI-navorsing uit te voer, wat 'n Forbes-skrywer na verwys het as "rekursiewe selfverbetering en weghol-superintelligensie".[14]
Verwysings
[wysig | wysig bron]- 1 2 Nærland, Mina Hauge; Bjorkeng, Per Kristian (24 Junie 2024). "22-åring har satt fyr på Silicon Valley" [22-year-old has set Silicon Valley on fire]. Aftenposten (in Noors). ISSN 0804-3116.
- ↑ "Die Jugend forscht Landessieger 2016 stehen fest" [The 2016 Youth Research State Winners have been announced] (in Duits). Jugend forscht. 16 Maart 2016.
- ↑ Allen, Mike (23 Junie 2024). "10 takeaways: AI from now to 2034". Axios (in Engels). Besoek op 27 Desember 2024.
- ↑ Howcroft, Elizabeth (6 April 2023). "Collapse of FTX deprives academics of grants, stokes fears of forced repayment". Reuters.
- ↑ Pahwa, Nitish (13 Desember 2023). "The Money Is Oregone". Slate. ISSN 1091-2339.
- ↑ "Ex-OpenAI employee writes AI essay: War with China, resources and robots". heise online (in Engels). 2 Julie 2024. Besoek op 28 Desember 2024.
- ↑ Metz, Cade (4 Julie 2024). "A Hacker Stole OpenAI Secrets, Raising Fears That China Could, Too". The New York Times (in Engels). Geargiveer vanaf die oorspronklike op 26 Desember 2024. Besoek op 27 Desember 2024.
- ↑ Altchek, Ana. "Ex-OpenAI employee speaks out about why he was fired: 'I ruffled some feathers'". Business Insider (in American English). Besoek op 28 Desember 2024.
- ↑ "Ex-OpenAI Employee Reveals Reason For Getting Fired, "Security Memo Was..."". NDTV (in Engels). 6 Junie 2024. Besoek op 28 Desember 2024.
- ↑ Field, Hayden (17 Mei 2024). "OpenAI dissolves team focused on long-term AI risks, less than one year after announcing it". CNBC (in Engels). Besoek op 28 Desember 2024.
- ↑ "Post Script: Patrick Collison the Swiss dictator; McKillen-Bono whiskey lands ex-Bank of Ireland governor". www.businesspost.ie (in American English). Besoek op 27 Desember 2024.
- 1 2 Naughton, John (15 Junie 2024). "How's this for a bombshell – the US must make AI its next Manhattan Project". The Observer (in Britse Engels). ISSN 0029-7712. Besoek op 27 Desember 2024.
- ↑ Rudegeair, Peter (10 Augustus 2025). "Billions Flow to New Hedge Funds Focused on AI-Related Bets". The Wall Street Journal (in American English). Besoek op 11 Augustus 2025.
- ↑ Toews, Rob (5 November 2024). "AI That Can Invent AI Is Coming. Buckle Up". Forbes (in Engels). Besoek op 27 Desember 2024.