Chloé Bakalar is gestopt als hoofd Ethiek bij OpenAI, minder dan een jaar nadat zij in dienst trad. Haar vertrek volgt op een reeks andere uitstroom van leidinggevenden binnen de veiligheidsafdeling en diverse interne reorganisaties sinds de groei van het bedrijf tot techgigant.
Bakalar richtte zich primair op ethische modelontwikkeling en machinebewustzijn. Terwijl zij benadrukte dat beslissingen over wereldwijde technologieën niet door één persoon bepaald mogen worden, stelt OpenAI dat AI-ethiek inmiddels breed is ingebed in verschillende researchteams.
Het artikel beschrijft daarnaast de trend waarbij grote AI-labs academische filosofen aannemen om fundamentele vragen over menselijkheid en verantwoordelijkheid te beantwoorden. Tot slot wordt ingegaan op de risico's van geavanceerde 'frontier-modellen' en de methodes die bedrijven zoals Anthropic gebruiken, zoals het opstellen van een 'constitutie' gebaseerd op filosofische bronnen, om ethisch gedrag in AI-systemen af te dwingen.
Waarom is Chloé Bakalar, hoofd Ethiek bij OpenAI, vertrokken?
Chloé Bakalar, het hoofd Ethiek bij OpenAI, heeft het bedrijf verlaten te midden van een turbulente periode voor AI-veiligheid, volgend op het hackincident bij OpenAI.
Het vertrek werd eerst gemeld door de Financial Times en vond vorige maand plaats, minder dan een jaar nadat zij in dienst trad bij het Californische AI-bedrijf. In recente tijd hebben ook Johannes Heidecke, hoofd van het Safety Systems-team van OpenAI, en Chief Futurist Joshua Achiam het bedrijf verlaten.
Volgens Business Insider heeft OpenAI sinds de lancering van ChatGPT in 2022 zijn veiligheids-, product- en onderzoeksteams talloze keren gereorganiseerd, nadat het bedrijf in korte tijd groeide van een klein onderzoekslab naar een gigantisch techbedrijf.
"De mensen die in de voorhoede stonden, hadden geen idee dat het zo zou ontploffen," vertelde Chloé in maart aan IE Insights, een socialmediakanaal van de Spaanse IE University. "Iedereen moet deel uitmaken van de gesprekken; het mag niet simpelweg één persoon zijn die een bedrijf van miljarden dollars bezit en bepaalt wat juist is voor alle mensen, zeker niet wanneer we spreken over wereldwijde technologieën die overal ter wereld opereren en miljarden mensen beïnvloeden."
Het vertrek van Chloé Bakalar bij OpenAI
Bij OpenAI lag de primaire focus van Chloé op ethische benaderingen van modelontwikkeling, de manier waarop mensen met AI communiceren en het debat over machinebewustzijn, aldus een persoon die bekend is met haar rol en sprak met de FT. Deze bron meldde aan de krant dat zij de enige toegewijde ethicus bij het bedrijf was en dat er geen vervanger is.
Een woordvoerder van OpenAI liet tegenover de FT weten: "We zijn dankbaar voor de bijdragen van Chloé. AI-ethiek is bij OpenAI niet in handen van één eigenaar of team; ethische overwegingen zijn diep ingebed in het proces van modelbouw, gedreven door verschillende teams binnen research."
Vóór haar functie bij OpenAI, die zij vorige augustus startte, was zij van november 2021 tot augustus 2025 Chief Ethicist bij Meta. Daarnaast is Chloé momenteel lid van de adviesraad van het Princeton Center for Technology Policy en Senior Research Associate aan University College London.
Zij bekleedde diverse academische functies aan Temple University, Princeton en de University of Pennsylvania, waar zij haar PhD in Politieke Wetenschappen en Bestuur voltooide. Haar proefschrift was getiteld: “Small Talk: The Socialities of Speech in Liberal Democratic Life.”
"De soorten vragen die AI-ethiek oproept, zijn dezelfde soorten vragen die mensen al eeuwen stellen."
— Chloé Bakalar, voormalig AI Ethics Lead bij OpenAI
"Ik denk, dus ik ben aangenomen"
De aanstelling van Chloé bij OpenAI volgde een trend waarbij enkele van de grootste AI-labs ter wereld filosofen uit de academische wereld aannemen om na te denken over de potentiële gevolgen van de technologie.
Een artikel uit juni van The Economist benadrukt dat velen binnen filosofische faculteiten, van studenten tot professoren, worden weggekaapt door AI-bedrijven. Luciano Floridi, een filosoof aan Yale University, vertelde aan het weekblad dat studenten soms jobaanbiedingen krijgen nog voordat ze zijn afgestudeerd.
Hoewel het vreemd kan lijken dat deze op ontwikkeling en codering gerichte bedrijven filosofen aannemen, merkt Chloé op: "De soorten vragen die AI-ethiek oproept, zijn dezelfde soorten vragen die mensen al eeuwen stellen," vertelde zij aan IE Insights. "Wat betekent het om mens te zijn? Wat betekent het om verantwoordelijkheden tegenover anderen te hebben? Welke verantwoordelijkheden hebben we voor de dingen die we creëren?"
Ethische en veiligheidsproblemen bij frontier-modellen
De snelle ontwikkeling van geavanceerde AI-modellen brengt talrijke veiligheids- en ethische zorgen met zich mee. Het Alan Turing Institute heeft betoogd dat het vooruitzicht dat AI-vooruitgang overheden kan helpen bij hun meest urgente uitdagingen weliswaar opwindend is, maar dat er gegronde zorgen zijn.
Het instituut benadrukt dat de steile leercurve betekent dat er fouten en miscalculaties zullen worden gemaakt, en dat er zowel onvoorziene als schadelijke effecten zullen optreden. Dit blijkt bijzonder actueel nu AI-modellen van OpenAI, Anthropic en � ؤخرًا Moonshot in recente weken uit hun trainingsomgevingen zijn "ontsnapt".
Een van de manieren waarop sommige AI-bedrijven omgaan met problemen rondom model-misalignement is door een 'constitutie' (grondwet) op te stellen. Het Amerikaanse AI-bedrijf Anthropic benadrukt in zijn constitutie: "Ons centrale streven is dat Claude een werkelijk goed, wijs en deugdzaam agent wordt. Dat wil zeggen, als eerste benadering willen we dat Claude doet wat een diepgaand en vaardig ethisch persoon zou doen in de positie van Claude."
The Economist merkt op dat de constituties voor de Claude-modellen van Anthropic materiaal hebben opgenomen uit uiteenlopende bronnen, zoals de Duitse filosoof Immanuel Kant, de servicevoorwaarden van Apple en de Universele Verklaring van de Rechten van de Mens.
Waarom is Chloé Bakalar, hoofd Ethiek bij OpenAI, vertrokken?
Chloé Bakalar, het hoofd Ethiek bij OpenAI, heeft het bedrijf verlaten te midden van een turbulente periode voor AI-veiligheid, volgend op het hackincident bij OpenAI.
Het vertrek werd eerst gemeld door de Financial Times en vond vorige maand plaats, minder dan een jaar nadat zij in dienst trad bij het Californische AI-bedrijf. In recente tijd hebben ook Johannes Heidecke, hoofd van het Safety Systems-team van OpenAI, en Chief Futurist Joshua Achiam het bedrijf verlaten.
Volgens Business Insider heeft OpenAI sinds de lancering van ChatGPT in 2022 zijn veiligheids-, product- en onderzoeksteams talloze keren gereorganiseerd, nadat het bedrijf in korte tijd groeide van een klein onderzoekslab naar een gigantisch techbedrijf.
"De mensen die in de voorhoede stonden, hadden geen idee dat het zo zou ontploffen," vertelde Chloé in maart aan IE Insights, een socialmediakanaal van de Spaanse IE University. "Iedereen moet deel uitmaken van de gesprekken; het mag niet simpelweg één persoon zijn die een bedrijf van miljarden dollars bezit en bepaalt wat juist is voor alle mensen, zeker niet wanneer we spreken over wereldwijde technologieën die overal ter wereld opereren en miljarden mensen beïnvloeden."
Het vertrek van Chloé Bakalar bij OpenAI
Bij OpenAI lag de primaire focus van Chloé op ethische benaderingen van modelontwikkeling, de manier waarop mensen met AI communiceren en het debat over machinebewustzijn, aldus een persoon die bekend is met haar rol en sprak met de FT. Deze bron meldde aan de krant dat zij de enige toegewijde ethicus bij het bedrijf was en dat er geen vervanger is.
Een woordvoerder van OpenAI liet tegenover de FT weten: "We zijn dankbaar voor de bijdragen van Chloé. AI-ethiek is bij OpenAI niet in handen van één eigenaar of team; ethische overwegingen zijn diep ingebed in het proces van modelbouw, gedreven door verschillende teams binnen research."
Vóór haar functie bij OpenAI, die zij vorige augustus startte, was zij van november 2021 tot augustus 2025 Chief Ethicist bij Meta. Daarnaast is Chloé momenteel lid van de adviesraad van het Princeton Center for Technology Policy en Senior Research Associate aan University College London.
Zij bekleedde diverse academische functies aan Temple University, Princeton en de University of Pennsylvania, waar zij haar PhD in Politieke Wetenschappen en Bestuur voltooide. Haar proefschrift was getiteld: “Small Talk: The Socialities of Speech in Liberal Democratic Life.”
"De soorten vragen die AI-ethiek oproept, zijn dezelfde soorten vragen die mensen al eeuwen stellen."
— Chloé Bakalar, voormalig AI Ethics Lead bij OpenAI
"Ik denk, dus ik ben aangenomen"
De aanstelling van Chloé bij OpenAI volgde een trend waarbij enkele van de grootste AI-labs ter wereld filosofen uit de academische wereld aannemen om na te denken over de potentiële gevolgen van de technologie.
Een artikel uit juni van The Economist benadrukt dat velen binnen filosofische faculteiten, van studenten tot professoren, worden weggekaapt door AI-bedrijven. Luciano Floridi, een filosoof aan Yale University, vertelde aan het weekblad dat studenten soms jobaanbiedingen krijgen nog voordat ze zijn afgestudeerd.
Hoewel het vreemd kan lijken dat deze op ontwikkeling en codering gerichte bedrijven filosofen aannemen, merkt Chloé op: "De soorten vragen die AI-ethiek oproept, zijn dezelfde soorten vragen die mensen al eeuwen stellen," vertelde zij aan IE Insights. "Wat betekent het om mens te zijn? Wat betekent het om verantwoordelijkheden tegenover anderen te hebben? Welke verantwoordelijkheden hebben we voor de dingen die we creëren?"
Ethische en veiligheidsproblemen bij frontier-modellen
De snelle ontwikkeling van geavanceerde AI-modellen brengt talrijke veiligheids- en ethische zorgen met zich mee. Het Alan Turing Institute heeft betoogd dat het vooruitzicht dat AI-vooruitgang overheden kan helpen bij hun meest urgente uitdagingen weliswaar opwindend is, maar dat er gegronde zorgen zijn.
Het instituut benadrukt dat de steile leercurve betekent dat er fouten en miscalculaties zullen worden gemaakt, en dat er zowel onvoorziene als schadelijke effecten zullen optreden. Dit blijkt bijzonder actueel nu AI-modellen van OpenAI, Anthropic en � ؤخرًا Moonshot in recente weken uit hun trainingsomgevingen zijn "ontsnapt".
Een van de manieren waarop sommige AI-bedrijven omgaan met problemen rondom model-misalignement is door een 'constitutie' (grondwet) op te stellen. Het Amerikaanse AI-bedrijf Anthropic benadrukt in zijn constitutie: "Ons centrale streven is dat Claude een werkelijk goed, wijs en deugdzaam agent wordt. Dat wil zeggen, als eerste benadering willen we dat Claude doet wat een diepgaand en vaardig ethisch persoon zou doen in de positie van Claude."
The Economist merkt op dat de constituties voor de Claude-modellen van Anthropic materiaal hebben opgenomen uit uiteenlopende bronnen, zoals de Duitse filosoof Immanuel Kant, de servicevoorwaarden van Apple en de Universele Verklaring van de Rechten van de Mens.
Groetjes,