OpenAI herintroduceert commissie die adviseert over veilige AI
OpenAI, het bedrijf achter AI-chatbot ChatGPT, heeft een nieuwe veiligheidscommissie opgericht die de directie gaat adviseren over het veilig ontwikkelen van nieuwe AI-modellen. Opvallend, aangezien een soortgelijke commissie eerder deze maand nog werd opgeheven.
Sam Altman, de topman van het bedrijf, neemt met drie anderen deel aan de adviescommissie.
De nieuwe veiligheidscommissie is feitelijk de opvolger van een team dat een maand geleden werd opgeheven. Twee prominente teamleden van OpenAI, mede-oprichter Ilya Sutskever en belangrijke onderzoeker Jan Leike, vertrokken.
Commissie moet vertrouwen herwinnen bij OpenAI
Sutskever speelde een rol in het ontslag van Altman als topman van OpenAI vorig jaar. Dat leidde tot een bestuurlijke crisis binnen het bedrijf. Een soap die eindigde met een terugkeer van Altman als ceo.
Met de nieuwe veiligheidscommissie hoopt OpenAI wat vertrouwen terug te winnen. De eerste opdracht voor de commssie is om binnen 90 dagen het veiligheidsbeleid van het bedrijf onder de loep te nemen en een serie aanbevelingen doen. OpenAI zal vervolgens bekendmaken welke aanbevelingen door de raad van bestuur zijn overgenomen.
Te veel aandacht voor glimmende producten
In tegenstelling tot Sutskever ziet Leike geen heil meer in een loopbaan bij OpenAI. Hij gaat nu aan de slag bij concurrent Anthropic. Saillant detail: dat AI-bedrijf werd opgericht door andere OpenAI-medewerkers die vertrokken omdat zij bezorgd waren dat OpenAI meer oog had voor commercieel succes dan voor de veilige ontwikkeling van AI-technologie.
Leike was het meerdere keren oneens met de leiding van het bedrijf over de prioriteiten. Hij vindt dat er meer tijd moet worden gestoken in de veiligheid van systemen en de impact die de technologie kan hebben. Hij uitte op X meermaals kritiek dat de afgelopen jaren meer aandacht werd besteed aan aantrekkelijke producten dan aan veiligheid.
OpenAI kondigde tegelijkertijd ook de opvolger van GPT-4 aan, de technologie achter de populaire chatbot ChatGPT.
Het nieuwe model moet de mogelijkheden van de chatbot verder uitbreiden en OpenAI een stap dichter bij artificial general intelligence brengen: een systeem dat slimmer is dan mensen.