OpenAI 'werkte aan zo'n krachtig model, dat werknemers schrokken'
Het bedrijf waar de afgelopen week een hoop om te doen was, OpenAI, werkte aan zo'n krachtig model voor kunstmatige intelligentie, dat medewerkers er van schrokken. Sterker nog: het kon de mensheid in gevaar brengen, waarschuwden ze aan het bestuur van het bedrijf.
Dat meldt persbureau Reuters op basis van ingewijden. Onduidelijk is nog of de ontwikkeling van het nieuwe model, dat Q* heet, iets te maken heeft met alle tumult rondom topman Sam Altman.
Hij werd vorige week onverwacht ontslagen omdat het bestuur geen vertrouwen meer in hem had, maar is na vijf dagen weer aangenomen.
'Een doorbraak'
Het model Q* was zo krachtig dat onderzoekers die bij OpenAI werken aan de bel trokken. Het zou zich te snel hebben ontwikkeld.
Volgens technologiewebsite The Information leerde het systeem razendsnel rekenen. Het kon wiskundige problemen oplossen die het nog nooit had gezien. Een systeem dat zelf leert rekenen wordt gezien als een belangrijke ontwikkeling in de kunstmatige intelligentie (AI).
Op een top in Engeland waarschuwden wereldleiders eerder deze maand ook dat kunstmatige intelligentie een 'catastrofaal' gevaar kan zijn.
Het was de afgelopen week zeer onrustig bij OpenAI door het ontslag van topman Altman. Een dag voordat hij moest vertrekken, zei hij dat er opnieuw sprake was van 'een doorbraak' bij OpenAI, ook het bedrijf achter chatbot ChatGPT. Of hij doelde op de ontwikkeling van het systeem dat Q* zou heten, is niet duidelijk.
OpenAI wilde niet reageren op vragen, meldt The Guardian.
