Iran gebruikte ChatGPT om nepnieuws te genereren, accounts geblokkeerd
OpenAI, het bedrijf achter chatbot ChatGPT, zegt accounts te hebben geblokkeerd omdat die werden gebruikt voor Iraanse beïnvloedingscampagnes. ChatGPT zou gebruikt worden om nepnieuws te schrijven.
Het zou gaan om gebruikers van de chatbot die nepnieuwsverhalen maakten, onder andere over de Amerikaanse verkiezingen. Daarbij werden zowel artikelen over de Democraat Kamala Harris als over de Republikein Donald Trump.
OpenAI brengt de groep ChatGPT-accounts in verband met een geheime Iraanse campagne waarvoor Microsoft eerder waarschuwde, Storm-2035. Die zette een aantal nieuwswebsites op, waarvan een deel was gericht op progressieve lezers en een ander deel op conservatieve Amerikanen.
Nepnieuws over Gaza
Het AI-bedrijf zegt in een persbericht dat de nepberichten 'geen significant bereik' hebben weten te krijgen. Behalve over Amerikaanse verkiezingen werden ook artikelen geschreven over Gaza, de aanwezigheid van Israël op de Spelen en de politieke situatie in Venezuela.
Naast het gebruik van kunstmatige intelligentie (AI) voor langere online artikelen, zegt OpenAI dat Storm-2035 ChatGPT ook gebruikte om reacties op sociale media mee te bedenken. Volgens OpenAI zijn er geen aanwijzingen dat de nieuwsberichten en reacties een groot publiek hebben bereikt.
Deze week raakte een chatbot van Elon Musks AI-bedrijf in opspraak omdat die dubieuze nepafbeeldingen van celebrities kan maken. De chatbot, Grok, lijkt alleen weinig restricties te hebben om te voorkomen dat het schadelijke of kwetsende afbeeldingen genereert.