Groot datalek: DeepSeek lekt miljoen chatgesprekken van gebruikers
De database van het Chinese AI-chatbot DeepSeek stond per ongeluk publiekelijk online, waardoor het bedrijf de chatgesprekken van gebruikers heeft gelekt. Ook waren andere zeer gevoelige gegevens van zowel gebruikers als de AI-tool in te zien.
Dat blijkt uit onderzoek van het Amerikaanse cybersecuritybedrijf Wiz. In de database stonden chatgesprekken die gebruikers met de AI-tool voerden; in totaal meer dan een miljoen chats.
Naast de chatgesprekken waren ook technische details van DeepSeek inzichtelijk waarmee kwaadwillenden verregaande toegang zouden kunnen krijgen tot de AI-tool en ook wachtwoorden van gebruikers zouden kunnen inzien.
Het lek is inmiddels gedicht. Volgens de onderzoekers was het lek zo makkelijk te vinden dat ze verwachten dat ook anderen, mogelijk kwaadwillenden, toegang hebben gehad tot de data.
'Kritiek risico'
Wiz heeft gekeken naar de digitale infrastructuur van DeepSeek en vond twee databases die openbaar toegankelijk waren. Dat kun je vergelijken met de achterdeur wagenwijd open laten staan.
Volgens de onderzoekers vormt de ontdekking een 'kritiek risico' voor gebruikers: "Het is echt een bizar grote fout omdat we heel weinig hoefden te doen om toegang te krijgen. Deze dienst is gewoonweg niet volwassen genoeg om te worden vertrouwd met gevoelige gegevens."
DeepSeek, waarvan hun app inmiddels miljoenen keren is gedownload, stelt in een reactie dat het de melding 'serieus neemt' en het lek heeft gedicht. Ook is er een onderzoek gestart.
DeepSeek heeft de AI-wereld deze week opgeschud door een AI-model te introduceren dat veel minder rekenkracht nodig heeft dan andere modellen. DeepSeek is dan ook met goedkopere chips getraind. Andere AI-programma's, zoals het bekende ChatGPT, draaien op de meest geavanceerde chips, maar daar beschikt China niet over vanwege vanwege exportrestricties.
"China wil niet alleen vooroplopen in de sector van de toekomst, maar het is ook een kwestie van invloed over de hele wereld die je daarmee krijgt", zei China-correspondent Roland Smid erover.
Chinees bedrijf
Ook is bekend dat DeepSeek antwoorden over Chinese taboes censureert, zoals de vraag wat de kritiek op de Chinese president Xi Jinpin is. Daarnaast zijn er zorgen over het feit dat de servers en databases in China staan: het is onduidelijk is wie er allemaal toegang heeft tot die data. In Italië is DeepSeek inmiddels geblokkeerd en ook in Frankrijk loopt een privacyonderzoek naar DeepSeek.
Wel heeft DeepSeek zijn AI-model opensource gemaakt, waardoor iedereen het model kan downloaden, aanpassen en bijvoorbeeld zelf op zijn computer kan draaien, in tegenstelling tot de geslotenheid van concurrenten als ChatGPT.
Eerder werd al duidelijk dat DeepSeek weinig maatregelen neemt om crimineel gebruik tegen te gaan. Onderzoekers ontdekten dat je de de AI-chatbot kon gebruiken om computervirussen te maken en bomrecepten te genereren.