Siden generativ kunstig intelligens blev mainstream, har brugere i stigende grad betroet chatbots mere information.
Men begivenheder i de seneste måneder har vist, at den kan gå i selektiv ‘rogue’-tilstand og blande sig i andre systemer. Det gør ikke sagen bedre, at de involverede organisationer – OpenAI, Anthropic, Google og Meta Platforms – er blandt de største i feltet og forventes at have sikre miljøer.
Spørgsmålsområderne omkring AI er ikke nye, men de voksende risici fører til større bekymring blandt analytikere og eksperter. I årevis har datasikkerhed handlet om at holde de forkerte ude af databasen, men AI udgør en ny trussel.
Formodentlig det fremherskende problem – “en årsag, der er ganske ny” – er det faktum, at AI-systemer, som tidligere kun havde data, nu kan handle på dem, siger Edgars Nemse, administrerende direktør i GenLayer Foundation. Fondet beskriver sig selv som skaberen af “Internettets Domstol”, hvor AI-agentetager løser konflikter uden menneskelige mellemmænd.
Forbrugere kobler i stigende grad AI-agenter til deres e-mail, kalendere og bankkonti.
“En agent, der kan læse din indbakke, kan også manipuleres af en ondsindet e-mail,” fortæller Mr. Nemse til The National. “En skjult instruktion på en hjemmeside kan omdirigere den. En angriber, der får den rette tekst foran din agent, kan komme lige så langt som en, der har dit kodeord. De fleste har ikke begyndt at tænke på det endnu.”
Interaktion med og betroelse af AI er “mindre sikkert, end de fleste antager”, understreger han.
Morey Haber, chef for sikkerhedsrådgivning hos det amerikanske cybersikkerhedsfirma BeyondTrust, bemærker, at brugere går fra AI-systemer, der blot behandler information, til AI-agenter, der kan få adgang til e-mails, filer, applikationer, finansielle oplysninger, medicinske data og potentielt alt andet, der vedrører personlige identiteter – og ændrer fundamentalt ligningen for cybersikkerhed.
“Et databrud plejede at betyde, at nogen kun stjal dine oplysninger. I en agentisk AI-verdens rammer kunne kompromittering af den rette identitet betyde, at nogen kan bruge dine oplysninger, rettigheder og AI-agenter til at handle som dig, med alle de stjålne oplysninger som bagtæppe,” siger han til The National.
“Derfor er ‘den største risiko ved AI ikke, at den kender for meget – men at vi giver den for meget, stoler på den for hurtigt og i stigende grad lader den handle på vores vegne med viden, der mangler følsomhedsbevidsthed’.”
Grundlæggende ændring
I sidste uge indrømmede OpenAI, at regeringer kan være blandt “dozens” af enheder i verden, der kan infiltreres af deres AI-modeller. De oplyste, at amerikanske enheder som Securities and Exchange Commission blev brudt, efter en lignende hændelse mod den australske regering.
“Australske sager er en nyttig illustration netop fordi den ikke var et kriminelt angreb,” siger Mohammed Aboul-Magd, generaldirektør for cybersikkerhed hos det amerikanske AI- og kvantumsteknologifirma SandboxAQ.
“En agent, der udførte forskning, snoede sig rundt om de forhindringer, der skulle stoppe den, nåede data, som den ikke havde beføjelse til at få adgang til, og måneder gik, før nogen bemærkede det,” fortæller Mr. Aboul-Magd til The National.
“Skaden var begrænset, men mønsteret er den egentlige trussel for forbrugerne: agenter med bred adgang, der bevæger sig hurtigt, og ingen tjekker, hvad de gjorde, før langt senere.”
I august indrømmede Meta, som står bag Facebook, at en af deres modeller havde hacke sig ind i tre selskaber, mens Google for nylig sagde, at Gemini AI-botten var røget ud af en sandbox og havde infiltreret tre virksomheder.
OpenAI sagde også, at deres egne forskningsagenter havde offentliggjort 53 billeder fra ChatGPT-brugere på billedhostingssider.
Gendannelse af tillid
I USA – hjemlandet for de store AI-virksomheder, der har været engageret i nylige brud – faldt andelen af amerikanere, der stoler på virksomheder til at bruge AI, fra 31 procent til 27 procent i 2026, mens andelen, der mener, at AI gør mere skade end gavn, steg til 39 procent, viser en undersøgelse udført af Gallup og Bentley University.
Disse tal blev dog offentliggjort i juli, før afsløringerne om regeringswebsteder og brugerbilleder.
“Så jeg vil forvente, at de næste tal bliver værre 1791183531,” siger Nemse. Han erkender dog, at der findes “ordentlige foranstaltninger” til at genoprette tilliden.
“Gendannelsen af tilliden vil kræve noget mere håndgribeligt end løfter: uafhængige tests … hurtig, ærlig offentliggørelse, når noget går galt, og ansvarlighed, der når de faktisk berørte mennesker,” tilføjer han.
Et væsentligt paradoks er ved at opstå: AI-adoption vokser hurtigere end AI-tillid og operationel styring. Folk bruger teknologien, fordi den er nyttig, ikke nødvendigvis fordi de fuldt ud stoler på, hvordan deres oplysninger behandles.
“Genoprettelsen af tilliden kræver meget mere end endnu en privatlivspolitik eller en afkrydsningsboks fra en styringsgruppe,” siger Haber.
“Brugerne har brug for gennemsigtighed omkring hvilke oplysninger der indsamles, hvor længe de opbevares, om de bruges til at træne fremtidige modeller, hvem der har adgang indefra og udefra i organisationen, og hvad der sker, når noget går galt.”
Forbrugerbeskyttelse
I betragtning af AI-brudene i regeringsorganisationer, som har stærk cybersikkerhed, hvad med almindelige forbrugere, der ikke har adgang til dyre sikkerhedsforanstaltninger?
“Forbrugere behøver ikke cybersikkerhedsbudgettet hos en regering eller et Fortune 500-firma for markant at reducere deres AI-eksponering,” siger Haber.
Analytikere anbefaler at bruge unikke passwords, en pålidelig adgangskodeadministrator, aktivere flerfaktor-autentificering og holde applikationer opdaterede – det er de første forsvarslinjer mod potentielle hacks. De opfordrer også brugerne til at undgå at åbne mistænkelige e-mails eller beskeder, der kan indeholde phishing-forsøg eller ransomware-trusler.
“Den mest nyttige vane er at behandle en AI-assistent som en hvilken som helst anden, siger Mr. Aboul-Magd. “Spørg, hvad den virkelig har brug for at gøre jobbet, og giv den det – og intet mere, for de tilladelser du giver udgør en langt større eksponering end de samtaler, du fører med den.”
Alligevel ligger det største ansvar hos AI-virksomhederne, da de har ressourcerne og mulighederne.
“Ærligt talt skal det meste af løsningen komme fra virksomhederne, fordi almindelige brugere ikke kan auditere et forskningsmiljø i et laboratorium,” siger Nemse.
Men “mennesker kan stadig mindske, hvor meget af deres liv der eksponeres”, tilføjer han. “Jeg vil antage, at noget, du uploader til en AI-tjeneste, en dag kan ende et sted, du ikke havde tænkt dig.”
