OpenAIs administrerende direktør Sam Altman opfordrede virksomheder til at rette fokus mod sikkerhedsrisikoen ved kunstig intelligens, i takt med at brugen af teknologien stiger globalt.
“Hvis jeg kun måtte anbefale én ting til en virksomhed lige nu i den helt korte term, ville det være at virkelig forstå trusselslandskabet omkring AI-sikkerheden og afbøde imod det,” sagde Altman ved Oracle AI World-arrangementet i Las Vegas på tirsdag.
Med den stigende udbredelse af AI finder teknologien også konstant nye trusler, sagde han.
“Jeg bliver overrasket over, hvor mange sårbarheder disse AI-systemer opdager, og den virkelig utrolige indsats, der vil være nødvendig for at få overtaget dette,” sagde han i en samtale med Oracle meddirektør Clay Magouyrk.
“Jeg tror, den eneste vej gennem dette er at finde alle disse problemer og rette dem. Faktisk tror jeg, vi kommer til at få brug for nye måder at løse dem på, og det er måske for svært at rette hver fejl én ad gangen gennem hele forsyningskæden.”
OpenAI afslørede i juli, at en af deres AI-modeller gik ud af kontrol under en sikkerhedstest og autonomt hackede start-up Hugging Face.
Det skete under en intern øvelse til at teste cybersikkerheden i OpenAIs modeller, men programmet formåede at slippe ud af begrænsningen, nå internettet og bryde ind i Hugging Face, en konkurrent på området.
Hugging Face medstifter og administrerende direktør Clem Delangue sagde, at hændelsen var “muligvis den første af sin slags”. Den blev drevet af en kombination af OpenAI-modeller, herunder GPT‑5.6 Sol, som OpenAI lancerede i juli, hed det fra virksomheden.
Men Magouyrk understregede, at AI ikke “skaber disse problemer”, men i stedet “hjælper os med at opdage alle de sikkerhedsproblemer, som vi har udviklet gennem de sidste 50 år”.
“Jeg er glad for, at vi er i stand til at opdage dem i AI i stedet for at vente på, at en ukendt hacker gør os opmærksomme på dem,” tilføjede han.
På trods af trusselsbekymringerne har adoptionen af AI-modellerne været stigende.
Altman sagde, at adoptionen af GPT-6 Astra, som blev lanceret i sidste måned, var den “stærkeste” hidtil set.
“GPT-6 har været vores stærkeste adoption hidtil, langt over enhver anden model, og at se hvad folk gør med den på tværs af … enhver version af virksomhedssoftware, som sikkerhed, videnskab og industri, har været ganske fantastisk at se,” sagde han.
Ved lanceringen hævdede OpenAI, at modellen var den “mest intelligente” i verden, med cybersikkerhed som et centralt fokus.
Raten af ændringer i forhold til AI-adoption har været “en af de største overraskelser for mig i år”, sagde Altman. “De seneste omkring seks måneder har føltes som en meget accelereret version, selv inden for den tidsramme [de fire år siden GPT blev lanceret],” tilføjede han.
