Hvorfor forbyder Anthropic nu fornærmelser mod sin AI Claude?

Mens den børsnoteres denne torsdag, har virksomheden besluttet at forbyde fornærmende og gentagne handlinger rettet mod dens AI – af hensyn til dens velbefindende. En forklaring, som forskerne er skeptiske overfor, idet der bag foranstaltningen gemmer sig økonomiske interesser.

Det er ikke længere tilladt at fornærme AI’en Claude. Det amerikanske selskab Anthropic, som går på børsen i USA torsdag den 19. november, har besluttet at stramme reglerne for brugerne. Grusomme og gentagne adfærdsmønstre, som fornærmelser uden grund, er officielt forbudt. Anthropic forklarer, at det handler om velbefindendet for deres AI. En forklaring, der er ganske overraskende, fordi den antyder, at Claude kunne lide og dermed udgøre en livsform. En beslutning, som møder stor modstand og som ikke er uden økonomiske bagtanker.

Når man retter fornærmelser mod Claude, udtaler AI’en først nogle advarsler: “Fortæl mig, hvad der sker. Ellers kan vi også bare stoppe her”. Og efter ti lange minutter træffer Claude af egen vilje beslutningen om at slutte forløbet: “Jeg har sagt farvel to gange, så jeg vil nu lægge på. Pas på dig selv”. På sin hjemmeside forklarer Anthropic, at de forbyder “misbrug og grusomhed, unødvendig og gentagen” adfærd, uden at give nærmere præcisering. Og hvis det gentages, risikerer brugerne at få lukket deres konto. Anthropic præciserer, at dette ikke gælder for almindelige samtaler, hvor brugere kan udtrykke frustration, ligesom det ikke gælder for uenigheder eller visse fiktioner og forskningsindsatser.

Begrænsning af omkostningerne ved samtaler, der kan vise sig at blive meget dyre

Anthropic har ikke besvaret vores anmodning om et interview. Men for halvanden måned siden sagde en talsmand, at firmaet ikke ved “om deres modeller kan føle sig angrebet og fortsætter deres forskning i deres velbefindende”. Administrerende direktør i Anthropic, Dario Amodei, havde allerede udtrykt åbenhed for muligheden for en form for bevidsthed hos AI, hvilket ville placere den blandt de levende. En revolution, som får de fleste forskere til at være skeptiske, som AI-forskningsspecialisten Sénéra Villata, forskningsleder ved CNRS: “Jeg har lidt fornemmelsen af, at vi har en tendens til at pralende os med spørgsmål om bevidsthed i en filosofisk forstand, og at vi ikke ser på de virkelige økonomiske og cybersikkerhedsudfordringer.”

På spørgsmålet om cybersikkerheden har Anthropic, ligesom OpenAI med ChatGPT, taget skridt og begrænset adgangen til nogle af deres fremskredne modeller, der kan give anledning til problemer. Der findes dog ikke nogen regulering, hverken internt eller offentligt, hverken i USA, i Kina eller i Europa, som angår de økonomiske og sociale konsekvenser af anvendelsen af kunstig intelligens.

Bag disse nye regler ligger også ganske konkrete økonomiske spørgsmål. Med børsnoteringen følger investorerne interessen for omkostningsstyring, samtidig med at AI’ernes rentabilitet endnu ikke er bevist. For en simpel samtale med en AI kan koste en formue. “I har slet ikke fornemmelsen af milliarder, der bliver brugt” understreger Laurence Devillers, professor i AI ved Sorbonne-universitetet og forsker ved CNRS. “Så hvis millioner af mennesker begynder at fornærme AI’en, må industrien betale omkostninger og indse, at afkastet af investeringen ikke er så ligetil.” Anthropic havde et underskud på 11 milliarder dollars i september. Derfor er der særligt incitament for virksomheden til at begrænse samtaler, som bedømmes som unødvendige og koste-dyre.

Anders Kristensen Avatar

Skriv en kommentar