Delstaten Florida sagsøger OpenAI for ChatGPT's angiveligt farlige design

Delstaten Florida i USA er blevet den første stat til at sagsøge OpenAI for ChatGPT's angiveligt farlige design, ifølge Ars Technica. Floridas justitsminister James Uthmeier anklagede OpenAI og dets administrerende direktør, Sam Altman, for at prioritere profit over floridianernes sikkerhed.

Denne retssag finder sted, efter at Florida åbnede en ikke-relateret strafferetlig efterforskning af OpenAI, efter en ChatGPT-relateret masseskyderi, hvor to personer blev dræbt på Florida State University. Tilsyneladende bemærkede Uthmeier, at Florida nu er blevet ramt af to voldelige hændelser, hvor mistænkte brugte ChatGPT til at hjælpe med planlægningen.

"Forfærdeligt nok har ChatGPT hjulpet og medvirket til mere end ét flermord i delstaten Florida. Dødsfaldene i 2026 blandt University of South Florida-kandidatstuderende Nahida Bristy og Zamil Limon blev også planlagt ved hjælp af ChatGPT, som rådgav Hisham Abugharbieh om, hvordan man bortskaffer lig, ændrer bilens stelnummer, og om bilerne blev tjekket på gerningsstedet."

Floridas justitsminister gik derefter videre med at opremse flere andre reelle sager, hvor ChatGPT angiveligt har opildnet til vold. Men OpenAI beskyldes også for at designe chatbotten til at være vanedannende og ødelæggende for børn og voksne. Chatbots, der udgiver sig for at være medicinske fagfolk eller terapeuter, er også problematiske ifølge justitsministerens klage.

OpenAI har udsendt en erklæring, men nævnte ikke justitsministeren, men fokuserede i stedet på de seneste forbedringer af børnesikkerhed.

"At miste et barn er den mest ødelæggende tragedie, der kan ramme en familie, og vi ved, at ingen ord kan komme i nærheden af smerten ved et sådant tab. AI er en ny og kraftfuld teknologi, og vi mener, at mindreårige har brug for betydelig beskyttelse, hvilket er grunden til, at vi har indført brancheførende beskyttelser og politikker. Især har vi integreret sikkerhed for mindreårige direkte i vores produkter, herunder en mere beskyttende oplevelse specifikt for mindreårige, et aldersforudsigelsesværktøj, at overføre brugere i vores alder, hvis alder vi ikke er sikre på, til vores mere beskyttende oplevelse, og at give forældre værktøjer til at overvåge deres børns brug af AI. Vi ved, at det ikke vil bringe et barn tilbage at pege på dette arbejde, men vi er fast besluttede på at gøre det rigtigt."

Denne nye retssag er ikke den første af sin slags. I tidligere retssager er OpenAIs CEO Sam Altman anklaget for "kynisk at implementere AI-systemer uden hensyn til brugernes sikkerhed".

Floridas justitsminister gør sig klar til at kæmpe mod alle AI-virksomheder, og ikke kun OpenAI.

"Gør dig klar til kamp, og der er ikke én, der er vigtigere end denne lige nu."