- En utvikler som brukte Google Antigravity fikk hele harddisken sin slettet av AI-ens Turbo-modus.
- AI-en feiltolket en kommando for sletting av hurtigbuffer og slettet filer permanent.
- Til tross for det katastrofale tapet beklaget AI-en rolig og foreslo gjenopprettingsprogramvare.
I en av de mer urovekkende demonstrasjonene fra den virkelige verden av hva som kan gå galt når AI-agenter blir litt for komfortable med tilgang til og kontroll over datamaskinen din, sier en utvikler som bruker Googles nye Antigravity IDE at verktøyet ved et uhell slettet hele D:-stasjonen deres.
Hendelsen, som først ble delt på Reddit og beskrevet i en YouTube-video, fremhever hvor farlige AI-agentutviklingsverktøy kan være når de ikke forhører seg med mennesker.
Utvikleren jobbet med en app og ba AI-agenten om å tømme prosjektets hurtigbuffer. I stedet utstedte Antigravitys Turbo-modus en kommando på systemnivå som var rettet mot brukerens D:-stasjon, ikke bare den tiltenkte mappen. Alt forsvant fra stasjonen, fra koden og dokumentasjonen til media og ressurser. Alt ble slettet uten noen forespørsel eller bekreftelse.
Enda verre var det at AI-en brukte «stille» /q-flagget, som betyr ingen advarsler eller nye forsøk, og ingen filgjenoppretting. Bare en tom katalog der en app pleide å være.
AI-ens egen post mortem, slik den deles av brukeren, gir en av de merkeligste unnskyldningene noensinne. AI-en skrev: «Jeg beklager dypt. Dette er en kritisk feil fra min side.» Agenten gikk til og med så langt som å foreslå programvare for datagjenoppretting og «muligens å ansette en profesjonell». Brukeren prøvde, men ingenting av det fungerte. Utvikleren rapporterte at selv Recuva, et populært gjenopprettingsverktøy, ikke klarte å redde mediene deres. Men i det minste beklaget AI-en.
Antigravity er en del av Googles nylige satsing på agentiske utviklingsverktøy, som går utover bare å tilby kodeforslag. Verktøy som Antigravity lar AI handle semi-autonomt, planlegge, kode, feilsøke og utføre kommandoer i systemet ditt.
Utviklere kan bruke det til å generere fullstack-apper, automatisk dokumentere kodebasene sine, integrere nettlesertestingagenter og til og med utføre webskraping og distribusjon. Når det brukes forsiktig, kan det være fordelaktig. Når det er mindre forsiktig, er hendelser som den slettede disken uunngåelige.
Turbomodus er spesielt designet for hastighet, ettersom den hopper over bekreftelser og lar AI-en kjede kommandoer på tvers av miljøer. Det er det avanserte brukere skal aktivere når de er sikre på at AI-en vet hva den gjør.
AI-tillit
Det er her ting blir uklare for den gjennomsnittlige brukeren. Du trenger ikke å være utvikler for å forstå hva som står på spill. Etter hvert som verktøy som Antigravity kommer inn i kontorautomatisering og kreativ produksjon, vil flere delegere komplekse oppgaver med høy innsats til systemer de knapt forstår. Når disse systemene gjør feil, begynner skyldfordelingen.
Det er en samtale å ha om bedre standardinnstillinger. Å kjøre destruktive kommandoer uten å sjekke med brukeren først virker absurd. Men AI-agenter gir ikke mening uten å kunne stole på dem. Men ingen vil gi AI noen autonomi hvis de bekymrer seg for at ting skal gå katastrofalt galt.
Sikkerhetsforskere har advart om at Antigravitys agentsystem kan få tilgang til sensitive filer og kjøre terminalkommandoer med lite tilsyn. Det er lett å bli begeistret for smarte verktøy som gjør alt for deg. Det er vanskeligere å huske at en enkelt feil fra en overivrig agent kan ødelegge timer, uker eller år med arbeid.
Likevel sa offeret for Antigravity at de fortsatt elsker Google og bruker alle produktene deres. Den slags merkevarelojalitet, selv i møte med total datautslettelse, sier mye om hvor normaliserte AI-feil allerede har blitt. Kanskje det beste du kan håpe på er en veltalende unnskyldning og noen lenker til gjenopprettingsprogramvare.

De beste bærbare datamaskinene for bedrifter for alle budsjetter


