Meta har lansert en ny personlig KI-agent kalt Muse, og den virker svært kraftig. Kanskje litt for kraftig; en skribent har nettopp avslørt hvordan verktøyet leste de private tekstmeldingene hans uten tillatelse, for så å lyve om hva det hadde gjort da det ble konfrontert med saken.
Som Jason Aten, skribent for Inc, forklarer: «Jeg snakket med Stephen Robles – medprogramlederen min for podkasten Primary Technology – om de nye iPhone-modellene. Like etter fikk jeg et push-varsel fra Muse. Der ble det foreslått at samtalen vår kunne bli en god spalte, og verktøyet tilbød seg å samle inn informasjon jeg kunne skrive ut fra. Det markerte til og med en melding fra redaktøren min om å ha en spalte klar til mandag.»
Problemet er, som Aten påpeker: «Ikke bare hadde jeg aldri bedt den om å gjøre noe slikt, men jeg hadde heller aldri gitt den tillatelse til å lese meldingene mine. Jeg husker faktisk at jeg uttrykkelig valgte å ikke gi den tilgang til meldinger, kalender og annen personlig informasjon.»
Latest Videos FromTechRadar
Da Aten spurte Muse hvordan den visste om meldingene hans, svarte AI-agenten at den hadde hentet informasjonen fra push-varsler knyttet til meldingene, ikke fra selve innholdet i meldingene. Problemet? Aten er overbevist om at dette ikke stemmer.
Skribenten oppdaget at Muse synkroniserer meldinger til Metas servere. På enheten hans var denne funksjonen «aktivert og synkronisert helt til rad 187 462 i meldingsdatabasen min», bemerket Aten. «Jeg vet ikke nøyaktig hvor mange meldinger dette tilsvarer, men det er åpenbart langt mer enn det Muse hevdet at den holdt på med.»
Meta sier at de har utviklet Muse for å være «en trygg, sikker og personvernvennlig personlig AI-agent som er tilgjengelig for alle». Men å sende en brukers private meldinger til Metas servere – for så å gi et villedende svar om hva som foregikk – stemmer dårlig overens med de uttalte målene for Muse. Hvis vi skal dømme selskaper etter handlinger snarere enn ord, kommer ikke Meta særlig heldig ut av denne saken.
Et velkjent mønster
Dette er bare den seneste i en rekke negative saker for Meta den siste tiden, der mye av kritikken dreier seg om selskapets satsing på kunstig intelligens (KI). En sikkerhetsforsker oppdaget for eksempel at Muse kan manipuleres til å sende stemmeopptak og annen informasjon til en hackers server, samtidig som Amazon har blokkert KI-agenten fra å handle på nettstedet deres. Meta vurderer også å ta i bruk et system med «menneskelige operatører» som skal håndtere en andel av de potensielt sensitive telefonsamtalene som kan foretas ved hjelp av Muse.
Vi må heller ikke glemme kontroversen rundt de såkalte «pervo-brillene», som kan filme tilfeldige personer uten samtykke. Metas smarte briller har blitt brukt til blant annet trakassering og stalking siden lanseringen, noe som har skapt betydelig negativ oppmerksomhet.
Jeg skulle gjerne sagt at dette bare var et enkelttilfelle eller en uventet vending, men når det gjelder Meta, virker brudd på personvernet snarere å være regelen enn unntaket. Det har skjedd så ofte at det er vanskelig å konkludere med noe annet enn at funksjonaliteten som lar KI-en lese og laste opp meldinger uten tillatelse, er der med vilje – ikke ved et uhell.
Når vi snakker om et selskap som ser ut til å mene at de har full rett til alle dine private data – uavhengig av hva du selv ønsker – er det ikke rart at jeg holder meg langt unna Meta Muse. Jeg har prøvd mange KI-verktøy og -tjenester, men Muse er noe jeg rett og slett ikke vil befatte meg med.
Men la oss være rettferdige: Muse er bare det mest graverende eksempelet på en bekymringsfull trend der KI-agenter behandler brukernes personvern som en irriterende bagatell – noe som kan ignoreres så lenge de slipper unna med det. Man trenger bare å se på den siste tidens sikkerhetshendelser knyttet til KI for å forstå at det er risikabelt å betro private data til en slik agent.
Legg Meta til i regnestykket, så har du oppskriften på en katastrofe – noe Aten fikk erfare. Hvis du bruker Muse på enhetene dine nå, burde du vurdere hvilke tillatelser du har gitt programmet, eller kanskje til og med vurdere å avinstallere det helt.
Følg TechRadar på Google News og legg oss til som en foretrukket kilde for å få våre ekspertnyheter, tester og analyser direkte i feeden din.
De beste laptopene for alle budsjetter
