– Michel Protti, direktør for personvern for produktavdelingen
Arbeidet vårt med personvern underbygges av våre interne strukturer for ledelse, som inkluderer personvern og standarder for databruk på tvers av selskapets drift. Vi arbeider også med eksterne, uavhengige grupper som overseer personvernprogrammet og -praksisene våre.
Ettersom vi integrerer personvern i hele bedriften, etablerer vi personvernteam i produktgrupper, som vil gi en dypere forståelse av personvern ved å gi oss ekspertise for hvert produkt og hver bedriftsgruppe. Disse teamene gjør det mulig å ta eierskap over ansvaret med personvern på tvers av produktene våre.
Metas team for personvern og datapraksis, ledet av direktøren for personvern for produkter, Michel Protti, består av mange team, både tekniske og ikke-tekniske, og har fokus på personvern og ansvarlig datapraksis.
Teamet står sentralt i bedriftens arbeid og er opptatt med å opprettholde et omfattende personvernprogram. Oppdraget består av å føre en ansvarlig datapraksis på tvers av Meta, og teamet sørger for at folk forstår hvordan Meta bruker dataene deres, slik at de kan stole på at produktene våre bruker dataene deres på en ansvarlig måte.
Metas team for personvern og datapraksis er kun én av mange organisasjoner i bedriften som har ansvar for personvern. Det er tusenvis av folk i ulike organisasjoner og roller på tvers av Meta, inkludert innen offentlig politikk og juridisk, som jobber for å inkludere personvern i alle aspekter av driften. Å lykkes med personvernet er et tverrfunksjonelt arbeid, og vi mener at alle hos Meta er ansvarlige for det arbeidet.
Teamet for retningslinjer for personvern og data, ledet av visepresident og direktør Erin Egan, fører engasjementet vårt i den globale, offentlige diskusjonen rundt personvern. Dette inkluderer nye, regulerende rammeverk og sikrer at tilbakemeldinger fra regjeringer og eksperter rundt om i verden blir vurdert i våre fremgangsmåter for produktdesign og databruk, inkludert i løpet av prosessen med å gå gjennom personvernet.
Gjennom arbeidet med å forbedre produktene våre og med innovasjon innen personvern, holder vi oss selv til de høyeste standardene, og jobber med makthavere og eksperter innen databeskyttelse for å forsikre oss om at vi møter deres forventninger. For å gjøre dette konsulterer teamet for retningslinjer for personvern og data disse gruppene gjennom flere ulike metoder, inkludert
Vi har også regelmessige samtaler med ledende eksperter innen personvern fra ulike steder i verden, der vi diskuterer en rekke aktuelle emner om retningslinjer for personvern.
Teamet for juridiske personvern er en viktig del av programmet vårt og gir råd om juridiske krav mens vi gjennomgår personvernet.
Personvernkomiteen er en uavhengig komité med Metas styre, som møtes én gang i kvartalet for å sikre at vi lever opp til personvernforpliktelsene våre. Komiteen består av uavhengige direktører med lang erfaring i å tjene i lignende tilsynsroller.
De mottar regelmessige oppdateringer om personvernprogrammet vårt sin status og vår overholdelse av FTC-ordren fra vår uavhengige evalueringskonsulent for personvern, som har som jobb å gå gjennom og rapportere om personvernprogrammet vårt på kontinuerlig basis.
Intern revisjon bringer uavhengig evaluering på den totale helsen til personvernprogrammet vårt, og det støttende kontrollrammeverket.
En del av det å sørge for at alle hos Meta tar ansvar for personvern, er å kontinuerlig drive personvernopplæring gjennom øvelser og interne kampanjer som sprer bevissthet rundt personvern.
En sentral del av vår tilnærming til personvernopplæring gis gjennom personvernøvelsene våre. Personvernøvelsene dekker de grunnleggende elementene av personvern, og er laget slik at alle hos Meta utvikler evnen til å gjenkjenne og vurdere risikoer forbundet med personvern. Vår årlige personvernøvelse og personvernøvelsen for nye ansatte kontraktsarbeidere bruker e-læring til å øve på scenario-baserte eksempler for å vurdere personvern i tråd med Metas næringsvirksomhet. Deltakerne evaluerer relevant problematikk rundt personvern. Disse øvelsene blir oppdatert og gitt ut årlig for å sørge for at relevant informasjon blir tatt med som supplement til de grunnleggende prinsippene.
I tillegg til våre grunnleggende, obligatoriske personvernøvelser har vi også en katalog av alle tidligere personvernøvelser i Meta, som dekker relevante emner for personer i spesifikke roller. Vi vil forsette å investere i programmet med personvernøvelser ettersom kontinuerlige opplæringsmuligheter innen emner om personvern og data er en kritisk del av å skape en ansvarlig datapraksis hos Meta.
En annen måte vi driver personvernopplæring er gjennom regelmessig kommunikasjon med ansatte. I tillegg til våre årlige personvernøvelser utgir vi stadig innhold om personvern gjennom interne kommunikasjonskanaler, oppdateringer fra ledelsen, interne spørrerunder og en dedikert personvern-uke.
Under vår dedikerte personvern-uke har vi fokus på personvern i hele selskapet, med innslag fra interne og eksterne foredragsholdere. Vi fremhever også viktige konsepter og prioriteringer for personvern gjennom engasjerende innhold og arrangementer som skjer gjennom hele uken.
Mange av de personvernspørsmålene vi konfronterer, har ikke enkle eller veldefinerte svar, og den beste måten å løse de vanskelige problemene på, er å høre fra eksperter utenfor bedriften. Vi inviterer eksperter fra utsiden til å snakke til hele teamet vårt om deres arbeid og perspektiver på personvern hos Meta. Det gir en mulighet for hele personvernteamet å høre fra et utvalg personverneksperter om viktige og komplekse emner på regelmessig basis.
Når vi deltar på eksterne personvernarrangementer som Data Privacy Day, skaper vi en intern bevissthet og engasjement gjennom interne kanaler for å sikre at alle har en mulighet til å delta og lære om personvern.
Vi har laget programmet vårt for administrering av personvernrisiko for å evaluere risikoer knyttet til personvern ved hvordan vi samler inn, bruker, deler og lagrer brukerdata. Vi bruker dette til å identifisere risikotemaer, forbedre personvernprogrammet vårt og forberede nye tiltak for overholdelse.
Vi har utformet sikkerhetstiltak, inkludert prosesser og tekniske kontroller, for å adressere personvernrisiko, oppfylle forventninger til personvern og tilfredsstille krav for forpliktelser.
Vi har etablert et «red team» som har som ansvar med å proaktivt teste prosesser og teknologi for å identifisere potensielle personvernrisikoer. Dette red-teamet for personvern inntar rollen som en ekstern part som prøver å omgå personverninnstillingene og sikkerhetstiltakene for å stjele konfidensiell data. Slike øvelser styrker tilliten til Metas tilnærming til personvern.
Uansett hvor robuste hindringene og sikkerhetstiltakene våre er, trenger vi også en prosess for å (1) identifisere når en hendelse potensielt undergraver konfidensialiteten, integriteten eller tilgjengeligheten til data som Meta er ansvarlig for, (2) etterforske disse situasjonene og (3) ta de trinnene som kreves for løse svakhetene vi oppdager.
Programmet vårt for håndtering av hendelser opererer globalt for å overvåke prosessene som vi bruker for å identifisere, evaluere, hindre og utbedre personvernhendelser. Selv om teamet for personvern og datapraksis har ansvar for håndtering av hendelser, er personvernhendelser alles ansvar hos Meta. Team fra hele bedriften, inkludert team innen lov og produkt, spiller viktige roller. Vi fortsetter å investere tid, ressurser og energi i å bygge et program med flere lag som stadig utvikles og forbedres, og nedenfor fremhever vi tre komponenter i tilnærmingen vår.
Vi har en tilnærming med flere lag for å beskytte folk og informasjonen deres – og implementerer mange sikkerhetstiltak som skal fange opp feil. Gitt skalaen som Meta opererer på har vi investert mye i utvikling og distribusjon av en rekke automatiserte verktøy som kan identifisere og utbedre potensielle personvernhendelser så tidlig og raskt som mulig. Hendelser som blir registrert av disse automatiske systemene, flagges i sanntid for rask respons, og i noen tilfeller kan feilen utbedres av seg selv.
Uansett hvor gode de automatiske systemene våre blir, vil selvfølgelig overvåkningen og grundigheten til våre ansatte alltid spille en kritisk rolle når det gjelder proaktivt å identifisere og utbedre svakheter. De tekniske teamene våre går konstant gjennom systemene for å identifisere og løse hendelser før de kan påvirke folk.
Siden 2011 har vi brukt et Bug Bounty-program der eksterne analytikere hjelper med å forbedre sikkerheten og personvernet til produktene og systemene våre ved å rapportere potensielle svakheter til oss. Programmet hjelper oss med å skalere oppdagelser og løse problemer raskere, og belønningene vi betaler til kvalifiserte deltakere oppfordrer til mer sikkerhetsanalyse av høy kvalitet.
I løpet av de siste ti årene har flere enn 50 000 analytikere vært med i dette programmet, og rundt 1500 analytikere fra 107 land har blitt belønnet. Flere av dem har siden blitt med i Metas sikkerhetsteam og tekniske team, og fortsetter dette arbeidet med å beskytte Meta-fellesskapet.
Selv om vi har brukt flere beskyttelser for å vokte oss mot personvernhendelser som uautorisert tilgang til data, mener vi, hvis en hendelse oppstår, at åpenhet er en viktig måte å gjenoppbygge tilliten til produktene, tjenestene og prosessene våre på. Annet enn å fikse og lære fra feilene våre, inkluderer Håndtering av hendelser-programmet trinn for å varsle folk der det er passende, for eksempel med innlegg i vårt Newsroom eller på Privacy Matters-bloggen, om problemer som påvirker fellesskapet vårt, eller samarbeid med politimyndigheter eller andre tjenestepersoner for å adressere problemer vi finner.
Tredjeparter er eksterne partnere som jobber med Meta, men som ikke er eid eller driftet av Meta. Disse tredjepartene faller vanligvis inn i to hovedkategorier: De som leverer en tjeneste for Meta (som leverandører av støtte for nettsidedesign) og de som bygger bedriftene sine rundt plattformen vår (som app- eller API-utviklere). For å hindre personvernrisikoer som tredjeparter som får tilgang til personlig informasjon medfører, har vi utviklet et eget tredjepartstilsyns- og -administrasjonsprogram, som er ansvarlige for å overvåke tredjepartsrisikoer og implementere passende sikkerhetstiltak for personvern.
Vi har utviklet en prosess for personvernevaluering av tredjeparter der tjenesteytere skal evaluere og forhindre personvernrisiko hos Meta. Prosessen krever at disse tjenesteyterne også er bundet gjennom kontrakter som inneholder beskyttelse av personvern. Risikoprofilen deres avgjør hvordan de overvåkes, revurderes, og der det er passende, hvilke håndhevelsestiltak man tar som følge av brudd, inkludert terminering av samarbeidet.
Vi har utformet en formell prosess for å håndheve og avmelde tredjeparter som bryter forpliktelsene sine når det gjelder personvern eller sikkerhet. Dette inkluderer standarder og tekniske mekanismer som støtter bedre praksis for utviklere på plattformen vår, inkludert følgende:
Vårt eksterne datamisbruk-team består av flere enn 100 personer, som er dedikerte til å registrere, etterforske og blokkere atferdsmønstre som assosieres med skraping. Skraping er den automatiserte samlingen av data fra et nettsted eller app, og kan enten autoriseres eller ikke autoriseres. Å bruke automatisering for å få tilgang til eller samle inn data fra Metas plattformer uten vår tillatelse, er et brudd på betingelsene våre.
For å hjelpe folk med å forstå hvordan vi arbeider med å vokte oss mot uautorisert skraping, deler vi kontinuerlige oppdateringer rundt handlinger vi har utført for å beskytte mot datamisbruk på tvers av plattformene våre, og vi deler metoder for at folk best mulig kan beskytte dataene sine.
Fremover planlegger vi å fortsette med å publisere mer om tilnærmingen vår mot skraping, samt at vi fortsetter de kontinuerlige oppdateringene våre om handlinger vi utfører for å adressere uautorisert skraping.
Vi har investert i infrastruktur og verktøy som gjør det vanskeligere for skrapere å samle data fra tjenestene våre, og vanskeligere å benytte seg av dataene hvis de klarer det. Eksempler på disse investeringene omfatter frekvensgrenser og datagrenser. Frekvensgrenser passer på antall ganger noen kan samhandle med produktene våre i en angitt tidsperiode, mens datagrenser hindrer folk i å få mer data enn de bør trenge for å bruke produktene våre normalt.
Vi endret hvordan vi bruker internt-generert bruker- og innholdsindentifikatorer da vi observerte at uautorisert skraping ofte involverer gjetting eller kjøp av slike identifikatorer. Vi opprettet også nye, anonyme identifikatorer som hjelper med å hindre uautorisert dataskraping ved å gjøre det vanskeligere for skrapere å gjette, etablere kontakt og gjentatte ganger få tilgang til data.
Vi har blokkert milliarder av suspekte uautoriserte skrapehandlinger per dag på Facebook og Instagram. Vi har utført flere ulike handlinger mot uautoriserte skrapere, blant annet å deaktiver kontoer og bedt om at bedrifter som er vert for skrapt data, sletter dataene. Teamet har fullført over 1000 etterforskninger og følgt over 1200 håndhevelseshandlinger fra mai 2020 til og med november 2022.
Prosessen for personverngjennomgang er en sentral del av å utvikle nye og oppdaterte produkter, tjenester og praksiser hos Meta. Gjennom denne prosessen evaluerer vi hvordan data vil bli brukt og beskyttet som del av nye eller oppdaterte produkter, tjenester og praksiser. Vi jobber for å identifisere potensielle personvernrisikoer som involverer innsamlingen, bruken eller delingen av personlig informasjon, og utvikler hindringer for disse risikoene. Målet med denne prosessen er å maksimere fordelene av våre produkter og tjenester for fellesskapet vårt, samtidig som vi også jobber på forhånd for å identifisere og redusere potensielle risikoer. Det er en tverrfunksjonell samarbeidsprosess som ledes av personverngjennomgang-teamet vårt med en dedikert gruppe interne personverneksperter på tvers av juridisk team, team ansvarlig for retningslinjer og andre tverrfunksjonelle team, med bakgrunn i produkt, teknikk, juridiske regelverk, sikkerhet og retningslinjer. Denne gruppen er ansvarlig for å ta beslutninger og anbefalinger ut fra personverngjennomgangen.
Som del av prosessen evaluerer det tverrfunksjonelle teamet potensielle personvernrisikoer som er tilknyttet et prosjekt, og bestemmer om det er noen endringer som må skje før prosjektlanseringen, for å kontrollere de risikoene. Hvis det ikke blir noen enighet mellom medlemmene av det tverrfunksjonelle teamet om hva som må skje, eskalerer teamet til en gjennomgang av det sentrale lederskapet, og videre til administrerende direktør hvis det kreves for å oppnå en løsning.
Utviklingen av de nye og modifiserte produktene, tjenestene eller fremgangsmåtene våre gjennom prosessen med personverngjennomgang veiledes av våre interne personvernforventninger, som innebærer følgende:
Vi har også investert i tekniske gjennomganger og verktøy for å støtte driften av prosessen med personverngjennomgang i stor skala:
– Naomi Gleit, produktsjef
Beskyttelse av brukernes personvern står i hjertet av hvordan vi bygger og stadig oppdaterer produktene våre. Det gjør vi ved å bygge standardinnstillinger og -kontroller som gjør det enkelt for brukere å velge nivået av personvern de er mest komfortable med. Vi gjør det også gjennom å sette personvern i sentrum for hvordan vi utvikler nye produkter.
Som del av Metas visjon for en plattform med fokus på personvern, mener vi at folks personlige, private samtaler med andre personer bør være sikre. Vi bryr oss veldig om å gi folk muligheten til å kommunisere privat med sine venner og kjære, der de er sikre på at ingen andre kan se på de personlige samtalene deres.
Vi tilbyr for øyeblikket privat kommunikasjon gjennom WhatsApp, Messenger og direktemeldinger på Instagram («direktemeldinger»). I WhatsApp sikrer ende-til-ende-kryptering at bare du og den personen du kommuniserer med, kan lese eller høre på hva som blir sendt, og ingen andre. Og i Messenger og direktemeldinger på Instagram har du muligheten til å beskytte meldingene dine med ende-til-ende-kryptering kun for deg og personen du snakker med.
I det siste året har vi annonsert ytterligere funksjoner i våre chatter med valgfri ende-til-ende-kryptering i Messenger. I Messenger har vi også annonsert at vi har begynt å teste sikker lagring av meldinger og ende-til-ende-kryptering som standard. Vi utvidet valgfritt ende-til-ende-kryptering i direktemeldinger på Instagram, og prioriterte Ukraina i starten av 2022.
Vi forventer at fremtidige versjoner av Messenger, direktemeldinger i Instagram og WhatsApp til å bli hovedmåtene folk kommuniserer på Meta-nettverket. Vi er fokuserte på å gjøre alle disse appene raskere, enklere og sikrere for private samtaler, inkludert med ende-til-ende-kryptering. Vi planlegger å legge til flere måter for folk å samhandle privat med venner og grupper. Vi tilbyr også flere kommunikasjonsplattformer på tvers av Meta for å bringe folk sammen mer sosialt, i et mindre personlig område – som Facebook og metaverset gjennom Quest-enheter eller Horizon Worlds, samtaler på tvers av Facebook-gruppemedlemmer gjennom fellesskapschatter eller å se videoer sammen på en direktestrøm. Noen av disse plattformene kan tillate brukertilpasning for individuelle preferanser, eller så kan vi kreve ekstra integritetstiltak for å sikre overholdelse av standardene våre.
Med over to milliarder brukere er vi glade for å gi folk flere valg for å beskytte personvernet sitt. Folk bør ha rett til å velge å tilpasse opplevelsen sin, og vi har et ansvar overfor brukerne våre om å ha en tydelig og grundig tilnærming overfor personvern ved å gi folk den tryggeste private meldingsopplevelsen for å sende meldinger med venner.
Vi introduserte muligheten til å bruke flyktige meldinger på WhatsApp og Messenger. I en én-til-én-chat kan begge personer slå flyktige meldinger av eller på. I grupper vil administratorer ha kontrollen.
Siden vi innser at unge mennesker har unike behov når det gjelder personvern, retter produktteamene ekstra fokus mot personvern for ungdom. Målet vårt er å tilby tjenester som respekterer de beste interessene til de unge folkene som bruker dem, koordinert og i konsultasjon med foreldre, myndigheter, beslutningstakere og eksperter på borgerrettigheter.
Vi bruker flere metoder for å finne den rette balansen ved å gi unge mennesker fordelene av Meta-produkter mens vi også holder dem trygge og sikrer at produktene våre generelt har alderstilpassede tiltak på plass.
Noe av det siste vi har gjort med tanke på personvern for ungdom, er å vurdere andre standardinnstillinger etter alder på Facebook og Instagram, som gjør det vanskeligere for potensielle mistenkelige kontoer å finne unge mennesker, og begrenser mulighetene annonsører har til å målrette annonser mot unge mennesker. Vi har startet å teste nye måter å bekrefte alderen til brukerne våre på, på en måte som fortsatt beskytter personvernet. Vi samarbeider med Yoti for å la brukere i bestemte regioner og brukstilfeller verifisere alderen sin gjennom bruk av teknologi for aldersgjenkjenning av ansiktet. Vi har også lansert Familiesenter på Instagram og Quest, som inkluderer vår første tilsynopplevelse for å hjelpe foreldre og foresatte med å bli mer involvert i tenåringens opplevelser på nettet, gjennom verktøy for foreldrekontroll og ekspertstøttede opplæringsressurser. Vi samhandlet direkte med unge personer, foreldre, foresatte og eksperter for å samarbeide med oss i produktutviklingsprosessen gjennom TTC Labs globale program, og publiserte en bransjerapport som presenterer de viktigste funnene fra det globale initiativet. For de yngste brukerne våre tilbyr Messenger Kids en alderstilpasset meldings- og kommunikasjonsopplevelse som gir foreldre kontroll til å overvåke og gå gjennom aspekter ved barnas aktivitet.
Vi ønsker at unge mennesker skal nyte Meta-produkter samtidig som at vi sørger for at vi aldri setter personvernet og sikkerheten deres i fare. Vi vil fortsette å lytte til unge mennesker, foreldre, myndigheter og eksperter, slik at vi kan utvikle produkter som er nyttige for unge mennesker, og som foreldrene kan stole på.
Metas nye VR-briller med virtuell virkelighet, Meta Quest Pro, introduserer innovervendte sensorer for å legge til rette for bedre kommunikasjon og komfort, forbedret uttrykk og en altoppslukende opplevelse. En viktig funksjon med disse sensorene er evnen til øyesporing. Som en vesentlig del av designprosessen for å tillate øyesporing i Meta Quest Pro rådførte vi oss med talspersoner for personvern for å få tilbakemeldinger på designet og språket til registreringsskjermen, i tillegg til planene våre om å tilby valgfrie personvernkontroller for disse funksjonene på både system- og appnivå. Vi la frem mer om vår tilnærming til ansvarlig design av øyesporing og vårt arbeid med det globale fellesskapet for forskning og politikk i en rapport vi publiserte da vi lanserte Meta Quest Pro.
I 2022 publiserte vi en rapport om personvernprinsipper som vi må vurdere mens vi jobber med å forbedre tryggheten, sikkerheten og integriteten til produktene våre. For å tydeliggjøre hvordan vi tenker gjennom disse personvernprinsippene i praksis delte vi fem kasusstudier som spesifiserer noen av de største utfordringene med trygghet og sikkerhet vi står ovenfor på tvers av appene. Eksempel: Kasusstudien om hvordan vi reduserer hatefulle ytringer på Facebook og Instagram forklarer at minimering er et grunnleggende personvernprinsipp for hvordan vi bygger automatiserte systemer for å oppdage disse bruddene på standardene. Vi tror at vi kan nå målene våre om å fjerne hatefulle ytringer ved å bruke innholdsdata heller enn personlig kontodata i håndhevelsen vår.
Arbeidet vårt med å kommunisere åpent inkluderer å tilby ekstern opplæring for å forbedre forståelsen og bevisstheten rundt praksisene våre, og sikre at informasjonen er tilgjengelig og enkel å finne.
For å gi mer åpenhet og mer kontroll til folk har vi har utviklet en rekke verktøy for personvern, slik at folk forstår hva de deler og hvordan informasjonen deres blir brukt:
– Michel Protti, direktør for personvern for produkter
Metas team for personvern og datapraksis samt teamet for infrastruktur samarbeider tett for å bygge infrastruktur med fokus på personvern – skalerbare og nyskapende infrastrukturløsninger som gjør at teknikere enklere kan adressere personvernkrav når de lager produkter. Denne investeringen tillater oss i økende grad å bruke automatisering, heller enn å hovedsakelig være avhengig av mennesker og manuelle prosesser, til å bekrefte at vi etterkommer våre personvernansvar.
Vi bruker nyskapende verktøy og teknologi til å proaktivt redusere mengden brukerdata vi samler inn og bruker, på tvers av Meta.
Vi er opptatt av skape gode produkt- og ingeniørpraksiser på tvers av Meta, slik at vi kan fjerne funksjoner som brukes lite, uten å påvirke brukeropplevelsen. Vi har for eksempel lansert verktøy som gjør det tryggere for ingeniører å slette produkter og kode uten å tilfeldigvis lage feil. Disse verktøyene bruker automatisering og smart beslutningslogikk til å identifisere hva som må slettes manuelt av teknikerne. I tillegg tilpasser vi innsamling og bevaring av data basert på produktanvendelser for brukere. Vi har fjernet en håndfull stedsbaserte funksjoner på Facebook grunnet liten bruk: Sensitive profilfelt, Stedshistorikk, Posisjonsregistrering i bakgrunnen, Værvarsler og Venner i nærheten. Disse stegene gjør det mulig for Meta å slette data når det ikke lenger er behov for dem, og for å unngå å samle inn data unødvendig.
I tillegg til å fjerne produkter og forbedre slettepraksis forsetter vi å investere i teknologi som styrker personvernet (PETs), som er teknologi som er basert på avanserte kryptografiske og statistiske metoder som bidrar til å minimere dataene vi samler inn, behandler og deler. Teamet vårt for anvendt personvernteknologi er dedikerte til å bygge PET-teknologi til bruk av team på tvers av Meta, med fokus på nøkkelområder som å avidentifisere data ved innsamling og å la team implementere ende-til-ende-kryptering i produktene og tjenestene deres.
For eksempel kan klienter bruke Anonymous Credential Service (ACS), en PET med åpen kildekode, til å godkjenne brukere til tjenesten uten å avdekke brukerens identitet. Vi har tatt i bruk anonym innloggingsteknologi for å skape et repositorium som gjør det enkelt for teknikere å bruke funksjonen, noe som reduserer svindelaktivitet samtidig som den beskytter personvernet og minimerer mengden data som samles inn.
Å utvikle tekniske løsninger som kan tilpasses til personvernforventninger i utvikling, krever først at vi fullfører betydelig underliggende teknisk arbeid, inkludert å forbedre hvordan vi administrerer data på tvers av dens livssyklus. Ett eksempel på dette er det omfattende arbeidet vi har gjort for å tilrettelegge for og styrke de brukerstyrte praksisene for sletting av data.
Brukere forventer at dataene deres blir slettet når de ber om det. Den nåværende tilnærmingen til sletting av data i hele bransjen er imidlertid komplisert, og utviklere må manuelt skrive repetitiv kode for oppdatering eller endring ved et produkt, og som sikrer at all slettingslogikk fortsatt stemmer. Den komplekse arkitekturen til moderne distribuert datalagring gir også rom for potensielle feil.
Vi har bygget et rammeverk og en infrastruktur som er utformet for å hindre risikoen for potensielle feil forårsaket av utviklere som jobber gjennom en altfor manuell prosess. Teknikere merker dataene som samles inn, med slettingsatferden den er tiltenkt (for eksempel «når en bruker sletter et innlegg, slettes også kommentarene»), og rammeverket og infrastrukturen vår vil håndtere slettingene som må kjøres gjennom flere datalagringer med høy pålitelighetsstandard. Når vi gir teknikere muligheten til å bruke denne tekniske infrastrukturen til å gjøre implementeringen av sletting enklere, kan vi også sikre at vi adresserer sletting tidlig i produktutviklingsprosessen.
Vi behandler allerede milliarder av slettinger hver dag gjennom denne infrastrukturen, og vi investerer i helhetlig dekning på tvers av alle Metas systemer.
KI styrer backend-tjenester som persontilpasning, anbefaling og rangering, noe som bidrar til en sømløs og fleksibel opplevelse i produktene og tjenestene våre. Hos Meta tror vi det er viktig å utstyre folk med verktøy og ressurser slik at de forstår hvordan KI fungerer og hvordan det bidrar til produktopplevelsene deres. Vi fremhever noen få eksempler på dette nedenfor.
KI-systemkort
Vi forstår at for å være åpne om systemene våre med kunstig intelligens, må vi erkjenne alle publikumstyper. Brukere, ML-utviklere og KI-beslutningstakere har ulike behov relatert til åpenhet rundt og forklaring av KI. Vi forsøker å bli flinkere til forklaring gjennom åpenhet på et KI-systemnivå. Vi har delt det neste steget på denne reisen ved å publisere en prototype av KI-systemkortverktøyet som er designet for å gi innsikt inn i et KI-system sin underliggende arkitektur, og for å hjelpe med å forklare bedre hvordan KI opererer basert på et individs historie, preferanser, innstillinger med mer. Pilot-systemkortet vi utvikler, og forsetter å teste, brukes til rangering i Instagram-feeden. Den bryter ned prosessen der man tar hittil usette innlegg fra kontoer som en person følger, og deretter rangerer dem basert på hvor sannsynlig det er at den personen er interessert i dem. Vi har også gitt ut et KI-systemkort om et annet type system, som identifiserer handelstrender via Metas store nettverk av skapere: Sosial handelsgraf.
Nå undersøker og tester vi evnen vår til å skape KI-systemkort i stor skala, for å lage en prosess som kan gjenskapes, der vi klarer å forklare det kompliserte KI-systemet for å øke brukerforståelse om hvordan teknologiene de bruker hver dag, fungerer.
Utvikle nye verktøy for å gjøre KI lettere å forklare
En mer forståelig KI er en dialog som må involvere flere bransjer og disipliner. Bedrifter, regulerende myndigheter og akademikere tester alle måter for å bedre kommunisere hvordan KI fungerer, gjennom ulike former for veiledning og rammeverk som kan styrke folk i hverdagen med mer KI-kunnskap. Fordi KI-systemer er komplekse, er det både viktig og utfordrende å utvikle dokumentasjon som konsekvent adresserer folks behov for åpenhet og ønsket deres om enkelhet i slike forklaringer. Derfor har dataark, modellkort, systemkort og faktablader forskjellig publikum i tankene. Vi har samarbeidet med utviklere og regulerende myndigheter gjennom programmet vårt «Open Loop» for å utvikle og teste et første eksemplar på retningslinjer om åpenhet rundt og forklaring av KI, med fokus på behovene til ulike publikum og nivåene av åpenhet de kan ha ønske om gjennom produktopplevelsen deres. Vi har også jobbet med TTC Labs om å utgi rapporten «People-centric approaches to algorithmic explainability».
Gjennom denne reisen forsetter vi å fokusere på meningsfulle tiltak for åpenhet rundt KI som kan være nyttige for flere publikum. Vi håper at KI-systemkort kan forstås av eksperter og ikke-eksperter, og at det kan gi et unikt dypdykk inn i den veldig komplekse verdenen som er KI-systemer for menneskelig grensesnitt, på en reproduserbar og skalerbar måte for Meta. Å gi et rammeverk som er teknisk nøyaktig, som kan fange opp nyansene rundt hvordan KI-systemer opererer på Metas nivå, og enkelt kan fordøyes av hverdagsfolk ved bruk av teknologiene våre, er en skjør balanse, spesielt siden vi fortsetter å drive feltet fremover.
«Å få personvern riktig er en kontinuerlig, kollektiv investering på tvers av bedriften vår, og er ansvaret til alle hos Meta for at vi skal avansere.» – Michel Protti, direktør for personvern for produkter
Beskyttelse av brukernes data og personvern er viktig for bedriften vår og vår visjon for fremtiden. For å gjøre dette forbedrer vi stadig personvernprogrammet vårt og produktene våre, ettersom vi må leve opp til stadig høyere forventninger og følge teknologiske utviklinger. Vi jobber sammen med makthavere og eksperer innen databeskyttelse for å finne løsninger på nye utfordringer, og vi deler fremdriften vår etterhvert som vi finner løsningene.