Meta heeft een patent ingediend voor een zogenaamd "memory recall"-systeem. Dit systeem maakt gebruik van gezichtsherkenning om mensen te detecteren en automatisch op te nemen, waarna de AI hoogtepunten van deze beelden kan genereren.
Het artikel plaatst dit in de context van de Ray-Ban smart glasses, die al omstreden zijn vanwege privacykwesties en pogingen van gebruikers om het indicatorlampje (dat opnames signaleert) uit te schakelen. Een groot punt van zorg is dat het patent geen melding maakt van een prompt voor toestemming voordat een opname start. Daarnaast wordt herinnerd aan eerdere privacyincidenten waarbij Meta gevoelige videoclips naar medewerkers stuurde voor trainingsdoeleinden.
Meta dient patent in voor gezichtsherkenning en automatische opnames van mensen
Meta heeft een patent aangevraagd voor een systeem voor "geheugenherinnering" (memory recall). Dit systeem lijkt in staat om mensen te detecteren via gezichtsherkenning, hen automatisch op te nemen en later hoogtepunten van deze opnames te tonen.
De Ray-Ban smart glasses en privacy
De Ray-Ban smart glasses van Meta hebben een reputatie opgebouwd als "pervers"-brillen, vanwege talrijke meldingen dat ze worden gebruikt om mensen heimelijk op te nemen met de ingebouwde camera.
De bril is voorzien van een lampje dat bedoeld is om aan te geven wanneer er video wordt opgenomen, maar er zijn berichten dat gebruikers grote moeite doen om dit lampje uit te schakelen. Meta heeft updates uitgebracht om de camera uit te schakelen wanneer het lampje niet werkt of is afgedekt. In een persbericht leggen zij het als volgt uit:
"Elk paar van onze AI-brillen heeft een wit lampje, een zogenaamde capture LED, die knippert om aan te geven wanneer er content wordt vastgelegd voor je galerij — het afdekken of uitschakelen van deze capture LED schakelt automatisch de camera uit."
Meta claimt zelfs dat dit superieur is aan smartphones, aangezien die geen extern indicatorlampje hebben. Echter, smartphones zijn niet constant in gebruik en gericht op iedereen die de gebruiker aankijkt:
"Terwijl mobiele telefoons en actiecamera's dit niet op hun camera's hebben, hebben onze brillen dat vanaf dag één."
Later kwam naar voren dat een toekomstige versie van de bril mogelijk helemaal zonder indicatorlampje kan opnemen, wat het oorspronkelijke doel van het lampje volledig teniet zou doen.
Automatische opnames via gezichtsherkenning
In combinatie met het recente patent wordt de situatie nog zorgwekkender. Het patent bevat illustraties van hoe de potentiële functie bedoeld is om te werken: het systeem zou mensen scannen, identificeren terwijl ze bepaalde handelingen verrichten, en hen vervolgens automatisch opnemen.
(Bron: US Patent and Trademark Office)
Een voorbeeld dat Meta geeft, is het gebruik van deze functie tijdens een dinerfeestje. De AI zegt dan:
"Ik heb enkele hoogtepunten van het diner van vanavond gegenereerd. Wil je ze zien?"
(Bron: US Patent and Trademark Office)
Opvallend is dat er geen voorbeeld wordt gegeven van een prompt waarin gevraagd wordt of de gebruiker wil opnemen; het systeem start de opname simpelweg wanneer het denkt dat er iets belangrijks gebeurt.
Context en zorgen
Het is belangrijk om op te merken dat het indienen van een patent niet automatisch betekent dat de functie ook daadwerkelijk zal worden geïmplementeerd. Desondanks is het feit dat Meta dit overweegt zorgwekkend.
Eerder dit jaar werd Meta al betrapt op het versturen van videoclips met "bankgegevens, seks en naakte mensen" naar medewerkers voor trainingsdoeleinden, waarbij er vrijwel geen privacybescherming was ingesteld.
Meta dient patent in voor gezichtsherkenning en automatische opnames van mensen
Meta heeft een patent aangevraagd voor een systeem voor "geheugenherinnering" (memory recall). Dit systeem lijkt in staat om mensen te detecteren via gezichtsherkenning, hen automatisch op te nemen en later hoogtepunten van deze opnames te tonen.
De Ray-Ban smart glasses en privacy
De Ray-Ban smart glasses van Meta hebben een reputatie opgebouwd als "pervers"-brillen, vanwege talrijke meldingen dat ze worden gebruikt om mensen heimelijk op te nemen met de ingebouwde camera.
De bril is voorzien van een lampje dat bedoeld is om aan te geven wanneer er video wordt opgenomen, maar er zijn berichten dat gebruikers grote moeite doen om dit lampje uit te schakelen. Meta heeft updates uitgebracht om de camera uit te schakelen wanneer het lampje niet werkt of is afgedekt. In een persbericht leggen zij het als volgt uit:
"Elk paar van onze AI-brillen heeft een wit lampje, een zogenaamde capture LED, die knippert om aan te geven wanneer er content wordt vastgelegd voor je galerij — het afdekken of uitschakelen van deze capture LED schakelt automatisch de camera uit."
Meta claimt zelfs dat dit superieur is aan smartphones, aangezien die geen extern indicatorlampje hebben. Echter, smartphones zijn niet constant in gebruik en gericht op iedereen die de gebruiker aankijkt:
"Terwijl mobiele telefoons en actiecamera's dit niet op hun camera's hebben, hebben onze brillen dat vanaf dag één."
Later kwam naar voren dat een toekomstige versie van de bril mogelijk helemaal zonder indicatorlampje kan opnemen, wat het oorspronkelijke doel van het lampje volledig teniet zou doen.
Automatische opnames via gezichtsherkenning
In combinatie met het recente patent wordt de situatie nog zorgwekkender. Het patent bevat illustraties van hoe de potentiële functie bedoeld is om te werken: het systeem zou mensen scannen, identificeren terwijl ze bepaalde handelingen verrichten, en hen vervolgens automatisch opnemen.
(Bron: US Patent and Trademark Office)
Een voorbeeld dat Meta geeft, is het gebruik van deze functie tijdens een dinerfeestje. De AI zegt dan:
"Ik heb enkele hoogtepunten van het diner van vanavond gegenereerd. Wil je ze zien?"
(Bron: US Patent and Trademark Office)
Opvallend is dat er geen voorbeeld wordt gegeven van een prompt waarin gevraagd wordt of de gebruiker wil opnemen; het systeem start de opname simpelweg wanneer het denkt dat er iets belangrijks gebeurt.
Context en zorgen
Het is belangrijk om op te merken dat het indienen van een patent niet automatisch betekent dat de functie ook daadwerkelijk zal worden geïmplementeerd. Desondanks is het feit dat Meta dit overweegt zorgwekkend.
Eerder dit jaar werd Meta al betrapt op het versturen van videoclips met "bankgegevens, seks en naakte mensen" naar medewerkers voor trainingsdoeleinden, waarbij er vrijwel geen privacybescherming was ingesteld.
Groetjes,