Мета тајно вградила технологија за препознавање лица за своите паметни очила во апликација инсталирана на милиони телефони, открива анализа на WIRED на софтверот на компанијата.
Кодот, кој дискретно бил додаден во апликацијата за вештачка интелигенција на Мета преку неколку ажурирања оваа година, покажува дека функцијата внатрешно наречена „NameTag“ ги идентификува луѓето снимени од камерата на очилата и, кога е активирана, го известува корисникот за препознавање.
Оваа функција сè уште не е овозможена и корисниците не можат да ја користат во овој момент.
Откривањето на NameTag во активна апликација за вештачка интелигенција на Мета покажува дека Мета започнала да испорачува код за препознавање лица на мобилните телефони на корисниците, иако јавно тврдеше дека сè уште „размислува за тоа“.
Во април, Мета рече дека ако треба да користи препознавање лица, нема да го воведе без „многу намерен пристап“.
Сепак, WIRED откри дека клучните компоненти на системот биле интегрирани во софтвер дистрибуиран до милиони луѓе уште во јануари оваа година.
Иако сè уште не е овозможена, функцијата NameTag се наоѓа во придружната апликација Meta AI, која е преземена повеќе од 50 милиони пати и е потребна за користење на клучните функции на паметните очила, вклучувајќи ги моделите Ray-Ban и Oakley.
Доколку се активира, лицата снимени со очилата на Meta ќе бидат конвертирани во уникатни биометриски потписи, познати како „отпечатоци од лице“, и споредени со отпечатоците складирани на телефонот на корисникот.
Препознаените лица ќе активираат известувања, додека други ќе бидат исечени, индексирани и зачувани во папка означена како „во исчекување“.
Индициите за корисничкиот интерфејс навестуваат како функцијата би можела да функционира.
Мајската верзија на апликацијата ја преименува во „Врски“ (Connections) и ги поканува корисниците да „ги запомнат луѓето што ги запознале“.
Останува нејасно чии лица ќе бидат во базата на податоци на системот, како се креираат овие профили и колку луѓе би можеле да бидат препознаени на крајот.
Враќањето на контроверзната технологија
NameTag би ја оживеала технологијата за која Meta објави во 2021 година дека се повлекува.
Тогаш компанијата избриша повеќе од милијарда отпечатоци од лице на корисниците на Facebook по години контроверзии околу нејзиниот систем за означување фотографии.
Мета на крајот плати 650 милиони долари за да реши групна тужба од страна на корисниците на Илиноис, а во 2024 година се согласи на посебна спогодба од 1,4 милијарди долари со Тексас поради обвинувањата дека нелегално собрала биометриски податоци.
Обновените напори доаѓаат во услови на растечко противење на препознавањето лица на ниво на потрошувачи.
Активистите за приватност тврдат дека ова ќе овозможи лесен пристап до опасна технологија.
Внатрешните документи на Мета, објавени од „Њујорк тајмс“ во февруари, покажаа дека компанијата планирала да ја воведе функцијата за време на „динамична политичка средина“, верувајќи дека нејзините најголеми критичари ќе бидат преокупирани со други прашања.
Потврда од независни експерти
Трите модели на вештачка интелигенција што го напојуваат NameTag веќе се распоредени од серверите на Мета и сега се наоѓаат на мобилните телефони на корисниците, според анализа независно потврдена од надворешни експерти.
Еден модел детектира лица, друг ги сече, а третиот ги кодира во биометриски податоци.
WIRED ги сподели своите наоди со двајца надворешни истражувачи за безбедност кои одделно ја разгледаа апликацијата: Купер Квинтин, виш технолог во Лабораторијата за закани на непрофитната организација Electronic Frontier Foundation, и независен истражувач кој се претставува под псевдонимот Бучоди.
„Функцијата сè уште не е достапна за корисниците, но се чини дека е речиси подготвена“, вели Квинтин.
„И покрај милијарди причини да не биде достапна, се чини дека Мета ја создала можноста да ги претвори своите корисници во дистрибуирана машина за надзор.“
Бучоди спроведе дополнителни тестови на системот.
За да провери дали работи, тој додаде отпечаток од лице во галеријата на апликацијата, земен од покојниот француски филозоф Мишел Фуко.
Откако го активираше NameTag со сликата на Фуко, апликацијата прикажа известување: „Препознаено лице.“
„Главните компоненти на функцијата за препознавање лица се веќе во придружната апликација на Мета“, вели Буходи. „Нема многу пречки ова да стане функционална функција.“
Реакцијата на Мета и борците за приватност
Во април, повеќе од 70 организации, вклучувајќи ги Американската унија за граѓански слободи и „Борба за иднината“, побараа од Мета да го отстрани NameTag, предупредувајќи дека тоа ќе им овозможи на сталкерите и злоупотребувачите тивко да идентификуваат странци во јавноста.
„Нашите конкуренти нудат таков вид производ за препознавање лица, ние не. Доколку ние би објавиле таква функција, би пристапиле кон неа многу внимателно“, изјави портпаролот на Мета во тоа време.
„Без оглед на какво било сензационалистичко известување, фактите се едноставни: Рековме дека истражуваме вакви функции, а она што го гледате е само доказ за тоа истражување“, вели портпаролот на Мета, Рајан Даниелс.
„Ништо не им е доставено на корисниците и не е донесена конечна одлука што да се прави. Ако одлучиме да воведеме нешто, ќе пристапиме внимателно и со целосна транспарентност. Можеме јасно да кажеме една одлука – не градиме централна база на податоци за луѓе“, рече тој.
Сепак, анализата на кодот покажува дека системот NameTag моментално е дизајниран да вади отпечатоци од лица од серверите на Meta и да ги складира на уредите на корисниците.
Долга историја на проблеми
Претходниот систем на Meta, кој Facebook го воведе во 2010 година, анализираше фотографии и предлагаше означување на луѓе.
Брзо се прошири на повеќе од милијарда корисници и стана еден од најголемите системи за препознавање лица што некогаш се имплементирани.
Технологијата речиси веднаш привлече регулаторно внимание во Европа и САД, а во 2019 година, Meta плати спогодба од 5 милијарди долари во поширок случај за приватност што вклучува препознавање лица.
Во ноември 2021 година, Meta објави дека го прекинува системот и ги брише шаблоните, наведувајќи загриженост за улогата на технологијата во општеството.
Но, таа одлука никогаш не беше интерно разбрана како трајно повлекување, вели Џозеф Џером, поранешен вработен во Meta Reality Labs.
„Секогаш имало тензии околу тоа кога повторно ќе го воведеме препознавањето лица“, рече тој.
Аргументи за и против
Технологијата, исто така, одговара на реалната побарувачка.
Постоечките помошни уреди веќе им овозможуваат на слепите корисници да идентификуваат лица што лично ги внеле.
Студија од 2018 година покажа дека сите слепи учесници го навеле препознавањето на луѓе како важна секојдневна задача.
Според интерните документи, Мета планирала да воведе препознавање лица на своите очила за учесниците на конференција за слепи лица во 2025 година, но тоа никогаш не се случило.
Мета не одговорила на прашањата за тоа кој може да биде идентификуван преку NameTag, дали податоците генерирани од системот некогаш ќе бидат пренесени назад до неговите сервери и дали компанијата планира да им даде на корисниците можност да се пријават наместо да се откажат.
ЕсилорЛуксотика, која ги произведува очилата Ray-Ban и Oakley со Мета, не одговорила на барањето за коментар.
Вудроу Харцог, професор по право на приватност на Универзитетот во Бостон, вели дека дури и заштитата со пријавување би била слаба.
Согласноста, вели тој, често може да биде поврзана со работа, бенефиција или пристап до услуга.
Формирањето на приватноста како прашање на личен избор е корисно за компаниите бидејќи им овозможува да тврдат дека корисниците имаат контрола, а не да поставуваат значителни ограничувања на собирањето податоци.
„Знаеме дека колку повеќе се имплементираат овие системи, толку повеќе луѓето почнуваат да ги гледаат како вообичаени. И колку повеќе почнуваме да ги гледаме како вообичаени и рутински, толку повеќе луѓето имаат тенденција да земат морални насоки за тоа дали е пожелно или добро да се скенира нечие лице. Тоа е едноставно човечка психологија“, вели Харцог.