Subrangovai mato intymias „Meta AI“ vaizdines užklausas iš bendrovės išmaniųjų akinių, kartais netyčia suveikiamas, atskleidė dviejų Švedijos laikraščių ataskaita.
Bendra „Svenska Dagbladet“ ir „Göteborgs-Posten“ ataskaita sukėlė didelį susirūpinimą dėl išmaniųjų akinių privatumo ne tik kitiems (kas jau buvo susirūpinęs), bet ir pačius savininkus.
Kad būtų aišku, problema čia yra ne su bendra Ray-Ban ir Oakley išmaniųjų akinių nuotraukų ir vaizdo įrašų fiksavimo funkcija. Nuotraukos ir vaizdo įrašai, kuriuos užfiksuojate su akiniais, sinchronizuojami su jūsų telefonu ir yra ne peržiūri Meta ar subrangovai, taip pat jie nėra naudojami dirbtinio intelekto modeliams mokyti.
Vietoj to, ataskaitoje nurodomos vaizdinės „Meta AI“ užklausos įrenginiuose funkcijos ir jos polinkis netyčia suaktyvinti.
„Ray-Ban Meta Glasses“ – „Visual AI“, vaizdo skambučiai, naujas stilius
„Ray-Ban Meta Glasses“ dabar turi trečią stiliaus parinktį, pirmojo asmens rodinio bendrinimą „WhatsApp“ ir „Messenger“ skambučiuose bei „žiūrėk ir klausk“ vaizdinį AI JAV ir Kanadoje.
„Meta AI“ vaizdo užklausų funkcija buvo pradėta diegti 2024 m. pradžioje, praėjus maždaug šešiems mėnesiams po „Ray-Ban Meta“ akinių pasirodymo, ir iš pradžių reikėjo aiškiai pasakyti „Ei, Meta, pažiūrėk ir pasakyk man.
Dalis šių atsakymų siunčiami išorės rangovams šalyse, kuriose darbo jėga pigi, pvz., Kenijoje, kurie vertina atsakymą pagal tai, ar jis naudingas, ar tikslus. Laikui bėgant „Meta“ naudoja šiuos žmonių peržiūros duomenis, kad pagerintų „Meta AI“ atsakymų kokybę.
2024 m. pabaigoje, kaip tais metais buvo paskelbta „Meta Connect“, „Meta AI“ buvo atnaujintas, kad iš jūsų užklausos konteksto būtų galima natūraliau nuspręsti, ar reikia fiksuoti fotoaparatą. Pavyzdžiui, „Ei, Meta, koks tai augalas?” arba „Ei, Meta, išversk šį meniu“ jį suaktyvintų.
Šis atnaujinimas padarė Meta AI natūralesnį ir naudingesnį. Tačiau tai taip pat turėjo šalutinį poveikį, nes buvo daug didesnė tikimybė, kad dirbtinis intelektas užfiksuos kadrą, kai to neketinate, neteisingai manydamas, kad jis išgirdo jus sakant „Hey Meta“. Be to, naudojant tiesioginio AI funkciją, kuri yra prieinama JAV ir Kanadoje, tai netgi gali apimti vaizdo klipus. „Live AI“ funkcija leidžia pradėti nuolatinį pokalbį su AI, panašiai kaip „Google Gemini Live“ išmaniuosiuose telefonuose.
Kartu su rangovo peržiūros sistema tai sukuria košmarišką scenarijų, kurį atskleidė ataskaita, kai žmonės gali matyti iš esmės atsitiktinai užfiksuotas intymias nuotraukas iš išmaniųjų akinių savininkų namų.
Kenijos duomenų apžvalgininkai, kalbėję su Švedijos laikraščiais, pranešė matę vaizdus ir vaizdo klipus, kuriuose nuogi žmonės eina į tualetą, persirengė ir užsiima seksu, taip pat žiūri pornografiją ir laiko slaptus dokumentus bei banko korteles.
Įrenginyje, kuriame dirba šie duomenų tikrintojai, taikoma griežta saugos praktika, kuri neleidžia jiems naudoti įrašymo įrenginių ar kitaip išfiltruoti šių klipų. Tačiau jei kokiu nors būdu įvyktų duomenų pažeidimas, tai sukeltų „didžiulį skandalą“, teigiama pranešime.
Reaguodama į Švedijos pranešimą, Meta atkreipia dėmesį, kad akinių priekyje esantis šviesos diodas visada užsidegs fiksuojant vaizdus (tai tiesa), o bendrovė paskelbė bendrą pareiškimą, kuriame pažymėjo, kad vizualiniai duomenys „pirmiausia filtruojami siekiant apsaugoti žmonių privatumą“, įskaitant susiliejančius veidus ir valstybinius numerius. Tačiau Kenijos darbuotojai tvirtina, kad šis filtras nėra tobulas, o kitos intymios detalės vis dar išlieka jų peržiūrimuose vaizduose.
Praktika, kai subrangovai peržiūri dirbtinio intelekto sąveiką, nėra būdinga tik „Meta“. Pavyzdžiui, „Amazon“ tai daro „Alexa“, „Google“ – „Gemini“, o „Apple“ – „Siri“. 2019 m. „Bloomberg“ ataskaita atskleidė, kaip šie subrangovai girdėjo intymius pokalbius prie lovos iš „Amazon Echo“ įrenginių, o kita „The Guardian“ ataskaita atskleidė, kad tas pats nutiko ir „Apple“ Siri.
Atsižvelgdama į „The Guardian“ ataskaitą, „Apple“ pasirinko „Siri“ pokalbių peržiūrą, o „Google“ leidžia atsisakyti „Gemini“.
Tačiau „Meta AI“ nėra galimybės atsisakyti. „Meta“ išmaniųjų akinių forma su egocentriška kamera kelia unikalių šio modelio privatumo problemų, kurios gali paskatinti tuos, kurie žino apie pasekmes, niekada nenorėti pirkti išmaniųjų akinių arba nustoti naudoti jau turimus akinius.
„Google“ dirba su „Gentle Monster“ ir „Warby Parker“ ant „Gemini“ išmaniųjų akinių
„Google“ bendradarbiauja su „Gentle Monster“ ir „Warby Parker“ kurdama išmaniuosius akinius su „Gemini AI“ – bendrovės planu tiesiogiai konkuruoti su „Ray-Ban Meta“.
Ar ši ataskaita paskatins „Meta“ pakeisti duomenų peržiūros praktiką, kaip padarė „Apple“ po „The Guardian“ 2019 m. ataskaitos? O gal tai bus ignoruojama, kad įmonė galėtų greičiau patobulinti „Meta AI“, kad pasivytų stipresnius AI modelius, tokius kaip „Google Gemini 3“? Ir kaip „Google“ ir „Amazon“ spręs šią problemą, kai ateinančiais mėnesiais išleis išmaniuosius akinius?
