Pobúrenie nad vylepšením dátovej politiky spoločnosti Zoom ukazuje, ako preteky v budovaní výkonnejších modelov AI vytvárajú nový tlak na získavanie tréningových údajov a to aj tým, že ich odčerpávajú od používateľov.
Spoločnosť Zoom bola nútená vypnúť zvuk, aby uistila používateľov, že bez ich súhlasu nebude používať osobné údaje na trénovanie umelej inteligencie.
V nových podmienkach sa uvádzalo, že zákazníci „súhlasia s prístupom, používaním, zhromažďovaním, vytváraním, upravovaním, distribúciou, spracovaním, zdieľaním, údržbou a ukladaním údajov generovaných službou Zoom“ na účely vrátane „strojového učenia alebo umelej inteligencie (vrátane školení a ladenia algoritmov a modelov).
Tento objav vyvolal kritické spravodajské články a nahnevané príspevky na sociálnych sieťach. V pondelok produktový riaditeľ spoločnosti Zoom, Smita Hasham, napísal blogový príspevok, v ktorom uviedol: „Nebudeme používať audio, video alebo chatový obsah zákazníkov na trénovanie našich modelov umelej inteligencie bez vášho súhlasu. Spoločnosť tiež aktualizovala svoje podmienky, aby uviedla to isté.
Neskôr v priebehu týždňa Zoom opäť aktualizoval svoje podmienky, aby objasnil, že nebude poskytovať „audio, video, chat, zdieľanie obrazovky, prílohy ani inú komunikáciu, ako je obsah zákazníka“ na modely AI. Vera Ranneft, hovorkyňa spoločnosti, hovorí, že Zoom predtým nepoužíval zákaznícky obsah týmto spôsobom.
Tieto aktualizácie sa zdajú byť dostatočne upokojujúce, ale samozrejme mnohí používatelia Zoom alebo správcovia firemných účtov môžu kliknúť na „OK“ na podmienky bez toho, aby si plne uvedomili, čo odovzdávajú. A zamestnanci, ktorí musia používať Zoom, nemusia vedieť o voľbe, ktorú ich zamestnávateľ urobil. Jeden právnik poznamenáva, že podmienky stále umožňujú spoločnosti Zoom zhromažďovať veľa údajov bez súhlasu.
Chyba ukazuje nedostatok zmysluplnej ochrany údajov v čase, keď generatívny boom umelej inteligencie spôsobil, že technologický priemysel je ešte hladnejší po údajoch, ako tomu bolo doteraz. Spoločnosti začali vnímať generatívnu AI ako akési monštrum, ktoré musí byť za každú cenu živené – aj keď nie je vždy jasné, na čo presne sú tieto údaje potrebné alebo čo môžu tieto budúce systémy AI nakoniec robiť.
Vzostup generátorov obrázkov AI, ako sú DALL-E 2 a Midjourny, nasledovaný ChatGPT a ďalšími šikovnými, no chybnými chatbotmi, bol možný vďaka obrovskému množstvu tréningových údajov – z veľkej časti chránených autorskými právami – ktoré boli vyťahované z webu. A všetky druhy spoločností sa v súčasnosti snažia použiť údaje, ktoré vlastnia alebo ktoré generujú ich zákazníci a používatelia, na vytváranie generatívnych nástrojov AI.
Zoom sa iba rozbieha v oblasti AI. V júni spoločnosť predstavila dve funkcie generovania textu na zhrnutie stretnutí a písanie e-mailov so stretnutí. Zoom by mohol použiť údaje z videostretnutí svojich používateľov na vývoj sofistikovanejších algoritmov. Môžu zhrnúť alebo analyzovať správanie jednotlivcov na stretnutiach alebo možno dokonca vytvoriť virtuálnu podobizeň niekoho, komu sa dočasne prerušilo spojenie alebo sa nestihol osprchovať.
Problém so snahou spoločnosti Zoom získať viac údajov je v tom, že odráža všeobecný stav vecí, pokiaľ ide o naše osobné údaje. Mnohé technologické spoločnosti už profitujú z našich informácií a mnohé z nich, ako napríklad Zoom, teraz hľadajú spôsoby, ako získať viac údajov pre generatívne projekty AI. A predsa je na nás, používateľoch, aby sme sa pokúsili kontrolovať to, čo robia.
„Spoločnosti majú extrémnu túžbu zhromaždiť čo najviac údajov,“ hovorí Janet Haven, výkonná riaditeľka think-tanku Data and Society. „Toto je obchodný model – zhromažďovať údaje a vytvárať produkty na základe týchto údajov alebo predávať tieto údaje sprostredkovateľom údajov.“
V USA chýba federálny zákon o ochrane osobných údajov, takže spotrebitelia sú viac vystavení nebezpečiu krádeže ako ľudia v EÚ. Navrhovaná legislatíva, ako napríklad americký zákon o súkromí a ochrane údajov, ponúka určitú nádej na poskytnutie prísnejších federálnych pravidiel o zhromažďovaní a používaní údajov a Bill of Rights AI správy tiež vyžaduje štandardnú ochranu údajov. V súčasnosti je však takéto verejné odmietnutie v reakcii na kroky spoločnosti Zoom najefektívnejším spôsobom, ako obmedziť chuť spoločností pri zhromažďovaní údajov. Bohužiaľ, toto nie je spoľahlivý mechanizmus na zachytenie každého sporného rozhodnutia spoločností, ktoré sa snažia konkurovať AI.
Vo veku, keď sú tie najzaujímavejšie a najviac oceňované nové technológie postavené na množstve údajov zhromaždených od spotrebiteľov, často eticky pochybným spôsobom, sa zdá, že nové ochranné politiky neprídu dostatočne skoro.
„Od každého jednotlivca sa očakáva, že podnikne kroky na svoju ochranu,“ hovorí Haven. „To je v rozpore s myšlienkou, že ide o spoločenský problém.“