Šta Meta radi sa zaposlenim i šta će uskoro raditi tvoja firma

Kada je cilj bolja tehnologija, gdje se povlači granica između inovacije i nadzora?

Meta je započela da instalira softver koji prati sve što rade zaposleni na njihovim računarima klikove, pritiske na tipke, pa čak i snimke ekrana. Program se zove Model Capability Initiative (MCI) i zadatak mu je da skupi podatke za treniranje AI agenata. Ali bez mogućnosti da se odbije.

Ovo nije teoretska priča. Reuters je prvu novost donio ove sedmice, potvrđenu sa više stranih medija (CNBC, BBC, Financial Times), a interno, zaposlenici Meta-e su već aktivno protestovali na internim forumima. Kompanija je u aprilskom memou najavila da MCI počinje sa prikupljanjem podataka vrlo brzo.

• Meta instalira sistem koji hvata klikove, keystrokes i snimke ekrana na radnim računarima zaposlenih
• Cilj je treniranje AI agenata koji mogu sami obavljati računarske zadatke (navigacija krozDropbox, pisanje u Slack-u, popunjavanje formi)
• Sistem hvata aktivnost na preko 100 aplikacija, uključujući Google, LinkedIn, GitHub, Slack, pa čak i Wikipedia
• Meta oficijalno kaže da ovi podaci "neće biti korišćeni za procjenu performansi zaposlenih", ali nema detaljnog objašnjenja šta će biti zaštićeno kao "osjetljiv sadržaj"
• Backlash je bio gotovo trenutan zaposlenici su dizali alarm oko privatnosti, dok su evropski regulatori (GDPR) već smatrali da MCI pravi probleme

Šta se tačno desilo

Meta je objavila da će početi da instalira Model Capability Initiative na radne računare zaposlenih bazovane u SAD-u. Sistem radi tako što neprekidno hvata:

• Sve klikove miša
• Sve keystrokes (pritiske na tipke)
• Kretnje miša
• Periodičke snimke ekrana

Ovi podaci se šalju Meta-inim serverima gdje se koriste za treniranje AI agenata kompjuterskih programa koji bi trebali da mogu sami da obave običan rad koji zaposleni rade. Primjeri navigacija kroz padajuće menije, korištenje keyboard shortcut-a, popunjavanje oblika, prikupljanje informacija sa više aplikacija odjednom.

Meta kaže da je ovo potrebno jer su njihovi AI modeli još uvijek loši u ovim bazičnim računarskim zadacima. Što znači da se real-world scenariji (kako čovjek koristi računar) ne reflektuju dovoljno u treniranim podacima. Zato je Meta odlučila umjesto da unajmi treću stranu da pravi lagane scenarije u laboratoriji da samo aktivira monitoring na svim 67.000 zaposlenih i skupi pravo ponašanje.

Sistem hvata aktivnost na više od 100 aplikacija i web stranica:

• Google, YouTube
• LinkedIn, Wikipedia
• GitHub, Slack, Microsoft Teams
• Salesforce, Jira
• Čak i interne Meta aplikacije poput Threads-a i Manus-a

Nema mogućnosti da se odbije. CTO Andrew Bosworth je eksplicitno rekao u internom memou da je "nema opcije za opt-out." Zaposlenici koji žele da rade za Meta nakon sada moraju da pokupe sa ovim monitoring-om.

Kontekst i šire trendovi

Ovo nije prvi put da velika tech firma koristi zaposlene kao da umekšam reči "data resources". Ali je obim i besceremons pristup koji Meta koristi definitvno novi nivo.

OpenAI i Anthropic takođe rade na "computer-use" modelima (agentima koji mogu da koriste računar), ali nisu javno saopštili da će sistemski monitorirati sve zaposlene. Oni rjeđe koriste pravi monitoring, a više se oslanjaju na simulirane scenarije ili male grupe volontera.

Google ima vlastite AI agente i AI Overviews koji trebaju da pretraživanjem ponašanja, ali nisu objavili masivni monitoring programa za sve zaposlene.

Amazon je poznat po tome što koristi AI za praćenje produktivnosti u skladištima (Alexa, sistema za ručni rad), ali se fokusira na fizičke radnike, ne zaposlene sa blagajnim.

Meta je preprosta: ako nam trebaju podaci, mi ćemo ih uzeti sa svojih zaposlenih, nikakve dozvole nije potrebna.

Razlog je što je Meta ozbiljno zaostala u AI race-u. OpenAI ima ChatGPT i novo o1 razvojnim modelima. Google ima Gemini. Anthropic ima Claude. Meta je tek lansirala Llama liniju i sad pokušava da nadoknadi sa "agent" modelima. Zato ubrzava skupljanjem podataka koji bi trebali teorijski da je učine konkurentnom do kraja godine.

Ali postoji problem ovaj pristup je legalno problematičan. U Njemačkoj, keystroke logging je dozvoljeno samo ako postoji sumnja na ozbiljan kriminal. U Italiji je eksplicitno zabranjeno kao monitoring produktivnosti. EU GDPR ima strogu regulativu o "data minimization" što znači da možeš skupljati samo podatke koji su strogo potrebni za navedenu svrhu, i samo od zaposlenih koji su to odobrili. Meta želi da skuplja sve, bez odobrenja, i koristi za treniranje modela koji bi mogao da zamijeni te iste zaposlene

Naša perspektiva šta ovo znači za region

Za HR menadžere i vlasnika firmi

Ako misliš da je Meta sa sve svojom moći, Good-ness i dostupom do top-talent-a samo toliko desperat za AI podacima da mora monitorirati sve što njegovi zaposleni rade, onda razmisli šta se dešava u manjim firmama.

U sljedećih 6-12 mjeseci, softveri za "AI training data collection" će postati jeftini, pristupačni i normizirani. Tvoja softverska firma, tvoja marketing agencija, čak i tvoja maloprodajna mreža može odlučiti: "Hajde da monitoriramo sve što rade zaposleni kako bi trenirali sopstveni AI agent koji će raditi njihov posao za 30% od trenutne plate."

Jeste li pripremljeni za tu razgovor sa zaposlenima? Legalno? Etički?

Konkretno, ako si vlasnik firme od 50 zaposlenih i razmisljaš o korištenju AI agenata, sada znate veliki igrači to rade kroz monitoring, bez pitanja. To znači da će vremenom to postati "industrija norma." Trebao bi se upoznati sa:

1. Lokalnim zakonima o nadzoru (U RS-u i BiH to nisu jasno regulisano, što je problem)
2. Etičkim okvirom (bi bilo fer prema zaposlenima?)
3. Zaposlenimašta će misli kada čuju da se monitoriraju?

Za zaposlene koji koriste AI u svom poslu

Ako radiš za bilo koju tech firmu, agenciju, ili firmu koja koristi cloud-a, sad znate vaše radne akcije mogu biti dio AI treniranja bez vašeg odobrenja.

Svaki email koji napišeš, svaka Slack poruka, svaki kod koji pushaš na GitHub može završiti kao dio treningu podataka za AI agent koji će moguće zameniti vas.

Konkretno: Ako radiš kao developer u Beogradu i vaša firma koristi GitHub, VSCode i Slack, i novinari bi saznali da je vaša firma implementirala MCI-sličan sistem, šta biste napravili? Trebali bi da znate vaša prava. U EU su jasna (GDPR ti je štiti

Šta dolazi dalje

Meta će sa ovim nastaviti jer za sada može. Regulatori će eventualno da se miješaju, posebno EU, čija pravila će vjerovatno biti primjenjena čak i na US kompaniju koja radi sa EU zaposlenima. Ali do tada, očekuj:

1. Više tech firmi će tesira "monitoring sa ograničenjima" (nisu do kraja, ali nešto će biti prisutno)
2. Softver za "ethical AI data collection" će postati turbo-industry (kako skupiti podatke bez izgleda kao da narušavaš privatnost)
3. Borba oko toga šta je "osjetljiv sadržaj" koji se ne može monitorirati passwordi, medicinski podaci, itd.

Odgovor nije biti paranoja. Ali je biti svjestan.

Ako želiš da budeš prvi koji sazna šta se dešava u AI industriji kada se etika sudara sa profit, prijavi se na AI Balkan newsletter. Analiziramo ovakve situacije svake sedmice.