Martin

Psykisk ohälsa på företag som modererar innehåll åt Facebook. Traumatiserade anställda använder droger på arbetstid för att stå ut med vad de måste titta på i sitt arbete. Det här är ett fascinerande, bizarre och fascinerande artikel måste jag säga. Den har cirkulerat och gått lite viral de senaste dagarna. Och jag har slukat den med stort intresse här.

Var ska man börja? Jo, Facebook har ett väldigt stort behov av att granska och censurera material. Moderera material är branschtermen. Och det innebär i praktiken att man ska göra det. Man kan inte låta algoritmerna göra allting. Man måste också ha människor som sitter och tittar på specifikt innehåll. Kanske till exempel spelar upp och tittar på en video som någon har bladdat upp för att avgöra hur den videon strider mot Facebooks regler för vad man får posta.

Det innebär att man måste ha en mängd människor som sysslar med det. Tusentals, tiotusentals människor som enbart jobbar som sensorer kan man säga. Förr i tiden hade vi sensorer. som jobbade på statliga biografmyndigheten. En grupp människor kollade på alla filmer som det fanns en efterfrågan att visa på på svenska biografer.

Inklusive bizarra saker som pornografisk film. De tittade på alla porrfilmer som de skulle visa på den typen av biografer. De gav ett officiellt statligt utlåtande. den här statliga filmbilden, statliga biografbilden, vad det heter i Sverige. Man har inga officiella sensorer. Men Facebook och säkert andra liknande företag har långt många fler sensorer än vad världens stater någonsin anställde under den gamla goda tiden.

Och Facebook då, de har då en speciell verksamhet som de inte vill ha i själva på själva Facebook-företaget. Det är ett outsourceman bland annat då till det företaget som artikeln handlar om som heter Cognizant. Och de har ett antal sådana stora ställen i USA, bland annat i Phoenix, Arizona. Jag skulle säga att tusen personer som modererar innehåll för Facebook.

Och femton tusen sammanlagt världen över sitter på olika ställen och gör det här. Och det är alltså människor som sitter dagarna i ända och bara tittar på material som är potentiellt otillåtet på Facebook. Och jag antar då... Jag är inte säker men jag antar att orsaken till att någonting ens hamnar på människornas bord är att det blir anmält på Facebook.

Så skulle i alla fall jag göra mig av Facebook. Man börjar med de signalerna. Om ett visst antal personer har flaggat en video och säger att den här är olämplig, då skickar man det vidare till granskningsteamet illa kvickt. Sen får de snabbt kolla på det för att se. Det kan ju ta bara några minuter innan saker försvinner. Men det sitter folk hela dagarna och tittar på ruskiga... Det kan vara till exempel våld.

Det är en sak som tas upp i artikeln, att de får titta på mycket extremt våldsamma filmer. Det finns säkert också en hel del pornografi. En annan sak som tas upp som är intressant som vi ska återkomma lite till är att de granskar också konspirationsteorier. Rent faktafel och konstiga hypoteser som förs fram.

Och inte helt otippat så mår de här människorna väldigt dåligt. En sak är att de har trista arbetsvillkor. Att de har... Hela arbetsdagen är väldigt inrutad. De måste be om tillstånd för att gå på toaletten. Alla anställda på kontoret måste dela på en enda toalett. Det är för att få folk ytterligare att hålla sig istället för att gå på toaletten. Och bara istället granska en till video, granska en till video, granska en till video.

Det är det de sitter och gör. Men... Det är också själva innehållet. För de mår ju väldigt dåligt av de här fruktansvärda bilderna de ser. Och de beskriver själva hur de är så traumatiserade att de gör desperata saker för att hantera, dämpa alla negativa känslor och stå ut en dag till. Och till exempel då att det är ganska många som tar droger.

Inte bara efter jobbet för att lugna ner sig utan även på arbetstid hela dagarna sitter de och gör grejhärseln och sånt där. Och vissa har tydligen också haft sex, haft desperat posttraumatiska samlag i något särskilt rum som egentligen var till för någonting annat naturligtvis på arbetsplatsen. Och det som jag tycker är kanske det mest fascinerande exemplet Vissa av de här personerna som sitter och granskar knäppa konspirationsteorier och sånt där de tycker inte längre att de här teorierna är så knäppa.

De har läst så många inlägg, en sa att han hade läst så många inlägg om 9-11 och att 9-11 var liksom inte den officiella historien, inte sant. Att han numera har blivit en sån här 9-11-truther. Han tror att det var en konspiration eller att det inte hände eller att det var amerikanska staten som gjorde det och så vidare. Han har suttit så mycket för att bekämpa konspirationsteorier att han till slut har blivit konspirationsteoretiker själv.

Det finns ett klassiskt Nietzsche-citat där han säger att man måste vara aktsam att stirra ner i avgrunden. Det finns ett klassiskt Nietzsche-citat där han säger att man måste vara aktsam att stirra ner i avgrunden. och stira tillbaka så man blir till slut det som man fruktar och försöker undvika. Ett annat exempel som var ganska komiskt var att det var någon som sa att han gick numera runt och funderade seriöst på om jorden faktiskt var platt istället för sverisk.

Eftersom han hade läst så många inlägg om det som ett led i sitt yrke. Jag vet inte vad du tycker Tobias, jag tycker det är som en fascinerande baksida det här av Facebooks onda imperium.

Tobias

Nej, jag tyckte det här var verkligen skymningssonen att läsa den här artikeln. Den var något av det mest svartsynta och absurda jag har läst på länge. Fast jag måste säga att jag känner mig lite misstänksam till hela upplägget. För det känns som att det här är socialporr. Det här är artikeln om hur eländigt arbetarna har det vid det löpande bandet. Fast i en modern taktning.

Martin

Den känns lite väl tillrättalagd. Så ja, lite missningsproblem i allt.

Den genomsnittliga Facebook-anställde tjänar 240 000 dollar i sitt sammanlagda kompensationspaket. Det är lön, olika typer av föremål som man får, kanske aktiendelar i Facebook och så vidare. Det är off topic, men för över 240 000 dollar är det en rätt hög lön för att vara snittlönen på ett företag.

Tobias

Jo, man kan tänka sig att det finns ett samband mellan det och den... De kvalifikationer som behövs för arbetsuppgiften.

Martin

Facebook anställer det absolut smartaste, mest produktiva människor som finns i hela världen. Och de är skoningslösa i att dra till sig talang. I alla fall, de gör en stor sak av den här jämförelsen. Facebookingenjörerna som har doktorerat i datalogi och bygger världens mest lönsamma datasystem. De får tio gånger mer pengar än de här totalt okvalificerade människorna som sitter och kollar på videofilmer hela dagen.

Det tycker inte jag är så stort ett mysterium. Det som hade gjort den här artikeln perfekt det är ju om de här moderatorerna i Phoenix, Arizona om de hade precis lika sköna arbetsförhållanden som Facebook och fick de här mångmiljonlönerna och satt i såna här ärtsäckar hela dagarna och kollade på videos och ändå moddade dem så här dåligt då skulle poängen gå fram lite bättre utan det här såsessnacket om omhör Du måste stå i kö för att gå på toaletten och sånt där.

Hur som helst. Jag tycker det är intressant att tänka lite på det här från ett tekniskt perspektiv också. För jag är lite datornörd och jag tänker så här, skulle man kunna slippa den här hanteringen genom att strukturera ett socialt nätverk på ett annat sätt? Och det är lite ledande fråga som jag ställer till mig själv. Vi har pratat lite om det här tidigare i Radio Bubbla, om några idéer som jag tycker är värdefulla att tänka på med sociala nätverk.

En sån sak till exempel är att... Ett problem är Facebooks väldigt globala och centraliserade fokus. Man vill skapa ett socialt nätverk för hela världen. Det är lite grann Facebooks idé att koppla ihop alla. Det finns naturligtvis en dimension av att du vill följa en massa olika sidor och du får se vad dina vänners vänner skriver och så vidare.

Men det är som enad av en global marknad för information kan man säga. Men om man istället har ett mer restriktivt socialt nätverk som bygger på principen att man bara får med information mellan folk som känner varandra, som har någon sorts kontakt. Att de är vänner, eller kanske att de är vänners vänner, att man har en mer indirekt koppling. Om man har ett sådant system där tanken inte är att man ska se allting från alla, utan man ska kommunicera med sitt nätverk och bygga ut sitt nätverk steg för steg, men inte ta in hela världen på en gång.

Om man tilldelägger att det finns någon typ av kostnad. för att skapa konton så att man inte alltid bara kan skapa ett nytt konto igen, ett nytt konto, ett nytt konto, ett nytt konto för att skicka ut spam och andra typer av dåligt innehåll. Och slutligen en viktig funktion som redan finns på Facebook att man kan blocka en viss användare. med de här komponenterna så tror jag att man skulle kunna få bort väldigt mycket av problemen med den här typen av vidrigt innehåll, traumatiserande innehåll, alla typer av äckliga sjuka grejer som folk postar.

Därför att det är ingen som skulle välja att ha en sån person i sitt nätverk som postar sånt innehåll. Eller om de väljer att ha en sån person i sitt nätverk så är det uppenbarligen för att de gillar sjuka saker. Så det är ute efter det här, det här kanske är en lite krystad libertariansk idé, men det är ute efter att på sätt och vis kanske man kan säga att det här är resultatet av att man har centraliserat filtrering och censur istället för att låta de funktionerna skötas decentraliserat via de hundratals miljoner olika noderna i nätverket.

Tobias

Ja men det ligger ju naturligtvis väldigt mycket i vad du säger och det är en modell som skulle... säkert funkar jättebra för mer nischade fora. Samtidigt så skulle det nog knappast funka på en plattform som i grund och botten är Facebook. Utan då skulle de behöva atomisera sitt innehåll och spärra möjligheten att göra inlägg synliga för alla och så vidare.

Och det är väl helt oförenligt med deras affärsidé misstänker jag. Facebook kan nog aldrig realisera en sån lösning utan... Det får bli mer som för plattformar som Publa Premium i så fall.

Martin

Ja, jag visste det så. Det är en väldigt viktig poäng. Facebook tjänar sina pengar på att visa annonser. Och en av deras centrala idéer är att du som annonsör ska kunna nå ut till vem som helst i hela världen. Direkt ska du kunna gripa in i deras användarupplevelse. Du ska kunna filtrera människor på olika tänkbara kriterier. Det är en väldigt viktig poäng.

Vilka annonser som folk får se baseras också i hög utsträckning på vilket innehåll de tidigare har interagerat med. Vad deras vänner gillar och så vidare. Det är en väldigt viktig kanal för Facebook att säga att dina vänner gillar det här. Ska inte du också ta en titt på den här? Jag tyckte det var kul. Nu är Facebook väldigt sofistikerat. Jag tycker det är ofta fascinerande att se vad man får reklam för.

Jag minns när jag tidigare Facebookerade så stod det så här. De här fyra av dina vänner gillar McDonalds. Här kommer en annons för McDonalds. Jag tyckte att det var så jäkla bizarrt att jag hade fyra personer som hade likeat McDonalds på Facebook. Det finns ju en pågående diskussion om att man kanske behöver vidta någon typ av politiska rättsliga åtgärder mot Facebook och kanske de andra sociala medieplattformarna.

De har för mycket makt, de begår diverse övergrepp mot människors personlig integritet till exempel. Det är ett argument som man hör ibland är att om stater ägnade sig till den typen av väldigt invasivt politik. Insamling av personliga data och exploderade ens personuppgifter på det aggressiva sätt som Facebook gör.

Då skulle det bli en revolution och vi har delvis sett det under de senaste tio åren. Att stater åtminstone då officiellt har behövt skala ner sin informationsinsamling och hur man använder information. Och man har rigorösa regelverk, sägs det i alla fall, det är det man säger utåt. Om att korsöra olika databaser och så vidare. Det måste gå genom en byråkratisk process för att... för att man ska kunna börja avlyssna en viss person och så vidare.

Det är inte säkert att man tror på att de där reglerna faktiskt är på plats, men så är det i alla fall officiellt. Men på Facebook så vet vi att det finns ingen lagstiftning som styr vad de får göra på Facebook. Så där har de inte ens någon sån här externa regler att förhålla sig till. Till exempel att de måste ha ett domstolsbeslut för att samla in en viss typ av information om människor och så vidare. För att de opererar på ett helt annat sätt.

Och naturligtvis kan Facebook alltid säga att all information vi har, har människor gett oss frivilligt. Man kan debattera filosofiskt hit och dit kring vissa av de aspekterna, men när det kommer till bottom line så är jag nyfiken på din synpunkt Tobias. Är det så som vissa säger att Facebook kan liknas vid ett naturligt monopol, public utility som man säger på engelska? Och det är någonting som nu eller på sikt eventuellt behöver reglera. Så att man behöver göra någon typ av politiskt ingripande.

Tobias

Det vore naturligtvis kul att komma med ett svavelosande och erkereaktionärt svar på den frågan. Men jag kan verkligen inte komma på ett hållbart sånt. Så det är lite pinsamt, men jag måste nog falla tillbaka på det libertarianska platitypsvaret här. Nämligen att det här är mellan Facebook och deras användare. Men däremot är det ju väldigt intressant här att få den här inblicken i den här jätteindustrin som det här är.

Med 15 000 anställda över hela världen. och uppenbarligen väldigt desillusionerade och cyniska människor i många fall. Och det förklarar väl i många fall då varför reglerna tillämpas så godtyckligt som de gör. Plus då att det är naturligtvis fantastiskt kul att läsa om det här, hur människor börjar tro att jorden är platt och så vidare, när de jobbar med det här.

Men, nej jag vet inte, jag tror att det bästa vore om Facebook bara fick dö sotdöden. Men samtidigt är det bara att erkänna att jag själv är aktiv på Facebook. Bubbla är aktiv på Facebook och vi är ju därmed medskyldiga till att affärsmodellen fungerar. Men jag tror samtidigt att det finns hopp här för att den här branschen, kreativ förstörelse är en så stark kraft i den här branschen. Det är nog bara en tidsfråga innan någon petar Facebook från tronen här.

Martin

Det är en reflektion som jag också har och som jag brukar säga ibland för att lugna folk att Facebook är inte en så ointaglig bastion som det kan se ut nu. Nu verkar alla tro att Facebook och Google och kanske några företag har tagit över. Det är omöjligt att skapa en ny sökmål och ett nytt socialt nätverk. Jag tror inte alls att det är så. Jag tror att det här är kolosser på lerfötter.

Vi kan inte se idag exakt vad det är. Men i teorin kan vi tänka oss olika typer av innovationer som som skulle kunna sluta de här företagen. Det skulle framförallt handla om innovationer som har att göra med monetarisering, annonsering, det som i grunden är affärsmodellen och kränga annonser. Om det på något sätt blir svårare att göra och det kommer något nytt sätt att göra det, så kan det mycket väl hända att Google och Facebook missar tåget och blir omkringsprungna.

Och en sak som jag tror också bara att, när vi i bubbla-kretsen till exempel, vi har ju Det är sant som du säger att vi finns på Facebook, att vi postar ut länkar och sånt där från nyhetstjänsten på Facebook. Men det är någonting som görs helt och hållet automatiserat i vår fall. Det finns ingen som, så att säga, i Bubblas namn, är inne och gör postningar och sånt där. Utan det är bara när folk skickar meddelanden till våra Facebook-sidor så är det människor som svarar på de meddelandena.

Men that's it. Vi har automatiserat det så vi istället kan lägga tid på annat då. Vi har ju vårt eget forum. Där vi har väldigt mycket aktivitet och där jag tror alla som ens har slängt en snabb blick på Bubbla BBS inser snabbt att nivån och värdet på samtalen är enormt mycket högre än de är på Facebook. En annekdot är att vi hade en tråd som blev näckrad häromdagen, flera år gammal tråd som blev pingat och någon gjorde ett inlägg i den så hamnade den längst upp på listan över senaste uppdaterade trådar.

Och den handlade om, jag tror trådstarten var någonting i stil med Har Bubbla någon plan på att flytta från Facebook? Jag gillar Bubbla men det är så trist att jag behöver vara på Facebook för att hänga med i diskussionerna. För vi hade Facebook-grupper då från början när vi startade Bubbla Premium. Och då berättade jag om såhär, jo men det finns en plan för det, såhär ser den ut och vi kommer flytta till ett nytt forum. Och det är flera personer som säger tråd, ja jag förstår varför ni vill flytta från Facebook men jag tror inte det kommer funka för att det är så trist.

Jag och säkert många andra, vi kommer bara aldrig gå in på en annan sajt. Facebook är man ju ändå på av andra skäl så det passar bra när det finns på Facebook. Men om man måste logga in på en annan sajt då tror jag inte det blir något för mig. Lycka till ni andra som flyttar från Facebook men det blir nog inte något för mig. Och sen så visade det sig nu att vi, när tråden kom upp igen så var det någon som konstaterade att vänta nu, du som skrev att du inte skulle hänga med till det nya lösningen, så var det någon som kommer upp på Facebook.

Du är jätteaktiv här på BBSN nu ett par år senare. Vad har du att säga om det? Och så berättade han, jag tyckte det var vansinnigt kul. Det var roligt också att han var så uppriktig. Det var väldigt roligt att han skrev att han är numera inne på Facebook ungefär en gång i veckan. Men han är inne på BBSN flera gånger om dagen för att hålla sig i hor med diskussionerna där. Så det visar på att åtminstone vad det gäller intelligenta människor som är kräsna vad det gäller att vara med på Facebook. den information som de tar in så finns det definitivt potential att konkurrera med Facebook i termer av bara ett intressant informationsflöde.

Tobias

Ja, nej det är ju som du säger om man vill hoppa in i en intressant diskussion då är det ju väldigt sällan Facebook man går in på.

Martin

Apropå förresten det här med att migrera från Facebook, vad tror du Tobias om senaste veckans exodus från Facebook? som har intresserats av bland annat Thomas Gyr. Jag har sett nu att Thomas Gyr blev förbannad för att heter han Erik van der Hagen och sånt där, en hebelineskar, blev suckad. Han blev avstängd i 30 dagar från Facebook för att han skrev någonting som alla tyckte var väldigt harmlöst.

Thomas Gyr blev arg och han har ju varit sur på Facebook länge som alla andra. Och då regade han ett konto på en annan plattform som heter MeWe. Och nu ser det ut som att Thomas Gyr av alla människor som leder en sådan här folkvandring utifrån Facebook med tusentals boomers som följer fader Gyr utifrån det onda babyloniska Facebook i riktning mot det fantastiska MeWe där gräset eventuellt är grönare och mer kraftfullt.

och låter datainsamlingen något mindre integritetskränkande. Förlåt, jag ska lägga till också att Thomas Gyr har inte sagt att MeWe är en jättebra plattform eller att det är bästa lösningen på allting. Det är inte det han säger. Han säger att det är värt ett försök. Facebook är så pass dåligt så det är värt att börja testa om man kan testa något annat istället. Då har han varit beredd att ge MeWe en chans. Vad tror du om det här Tobias? Kan till exempel opinionsbildare och stilbildare som Thomas Gyr? eventuellt leda tillräckligt många människor ut till andra plattformar.

Tobias

Det verkar ju nästan så. Han tycks ha fått ett gigantiskt genomslag för det här. Jag kände inte till den här plattformen överhuvudtaget tidigare. Men det är ju väldigt roligt att det har fått det genomslaget om inte annat. Vi vet inte hur långt det går i förlängningen men allt som allvarligt hotar Facebook är ju väldigt uppmuntrande.

Martin

Jag tycker också det är uppmuntrande och jag vill gärna ge så kallade kudos till Thomas Gyr för att han gör ett försök. Hans publik är säkert sådana som inte är de mest förändringsbenägna och de som är snabbast. Det finns säkert en hel del early adopters i den gruppen. Men säkert är det också många som verkligen behöver en knuff från en intellektuell ledare som de respekterar. Jag själv ska säga det också, efter att jag såg den här grejen att Thomas Gyr kör ett experiment så registrerade jag själv ett konto på MeWe-plattformen.

Jag finns där, man kan söka upp mitt namn och vi har en profilbild som är lätt att känna igen. Det finns en bubbla page nu när vi är på MeWe. Inte så mycket nyheter, vi satt upp dem på skoj. Sofia startade en grupp för libertarianer på MeWe. Och jag har fått två dussin vänd förfrågningar. Vilket är väldigt roligt, snälla fortsätt att adda mig ni som vill testa MeWe. Jag vet inte om jag kommer att använda plattformen, men jag kommer att titta in och se. hur Thomas Gyrs folkvandring artar sig på Miui. Så tummen upp för det experimentet!