puspPsicologia USPPsicol. USP0103-65641678-5177Instituto de Psicologia da Universidade de São Paulo10.1590/0103-656420170156Artigos originaisBig Data, exploração ubíqua e propaganda dirigida: novas facetas da indústria culturalBig Data, exploration omniprésente et publicité ciblée: nouvelles facettes de l’industrie culturelleBig Data, explotación ubicua y propaganda dirigida: nuevas facetas de la industria culturalAntunesDeborah Christinaa***MaiaAri FernandobUniversidade Federal do Ceará, Departamento de Psicologia. Sobral, CE, BrasilUniversidade Federal do CearáUniversidade Federal do CearáDepartamento de PsicologiaSobralCEBrazilUniversidade Estadual Paulista Júlio de Mesquita Filho, Departamento de Psicologia. Bauru, SP, BrasilUniversidade Estadual Paulista Júlio de Mesquita FilhoUniversidade Estadual Paulista Júlio de Mesquita FilhoDepartamento de PsicologiaBauruSPBrazil
Endereço para correspondência: deborahantunes@ufc.brMay-Aug20182921891993011201713062018Este é um artigo publicado em acesso aberto sob uma licença Creative CommonsResumo
A emergência da cultura digital a partir do desenvolvimento de novas tecnologias de informação e comunicação levou a críticas ao conceito de indústria cultural elaborado por Horkheimer e Adorno nos anos 1940, definindo a nova configuração a partir da interatividade, comunicação aberta e maior liberdade entre usuários. Entretanto, a um olhar crítico, a nova configuração se revela mais totalitária que a anterior. Todas as ações dos usuários no ambiente digital geram informações que podem ser compiladas e organizadas de acordo com algoritmos matemáticos, configurando o chamado Big Data; essas informações incluem dados sobre preferências, tendências políticas, gênero e perfis de personalidade, e levam a tentativas de vigilância ubíqua e manipulação por meio de propaganda dirigida, sendo política e economicamente muito mais eficaz do que na era da indústria cultural descrita por Adorno. A atualização da teoria crítica da sociedade implica compreender essa nova configuração, suas pretensões e contradições. Nesse sentido, este artigo objetiva tanto atualizar o conceito de indústria cultural, denunciando, assim, as novas formas de manipulação, quanto criticar a ideia de que a liberdade é imanente à Cultura Digital, presente em seus defensores.
Résumé
L’émergence de la culture dite numérique du développement des nouvelles technologies de l’information et de la communication a conduit à critiquer le concept d’industrie culturelle élaboré par Horkheimer et Adorno dans les années 1940, définissant la nouvelle configuration de l’interactivité, de la communication ouverte et plus grande liberté parmi les utilisateurs. Cependant, d’un oeil critique, la nouvelle configuration est encore plus totalitaire que la précédente. Toutes les actions des utilisateurs dans l’environnement numérique génèrent des informations qui peuvent être compilées et organisées selon des algorithmes mathématiques, en configurant les Big Data; ces informations comprennent des données sur les préférences, les tendances politiques, le genre et même les profils de personnalité, et mènent à des tentatives de surveillance et de manipulation omniprésentes par des publicités ciblées, politiquement et économiquement beaucoup plus efficaces qu’à l’ère de l’industrie culturelle décrite par Adorno. L’actualisation de la théorie critique de la société implique de comprendre cette nouvelle configuration, ses prétentions et ses contradictions. En ce sens, le présent article vise à la fois à actualiser le concept d’industrie culturelle dénonçant, ainsi, les nouvelles formes de manipulation, et à critiquer l’idée que la liberté est immanente à la culture numérique, présente chez ses défenseurs.
Resumen
La emergencia de la llamada cultura digital a partir del desarrollo de nuevas tecnologías de información y comunicación llevó a críticas al concepto de industria cultural elaborado por Horkheimer y Adorno en los años cuarenta del siglo pasado, definiendo la nueva configuración a partir de la interactividad, comunicación abierta y mayor libertad entre los usuarios. Sin embargo, a una mirada crítica, la nueva configuración se revela aún más totalitaria que la anterior. Todas las acciones de los usuarios en el entorno digital generan informaciones que pueden ser compiladas y organizadas de acuerdo con algoritmos matemáticos, configurando el llamado Big Data; estas informaciones incluyen datos sobre preferencias personales, tendencias políticas, género e, incluso, perfiles de personalidad, y llevan a intentos de vigilancia ubicua y manipulación por medio de propaganda dirigida, siendo política y económicamente mucho más eficaz que en la era de la industria cultural descrita por Adorno. La actualización de la teoría crítica de la sociedad implica comprender esta nueva configuración, sus pretensiones y sus contradicciones. En este sentido, el presente artículo objetiva tanto actualizar el concepto de industria cultural denunciando así las nuevas formas de manipulación, como criticar la idea de que la libertad es inmanente a la Cultura Digital, presente en sus defensores.
Palavras-chave:indústria culturalteoria crítica da sociedadeBig Datacultura digitalMots-clés:industrie culturellethéorie critique de la sociétéBig Dataculture numériquePalabras clave:industria culturalteoría crítica de la sociedadGrandes Datoscultura digitalFuncapBP2-0107-00067.01.00/15Bolsista Produtividade Funcap 2016-2018 (processo nº BP2-0107-00067.01.00/15)Introdução
Cena 1: março de 2017. Um pesquisador utiliza seu computador para verificar a existência de um livro, Sociedade do espetáculo de Guy Debord, no catálogo de uma grande livraria física e on-line. Pausa para um café. Minutos depois, ao retornar e entrar em um site de notícias, percebe no menu à direita um reclame: a oferta do livro que buscava, com 30% de desconto. Cena 2: novembro de 2016. Contrariando as previsões eleitorais, um jornalista anuncia pela TV, em rede mundial, que Donald Trump é o novo presidente dos Estados Unidos da América. Cena 3: junho de 2016, eleitores britânicos votam em favor da saída do Reino Unido da União Europeia. Cena 4: setembro de 2017, João Dória faz uso de cinco programas diferentes para aumentar seu alcance nas redes sociais.
Num olhar apressado, essas quatro cenas podem parecer nada de comum ter entre si. Ocorridas em partes distantes do globo, também parecem remeter a esferas diferentes da vida. O que haveria em comum entre o ato individual de compra e o ato coletivo do voto? O que teria a ver a eleição de um presidente antidemocrático, sexista e xenofóbico, a saída de um país de uma união econômica e política de Estados Europeus, o uso do Big Data,1,2por um político e empresário brasileiro e a compra de um livro de crítica social numa loja virtual? Talvez nada, se partíssemos do pressuposto de que essas diferentes ações fossem realizadas por sujeitos autônomos e independentes, guiados unicamente por seu entendimento a despeito das determinações do mundo sensível. É o mundo atual, conectado e sustentado por um novo “cimento social”, para lembrar uma expressão utilizada por Adorno e Simpson (1986, p. 138), que liga uma cena a outra: o mundo digital coloca-se no cenário desses quatro momentos, com especificidades que nos mostram que a radicalização de um novo modelo de ideologia está em andamento.
Na década de 1940, Adorno escreveu que não havia diferença entre a escolha de um sabonete num supermercado e a escolha de um candidato à presidência nos Estados Unidos. Ele fazia referência ao modo como a propaganda nos setores do comércio e da política influenciavam os cidadãos de modo que não deixava espaço para a reflexão crítica sobre suas próprias escolhas, seja no âmbito privado, seja no público. A indústria cultural, ao oferecer um mundo padronizado e um rol de pensamentos estereotipados e em bloco a seus consumidores, os havia privado da possibilidade de exercer uma escolha para além da imitação de padrões dentro de um comportamento de massa; muito embora - é preciso reconhecer - a dominação não fosse exercida sem lacunas. Sete décadas se passaram, e parece que as coisas não estão muito diferentes, exceto pelo grau de refinamento técnico alcançado por um novo ramo da indústria cultural que se vende como “cultura digital”, com a pretensão de ser aberta e democrática, radicalizando a crença na individualidade plena. Dessa forma, este artigo busca tanto atualizar o conceito de indústria cultural, denunciando, as novas formas de manipulação, quanto criticar as pretensões de liberdade dos defensores da Cultura Digital.
Individualismo, consumo, dificuldade de aceitação das diferenças são algumas das marcas da Tecnocultura - termo usado por Sodré (2010) para caracterizar a nova faceta de uma cultura tecnologicamente mediada. Nela, o autor compreende que há
uma transformação das formas tradicionais de sociabilização, além de uma nova tecnologia perceptiva e mental. Implica, portanto, um novo tipo de relacionamento do indivíduo com referências concretas ou com o que se tem convencionado designar como verdade, ou seja, uma outra condição antropológica. (Sodré, 2010, p. 27)
É, à primeira vista, curioso o interesse do mercado e da política nos Big Data. Contudo, é sempre importante lembrar a vinculação entre essas duas esferas, vinculação esta irremediável na sociedade burguesa. Se o universo da política institucional é o local por excelência de realização das condições para a manutenção do modo de produção da sociedade em voga (Maar, 2006), tal interesse comum não parece tão estranho. Ao contrário, para a manutenção de um dado modelo de sociedade, o desenvolvimento tecnocientífico tem levado às últimas consequências as possibilidades e estratégias de manipulação das massas. Se podemos falar de uma nova condição antropológica, é devido ao refinamento do controle sobre os comportamentos humanos registrados digitalmente por meio de algoritmos criados especificamente para esse fim. A partir de um esquema formalmente delimitado, os programas e aplicativos on-line registram e inteligentemente oferecem aos usuários a repetição de si mesmos; reforçam, com isso, toda uma série de estereótipos e pensamentos padronizados sobre si e sobre o outro, ao tolher o contato com o que não aparece no espelho obscuro de nossas telas. Foi assim que Trump venceu as eleições nos Estados Unidos3: se utilizando dos dados de usuários das redes sociais para dirigir-lhes propagandas mais afeitas aos seus desejos, preconceitos e visões de mundo, e ao mesmo tempo reforçá-los e mantê-los fomentando a bolha da intolerância e do medo.
É urgente, portanto, fazer a crítica dos novos meios digitais de comunicação no âmbito de uma teoria crítica da sociedade que revele a reprodução e a radicalização da barbárie no presente, disfarçada de individualidade e liberdade na sociedade tecnológica. Isso se torna ainda mais urgente quando percebemos que a transformação das condições objetivas que fazem da barbárie e da civilização as duas faces de um mesmo momento histórico pode apenas ser realizada na medida em que são reveladas suas contradições, seus modos de funcionamento e seus efeitos deletérios. A crítica aos novos meios digitais se coloca, assim, como uma crítica política, cujo objetivo está, para além da neutralidade da técnica (pois a denuncia como ideologia), em possibilitar a compreensão do presente para a supressão da barbárie.
Indústria cultural x cultura digital
Em um texto que discute em que sentido ainda é possível falar em indústria cultural, Hullot-Kentor (2008) argumenta que o conceito tem uma existência paradoxal, pois: “se o conceito não escapa à aparente exaustão das palavras de Adorno e se não resta dúvida de que seu fantasma se foi, ainda assim ele tem uma sobrevida vigorosa” (p. 18). Sua sobrevida e obsolescência estão ligadas ao mesmo fenômeno: à radicalização da sujeição da esfera cultural e à lógica da indústria se soma uma utilização banal e generalizada da expressão “indústria cultural” para designar justamente as possibilidades comerciais ainda em aberto, ou seja, a menção ao conceito já não move o pensamento a partir da chocante menção ao paradoxo da produção industrial de cultura, mas se converteu, ele mesmo, em slogan que paralisa a crítica.
Além disso, de acordo com Antunes em sua palestra Notas para pensar a Indústria Cultural na era digital4, pesquisadores marxistas apontam a inadequação do termo devido à sua origem supostamente europeia, justificando, com isso, seu argumento de que ele nada teria a dizer sobre a realidade brasileira ou latino-americana. No primeiro caso apresentado no parágrafo anterior, como slogan que paralisa a crítica, o termo parece aceito e fixado. Já aqui ocorre uma recusa de reconhecimento da importância de se pensar sobre a indústria cultural no Brasil ou mesmo em termos globais. Tal recusa impossibilita um avanço do conhecimento no que concerne a suas novas formas aqui e agora, assim como seus desdobramentos sociais e subjetivos. Outros pesquisadores voltados ao pós-estruturalismo, por sua vez, têm dificuldade em compreender a indústria cultural como um sistema para além de uma mídia específica ou um de seus diversos ramos (TV, cinema, rádio etc.) - muito embora eles estejam atentos às formas como o capitalismo, por intermédio do desenvolvimento tecnológico, controla os corpos e produz subjetividades. Para esses, estamos em um novo tempo, no qual novas mídias foram desenvolvidas e, por isso, o conceito de indústria cultural estaria ultrapassado.
É importante compreender, contudo, que os conceitos não se mantêm idênticos ao longo da história. As transformações na sociedade, assim como as mudanças no pensamento são condições de reelaboração de conceitos em um enlace histórico e social. O termo indústria cultural, que apareceu pela primeira vez em um artigo de Horkheimer (1941, p. 303) no plural, é trabalhado minuciosamente por ele e Adorno no capítulo homônimo da Dialética do esclarecimento, cujo subtítulo “O esclarecimento como mistificação das massas” realiza uma dupla denúncia. Ela é, ao mesmo tempo, fruto do esclarecimento e de todo progresso tecnocientífico por ele fomentado, e amplamente voltada para manter a todos em um estado de falsa consciência necessária para a manutenção de necessidades econômicas. A crítica à indústria cultural é integrada, portanto, à crítica da economia política na medida em que apresenta a esfera da cultura transformada em mercadoria, na qual o consumidor - ao contrário de ser aquele a quem se pretenda de fato agradar - não é sujeito, mas objeto, uma vez que é cercado de produtos cuja função é justamente limitar suas possibilidades de existência. Como apresenta Adorno (1994), à padronização das mercadorias e à racionalização das técnicas de produção somam-se formas individuais de produção calcadas em procedimentos técnicos e na divisão do trabalho, que conferem aos produtos a ilusão de individualidade e que transformam aquilo que poderia ser subversivo na arte em barbárie e opressão repetida.
Se, à época da Dialética do esclarecimento, quando Adorno e Horkheimer (1985) apresentaram o conceito de Indústria Cultural enquanto um sistema, dele faziam parte cinema, rádio, televisão, sistemas urbanos arquitetura etc., hoje, podemos considerar seu alargamento a partir de um avanço tecnológico e digital, cuja função de fomentar a reprodução do vigente via experiências substitutivas, como apontou Maar (2000), representa o nexo entre a indústria cultural da década de 1940 e a indústria cultural atual e suas novas facetas.
Os meios de comunicação digitais têm características bastante específicas que não devem ser negligenciadas. Nesse sentido, é evidente a necessidade de avaliar e considerar os desenvolvimentos tecnológicos no campo da comunicação, que teriam o poder de alçar os usuários das novas máquinas digitais ao nível de consumidores-produtores, superando a suposta passividade dos espectadores da indústria cultural em meados do século XX5. O problema dos aparatos da indústria cultural em meados do século passado, então, seria sua natureza unidirecional. A chamada cultura digital (Costa, 2003) estaria intimamente vinculada a ideias de interatividade, comunicação aberta, interconexão e trocas “livres” de informações e imagens, e isso culminaria necessariamente em “mais liberdade”. Essa suposição, que poderia parecer plausível, não resiste a uma análise crítica da configuração que adquire hoje o trânsito das informações, imagens e demais dados na internet. Ao contrário, há hoje uma concentração do controle sobre o fluxo de informações sem precedentes. Para compreendê-la é necessário pensar como se processam atualmente os Big Data - dados massivos -, quem são os operadores desse sistema e com quais fins eles são dirigidos, filtrados e administrados.
Big Data é definido por Mayer-Schönberger e Cukier (2013, p. 13) como “a capacidade da sociedade de aproveitar a informação de formas novas, para obter percepções úteis ou bens e serviços de valor significativo”,6 e se refere a
coisas que podem ser feitas em grande escala, mas não em escala menor, para extrair novas percepções ou criar novas formas de valor, de tal forma que transformam os mercados, as organizações, as relações entre os cidadãos e os governos etc. (Mayer-Schönberger & Cukier, 2013, p. 17)7
Ele indica uma característica da cultura no ambiente digital que coloca em questão a forma em que vivemos e interagimos com o mundo através de um conjunto de aparatos digitais (computadores, telefones móveis, tablets etc.) que envia e capta dados em escala global, e essas informações se configuram num fluxo com volume sempre crescente. A existência desse enorme volume de dados desafia as formas tradicionais de análise e captação, e ao mesmo tempo apresenta novas oportunidades de produzir conhecimento a partir do todo, não mais de uma amostra. Disso resulta, segundo Marques (2017), a emergência de um novo campo interdisciplinar, as humanidades digitais, que incorporam as tecnologias computacionais e algoritmos a pesquisas do campo das humanidades, com possibilidades de acesso a dados históricos e atuais sem precedentes.
As principais características dos Big Data seriam: volume, velocidade e variabilidade (Mostafa, Cruz, & Amorim, 2015). A primeira característica denota a enorme quantidade de dados, disponíveis em volume crescente - Mayer-Schönberger e Cukier (2013) estimam que a quantidade de dados digitais no planeta seja equivalente a dar hoje a cada pessoa na Terra trezentas vezes a quantidade de informação que se estima que estivesse armazenada na biblioteca de Alexandria -, e a perspectiva de uma abordagem desses dados que não seja feita por amostragem, mas tomando a totalidade.
O processamento dos dados em sua totalidade dispensaria a necessidade de formulações teóricas, na medida em que permitiria obter uma perspectiva total e completa dos fatos tais como são na realidade. No lugar de teorias que explicariam os acontecimentos buscando generalizar resultados a partir de amostras, o processamento dos dados trabalha com a análise da frequência, na busca de padrões, visando obter previsibilidade. Nesse sentido, o Big Data não busca nenhuma explicação do porquê as coisas acontecem, apenas o que acontece, forçando a sociedade a abrir mão de “parte de sua obsessão pela causalidade em troca de meras correlações” (Mayer-Schönberger & Cukier, 2013, p. 18)8 objetivando predições e tendências gerais - mas não exatidão. Trata-se do que Han (2015) chamou de dataísmo, um segundo movimento das luzes que a “tudo deve transformar em dados e em informação” (Han, 2015, p. 67). Para o autor, se no primeiro movimento das luzes a estatística foi vista como um meio capaz de libertar o conhecimento de seu conteúdo mítico a partir de um primado do sujeito, no segundo movimento das luzes, a intenção é “libertar o conhecimento do arbítrio subjetivo” (Han, 2015, p. 67), da intuição, da teoria. Contudo, Essa possibilidade de dispensar a teoria é rechaçada por Han (2015), que ironiza a pretensão de suprimi-la e de lidar com os dados na ausência de pressupostos - ao que ele chama de totalitarismo digital (Han, 2015) - , e por Agostinho (2016), que argumenta que a forma como os dados são vistos e analisados sempre pressupõe uma mediação teórica.
A segunda característica do Big Data, a velocidade, indica não apenas uma propriedade das informações na rede mundial de computadores, de serem acessíveis de forma praticamente imediata, assim como a possibilidade de feedback também imediato a partir de determinados algoritmos, mas principalmente: (1) a aceleração do crescimento da quantidade de informação disponível, que cresce quatro vezes mais rapidamente do que a economia mundial; (2) a capacidade de processamento dessa informação, que cresce nove vezes mais de pressa (Mayer-Schönberger & Cukier, 2013); e (3) a aceleração da extração de valor a partir da atividade dos indivíduos no ambiente digital. Juntas essas características produzem um constante e crescente aumento da velocidade e do volume dos dados circulantes. É relevante notar que a identidade entre informação e valor, e a pressão sistêmica para a reprodução ampliada do capital também nessa esfera, é o motor econômico das pressões pelo uso cada vez mais amplo dos Big Data e, ao mesmo tempo, gera pressões monopolistas e tentativas de centralizar a captação e os usos que se faz deles.
Finalmente a variabilidade indica a capacidade da rede de captar as mais sutis variações nas características dos dados e dos usuários do sistema, levantando questões delicadas sobre a privacidade e a transparência com que tais dados são obtidos e divulgados. Ela produz uma ilusão de liberdade por meio do acesso liberado a informações escolhidas de acordo com as inclinações “íntimas” do usuário e, ao mesmo tempo, potencialmente suprime a necessidade de contato com dados incômodos ao usuário, diferentes de suas inclinações.
Parece-nos evidente que as possibilidades de utilizar esses novos dados para produzir conhecimento significativo e útil, como aponta Marques (2017), depende fundamentalmente da natureza da prospecção que se faça em relação a eles, assim como dos fins a que se destina, enquanto, de outro lado, uma utilização do Big Data para intensificar as vendas e a exploração dos usuários, ou para produzir novas formas de controle social mais sutis e abrangentes, tal como aponta Han (2015), se configura uma realidade difícil de negar. Pesquisas realizadas atualmente por psicólogos utilizando os Big Data oferecem um bom exemplo dos riscos que existem para as humanidades digitais ao se apropriarem das ferramentas típicas da atual cultura digital. Elas nos indicam de modo concreto em que sentido a atual cultura digital se aproxima da indústria cultural.
Rastreando comportamentos e traços pessoais
Em um artigo em que apresenta as possibilidades do uso do Facebook como ferramenta para as ciências sociais, Kosinski, Matz, Gosling, Popov & Stillwell (2015) argumentam que a utilização desse site permite superar as tradicionais limitações das amostras de participantes das pesquisas em psicologia, acessar as pessoas em um “ambiente natural”, fazer cruzamento entre dados pessoais, comportamentais e demográficos com facilidade, uma vez que o site armazena essas informações, entre outras vantagens. Isso porque, como apontam Mayer-Schönberger e Cukier (2013), no Facebook
se sobem mais de dez milhões de fotos novas a cada hora. Seus usuários clicam no botão “curtir” ou inserem um comentário quase três mil milhões de vezes diariamente, deixando um rastro digital que a empresa explora para descobrir suas preferências.9 (p. 19)
As dificuldades apontadas pelos autores dizem respeito à necessidade de conhecer as interfaces do web design. A justificativa para utilizar sites de redes sociais como o Facebook, ao invés de abordar os participantes no mundo físico, é que atualmente: “uma porção crescente das atividades humanas, como as interações sociais e o entretenimento, comprar e compilar informações, se tornaram mediadas por dispositivos e serviços digitais10” (Lambiotte & Kosinski, 2014, p. 1). Isso permite, segundo os autores, observar os comportamentos de milhões de indivíduos no momento em que acontecem; ao invés de buscar regularidades estatísticas e princípios subjacentes, a análise do Big Data busca simplesmente reconhecer padrões.
O objetivo estabelecido pelos pesquisadores liderados por Kosinski et al. (2015) foi desenvolver uma ferramenta que permitisse prever traços de personalidade a partir das “pegadas digitais” (digital footprint) deixadas pelos usuários do Facebook. Essas informações, fornecidas pelos usuários comuns de forma consentida, mas não deliberada, são armazenadas pelo site compondo um conjunto de dados sobre os perfis, preferências, hábitos etc., que ficam disponíveis para prospecção e utilização por pesquisadores ou publicitários. No caso dos pesquisadores da psicologia, eles se utilizaram de um modelo de personalidade amplamente disseminado e comumente aceito pela comunidade científica norte-americana, denominado five-factor model of personality (FFM), para elaborar um algoritmo capaz de traçar o perfil de personalidade dos usuários dessa rede a partir de suas “curtidas” (Lambiotte & Kosinski, 2014; Kosinski et al., 2015).
Em “Private traits and attributes are predictable from digital records of human behavior”, Kosinski, Stillwell e Graeple (2013) apresentam como rastros deixados por usuários de redes sociais, como suas “curtidas” no Facebook, podem ser utilizados para, de modo automático e acurado - por meio de um modelo de redução de dimensionalidade para pré-processamento de dados de curtidas - predizer uma série de atributos pessoais, como orientação sexual, gênero, visão política, religião, etnia, inteligência, grau de felicidade, uso de substâncias psicoativas etc. Os autores, de modo astuto, percebem que grande parte das atividades cotidianas hoje são mediadas digitalmente e que esses comportamentos digitalmente mediados ficam registrados na rede e fomentam a emergência das ciências sociais computacionais, lado a lado com o marketing digital. A análise dos dados das redes, sob a perspectiva dos autores, parece ter, ao menos, duas grandes vantagens: (1) dispensa a participação ativa de pessoas para responder questionários; e (2) é capaz de predizer informações que as pessoas desejariam esconder - como idade, gênero e gravidez, por exemplo. Afora a questão ética e de invasão de privacidade que essas “vantagens” compreendem, há um pressuposto mais fundamental a respeito das características individuais e de personalidade que precisa ser revelado.
Por exemplo, o FFM alega representar, por meio de cinco traços, a estrutura fundamental subjacente às variações de comportamento dos seres humanos, oferecendo uma estrutura conceitual que permite unir sob essas características a diversidade das condutas. Os traços descritos pelo modelo são: a) abertura: relacionada à imaginação, criatividade, tolerância, apreciação da cultura, bom senso estético e vinculação política liberal; b) conscienciosidade: tendência a preferir uma vida regrada e minuciosamente prevista, em contraste com uma abertura ao espontâneo e novo; c) extroversão: tendência a ser estimulado pelo mundo exterior, a ser comunicativo e expressar emoções positivas; d) conveniência: tendência a focar em relações sociais positivas, ser amigável, compassivo e cooperativo; e) estabilidade emocional: tendência a não experimentar grandes e bruscas mudanças em emoções (Kosinski et al. 2015).
Esse tipo de teoria de personalidade a partir de traços apresenta um caráter ideológico tanto por ter sido elaborada a partir de pesquisas com sujeitos cujo perfil é denominado, um tanto ironicamente, WEIRD (brancos, educados, integrados ao mercado de trabalho, ricos e democratas) como por ter como premissa um tipo de razão psicométrica que traduz os sujeitos por traços quantitativamente estabelecidos, o que acaba por privilegiar as características que produzem um melhor ajustamento das pessoas a uma sociedade ocidental, capitalista, desenvolvida e reconhecida como uma democracia. Partindo de um cidadão modelo, ajustado, integrado e saudável, os parâmetros tendem a reproduzir e reforçar esse padrão e, por outro lado, a patologizar condutas e perfis alternativos. Esse tipo de critério generalizado incrementa as forças de integração dos sujeitos, confirma a falência do indivíduo e, de outro lado, de uma psicologia capaz de fazer uma crítica de seu objeto.
A ferramenta mais comumente utilizada pelos pesquisadores é denominada myPersonality, e foi desenvolvida por David Stillwell, professor de análise de Big Data e Ciência Social Quantitativa da Escola de Negócios da Universidade de Cambridge. O aplicativo permite que os usuários do Facebook acessem 25 testes psicológicos e recebam feedback imediato sobre seus resultados, enquanto podem oferecer voluntariamente seus perfis para pesquisa e compartilhar suas informações íntimas com seus amigos virtuais. Mais de dois milhões de usuários, entre os que fizeram os testes, concederam o uso de seus dados (Kosinski et al., 2015). O Facebook tem um número de identificação para cada um dos participantes e, com o acesso concedido ao pesquisador, é possível observar tanto o tipo de percurso (navegação) realizado como obter dados longitudinais, demográficos etc.
O conjunto de dados acessíveis varia conforme a plataforma amplia ou altera seus parâmetros e políticas. No artigo em que discutem o uso desses dados para pesquisa (Kosinski et al., 2015) os autores informam que estão disponíveis: a) perfis demográficos; b) conteúdos produzidos pelos usuários; c) estrutura das redes sociais dos usuários; d) preferências e atividades mais comuns; e) informações sobre os amigos; f) mensagens privadas. Esse conjunto de informações permite traçar, a partir das pegadas digitais, um perfil do usuário em relação a vários parâmetros comportamentais e demográficos. O uso desses dados é explicado pelos próprios pesquisadores nos seguintes termos:
Um artigo recente baseado na base de dados do myPersonality, e utilizando métodos relativamente diretos (regressão linear e decomposição de valores singulares) mostrou que os likes do Facebook são altamente capazes de predizer a personalidade e um sem número de outros traços psicológicos e demográficos, como idade, gênero, inteligência, visão religiosa e política e orientação sexual.11 (Lambiotte & Kosinski, 2014, p. 1936).
Resultados similares são possíveis a partir da análise de fragmentos de textos ou postagens feitas pelos usuários, observando variações no uso da linguagem que indicam perfis de idade, gênero e personalidade. Além disso, é crescente a geração de dados digitais a partir das atividades realizadas no mundo físico, pela captação de informações a partir de smartphones, eventualmente utilizando softwares de reconhecimento de voz, ainda que com o desconhecimento do usuário, que tem suas conversas gravadas em momentos aleatórios no decorrer do dia12. Em suma, essa ferramenta permite, nas palavras dos autores, melhorar numerosos produtos e serviços, que seriam oferecidos aos usuários de acordo com seus perfis demográficos, suas preferências sendo continuamente deduzidas a partir dos traços de sua personalidade. A ideia dos autores é que essa ferramenta possibilita um atendimento mais individualizado ao consumidor, capaz de oferecer a ele exatamente e somente aquilo que seria do seu interesse. Um benefício tanto ao comércio de bens e serviços, que não perde tempo e recursos oferecendo produtos a pessoas não interessadas, quanto ao consumidor, que teria ao seu alcance tudo o que é de seu desejo a partir de suas características únicas e individuais. Mais do que isso,
Ao fim e ao cabo, a Amazon pode recomendar o livro ideal, Google pode indicar a página da web mais relevante, Facebook conhece nossos gostos, e LinkedIn advinha quem conhecemos. As mesmas tecnologias se aplicarão ao diagnóstico de enfermidades, a recomendação de tratamentos, talvez inclusive à identificação de “delinquentes” antes que cometam de fato um delito.13 (Mayer-Schönberger & Cukier, 2013, p. 24)
Os cuidados éticos imaginados pelos pesquisadores dizem respeito à obtenção de consentimento esclarecido e à informação sobre os usos e finalidades dos dados. Evidentemente, esse tipo de cuidado é inócuo em relação ao sentido que adquire essa prática em relação ao todo, isto é, às pressões sistêmicas que levam usuários a abrirem mão, de um modo ou de outro, de sua privacidade e a serem bombardeados ubiquamente com propaganda, dessa vez dirigida minuciosa e precisamente, a partir de seus perfis de personalidade. Na verdade, esse cuidado parece se relacionar muito mais com a garantia de acesso aos dados sem futuros problemas judiciais, do que com a proteção/preservação de algum direito daqueles que os fornecem - novamente cabe lembrar do já assinalado por Adorno (1994): “o consumidor não é rei, como a indústria cultural gostaria de nos fazer crer” (p. 288). Não parece ser mero acaso o fato de uma ferramenta como o myPersonality ter sido desenvolvida por um professor de uma escola de negócios; a chamada cultura digital se orienta pelo mesmo critério que enfeitiçava a cultura quando Horkheimer e Adorno a denominaram indústria cultural: em tudo o que aparece nas telas da rede de dados digital cintila a forma da mercadoria.
Entretanto, os pesquisadores admitem que o grau de confiabilidade dos resultados, embora atinjam os mesmos níveis de testes aplicados no mundo físico, ainda precisa ser aperfeiçoado para produzir exatamente o efeito de previsibilidade esperado. Na verdade, espera-se um nível de controle sobre os comportamentos sem precedentes na história humana. Sempre que houve algum poder, houve também formas mais ou menos explícitas e eficazes de resistência. Mas, talvez a característica mais marcante dessa nova ferramenta seja seu funcionamento sutil e encoberto, especialmente em sua dimensão política.
Big Data como instrumento político
A pretensão dos defensores da cultura digital de que suas características intrínsecas promoveriam um ambiente de ilimitada liberdade e acesso total ao conjunto das produções culturais humanas se revela, observando os usos que dela fazem aqueles que de fato operam o sistema, um engodo. Muito além do panóptico, desenvolvem-se por meio da rede mundial de computadores e das novas mediações dirigidas por algoritmos e programas novos regimes de vigilância que tornam a privacidade impossível, erodindo as práticas sociais que sustentavam a formação cultural, o que de fato é o principal elemento que permite algum tipo de controle ampliado sobre os comportamentos. Bruno (2013) apresentou a noção de vigilância distribuída na tentativa de responder o que considerou a reinscrição da vigilância no presente, que ainda conta com seus jogos de poder e produção de saberes específicos. Para a autora,
uma complexa rede de saberes sobre o cotidiano dos indivíduos, seus hábitos, comportamentos, preferências, relações sociais, vem se constituindo a partir do monitoramento de dados pessoais, especialmente no ciberespaço. Os conhecimentos que derivam daí têm efeitos de poder que intervêm de forma significativa nas escolhas e ações de indivíduos e populações. (Bruno, 2013, p. 22)
O Big Data, assim como as nuvens onde os grandes dados ficam armazenados, “são motores que impulsionam o capitalismo da informação uma vez que permitem uma forma de saber cada vez mais dominante”14 (Mosco, 2014, p. 12). Em suma, o Big Data produz um controle cada vez mais preciso e ubíquo que tem a tendência a se expandir aceleradamente, uma vez que o crescimento do capital circulante, no plano da economia capitalista global, se organiza a partir desse imperativo, apesar das constantes e inevitáveis crises.
O controle que se desenvolve a partir dessa forma de saber baseada nos dados massivos, além disso, se configura de forma diferente dos regimes disciplinares que impõe restrições e coerções; agora são os próprios usuários que fornecem as informações, enquanto imaginam obter gratuitamente informações, diversão e lazer, mas trata-se de um jogo assimétrico no qual os usuários não sabem que estão sendo monitorados, não podem escolher quais dados fornecer, e menos ainda o que será feito com suas informações (Cianconi & Lott, 2016). Segundo Han (2015), a transparência, que se exige de forma sutil e imperativa dos usuários, se converte em um dispositivo neoliberal de controle e vigilância totais. Mais informação circulando significa mais capital circulando, uma vez que o sistema opera em função da propaganda. Em suma: ao navegar os usuários produzem informações que têm valor monetário, na medida em que essa informação é capturada pelos operadores do sistema. Estes, por sua vez, organizam tais dados por meio de algoritmos e lucram, mobilizando os usuários a acelerarem seus comportamentos de consumo, seja de bens físicos ou de dados, e a produzirem cada vez mais informações sobre si mesmos, o que permite, em tese, que a propaganda dirigida exerça maior controle.
Nesse sentido, não há novidade em relação à Indústria Cultural descrita por Horkheimer e Adorno. Já a televisão aberta, desde os anos 50 do século passado, produzia programas que tinham a função precípua de manter o olhar da audiência colado à tela, de modo a vender o olhar dos espectadores aos anunciantes. A nova rede global digital tem a mesma intenção, e opera com os mesmos fins, mas a novidade é que agora ela tem conhecimento, a partir dos Big Data fornecidos pelos próprios usuários, dos seus perfis, preferências, gostos e desejos. Assim, desenvolve-se o chamado microtargeting, uma propaganda dirigida a um alvo específico, uma visada precisa do anúncio publicitário em relação às características dos usuários.
Evidentemente, padrões de comportamento e ideias políticas são tanto monitoradas como disseminadas pela mesma estratégia. O’Neil (2017), em Weapons of math destruction: how Big Data increases inequality and threatens democracy, analisa como a criação de programas e algoritmos baseados em modelos subjetivos de resolução de problemas carrega em si os chamados “pontos cegos”, que revelam toda uma carga de preconceitos, julgamentos e prioridades de seus próprios criadores, relacionados às suas próprias experiências da vida em sua cultura, seus objetivos e ideologias. Valores e desejos influenciam as escolhas de quais dados coletar e quais perguntas realizar. Os modelos matemáticos que dão base para a coleta dos Big Data são opiniões transformadas em matemática. A grande questão que levantamos aqui é que, na medida em que opiniões, ideologias e preconceitos são transformados em matemática, ganham um grau de confiabilidade e naturalização capaz de suprimir o questionamento sobre o que fornecem, sobre como operam e sobre os efeitos que produzem. Com isso, as próprias opiniões e formas de pensamento são matematizados, incapazes de ir além do modelo que não apenas coleta informações, mas molda percepções e ideologias.
Nesse sentido, a possibilidade do mercado e do Estado confluírem para uma vigilância ubíqua dos consumidores e cidadãos se torna não apenas plausível, mas indicadora do grau de refinamento na administração da sociedade. Além disso, a tendência a uma radicalização da exploração de valor por meio da obtenção e uso dirigido dos dados apaga a diferença entre consumidor e cidadão, reforçando a tendência já existente na época da indústria cultural criticada por Adorno de lidar com questões políticas como escolhas de produtos. Se, como indicaram Cianconi e Lott (2016), caminhamos do panóptico para o panspectro, ou seja, para a possibilidade de localização e identificação de todos a qualquer momento, isso se dá com vistas à reprodução do sempre igual. O poder de capilaridade, seja do Estado ou do mercado, que por meio da grande rede e seus serviços on-line e interfaces digitais coletam informações abrangentes, de modo indireto e constante revela uma assimetria da transparência digital correlata à assimetria encontrada por Chamayou (2015) no princípio de uma guerra que substitui a batalha pela caça com drones. No momento em que drones têm o poder de operar em qualquer lugar do mundo a partir de um monitoramento remoto, utilizando justamente algoritmos e vigilância ubíqua para escolher os alvos (Chamayou, 2015), a teoria crítica que quer estar à altura dos desafios da cultura digital precisa considerar radicalmente o significado da abolição da privacidade e, no limite, do sujeito capaz de compreender criticamente a realidade.
É importante levar em conta que a tendência, considerado o motor econômico dos Big Data, é radicalizar a exploração dos usuários, pois já não há aspectos da vida que não possam ser utilizados para gerar valor se ela se conecta todo o tempo a uma rede digital global. Todo o tempo que determinado sujeito passa conectado no mundo digital o expõe à possibilidade de uma exploração ubíqua, na medida em que inevitavelmente ele fornece, produz e faz circular dados e estes são valorizáveis. Assim, se as atividades dos sujeitos se tornam mediadas pela presença de aparatos digitais durante todo o tempo, isso resulta em uma exploração ubíqua, pois de sua atividade se extrai valor ininterruptamente, e isso acelera a exploração e intensifica o controle. A Indústria Cultural da era digital cria condições de exploração ubíqua, radicalizando o aspecto sistêmico da indústria cultural, tal como o vínculo de todo objeto de cultura com a esfera da troca capitalista. Se, à época da escrita da Dialética do esclarecimento, Horkheimer e Adorno (1985) indicavam as tendências na administração da sociedade daquilo que denominaram indústria cultural, hoje, com o desenvolvimento tecnológico digital, assistimos à materialização de uma sociedade plenamente administrada.
Falsas esperanças e perigos reais
O sonho dos homens de negócios que operam os Big Data é desenvolver algoritmos capazes não somente de prospectar dados significativos sobre os usuários da rede mundial de computadores, mas principalmente prever e controlar o comportamento dessas pessoas e assim produzir o futuro no sentido em que se deseje. Para isso, entretanto, é necessário nada menos do que um esforço contínuo de todas as pessoas envolvidas para agirem como se fossem coisas, anulando as possibilidades de pensar de forma negativa. Isso não é exatamente uma tarefa fácil.
A adesão a modelos comportamentais e a anulação de si mesmo não são conseguidas de uma só vez, e o comportamento fanático dos jitterbugs descrito por Adorno e Simpson (1986) em suas análises da música popular denunciam que sempre há perturbações e dissonâncias que trazem à tona o engodo envolvido no consumo de bens culturais e o esforço necessário ao indivíduo para se sujeitar. A pretensão das grandes corporações no contexto neoliberal é monitorar os comportamentos e continuamente acelerar o consumo, mas isso também esbarra em limites naturais e nas contradições do próprio capitalismo que, em sua crise recente, demonstrou novamente o quão radical é a irracionalidade do todo.
Não obstante, as novas formas de controle são insidiosas justamente porque tendem a atuar silenciosamente, de forma permissiva, oferecendo prazeres e seduzindo os sentidos. O sujeito se sente livre enquanto cede ao canto de sereia da cultura digital. A resistência implica um tipo de ascetismo em relação à sedução da própria imagem coisificada refletida nas propagandas dirigidas, mas também inserção nos meios digitais de modo a quebrar suas pretensões monolíticas. Implica, portanto, ser capaz de significar o mundo a partir de referenciais externos ao ambiente digital e, ao mesmo tempo, tornar-se íntimo de sua linguagem, seus usos e riscos. Tal como na época da Indústria Cultural do século XX, um certo cuidado no uso do ambiente digital é desejável na medida em que preserva o sujeito de ser lançado no turbilhão da aceleração da circulação de dados, mas não há um lugar completamente protegido do alcance dessa nova ordem cultural.
Discussões sobre dinâmicas menos centralizadoras dos fluxos de informação na internet (Parra & Abdo, 2016) demonstram que é possível pensar não apenas usos alternativos aos que hoje predominam, mas formas de organização diversas desde a estrutura da própria rede, abrindo espaços para a heterogeneidade cultural, para a ressignificação dos próprios Big Data e para o questionamento da vigilância ubíqua. Conhecimento crítico das ferramentas, dos algoritmos e softwares que gerenciam dados também é desejável para compreender e em alguma medida promover alternativas - essa é aposta de Andrew Feenberg e sua Teoria Crítica da Tecnologia.
Para Feenberg (2010), a democratização da sociedade depende de mudanças técnicas radicais apenas alcançáveis na medida em que tivermos voz ativa no processo das decisões técnicas e industriais. Para isso, é imprescindível o conhecimento sobre as escolhas e dos determinantes dos atuais desenhos tecnológicos - a chave para compreender tanto sua efetividade, hoje, quanto a base das hegemonias atuais. Na medida em que o desenvolvimento tecnológico é moldado por normas culturais que se originam na multiplicidade da economia, da ideologia, da política, da ciência etc., o desenho e a forma de operar das máquinas refletem os fatores sociais em voga na racionalidade predominante ou, como ele diz, inspirado em Herbert Marcuse, “a política da tecnologia depende de aspectos contingentes do design técnico determinado por um projeto de civilização” (Feenberg, 2004, p. 2).
É nesse sentido que Feenberg (2010) defende que os aparatos técnicos, seus desenhos e formas são selecionados a partir de interesses entre muitas configurações possíveis - e por isso passíveis de serem redesenhados, modificados, transformados. O processo de criação e seleção desses desenhos e formas são orientados por códigos sociais advindos das lutas políticas e culturais definidoras de seu horizonte de atuação. Por outro lado, a efetividade e a legitimação da tecnologia são dependentes do estado de consciência/falsa consciência do horizonte político-cultural dentro do qual ela é concebida.
As pretensões de domínio total sobre os homens a partir de um conhecimento sobre seus anseios, desejos, hábitos etc. não é uma pretensão nova. Ela está no âmago do projeto do esclarecimento, tal como denunciaram Horkheimer e Adorno. Essa pretensão nos parece por demais conveniente para os operadores do sistema, que dependem dela para vender seus produtos. Embora seja plausível uma maior eficiência da manipulação por meio do microtargeting, é difícil para os sujeitos afastar completamente da consciência o engodo. O maior problema talvez seja o fechamento cada vez maior da esfera cultural dentro de uma lógica identitária, que tende a se tornar ubíqua e intensificar a exploração. A tendência à aceleração em direção a uma superexploração de todas as esferas da vida, sujeitadas ao imperativo capitalista de produzir mais valor, radicaliza a sensação de fechamento do mundo alienado sobre si mesmo, e pode resultar em ódio e ressentimento cegos, com resultados sociais em alguma medida previsíveis: intensificação da barbárie.
A imersão dos sujeitos no ambiente de uma cultura digital manipulatória, além disso, destitui as subjetividades das mediações que constituem a autorreflexão e a crítica, tornando imprescindível considerar o que decorre da fragilização da subjetividade pelo declínio do pensamento “histórico” (Flusser, 2017) e sua substituição pela lógica da “superfície”. O esquematismo sempre foi um serviço prestado aos seus clientes pela indústria cultural: “Para o consumidor, não há nada mais a classificar que não tenha sido antecipado no esquematismo da produção” (Adorno & Horkheimer, 1985, p. 117), e a utilização de clichês aparece como a saída para uma orientação num mundo caótico por aqueles que, inseridos no processo contínuo de semiformação (Adorno, 1992), são incapazes de reconhecer os processos sociais em voga, mas parecem saber muito bem como agir diante deles. Nesse sentido, ainda são atuais as reflexões de Adorno, Frenkel-Brunswik, Levinson e Sandford (1969) em The authoritarian personality, pois, sem condições de compreender o mundo em um sentido histórico, resta aos sujeitos o ressentimento e o ódio cego a uma sociedade que não se deixa ver, apesar de se mostrar por meio de uma avalanche de imagens. A persistência e o ressurgimento, à luz do dia e sem meias palavras, de discursos xenófobos, machistas, racistas, etc., talvez seja um sintoma significativo da nova configuração da indústria cultural.15
Assim, embora seja preocupante a mobilização dos algoritmos para controlar os comportamentos, o mais crítico é a possibilidade sempre recorrente de explosão do ódio cego, da irracionalidade mediada por constelações de afetos destrutivos, culminando na barbárie crua e direta. Para uma teoria crítica da sociedade, a falsa esperança dos novos arautos da razão instrumental e seus novos procedimentos demandam um novo esforço, para novamente desvelar como na dialética do esclarecimento, nesse momento travestido de cultura digital, se manifesta a barbárie hodierna, enquanto ainda sobrevive a esperança de sua superação. Em suma, a sempre recorrente necessidade do progresso técnico em produzir novas formas de manipulação está mais relacionada com sua possibilidade de ruína do que com sua força; fosse a dominação total e garantida, não seria necessário o esforço por parte do sistema, sempre mais qualificado, para manter a todos cada vez mais tecnologicamente integrados. O mito da invencibilidade da tecnologia gera passividade, e o intuito da crítica é justamente o oposto, na medida em que aponta o ainda possível uso da razão para o conhecimento do existente e suas contradições e, a partir daí, para uma reorientação da história - fruto da ação humana - na direção da liberdade.
ReferênciasAdorno, T. W. (1992). Teoria da semicultura. In Ramos-de-Oliveira, N. (Org), Quatro textos seletos. Araraquara, SP: Unimep, São Carlos, SP: UFSCar.AdornoT. W.1992Teoria da semiculturaRamos-de-OliveiraN.Araraquara, SPUnimepSão Carlos, SP: UFSCarAdorno, T. W. (1994). A indústria cultural. In G. Cohn (Org.), Theodor W. Adorno. São Paulo, SP: Ática. (Trabalho original publicado em 1967)AdornoT. W.1994CohnG.AdornoTheodor W.São Paulo, SPÁtica(Trabalho original publicado em 1967)Adorno, T. W., Frenkel-Brunswik, E., Levinson, D. J., & Sandford, R. N. (1969). The authoritarian personality. New York, NY: WW Norton. (Trabalho original publicado em 1950)AdornoT. W.Frenkel-BrunswikE.LevinsonD. J.SandfordR. N.1969New York, NYWW Norton(Trabalho original publicado em 1950)Adorno, T. W., & Horkheimer, M. (1985). Dialética do esclarecimento: fragmentos filosóficos. Rio de Janeiro, RJ: Zahar. (Trabalho original publicado em 1947)AdornoT. W.HorkheimerM.1985Rio de Janeiro, RJZahar(Trabalho original publicado em 1947)Adorno, T. W., & Simpson, G. (1986). Sobre música popular. In G. Cohn (Org.), Theodor Adorno (Coleção Grandes Cientistas Sociais). São Paulo: Ática. (Trabalho original publicado em 1941)AdornoT. W.SimpsonG.1986Sobre música popularCohnG.São PauloÁtica(Trabalho original publicado em 1941)Bruno, F. (2013). Máquinas de ver, modos de ser: vigilância, tecnologia e subjetividade. Porto Alegre, RS: Sulina.BrunoF.2013Porto Alegre, RSSulinaChamayou, G. (2015). Teoria do drone (C. Euvaldo, trad.). São Paulo, SP: Cosac Naify.ChamayouG.2015EuvaldoC.São Paulo, SPCosac NaifyCianconi, R. B., & Lott, Y. M. (2016). Do panopticon ao panspectron: uma reflexão sobre as mediações de poder e a materialidade da informação. Liinc em Revista, 12(2), 243-257. doi: 10.18617/liinc.v12i2.903CianconiR. B.LottY. M.2016Do panopticon ao panspectron: uma reflexão sobre as mediações de poder e a materialidade da informação12224325710.18617/liinc.v12i2.903Costa, R. (2003). A cultura digital. São Paulo, SP: PubliFolha.CostaR.2003São Paulo, SPPubliFolhaFeenberg, A. (2004). Teoria crítica da tecnologia. In Colóquio Internacional Teoria Crítica e Educação. Piracicaba, SP: Universidade Metodista de Piracicaba. Recuperado de https://bit.ly/2lkDm6oFeenbergA.2004Colóquio Internacional Teoria Crítica e EducaçãoPiracicaba, SPUniversidade Metodista de Piracicabahttps://bit.ly/2lkDm6oFeenberg, A. (2010). Racionalização subversiva: tecnologia, poder e democracia. In R. T. Neder (Org.), A teoria crítica de Andrew Feenberg: racionalização democrática, poder e tecnologia. Brasília, DF: Observatório do Movimento pela Tecnologia Social na América Latina.FeenbergA.2010Racionalização subversiva: tecnologia, poder e democraciaNederR. T.Brasília, DFObservatório do Movimento pela Tecnologia Social na América LatinaFlusser, V. (2017). O mundo codificado: por uma filosofia do design e da comunicação. São Paulo, SP: Ubu.FlusserV.2017São Paulo, SPUbuHan, B. C. (2015). Psicopolítica: neoliberalismo e novas técnicas de poder. Lisboa, Portugal: Relógio D’Água.HanB. C.2015Lisboa, PortugalRelógio D’ÁguaHan, B. C. (2016). No enxame: reflexões sobre o digital. Lisboa, Portugal: Relógio D’Água .HanB. C.2016Lisboa, PortugalRelógio D’ÁguaHorkheimer, M. (1941). Art and mass culture. Zeitschrift für Sozialforschung: Studies in Philosophy and Social Sciences, 9, 290-304.HorkheimerM.1941Art and mass culture9290304Hullot-Kentor, R. (2008). Em que sentido exatamente a indústria cultural não mais existe. In F. A. Durão, A. S. Zuin, & A. F. Vaz (Orgs.), A indústria cultural hoje (pp. 17-28). São Paulo, SP: Boitempo.Hullot-KentorR.2008Em que sentido exatamente a indústria cultural não mais existeDurãoF. A.ZuinA. S.VazA. F.1728São Paulo, SPBoitempoKosinski, M., Stillwell, D., & Graepel, T. (2013). Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences of United States of America, 110(15), 5802-5805. doi: 10.1073/pnas.1218772110. Epub 2013 Mar 11KosinskiM.StillwellD.GraepelT.2013Private traits and attributes are predictable from digital records of human behavior110155802580510.1073/pnas.1218772110Epub 2013 Mar 11Kosinski, M., Matz, S. C., Gosling, S. D., Popov, V., & Stillwell D. (2015). Facebook as a research tool for the social sciences: opportunities, challenges, ethical considerations, and practical guidelines. American Psychologist, 70(6), 543-56. doi: 10.1037/a0039210KosinskiM.MatzS. C.GoslingS. D.PopovV.StillwellD.2015Facebook as a research tool for the social sciences: opportunities, challenges, ethical considerations, and practical guidelines70654355610.1037/a0039210Lambiotte, R., & Kosinski, M. (2014). Tracking the digital footprints of personality. Proceendings of the IEEE, 102(12), 1934 -1939. doi: 10.1109/JPROC.2014.2359054LambiotteR.KosinskiM.2014Tracking the digital footprints of personality102121934 1193910.1109/JPROC.2014.2359054Maar, W. L. (2000). A produção da sociedade pela indústria cultural. Olhar, 2(3), 84-107.MaarW. L.2000A produção da sociedade pela indústria cultural2384107Maar, W. L. (2006). O que é política? São Paulo, SP: Brasiliense.MaarW. L.2006São Paulo, SPBrasilienseMarques, F. (2017). A realidade que emerge da avalanche de dados. Revista Pesquisa Fapesp, (255), 19-25.MarquesF.2017A realidade que emerge da avalanche de dados2551925Mayer-Schönberger, V., & Cukier, K. (2013). Big data: la revolución de los datos masivos. Madrid, España: Turner.Mayer-SchönbergerV.CukierK.2013Madrid, EspañaTurnerMosco, V. (2014). La nube: big data em um mundo turbulento. Barcelona, España: Biblioteca Buridán.MoscoV.2014Barcelona, EspañaBiblioteca BuridánMostafa, S. P., Cruz, D. V. N., & Amorim, I. S. (2015). Primavera nos dentes: fuga e resistência na era digital. Liinc em Revista, 11(2), 360-374. doi: 10.18617/liinc.v11i2.831MostafaS. P.CruzD. V. N.AmorimI. S.2015Primavera nos dentes: fuga e resistência na era digital11236037410.18617/liinc.v11i2.831O’Neil, C. (2017). Weapons of math destruction: how Big Data increases inequality and threatens democracy. New York, NY: Broadway Books.O’NeilC.2017New York, NYBroadway BooksParra, H. Z. M., & Abdo, A. H. (2016). Tendências democráticas e autoritárias, arquiteturas distribuídas e centralizadas. Liinc em Revista, 12(2), 334-349. doi: 10.18617/liinc.v12i2.918ParraH. Z. M.AbdoA. H.2016Tendências democráticas e autoritárias, arquiteturas distribuídas e centralizadas12233434910.18617/liinc.v12i2.918Sodré, M. (2010). Antropológica do espelho: uma teoria da comunicação linear e em rede (5a ed.). Petrópolis, RJ: Vozes.SodréM.20105aPetrópolis, RJVozes
Ao longo deste artigo a expressão Big Data será utilizada tanto no singular como no plural. Entendemos que esse uso ambíguo reflete uma característica do próprio objeto em tela; pode-se compreender e lidar com dados massivos garimpados por meio de algoritmos de modo a produzir conhecimento socialmente relevante, e nesse sentido os dados preservam seu caráter múltiplo e aberto, merecendo o tratamento plural. Por outro lado, o uso dos dados massivos por corporações globais tende a se configurar num sistema integrado, tal como já ocorria em alguma medida com a Indústria Cultural, e o artigo no singular particulariza essa tendência a uma ordem totalitária. Eventualmente, em algumas passagens do texto, pode-se questionar se o uso no singular ou no plural está adequado ao momento da discussão, mas a polêmica é bem-vinda e pode ser, entrementes, esclarecedora dos problemas relacionados às tentativas atuais de conceituar o(s) Big Data.
Indicamos, para termos específicos em tecnologia que possam oferecer dificuldades ao leitor, a utilização de glossários ou dicionários específicos da área, como o “Dicionário prático de informática” (https://goo.gl/WZQuaX).
No Brasil, um dos primeiros veículos a noticiar tal façanha foi o website especializado em tecnologia da informação Showmetech (https://goo.gl/voHaBX). No início de 2018, um escândalo envolveu a rede social virtual Facebook e a agência Cambridge Analytica por uma “falha” na segurança dos dados dos usuários da rede e sua venda para a agência britânica de consultoria política que trabalhou tanto nas eleições de Trump, em 2016, quanto durante o plebiscito Brexit, que decidiu sobre a saída do Reino Unido da União Europeia. Sobre o escândalo de 2018, ver: <https://goo.gl/2uV9Vh>; <https://goo.gl/fEkZoD>; e <https://goo.gl/ixEwWX>.
Palestra proferida na Universidade do Estado de Santa Catarina (Udesc), em 5 de julho de 2017.
Aqui, a ideia de passividade diz respeito apenas ao fato de que a interação possível dos consumidores com os produtos da indústria cultural na década de 1940 se restringia a aceitar ou não aquilo que era produzido e apresentado através dos meios de comunicação de massa, como as músicas, filmes, notícias etc. Hoje o consumidor é também um produtor de conteúdos, um trabalhador – ainda que não consciente – dessa indústria, na medida em que os meios de comunicação digitais sobrevivem a partir de sua ação e interação na rede. É importante, contudo, não esquecer que em qualquer época, mesmo a aceitação de uma mercadoria depende não de uma passividade completa do sujeito, mas de um esforço na adaptação que não ocorre sem contradições em relação àquilo que seria, de fato, seu interesse no que concerne às possibilidades de liberdade.
No original: “la capacidad de la sociedad de aprovechar la información de formas novedosas, para obtener percepciones útiles o bienes y servicios de valor significativo”.
No original: “cosas que se pudem hacer a gran escala, pero no a una escala inferior, de tal forma extraer nuevas percepciones o crear nueva formas de valor, de tal forma que transforman los mercados, las organizaciones la relaciones entre los ciudadanos y los gobiernos, etc.”.
No original: “parte de su obsesión por la causalidad a cambio de meras correlaciones”.
No original: “se suben más de diez millones de fotos nuevas cada hora. Sus usuarios hacen clic en el botón de ‘me gusta’ o insertan un comentario casi tres mil millones de veces diarias, dejando un rastro digital que la compañía explota para descubrir sus preferencias”.
No original: “A growing proportion of human activities, such as social interactions, entertainment, shopping, and gathering information, are now mediated by digital services and devices”.
No original: “A recent paper based on the myPersonality database and using relatively straightforward methods (singular value decomposition and linear regression) showed that Facebook likes are highly predictive of personality and number of other psychodemographic traits, such as age, gender, intelligence, political and religious views, and sexual orientation”.
Ver: <https://goo.gl/fRbHRF>.
No original: “Al fin y al cabo, Amazon puede recomendar el libro ideal, Google puede indicar la página web más relevante, Facebook conoce nuestros gustos, y LinkedIn adivina a quién conocemos. Las mismas tecnologías se aplicarán al diagnóstico de enfermedades, la recomendación de tratamientos, tal vez incluso a la identificación de “delincuentes” antes de que cometan de hecho un delito”.
No original: “son motores que impulsan el capitalismo de la información a la vez que permiten una forma de saber cada vez más dominante”.
Han (2016) aponta que é expressiva a diferença entre o homem integrado às tradicionais massas descritas desde Le Bon, e o que ele caracterizou como “enxames digitais” – se nas primeiras deixava-se de ter perfil próprio/individualidade ao participar das multidões, nos enxames há a persistência de “alguém anônimo” pronto a participar de “ondas de indignação” voláteis contra alvos que não ensejam qualquer mudança social, senão a persistência do ódio pelo ódio. A configuração própria às redes sociais digitais instaura uma época de isolamento na qual a sensação de que se pode atacar qualquer alvo estando a salvo sustenta a propagação desenfreada e veloz do pensamento fascista
ArticlesBig Data, ubiquitous exploitation, and targeted advertising: new facets of the cultural industryAntunesDeborah Christinaa***MaiaAri FernandobFederal University of Ceará, Department of Psychology. Sobral, CE, BrazilUniversidade Estadual Paulista Júlio de Mesquita Filho, Psychology Department. Bauru, SP, Brazil
Corresponding address: deborahantunes@ufc.brAbstract
The emergence of the so-called digital culture from the development of new information and communication technologies led to criticisms of the concept of cultural industry, elaborated by Horkheimer and Adorno in the 1940s, defining the new configuration based on interactivity, open communication and greater freedom among users. However, to a critical view, the new configuration is even more totalitarian than the previous one. All the actions of users in the digital environment generate information that can be compiled and organized according to mathematical algorithms, configuring the so-called Big Data; such information includes personal preferences, political trends, gender, and even personality profiles, and leads to ubiquitous surveillance and manipulation through targeted advertising, being politically and economically far more effective than in the age of the cultural industry described by Adorno. The update of the critical theory of society implies understanding this new configuration, its pretensions and its contradictions. Therefore, the present article aims both to update the concept of cultural industry denouncing, thus, the new forms of manipulation, and to criticize the idea that freedom is immanent to the Digital Culture, present in its defenders.
Keywords:cultural industrycritical theory of societyBig Datadigital cultureIntroduction
Scene 1: March 2017. A researcher uses his computer to search for a book, The Society of the Spectacle by Guy Debord, in the catalog of a major physical and online bookstore. Coffee break. Minutes later, he returns and accesses a news site, in the menu on the right he sees an ad: the book he was looking for, with 30% discount. Scene 2: November 2016. Contrary to electoral predictions, a journalist on TV announces, on a global network, that Donald Trump is the new President of the United States of America. Scene 3: June 2016, British voters vote in favor of the United Kingdom’s exit from the European Union. Scene 4: September 2017, João Dória employs five different programs to increase his reach in social networks.
In a quick look, these four scenes may seem to have nothing in common between them. Occurring in distant parts of the globe, they also seem to refer to different spheres of life. What would there be in common between the individual act of purchase and the collective act of vote? What would be the relation among the election of an undemocratic, sexist and xenophobic president, the exit of a country from an economic and political Union of European States, the use of Big Data1,2 by a Brazilian politician and businessman, and the purchase of a book on social criticism in an online store? Maybe nothing, if we assumed that these different actions were carried out by independent and autonomous subjects, guided only by their understanding despite the determinations of the sensible world. This is the current world, connected and founded on a new “social cement,” to remember a term used by Adorno and Simpson (1986, p. 138), which connects a the scenes: the digital world is featured in the scenario of these four moments, with specifics that show us that the radicalization of a new model of ideology is in progress.
In the 1940s, Adorno wrote that there was no difference between the choice of a soap bar in a supermarket and the choice of a candidate for the presidency in the United States. He referred to how advertising in the sectors of trade and politics influenced citizens so as to leave no space for critical reflection about their own choices, whether in private or public spheres. The cultural industry, by offering a standardized world and an array of stereotypical thoughts in block to its consumers, had deprived them of the possibility of exercising a choice beyond the imitation of patterns within a mass behavior; although - we must recognize - domination was not exercised without gaps. Seven decades have passed, and it seems that things are not much different, except for the level of technical refinement achieved by a new branch of cultural industry that is sold as “digital culture”, which claims to be open and democratic, radicalizing the belief in full individuality. Thus, this article seeks to both update the concept of cultural industry, denouncing the new forms of manipulation, and criticize the claims of freedom of the advocates of Digital Culture.
Individualism, consumerism, difficulty of acceptance of differences are some of the characteristics of Technoculture - term used by Sodré (2010) to characterize the new facet of a technologically mediated culture. In it, the author understands there is
a transformation of the traditional forms of socialization, as well as a new perceptual and mental technology. Therefore, it implies a new kind of relationship of the individual with concrete references or with what is conventionally designated as truth, that is, another anthropological condition. (Sodré, 2010, p. 27)
Initially, the interest of the market and politics in Big Data is curious. However, it is always important to remember the association between these two spheres, association which is irremediable in bourgeois society. If the universe of institutional politics is the place par excellence of meeting the conditions for maintaining the mode of production of the society currently of interest (Maar, 2006), such common interest does not seem that strange. On the contrary, for the maintenance of a given model of society, technoscientific development has led to the most extreme the possibilities and strategies for manipulation of the masses. If we can speak of a new anthropological condition, it is due to the refinement of the control over human behaviors recorded digitally by means of algorithms created specifically for this purpose. Through a formally defined scheme, online programs and applications register and intelligently provide users with the repetition of themselves; with that they strengthen a series of stereotypes and standardized thoughts about themselves and about the other, by preventing contact with that which does not appear in the dark mirror of our screens. That is how Trump won the elections in the United States:3 using data from social network users to target them with advertisements more related to their desires, prejudices and worldviews, and at the same time strengthen them and keep them fostering the bubble of intolerance and fear.
There is urgent need, therefore, for criticism of the new digital communication media in the context of a critical theory of society that unveils the reproduction and the radicalization of barbarism in the present, disguised as individuality and freedom in technological society. This becomes even more urgent when we realize that the transformation of the objective conditions that make barbarism and civilization the two faces of the same historical moment can only be carried out as their contradictions, modes of operation, and deleterious effects are revealed. The criticism of the new digital media arises, therefore, as a political criticism, whose objective is - beyond the neutrality of the technique (as it denounces it as ideology) - to enable understanding the present for the suppression of barbarism.
Cultural industry x digital culture
In a text that discusses in what sense it is still possible to speak of cultural industry, Hullot-Kentor (2008) argues that the concept has a paradoxical existence, since: “if the concept does not escape the apparent exhaustion of the words of Adorno and if there is no doubt that its ghost is gone, still it has a vigorous survival” (p. 18). Its survival and obsolescence are connected to the same phenomenon: to the radicalization of the subjection of the cultural sphere and to the industry logic is added a banal and general use of the expression “cultural industry” to designate precisely the commercial possibilities still open, that is, the mention of the concept no longer moves the thought through the shocking mention of the paradox of industrial production of culture, but has become, itself, a slogan that paralyzes the criticism.
In addition, according to Antunes in the lecture Notas para pensar a Indústria Cultural na era digital4, Marxist researchers point to the inappropriateness of the term due to its supposedly European origin, justifying, with that, their argument that it would have nothing to say about the Brazilian or Latin American reality. In the first case presented in the previous paragraph, as slogan that paralyzes the criticism, the term seems accepted and fixed. Here there is already a refusal to acknowledge the importance of thinking about the cultural industry in Brazil or even globally. Such refusal hinders an advancement of knowledge concerning its new forms here and now, as well as its social and subjective developments. While other researchers oriented toward post-structuralism have difficulty in understanding the cultural industry as a system beyond a specific medium or one of its several branches (TV, film, radio, etc.) - even though they are aware that forms such as capitalism, through technological development, controls the bodies and produces subjectivities. According to them, we are in a new era, in which new media have been developed and, therefore, the concept of cultural industry would be outdate.
It is important to understand, however, that the concepts do not remain identical throughout history. The transformations in society, as well as the changes in thinking are conditions of re-elaboration of concepts in a historical and social linkage. The term cultural industry, which first appeared in an article by Horkheimer (1941, p. 303) in plural form, is worked thoroughly by him and Adorno in the eponymous chapter of the Dialectic of enlightenment, whose subtitle “The enlightenment as mystification of the masses” performs a double denouncement. It is, at the same time, result of the enlightenment and of all technoscientific progress fostered by it, and largely focused on keeping everyone in a state of false consciousness necessary for the maintenance of economic needs. The criticism of the cultural industry is integrated, therefore, to the criticism of political economy as it presents the sphere of culture transformed into merchandise, in which the consumer - as opposed to being the one whom it is intended in fact to please - is not subject, but object, since it is surrounded by products whose function is precisely to limit its possibilities of existence. As presented by Adorno (1994), to the standardization of merchandises and to the rationalization of the production techniques are added individual forms of production based on technical procedures and on the division of labor, which give the products the illusion of individuality and that transform that which could be subversive in art into barbarism and oppression.
If, at the time of The dialectic of enlightenment, when Adorno and Horkheimer (1985) presented the concept of Cultural Industry as a system, it consisted of cinema, radio, television, urban architecture systems, etc. Today, we can consider its expansion through a technological and digital breakthrough, whose function of fostering the reproduction of the current through substitutive experiences, as pointed out by Maar (2000), represents the link between the cultural industry of the 1940s and the current cultural industry and its new facets.
The digital media have very specific characteristics that should not be overlooked. Accordingly, it is clear the need to assess and consider the technological developments in the field of communication, which would have the power to raise the users of the new digital machines to the level of consumers-producers, overcoming the alleged passivity of the spectators of the cultural industry in the mid-20th century.5 The problem of the apparatus of the cultural industry in the middle of the last century, then, would be its unidirectional nature. The so-called digital culture (Costa, 2003) would be closely linked to ideas of interactivity, open communication, interconnection and “free” exchange information and images, and that would necessarily culminate in “more freedom.” This assumption, which could seem plausible, does not resist a critical analysis of the configuration that acquires today the traffic of information, images, and other data on the internet. On the contrary, there is today an unprecedented concentration of control over the flow of information. Understanding it requires thinking how are currently processed the Big Data - massive data -, which are the operators of this system and with what purposes they are targeted, filtered and managed.
Big Data is defined by Mayer-Schönberger and Cukier (2013, p. 13) as “the capacity of society to take advantage of information in new forms, to obtain useful insights or goods and services of significant value”,6 and refers to
things that can be done on a large scale, but not on a smaller scale, to extract new insights or create new forms of value, in such a way that transforms markets, organizations, relationships between citizens and governments, etc.7 (Mayer-Schönberger & Cukier, 2013, p. 17)
It indicates a characteristic of culture in the digital environment that calls into question the way we live and interact with the world through a set of digital devices (computers, mobile phones, tablets, etc.) that send and receive data on a global scale, and this information is configured in a flow with ever-increasing volume. The existence of this huge amount of data challenges the traditional forms of analysis and collection, and at the same time presents new opportunities to produce knowledge based on the whole, no more on a sample. This results, according to Marques (2017), in the emergence of a new interdisciplinary field, the digital Humanities, which incorporate computer technologies and algorithms into research in the field of Humanities, with unprecedented possibilities of access to historical and current data.
The main characteristics of the Big Data would be: volume, speed, and variability (Mostafa, Cruz, & Amorim, 2015). The first characteristic denotes the enormous amount of data, available in increasing volume - Mayer-Schönberger and Cukier (2013) estimate that the amount of digital data on the planet is equivalent to giving each person on Earth today 300 times the amount of information that is estimated that was stored in the library of Alexandria -, and the prospect of an approach to this data that is not made by sampling, but taking the whole.
Processing data in their entirety would dispense with the need for theoretical formulations, as that would enable a full and complete perspective of the facts as they are in reality. Instead of theories that would explain the events by seeking to generalize results based on samples, data processing works with frequency analysis, in search of patterns, in order to obtain predictability. Accordingly, the Big Data does not seek any explanations as to why things happen, only what happens, forcing society to relinquish “part of its obsession with causality in exchange for mere correlations” (Mayer-Schönberger & Cukier, 2013, p. 18)8 aiming at predictions and general trends - but not accuracy. This is what Han (2015) called Dataism, a second movement of the lights that “should turn everything into data and information” (Han, 2015, p. 67). According to the author, if in the first movement of the lights statistics was seen as a means of freeing knowledge from its mythical content based on the primacy of the subject, in the second movement of the lights the intention is to “free knowledge from subjective will” (Han, 2015, p. 67), from intuition, from theory. However, this possibility of dispensing with theory is rejected by Han (2015), who mocks the claim of suppressing it and of dealing with the data in the absence of assumptions - which he calls digital totalitarianism (Han, 2015) -, and by Agostinho (2016), who argues that the way the data are viewed and analyzed always presupposes a theoretical mediation.
The second characteristic of Big Data, speed, indicates not only a property of information in the World Wide Web to be accessible practically immediately, but also the possibility of also immediate feedback through certain algorithms, but mainly: 1) the acceleration of growth of the amount of information available, which grows four times faster than the world economy; 2) the capacity to process this information, which grows nine times faster (Mayer-Schönberger & Cukier, 2013); and 3) the acceleration of the extraction of value through the activity of individuals in the digital environment. Together these characteristics produce a steady and growing increase in the speed and volume of the data circulating. It is relevant to note that the identity between information and value, and the systemic pressure for expanded reproduction of capital also in this sphere, is the economic motor for the pressures for the increasingly wide use of Big Data and, at the same time, generates monopolist pressures and attempts to centralize the collection and the uses that are made of them.
Finally, variability indicates the network’s capacity to capture the most subtle variations in characteristics of data and users of the system, raising issues about the privacy and the transparency with which such data are obtained and disseminated. It produces an illusion of freedom through open access to information chosen according to “intimate” inclinations of the user and, at the same time, potentially suppresses the need for contact with data that is bothersome to the user, different than their inclinations.
It seems clear that the possibilities of using this new data to produce meaningful and useful knowledge, as pointed out by Marques (2017), depends fundamentally on the nature of the collection in relation to them, as well as on their purpose, while, on the other hand, use of Big Data to increase sales and exploitation of users, or to produce more subtle and comprehensive new forms of social control, as pointed out by Han (2015), configures a reality difficult to deny. Research conducted currently by psychologists using the Big Data provide a good example of the risks for digital humanities in appropriating the typical tools of the current digital culture. They indicate to us concretely in what sense the current digital culture approaches the cultural industry.
Tracking behaviors and personal traits
In an article presenting the possibilities of the use of Facebook as a tool for social sciences, Kosinski, Matz, Gosling, Popov & Stillwell (2015) argue that use of this site enables overcoming traditional limitations of participant samples in Psychology research, accessing people in a “natural environment,” cross-examining personal, behavioral and demographic data with ease, since the site stores this information, among other benefits. That is because, as pointed out by Mayer-Schönberger and Cukier (2013), on Facebook
more than 10 million new pictures are uploaded every hour. Its users click the “like” button or enter a comment almost 3 billion times every day, leaving a digital footprint that the company exploits to find out their preferences.9 (p. 19)
The difficulties pointed out by the authors concern the need to know the interfaces of web design. The justification for using sites of social networks like Facebook, rather than accosting the participants in the physical world, is that currently: “A growing proportion of human activities, such as social interactions, entertainment, shopping, and gathering information, are now mediated by digital services and devices.”10 (Lambiotte & Kosinski, 2014, p. 1). According to the authors, this enables observing the behaviors of millions of individuals at the time they happen; instead of seeking statistical regularities and underlying principles, Big Data analysis seeks simply to recognize patterns.
The objective established by the researchers led by Kosinski et al. (2015) was to develop a tool to enable the prediction of personality traits based on the “digital footprints” left by Facebook users. These pieces of information, provided by regular users in a consented, but not deliberate manner, are stored by the site composing a set of data about the profiles, preferences, habits, etc., which are available for collection and use by researchers or advertisers. In the case of researchers in Psychology, they used a model of personality widely disseminated and commonly accepted by the American scientific community, called the five-factor model of personality (FFM), to develop an algorithm that can trace the personality profile of users of this network based on their “likes” (Lambiotte & Kosinski, 2014; Kosinski et al., 2015).
In “Private traits and attributes are predictable from digital records of human behavior”, Kosinski, Stillwell and Graeple (2013) present how traces left by social network users, such as their “likes” on Facebook, can be used, automatically and accurately - through a dimensionality reduction model for preprocessing of data related to likes - to predict a series of personal attributes, such as sexual orientation, gender, political views, religion, ethnicity, intelligence, happiness, use of psychoactive substances, etc. The authors, cunningly, observe that a large part of daily activities today are mediated digitally and that these digitally-mediated behaviors are recorded in the network and foster the emergence of computational social sciences, side by side with digital marketing. Analysis of data from the networks, from the perspective of the authors, seems to have at least two major advantages: 1) dispenses with the active participation of people to answer questionnaires; and 2) can predict information that people may wish to hide - such as age, gender, and pregnancy, for example. Aside from the issues related to ethics and invasion of privacy that these “advantages” entail, there is a more fundamental assumption about individual and personality characteristics that needs to be revealed.
For example, the FFM claims to represent, through five traits, the fundamental structure underlying the variations of behavior of humans, providing a conceptual framework that enables uniting under these characteristics the diversity of conducts. The traits described by the model are: a): openness: related to imagination, creativity, tolerance, appreciation of culture, good aesthetic sense and liberal political association; b) conscientiousness: tendency to prefer a ruled and thoroughly planned life, in contrast to an openness to that which is spontaneous and new; c): extroversion: tendency to be stimulated by the exterior world, to be communicative and express positive emotions; d) convenience: tendency to focus on positive social relationships, to be friendly, compassionate and cooperative; and e) emotional stability: tendency to not experience major and sudden changes in emotions (Kosinski et al. 2015).
This type of trait-based personality theory presents an ideological character both for having been developed through researches with subjects whose profile is named, somewhat ironically, WEIRD (Western, educated, industrialized, rich and democratic) and for having as premise a kind of psychometric reason that translates the subjects through quantitatively established traits, which ultimately focuses on characteristics that produce better adjustment of people to a Western, capitalist society, developed and recognized as a democracy. Founded on a model, adjusted, healthy and integrated citizen, the parameters tend to reproduce and reinforce this pattern and, on the other hand, to pathologize alternative conducts and profiles. This type of generalized criterion increases the forces of integration of subjects, confirms the collapse of the individual and, on the other hand, of a Psychology that can criticize its object.
The tool most commonly used by researchers is named myPersonality, and was developed by David Stillwell, professor of Big Data analysis and Quantitative Social Science at the Business School of the University of Cambridge. The application enables Facebook users to access 25 psychological tests and receive immediate feedback on their results, while they may voluntarily offer their profiles to research and share their private information with their virtual friends. More than 2 million users, among those who did the tests, consented to the use of their data (Kosinski et al., 2015). Facebook has an identification number for each participant and, with the access granted to the researcher, it is possible to observe both the type of course (browsing) and obtain longitudinal data, demographic data, etc.
The set of accessible data varies as the platform extends or alters its parameters and policies. In the article discussing the use of these data for research (Kosinski et al., 2015), the authors report that are available: a) demographic profiles; b) content produced by users; c) structure of the social networks of users; d) preferences and most common activities; e) information about friends; f) private messages. This information set enables tracing, based on digital footprints, a user profile in relation to various behavioral and demographic parameters. The use of this data is explained by the researchers themselves in the following terms:
“A recent paper based on the myPersonality database and using relatively straightforward methods (singular value decomposition and linear regression) showed that Facebook likes are highly predictive of personality and number of other psychodemographic traits, such as age, gender, intelligence, political and religious views, and sexual orientation.”11 (Lambiotte & Kosinski, 2014, p. 1936)
Similar results are possible through analysis of fragments of texts or posts made by users by observing variations in the use of language that indicate age, gender and personality profiles. In addition, there is increasing generation of digital data from activities carried out in the physical world, through the capture of information from smartphones, often using voice-recognition software, albeit unknown to users, that have their conversations recorded at random times during the day12. In short, this tool enables, according to the authors, the improvement of numerous products and services, which would be offered to users according to their demographic profiles, their preferences being continuously deducted based on their personality traits. The idea of the authors is that this tool enables a more individualized service to consumers, which can offer them exactly and only what would be of their interest. A benefit both for trade in goods and services, which does not waste time and resources offering products to people that are not interested, and for consumers, who would have access to all they desire based on their unique and individual characteristics. More than that,
Ultimately, Amazon can recommend the ideal book, Google can indicate the most relevant web page, Facebook knows our tastes, and LinkedIn guesses who we know. The same technologies will be applied to diagnose diseases, recommend treatment, maybe even identify “criminals” before they in fact commit a crime.13 (Mayer-Schönberger & Cukier, 2013, p. 24)
The ethical cares imagined by the researchers concern obtaining informed consent and the information about the uses and purposes of the data. Evidently, this kind of care is innocuous in relation to the sense that this practice acquires in relation to the whole, that is, to the systemic pressures that lead users to give up, one way or another, their privacy and to be bombarded ubiquitously with advertising, this time targeted thorough and precisely, based on their personality profiles. In fact, this care seems to relate more with ensuring access to the data without future legal problems, than with the protection/preservation of any rights of those who provide them - again it is worth remembering that which was previously pointed out by Adorno (1994): “the consumer is no King, as the cultural industry would like us to believe” (p. 288). The fact a tool like myPersonality has been developed by a professor of a business school does not seem to be mere coincidence; the so-called digital culture is oriented by the same criteria that bewitched culture when Horkheimer and Adorno termed it cultural industry: on everything that appears on screens of the digital data network blinks the form of merchandise.
However, researchers admit that the degree of reliability of the results, while achieving the same levels of tests applied in the physical world, still needs to be optimized to produce exactly the expected effect of predictability. In fact, it is expected a level of control over behaviors that is unprecedented in human history. Whenever there was some power, there was also more or less explicit and effective forms of resistance. But perhaps the most remarkable characteristic of this new tool is its subtle and covert operation, especially in its political dimension.
Big Data as political instrument
The claim of advocates of digital culture that its intrinsic characteristics would promote an environment of limitless freedom and full access to all of human cultural productions reveals to be - by observing the way it is used by those who actually operate the system - a deception. Far beyond the panopticon, through the worldwide web of computers and the new mediations conducted by algorithms and programs are developed new surveillance regimes that make privacy impossible, eroding the social practices that sustained the cultural development, which is actually the main element that enables some kind of expanded control over behaviors. Bruno (2013) presented the notion of distributed surveillance in an attempt to answer what he considered the reinscription of surveillance in the present, which still has its power games and production of specific knowledge. According to the author,
a complex network of knowledge about the daily life of individuals, their habits, behaviors, preferences, social relations, has been constituted based on the monitoring of personal data, especially in cyberspace. The knowledge derived from there has power effects that interfere significantly with the choices and actions of individuals and populations. (Bruno, 2013, p. 22)
Big Data, as well as the clouds where big data are stored, “are engines that boost information capitalism since they enable an increasingly dominant form of knowledge”14 (Mosco, 2014, p. 12). In short, Big Data produces an increasingly accurate and ubiquitous control that has the tendency to expand rapidly, since the growth of circulating capital, in the sphere of the global capitalist economy, is organized through that imperative, despite the constant and inevitable crises.
The control that is developed through this form of knowledge based on massive data, moreover, is configured differently from the disciplinary regimes that impose constraints and coercions; now users themselves provide the information, as they imagine that they obtain free information, diversion and recreation, but it is an asymmetric game in which users do not know they are being monitored, cannot choose which data will be provided, and much less what will be done with their information (Cianconi & Lott, 2016). According to Han (2015), transparency, which is required subtly and imperatively from users, turns into a neoliberal device for total monitoring and control. More information circulating means more capital circulating, since the system operates based on advertising. In short: when browsing users produce information that has monetary value, as that information is captured by the system operators. These, in turn, organize such data through algorithms and profit, mobilizing users to speed up their consumption behaviors - whether of physical goods or data - and to produce more and more information about themselves, which enables, in principle, the targeted advertising to exercise greater control.
Accordingly, there is no novelty in relation to the Cultural Industry described by Horkheimer and Adorno. Broadcast television, in turn, since the 1950s, produced programs that had the primary function of keeping the eyes of the audience riveted to the screen, in order to sell the viewers’ attention to advertisers. The new global digital network has the same intention, and operates with the same purpose, but the novelty is that now it is aware, based on the Big Data provided by users themselves, of their profiles, preferences, tastes, and desires. Thus, they develop the so-called microtargeting, advertisement directed to a specific target, precisely showing advertisement in relation to the characteristics of users.
Evidently, behavior patterns and political ideas are both monitored and disseminated through the same strategy. O’Neil (2017), in Weapons of math destruction: how Big Data increases inequality and threatens democracy, analyzes how the creation of programs and algorithms based on subjective problem-solving models bear the so-called “blind spots,” which reveal a whole load of prejudices, judgments and priorities of their own creators, related to their own experiences of life in their culture, their goals and ideology. Values and desires influence the choices of which data to collect and which questions to ask. The mathematical models that support the collection of Big Data are opinions transformed into mathematics. The major question raised here is that, as opinions, ideologies and prejudices are transformed in mathematics, they acquire a degree of reliability and naturalization able to suppress the questioning about what they provide, about how they operate, and about the effects they produce. With that, the very opinions and ways of thinking are mathematized, unable to go beyond the model that not only collects information, but shapes perceptions and ideologies.
Accordingly, the possibility the market and the State converge to a ubiquitous surveillance of consumers and citizens becomes not only plausible, but indicative of the degree of refinement in the administration of society. Moreover, the tendency to a radicalization of the exploitation of value through the collection and targeted use of data erases the difference between consumer and citizen, strengthening the trend that already existed at the time of the cultural industry criticized by Adorno of dealing with political issues as choices of products. If, as indicated by Cianconi and Lott (2016), we are transitioning from the panopticon to the panspectron, that is, to the possibility of locating and identifying everyone at any time, that occurs aiming at reproduction of the same. The power of outreach, whether of the State or the market, which through the large network and its online services and digital interfaces collect comprehensive information, indirectly and constantly reveals an asymmetry of the digital transparency correlated with the asymmetry found by Chamayou (2015) at the beginning of a war that replaces the battle with hunting with drones. At the time drones have the power to operate anywhere in the world through remote monitoring, using precisely ubiquitous surveillance and algorithms to choose the targets (Chamayou, 2015), the critical theory that intends to live up to the challenges of digital culture needs to consider radically the significance of abolishing privacy and, at the limit, of the subject capable of understanding the reality critically.
It is important to take into account that the trend, considered the economic driving force of the Big Data, is to radicalize the exploitation of users, since there is no aspect of life that cannot be used to generate value if it is connected all the time to a global digital network. All the time that a particular subject spends connected to the digital world exposes him to the possibility of a ubiquitous exploitation, as inevitably he provides, produces and circulates data and these are valuable. Thus, if the subjects’ activities become mediated by the presence of digital devices all the time, this results in a ubiquitous exploitation, because from their activity value is extracted continuously, and this speeds up the exploitation and intensifies the control. The Cultural industry of the digital age creates conditions for ubiquitous exploitation, radicalizing the systemic aspect of the cultural industry, such as the association of every object of culture with the sphere of capitalist exchange. If, at the time of writing The dialectic of enlightenment, Horkheimer and Adorno (1985) indicated the trends on the administration of society of that which they named cultural industry, today, with the digital technological development, we see the materialization of a fully administrated society.
False hopes and real dangers
The dream of the businessmen who operate the Big Data is to develop algorithms capable not only of prospecting meaningful data about users of the World Wide Web, but mainly to predict and control the behavior of these people and so produce the future according to their wish. However, that requires nothing less than a continuing effort of all those involved to act as if they were things, nullifying the possibilities of thinking negatively. This is not exactly an easy task.
Adherence to behavioral models and nullification of self are not achieved at once, and the fanatical behavior of the jitterbugs described by Adorno and Simpson (1986) in their analyses of popular music denounce that there is always disruption and dissonance that expose the deception involved in the consumption of cultural goods and the effort necessary from the individual to subject. The intention of large corporations in the neoliberal context is to monitor behaviors and continuously accelerate consumption, but that is also hindered by natural limits and by the contradictions of capitalism itself that, in its recent crisis, demonstrated again how radical is the irrationality of the whole.
Nevertheless, the new forms of control are insidious exactly because they tend to act silently, permissively, offering pleasure and enticing the senses. The subject feels free while yielding to the siren song of digital culture. The resistance implies a type of asceticism in relation to the seduction of the very reified image reflected in targeted advertisements, but also insertion in the digital media in order to break their monolithic pretensions. It implies, therefore, being able to signify the world based on references external to the digital environment and, at the same time, becoming intimate with its language, its uses and risks. As at the time of the 20th century Cultural industry, a certain caution in using the digital environment is desirable as that preserves the subject from being thrown into the maelstrom of the acceleration of data circulation, but there is no place completely protected from the scope of this new cultural order.
Discussions on dynamics that centralize less the information flows on the internet (Parra & Abdo, 2016) demonstrate that it is possible to think not only about alternative uses to those that prevail today, but diverse forms of organization from the structure of the network itself, opening up spaces for cultural heterogeneity, to the resignification of the very Big Data and to the questioning of ubiquitous surveillance. Critical knowledge of the tools, algorithms and software that manage data is also desirable to understand and to some extent promote alternatives - as emphasized by Andrew Feenberg and his Critical Theory of Technology.
According to Feenberg (2010), democratization of society depends on radical technical changes only achievable if we have active voice in the process of technical and industrial decisions. To that end, it is essential to understand the choices and determinants of the current technological designs - the key to understand both their effectiveness, today, and the basis of the current hegemonies. As the technological development is shaped by cultural norms that originate in the multiplicity of economy,of ideology, of politics, of science, etc., the design and operation of the machines reflect the social factors underway in the predominant rationality or, as he says, inspired by Herbert Marcuse, “technology policy depends on contingent aspects of technical design determined by a project of civilization” (Feenberg, 2004, p. 2).
Accordingly, Feenberg (2010) argues that the technical apparatuses, their designs and shapes are selected based on interests between many possible configurations - and, therefore, they can be redesigned, modified, transformed. The creation and selection of these designs and shapes are oriented by social codes that come from the political and cultural struggles defining their horizon of action. On the other hand, the effectiveness and the legitimacy of technology are dependent on the state of consciousness/false consciousness of the political-cultural horizon within which it is conceived.
The pretension of total dominance over men through a knowledge of their wishes, desires, habits, etc. is not a new pretension. It is at the core of the project of enlightenment, as highlighted by Horkheimer and Adorno. This pretension seems too convenient for the system operators, who rely on it to sell their products. Although a greater efficiency of manipulation through microtargeting is plausible, is difficult for subjects to keep away from consciousness the deception. The greatest problem may be the increasing closure of the cultural sphere within a logic of identity, which tends to become ubiquitous and intensify the exploitation. The trend to the acceleration toward a superexploitation of all spheres of life, subjected to the capitalist imperative of producing more value, radicalizes the feeling of closure of the alienated world on itself, and can result in blind resentment and hatred, with social results to some extent predictable: intensification of barbarism.
The immersion of subjects in the environment of a manipulative digital culture, in addition, deprives the subjectivities from the mediations that constitute self-reflection and criticism, making it essential to consider what arises from the weakening of subjectivity by decline of “historical” thought (Flusser, 2017) and its replacement with the logic of “surface.” Schematism has always been a service provided to its customers by the cultural industry: “For the consumer, there is nothing more to classify that has not been anticipated in the schematism of production” (Adorno & Horkheimer, 1985, p. 117), and the use of cliches appears as the solution for an orientation in a chaotic world for those who, within the continuous process of semiformation (Adorno, 1992), are unable to recognize the social processes underway, but seem to know very well how to act before them. Accordingly, the reflections of Adorno, Frenkel-Brunswik, Levinson and Sandford (1969) in The authoritarian personality are still up to date, because, unable to understand the world in a historical sense, subjects have only resentment and blind hatred toward a society that does not let itself be seen, despite showing itself through an avalanche of images. The persistence and resurgence - in broad daylight and without mincing words - of xenophobic, sexist, racist discourses, etc., may be a significant symptom of the new configuration of the cultural industry.15
Thus, although the mobilization of algorithms to control behaviors is worrying, the most critical aspect is the always recurring possibility of explosion of blind hatred, of irrationality mediated by constellations of destructive affects, culminating in raw and direct barbarism. According to a critical theory of society, the false hope of the new harbingers of instrumental reason and their new procedures require a new effort to again unveil how in the dialectic of enlightenment, at this time disguised as digital culture, is manifested the current barbarism, while still survives the hope of overcoming it. In short, the always recurring need of technical progress to produce new forms of manipulation is more related with its possibility of ruin than with its strength; if the domination were total and guaranteed, the effort on the part of the system, always more qualified, to maintain everyone increasingly more technologically integrated would not be necessary. The myth of the invincibility of technology generates passivity, and the purpose of criticism is exactly the opposite, as it points out the still possible use of reason to know the existing and its contradictions and, based on that, to reorient history - the fruit of human action - in the direction of freedom.
Throughout this article the term Big date will be used for the singular an the plural form. We understand that this ambiguous usage reflects a characteristic of the observed object itself; the possibility of understanding and dealing with massive data acquired by using algorithms so as to produce socially relevant knowledge, and in this sense the data preserve their multiple and open character, requiring a treatment as plural. On the other hand, the use of massive data by global corporations tends to configure an integrated system, as already occurred to some extent with the Cultural industry, and the article in singular form points to this trend to a totalitarian order. In some segments of the text, it may be questioned whether the use in singular or plural form is appropriate for the time of discussion, but controversy is welcome and can be, apropos, clarifying for the problems related to current attempts to conceptualize Big Data.
We indicate, for specific terms in technology that be difficult to the reader, the use of glossaries or dictionaries specific to the area, such as the “Dicionário prático de informática” (https://goo.gl/WZQuaX).
In Brazil, one of the first media outlets to report such a feat was the website specializing in information technology Showmetech (https://goo.gl/voHaBX). By the beginning of 2018, a scandal involved the social network Facebook and Cambridge Analytica due to a “breach” in security of Facebook users’ data and their sale to the British political consulting firm that worked both in Trump’s election, in 2016, and during the Brexit referendum, which decided on the United Kingdom’s exit from the European Union. On the 2018 scandal, see: <https://goo.gl/2uV9Vh>; <https://goo.gl/fEkZoD>; and <https://goo.gl/ixEwWX>.
Lecture given at the State University of Santa Catarina, on 5 july 2017.
Here, the idea of passivity relates only to the fact that the possible interaction of consumers with the products of the cultural industry in the 1940s was restricted to accepting or not what was produced and presented through the mass media such as music, movies, news etc. Today the consumer is also a producer of content, a worker – although unaware – of this industry, as the digital media survive through their action and interaction in the network. However, it is important to not forget that at any time even the acceptance of a merchandise depends not on a complete passivity of the subject, but on an effort in adaptation that does not occur without contradictions in relation to that which would be, in fact, its interest concerning the possibilities of freedom.
In the original: “la capacidad de la sociedad de aprovechar la información de formas novedosas, para obtener percepciones útiles o bienes y servicios de valor significativo”.
In the original: “cosas que se pudem hacer a gran escala, pero no a una escala inferior, de tal forma extraer nuevas percepciones o crear nueva formas de valor, de tal forma que transforman los mercados, las organizaciones la relaciones entre los ciudadanos y los gobiernos, etc.”.
In the original: “parte de su obsesión por la causalidad a cambio de meras correlaciones”.
In the original: “se suben más de diez millones de fotos nuevas cada hora. Sus usuarios hacen clic en el botón de ‘me gusta’ o insertan un comentario casi tres mil millones de veces diarias, dejando un rastro digital que la compañía explota para descubrir sus preferencias”.
In the original: “A growing proportion of human activities, such as social interactions, entertainment, shopping, and gathering information, are now mediated by digital services and devices”.
In the original: “A recent paper based on the myPersonality database and using relatively straightforward methods (singular value decomposition and linear regression) showed that Facebook likes are highly predictive of personality and number of other psychodemographic traits, such as age, gender, intelligence, political and religious views, and sexual orientation”.
See: <https://goo.gl/fRbHRF>.
In the original: “Al fin y al cabo, Amazon puede recomendar el libro ideal, Google puede indicar la página web más relevante, Facebook conoce nuestros gustos, y LinkedIn adivina a quién conocemos. Las mismas tecnologías se aplicarán al diagnóstico de enfermedades, la recomendación de tratamientos, tal vez incluso a la identificación de ‘delincuentes’ antes de que cometan de hecho un delito”.
In the original: “son motores que impulsan el capitalismo de la información a la vez que permiten una forma de saber cada vez más dominante”.
Han (2016) points out that is expressive the difference between the man integrated into the traditional masses described since Le Bon, and what he characterized as “digital swarms”–if in the first one no longer had own profile/individuality when participating in crowds, in swarms there is the persistence of an “anonymous someone” ready to participate in volatile “waves of indignation” against targets that do not lead to any social change, but rather to the persistence of hatred for hatred’s sake. The characteristic configuration of social networks establishes a time of isolation in which the sensation that one can attack any target while being safe sustains the unbridled and fast propagation of fascist thought.