Tudo vigiado por máquinas de adorável graça*

Juliana Michelli S. Oliveira

Grande parte dos problemas que enfrentamos na atualidade nasceu da premissa de que uma civilização supostamente esclarecida podia e devia levar a luz para a humanidade obscurecida, como diz Ailton Krenak em seu livro Ideias para adiar o fim do mundo.

As associações entre luz e conhecimento e entre trevas e ignorância mencionadas pelo líder indígena remontam às experiências da humanidade diante dos desafios trazidos pelo suceder dos dias e noites (claro/escuro), oscilação que organiza nossos ritmos biológicos, conforme preconiza a Cronobiologia, e que deu origem a imagens e narrativas, as quais, por sua vez, formam diferentes cosmovisões, cosmotécnicas (Yuk Hui) e práticas tecnoculturais.

Na arena da cultura ocidental, a batalha entre luz e sombras e entre conhecimento e obscurantismo é um espetáculo recorrente. Presente nos mitos da Antiguidade, no gesto de Prometeu que entrega o fogo aos homens, nas concepções históricas, que veem no Iluminismo uma contrapartida à época medieval (Idade das Trevas), essa disputa encontra em algumas vertentes das ciências seu principal combatente atual, porém o adversário não é de menor envergadura: a natureza, “que ama ocultar-se”, seguindo a fórmula de Heráclito.

Na luta para esclarecer – do latim clarus, “trazer à luz”, “tornar claro”, “revelar” –, a ciência tem como parceira fusional a técnica. Movida muitas vezes por um racionalismo ingênuo e pela ilusão de um saber absoluto, essa dupla, na modernidade digital, gerou inúmeros objetos técnicos que têm auxiliado na tarefa de descortinar a natureza, os humanos e as sociedades, com a ampliação do poder da visão humana.

Visão além do alcance

A dependência da luz para a visão ocular originou um complexo técnico-cultural que Gilbert Durand denomina de regime diurno de imagens ou de “exorcismo pelas imagens da luz”. Esse complexo inclui os artefatos que ampliam a visão humana, como as câmeras e microcâmeras, que espiam os corpos por fora e por dentro; a visão computacional, que associa tecnologias de captura de imagens e algoritmos de inteligência artificial para a tomada de decisões; e os demais dispositivos que tornam visíveis e computáveis as informações que geramos cotidianamente: deslocamentos, variáveis fisiológicas, posicionamentos políticos, preferências etc.

São expressões desse complexo os imaginários de vigilância, objeto de estudo de David Lyon, especialista no tema. Considerando a insuficiência de noções como estado de vigilância e sociedade de vigilância, a proposta de Lyon é a leitura do fenômeno da vigilância como cultura, isto é, como modo de vida. Como o autor propõe, as pessoas não fazem parte de uma cultura da vigilância apenas quando são vigiadas ou quando vigiam, mas quando internalizam a vigilância, compartilhando voluntariamente “informações pessoais no domínio público on-line” e praticando o automonitoramento da saúde.

Para compreender a cultura da vigilância sob as lentes do imaginário, como propõe Lyon, é preciso incluir a maneira como as pessoas imaginam suas relações com o meio, algo que não é expresso em termos teóricos, mas através de imagens e narrativas – abordagem que complexifica o fenômeno de vigilância.

Em uma cultura de vigilância, as informações precisam ser colocadas à vista e devem circular. Por isso, a exposição e o compartilhamento são componentes dessa cultura, que assegura o aperfeiçoamento de cidades, sociedades e relações humanas quando as pessoas, ou melhor, o mundo se torna transparente. O que isso significa?

Sociedade sem segredos

Para investigar os elementos que delineiam esse imaginário, retomaremos O círculo, de Dave Eggers, romance distópico que esquadrinha os afetos, imagens e práticas de uma sociedade capitaneada por uma Big Tech e reproduzida por pequenos brothers digitais.

Ambiente multicultural e destino de jovens talentosos e ambiciosos, o Círculo é uma corporação global, lugar onde todos se empenham para aprimorar a si mesmos e mutuamente, compartilhar e disseminar seus conhecimentos para o mundo. Nos escritórios e refeitórios translúcidos do Círculo, espécie de Panopticon futurista, vive-se “a aurora de um Segundo Iluminismo”.

Tendo como carro-chefe a comunicação e a clareza, o Círculo procura tornar o mundo e as pessoas transparentes e atingir a completude, quer dizer, tornar monitoráveis todas as variáveis dos componentes do planeta Terra e reuni-las em um único sistema que integra e armazena as informações. Para isso, prevê a instalação de microcâmeras leves e baratas em todos os lugares e o uso de dispositivos internos de monitoramento biológico, além, é claro, de muito estímulo à exposição e ao compartilhamento de informações pelas pessoas.

No Círculo, tornar-se transparente equivale a eliminar os segredos. Isso porque, conforme o romance, os segredos guardados são cancerosos, mas inofensivos quando expostos para o mundo. Os segredos seriam o motor do comportamento imoral, antissocial e destrutivo. Ao lado disso, uma das máximas do livro é a ideia de que nos comportamos melhor quando somos observados. Assim, nessa cultura, o segredo deve ser combatido pois supostamente nos torna piores, visto que nele ocultamos nossos erros e defeitos. Então, trazendo os segredos à luz poderemos nos aperfeiçoar?

Opacidades da transparência

Contraditoriamente, o argumento de aperfeiçoamento humano esconde o real objetivo da cultura da vigilância: mais que aprimorar a espécie, ela pretende predizer e transformar o comportamento humano de maneira a produzir “controle de mercado”, como alerta Shoshana Zuboff. De resto, tornar-se transparente corresponde a alienar a subjetividade, a intimidade e o indizível.

O incentivo à transparência, à exposição e ao compartilhamento também não é motivado pelo desejo de conhecimento do mundo, mas pelo controle, sobretudo quando se constata que apenas são trazidos à tona os segredos de uma parcela da população, enquanto os crimes dos demais permanecem ocultos.

Mesmo esse desejo de conhecimento total e completude precisa ser reexaminado. Como sugere Edgar Morin, uma observação exaustiva do objeto precisaria abarcar todos os estados que ele assume ao longo do tempo e todas as interações das quais ele participa, e, para isso, informação e energia infinitas seriam requeridas, resultando em uma neguentropia infinita, o que levaria à destruição do universo. Assim, quando conduzido ao absoluto, o conhecimento é autodestruidor.

Antes de iluminar a humanidade ou nos convertermos em extensões de câmeras e algoritmos de uma floresta cibernética, deveríamos rever a cosmovisão que guia nossas práticas, respeitando, como dizia Nietzsche em A gaia ciência, “o pudor com que a natureza se esconde por trás de enigmas e de incertezas brilhantes”. Caso contrário, seguiremos cegos e ofuscados pelos clarões que produzimos, em uma batalha sem vencedores.

All Watched Over by Machines of Loving Grace (1967), poema de Richard Brautigan.

Texto originalmente publicado em: http://www.iea.usp.br/pesquisa/catedras-e-convenios/catedra-oscar-sala/ensaios/tudo-vigiado-por-maquinas-de-adoravel-graca. Cátedra Oscar Sala, Instituto de Estudos Avançados da Universidade de São Paulo.