Códigos informáticos, algoritmos GAFA [Google, Amazon, Facebook e Apple]: desativar a máquina infernal. Por Jonathan Koskas

Espuma dos dias_ALGORITMOS

Seleção e tradução de Júlio Marques Mota

Códigos informáticos, algoritmos GAFA [Google, Amazon, Facebook e Apple]: desativar a máquina infernal.

Será necessário prever um procedimento para estabelecer “um período de inatividade” dos algoritmos?

 Jonathan Koskas  por Jonathan Koskas

Publicado por le causeur em 31 de julho de 2019 (ver aqui)

 

16 Códigos informáticos algoritmos GAFA

 

Como podemos limitar o perigoso controle que a tecnologia está a adquirir gradualmente sobre nós?

 As ferramentas tecnológicas que povoam o nosso quotidiano estão a ser cada vez mais relevantes no nosso quotidiano. O aparecimento dos programas ditos inteligentes mina o conceito de neutralidade tecnológica e torna possível um condicionamento massivo das utilizações induzidas pelos códigos dos computadores. Na verdade, a sugestão de tal ou tal palavra-chave ou de tal ou tal conteúdo está intimamente ligada às escolhas deliberadas de alguns engenheiros que presidiram ao design das nossas aplicações favoritas. A tecnologia na sua atual forma dominante controla, assim, em grande medida, a forma como consumimos produtos, serviços e informação.

No caso do YouTube, os usuários gastam 700.000.000 de horas por dia a assistir aos vídeos recomendados pelo algoritmo (ou seja, 70% do número de horas consumidas diariamente no site), deixando a barra de busca desatualizada para o conteúdo “descobrir”. Da mesma forma, o mecanismo de recomendação do fluxo de notícias do Facebook gera aproximadamente 950.000.000 de horas de visualização por dia. Um fenómeno dessa magnitude obviamente levanta questões sobre a responsabilidade dos atores privados na manobra, e sobre o possível controle democrático sobre esses mesmos atores, cujo poder de prescrição está a aumentar constantemente. Podemos nós referirmo-nos a um passado mais ou menos longínquo onde a possibilidade de tal concentração de poder nas mãos de um número tão pequeno de indivíduos tenha sido alcançada? Provavelmente não.

Privatização do controle social

Os europeus do século XX, contemporâneos de experiências totalitárias, viram como o seu destino podia ser diretamente influenciado por livros de filosofia que tratam de assuntos abstrusos ou mesmo completamente inacessíveis. A filosofia do Iluminismo, que anunciou a Revolução Francesa, demonstrou como um pensamento complexo poderia preparar as mentes para as convulsões políticas e sociais, que o comunismo russo sistematizou através do partido. Hoje, as plataformas privadas que asseguram a maior parte da disseminação de ideias substituíram os espaços de deliberação coletiva que até agora tinham proporcionado a mediação necessária entre o campo dos conceitos e o da cidadania.

No entanto, se estes gigantescos centros de audiência são impulsionados apenas pela lógica da eficiência, cujo corolário é a extensão indefinida do tempo cerebral disponível, a distribuição generalizada de conteúdos afins, através da utilização de tratamentos algorítmicos opacos, contribui de facto para a formação de consciências e, portanto, para uma forma de estruturação não assumida dos pontos de vista. O uso indevido das redes sociais como verdadeiras caixas de ressonância ideológica, confinando milhões de indivíduos uns aos outros por um conhecido fenómeno de “exposição seletiva” [1], ilustra perfeitamente esse efeito colateral nocivo induzido pelo mecanismo de recomendação e que contribui, entre outras coisas, para a extrema polarização do debate público. Da mesma forma, ao favorecer um conteúdo em detrimento de outro com base em normas promulgadas fora de qualquer quadro democrático, esses grupos privados exercem uma forma indireta de controlo social particularmente poderoso, onde regras editoriais arbitrariamente estabelecidas são interiorizadas pelos produtores/contribuintes de plataformas online, influenciando, em última instância, a vida das ideias e, portanto, a Cidade.

Transparência dos algoritmos

Em França, desde 2017, o direito digital exige uma transparência total e intransigente de todos os algoritmos individuais de tomada de decisão utilizados pelos serviços públicos. Mais recentemente, são os senadores que se sentiram comovidos pelo destino reservado aos detentores do bacharelado através da utilização oculto de algoritmos de pré-seleção no procedimento Parcoursup, apresentando a ideia de mais um projeto de lei sobre o assunto.

Dado o poder de influência exercido pelos gigantes digitais, e apesar de serem empresas privadas, parece legítimo fazer algumas exigências de transparência, particularmente no caso de certas tecnologias proprietárias cujo impacto político já não precisa de ser demonstrado. Além disso, ainda é necessário definir o que se entende por transparência; tratar-se-á de  publicar o código informático subjacente ao sistema, com as dificuldades que isso implica em termos de possível violação do segredo industrial, ou antes, de publicar uma especificação funcional do código, ou seja, para divulgar o que o programa deve fazer mais do que se interessar pelo como? Outras vozes, particularmente nos Estados Unidos, defendem uma abordagem alternativa mais radical que daria aos utilizadores da Internet a capacidade de navegar nessas plataformas sem qualquer forma de assistência técnica por meio de uma opção obrigatória de “colocar em inatividade” os algoritmos. Ideia interessante, aliás, mas que subestima muito a parte de servidão voluntária e a passividade que subjaz à utilização destas próteses inteligentes, agora aclamadas por milhares de milhões de indivíduos transformados em utilizadores inertes ao serviço da máquina.

Burocracia Mundial

Os grandes regimes totalitários sempre viram a possibilidade de expandir o seu império burocrático “a partir de cima”, ou seja, através da conversão ideológica e da conquista militar, todos apoiados por um forte aparato estatal capaz de impor a sua visão nos quatro cantos do mundo. Ironia da história, é finalmente “a partir de baixo” que um punhado de empresas privadas conseguiram construir um tal império, beneficiando-se plenamente da contribuição de indivíduos deixados a si mesmos e cujas interações isoladas fortalecem um novo tipo de monitorização e de (possível) propaganda de um género novo. Este é um paradoxo óbvio: a libertação total dos indivíduos, combinada com o seu relativo isolamento, permitiu a emergência de um sistema tecnológico global que carrega as sementes de uma ameaça totalitária. As ferramentas estão no lugar, e beneficiam do apoio de grande parte da população, a única coisa que falta hoje é a vontade dos atores privados, principalmente americanos, que preferem por enquanto dedicar-se “oficialmente” aos negócios. Quanto tempo é que isso vai durar?

Outro paradoxo: a Internet, outrora concebida como um espaço utópico com acentos libertários, prometendo uma nova era, deu finalmente origem a um formidável terreno de jogo para o capitalismo mais desenfreado, ele próprio recuperado pelas autoridades públicas (americanas ou chinesas) de acordo com os interesses estratégicos do momento. É no mito de um retorno à Internet original, considerada aberta e descentralizada, que se enraíza a atual moda do protocolo de confiança por cadeias de blocos [o blockchain] e outros sistemas hiper-distribuídos que supostamente reavivam o espírito dos pioneiros, mas cujas primeiras aplicações “à escala” rapidamente foram um duche de água fria sobre as esperanças dos crentes mais fervorosos [2].

_____________________________

Notas

[1] Por exemplo, o internauta pode aceder em teoria a uma grande pluralidade de informações no Facebook, mas na prática, a rede reforça a dinâmica de exposição a conteúdos ideologicamente próximos das opiniões do utilizador. A galvanização dos eleitores de Trump à volta de conteúdos ou temas largamente partilhados por utilizadores já convencidos das teses do candidato é disso uma boa ilustração.

[2] As crypto-moedas em geral, e o Bitcoin em particular, são exemplos de aplicações em tamanho real da tecnologia blockchain que rapidamente foram recuperadas pela lógica financeira e pelo poder estatal (a China no caso do bitcoin), bem longe do mito libertário das origens.

____________________________

O autor: Jonathan Koskas é licenciado pela EDHEC Business School e especialista digital numa empresa de consultoria global. É uma testemunha privilegiada da transformação numérica das empresas e do impacto da tecnologia sobre as nossas sociedades.

 

Deixe uma Resposta

Preencha os seus detalhes abaixo ou clique num ícone para iniciar sessão:

Logótipo da WordPress.com

Está a comentar usando a sua conta WordPress.com Terminar Sessão /  Alterar )

Google photo

Está a comentar usando a sua conta Google Terminar Sessão /  Alterar )

Imagem do Twitter

Está a comentar usando a sua conta Twitter Terminar Sessão /  Alterar )

Facebook photo

Está a comentar usando a sua conta Facebook Terminar Sessão /  Alterar )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d bloggers like this: