Por Nick Clegg, vice-presidente de Assuntos Globais e Comunicação
Publicado originalmente no Medium
Em um artigo recente para o The Atlantic, Adrienne LaFrance comparou o Facebook a uma máquina do Juízo Final: “um dispositivo construído com o único propósito de destruir toda a vida humana”. No documentário da Netflix, O Dilema das Redes, os cineastas imaginam uma sala de controle digital onde engenheiros pressionam botões e giram discos para manipular um adolescente por meio de seu smartphone. Em seu livro Capitalismo de Vigilância, a psicóloga social de Harvard, Shoshana Zuboff, pinta um quadro de um mundo no qual as empresas de tecnologia construíram um sistema de vigilância massivo que lhes permite manipular as atitudes, opiniões e desejos das pessoas.
Em cada uma dessas representações distópicas, as pessoas são retratadas como vítimas impotentes, privadas de seu livre arbítrio. Os humanos se tornaram brinquedos de sistemas algorítmicos manipulativos. Mas isso é realmente verdade? As máquinas realmente assumiram o controle?
É alegado que a mídia social alimenta a polarização, explora as fraquezas e inseguranças humanas e cria câmaras de eco onde cada um obtém sua própria fatia da realidade, corroendo a esfera pública e a compreensão dos fatos comuns. E, pior ainda, tudo isso seria feito intencionalmente em uma busca implacável por lucro.
No cerne de muitas das preocupações está a suposição de que, no relacionamento entre os seres humanos e os sistemas automatizados complexos, não somos nós que estamos no controle. A agência humana teria sido corroída. Ou, como Joanna Stern declarou ao Wall Street Journal, em janeiro, “perdemos o controle do que vemos, lemos — e até pensamos — para as maiores empresas de mídia social”.
Os defensores das mídias sociais frequentemente ignoraram ou menosprezaram essas críticas — esperando que a marcha tecnológica as afastasse ou vendo as críticas como equivocadas. Isso é um erro: a tecnologia deve servir à sociedade, não o contrário. Diante de sistemas opacos operados por ricas empresas globais, não é de surpreender que muitos presumam que a falta de transparência exista para servir aos interesses das elites de tecnologia e não dos usuários. No longo prazo, as pessoas só se sentirão confortáveis com esses sistemas algorítmicos se tiverem mais visibilidade sobre como funcionam e, então, ter a capacidade de exercer um controle mais informado sobre eles.
Empresas como o Facebook precisam ser francas sobre como a relação entre você e seus principais algoritmos realmente funciona. E eles precisam dar a você mais controle.
Alguns críticos parecem pensar que a mídia social é um erro temporário na evolução da tecnologia — e que, uma vez que tenhamos sentido coletivo, o Facebook e outras plataformas entrarão em colapso e todos reverteremos aos modos anteriores de comunicação. Esta é uma interpretação profundamente errada da situação — tão imprecisa quanto a manchete do Daily Mail de dezembro de 2000, declarando que a internet “pode ser apenas uma moda passageira”. Mesmo que o Facebook deixe de existir, a mídia social não será — e não pode ser — desinventada. O impulso humano de usar a internet para conexão social é profundo.
Serviços personalizados baseados em dados, como as mídias sociais, empoderaram as pessoas com os meios de se expressar e se comunicar com outras pessoas em uma escala sem precedentes. E esses serviços colocaram ferramentas nas mãos de milhões de pequenas empresas em todo o mundo, que antes estavam disponíveis apenas para as maiores corporações. A publicidade digital personalizada não apenas permite que bilhões de pessoas usem as mídias sociais gratuitamente, mas também é mais útil para os consumidores do que a publicidade não direcionada e de baixa relevância. Retroceder o relógio para algum falso passado de tom sépia — antes da publicidade personalizada, antes da classificação de conteúdo por algoritmo, antes que as liberdades de base da Internet desafiassem os poderes constituídos — perderia tantos benefícios para a sociedade.
Mas isso não significa que as preocupações sobre como os humanos e os sistemas algorítmicos interagem devam ser descartadas. Há claramente problemas a serem resolvidos e perguntas a serem respondidas. A internet precisa de novas regras — elaboradas e acordadas por instituições eleitas democraticamente — e as empresas de tecnologia precisam garantir que seus produtos e práticas sejam projetados de forma responsável, levando em consideração seu potencial impacto na sociedade. Isso começa — mas de forma alguma termina — colocando as pessoas, e não as máquinas, no comando com mais firmeza.
Leia o artigo completo no Medium.