Para encerrar minhas leituras sobre inteligência artificial neste ano, nada melhor do que mergulhar em uma distopia capaz de tirar o sono, principalmente após tantas reflexões sobre como empresas e governos nos tratam como “conjuntos discretos de dados”.
Quantas vezes aceitamos os termos de um contrato sem ler, apressados pela necessidade do serviço? E depois, quando nos tornamos dependentes, é fácil para as empresas “atualizarem” esses termos, mudando as regras do jogo sem transparência ou diálogo, não é?
A protagonista Sara Hussein passa exatamente por esse dilema: ao implantar uma tecnologia futurista para lidar com a privação de sono após o nascimento de gêmeos, ela não imaginava que seus dados de sonho seriam monitorados e que seu “score de risco” social poderia mudar repentinamente. Ao retornar de viagem, é abordada no aeroporto por ser considerada um “risco iminente” e encaminhada para uma unidade de "retenção", onde permanece sob observação forense, obrigada a seguir regras arbitrárias se quiser evitar uma estadia prolongada.
Imediatamente, lembrei de “O Processo”, de Kafka, pois Sara desconhece os motivos para o aumento de seu score e sequer entende como os algoritmos interpretam seus dados. Resta a ela controlar as emoções para que as câmeras não rastreiem qualquer indício de perigo em sua expressão ou comportamento.
O universo de “O hotel dos sonhos” é baseado no tecnofascismo, no qual tecnologias avançadas servem à vigilância e ao controle social, ocasionando perda de liberdades individuais, sujeição a corporações e punição com base em probabilidade algorítimica – não em ações concretas. Dispositivos vendidos como soluções médicas se tornam ferramentas de vigilância, e cada sonho pode ser usado de forma incriminadora contra seu sonhador.
A leitura propõe profundas reflexões sobre o modo como as bigtechs tratam nossos dados hoje, sem regulamentação, e um alerta para os rumos do capitalismo, que prioriza lucros acima da humanidade, aprofundando formas de controle e vigilância em uma sociedade cada vez mais digitalizada.
✷
"A liberdade é abundante, complicada e, sim, arriscada, e só pode ser escrita na companhia de outras pessoas"