Resenhas - Algoritmos de Destruição em Massa

Andurin, o calvo 21/05/2023

Alarmante e necessário
Esse livro conta com uma linguagem simples e efetiva para mostrar para todos os públicos os perigos que estamos correndo de forma aparentemente invisível. Sem nos darmos conta os algoritmos e modelos matemáticos estão moldando a nossa sociedade e a nossa realidade, enfatizando preconceitos e impulsionando desigualdades, sempre com o foco no lucro. A tecnologia está evoluindo em um ritmo desenfreado, onde as legislações e a sociedade civil não consegue dar conta de entender e controla-la. Por isso é necessário nos informarmos sobre esse assunto e cobrar soluções.

Maria9959 02/05/2023

Pra entender nossa era
Esse livro é fundamental pra quem quer entender o que está acontecendo no mundo com toda revolução da inteligência artificial, etc. Muito didático, poderia ser menor kkk às vezes o tema se estende muito... Mas dá pra ler em 2 ou 3 dias rapidinho porque é fácil de entender. Mudou muita coisa que eu pensava a respeito de IA... Vale muito a pena. Mas recomendo uma leitura dinâmica pra conseguir chegar no fim kkkk

inasantos 11/04/2023

Reflexões
Um livro e muitas reflexões. Se você trabalha com dados, como eu, passa a se questionar o tempo inteiro sobre o propósito, ética e até se deveria continuar. Se não trabalha mas curte o tema, com certeza se perguntará onde mais na sua vida "eles" estão utilizando suas informações!
Vale a leitura. Muito rica de exemplos reais e bem fluída.

MaluSevilha 10/04/2023

Uma perspectiva embasada
O livro, embora as vezes bem maçante, trás exemplos ricos e se baseia completamente na realidade para disparar suas conclusões em torno da tecnologia e das ADMs. As vezes, a autora precisa dar grandes voltas para mostrar determinados pontos, o que deixa o livro denso e demorado de ler, mas vale a pena para sair com uma visão questionadora.
Para mim, que desejo ser engenheira de computação, é uma leitura obrigatória que contribuirá muito para as minhas produções. A visão em torno da matemática, ao final, é essencial para todos aqueles que a usam e a consomem.

Felipe Lapa 09/04/2023

Algoritmos de Destruição em Massa
"Algoritmos de Destruição em Massa" é um livro muito interessante para refletir os danos que os algoritmos voltados para decisões de negócio causam. Apesar da boa experiência e dos acertos que a Inteligência Artificial pode nos proporcionar, o modo como ela trabalha pode ser um pouco presunçoso, o exemplo mais claro é o relacionamento entre vizinhos próximos, aqui no caso não seria um vizinho de apartamento, mas sim um vizinho de características, esse conceito é empregado no algoritmo KNN (K-nearest neighbors, ou ?K-vizinhos mais próximos?), nesse algoritmo alguns pontos são relacionados com base na distância entre eles, os pontos podem ser representados em gráfico de dispersão, colocando duas características nos eixos x e y separadamente. Então uma pessoa A pode estar próxima de uma pessoa B e, por consequência, ganhar ou não um aumento de crédito ou um contrato. Normalmente essas relações, em qualquer algoritmo, precisam ser validades e levar em conta milhares de variáveis para que a decisão seja coerente, claro que não cabe a ética defender isso, o uso desses dados para decisões de negócio servem para a empresa ter mais noções de seus clientes e como deve gerir as suas atividades.

A autora do livro, Cathy O'Neil, também coloca em discussão a distribuição dos dados, vivemos em uma era que o uso da Internet e geração de dados é enorme, esse fenômeno é conhecido como Big Data. Nossos dados são distribuídos em muitos lugares e usados de diversas maneiras, por isso é necessário um certo cuidado quando for colocar seus dados em algum site.

O livro consegue trazer à tona diversas discussões interessantes, apresentando exemplos e casos reais, mas a leitura se torna um pouco cansativa em determinados momentos, pois alguns trechos são repetitivos. Tirando este fato, a leitura é muito recomendada para os que se interessam no assunto e para quem quer se aprofundar mais nas discussões sobre algoritmos.

Patcha 08/04/2023

O lado assustador do mundo digital
É comum ouvirmos que os computadores estão acabando com nossa individualidade e todo aquele blá-blá-blá contra a tecnologia. Pois nesse livro não só encontramos registros reais de como esse controle funciona, mas somos convencidos de que há um lado bom no algoritmo.
Admito que não estava esperando aproveitar tanto esse livro, uma vez que, como publicitário, sou um forte defensor desse tipo de tecnologia. Mas me deparei com uma discussão sóbria e ponderada sobre os males e os benefícios da tecnologia.
Recomendo a leitura.

Guilherme 04/03/2023

Resenha : Algoritmos de Destruição Massa.
Título original: Weapons of Math Destruction: how big data increases inequality and threatens democracy

Resumo: Algoritmos de Destruição em Massa é um livro de não ficção que de maneira muito didática aborda como a mentalidade de que algoritmos são imparciais e inofensivos esta totalmente errada. Ele foi escrito por Cathy O’Neil, formada em ciência de dados e matemática e possui 252 paginas. Foi publicado no Brasil em 2020 pela editora Rua do Sabão.

Esse foi o primeiro livro de não ficção que li este ano e foi o primeiro livro desse gênero que li e terminei desde Homo Deus de Yuval Noah Harari. Falo isso porque eu tenho uma dificuldade em textos mais acadêmicos, contudo assim como em Sapiens e Homo Deus, apesar de tratar de um assunto sério a autora consegue trazer um teor de descontração. Isso não significa que o livro todo é leve, a autora consegue conduzir o leitor pelos temas e adequar para um tom mais sério quando acha necessário.

O livro nasceu da experiência da autora ao trabalhar no campo da ciência de dados durante a crise econômica de 2008 e como isso serviu de alerta para ela em relação quanto o uso irresponsável de algoritmos e outras ferramentas matemáticas que podem ser devastadoras, principalmente para os mais pobres e vulneráveis.

Além da experiência pessoal da própria autora, o livro conta com diversos relatos e exemplos de como essa novidade tecnológica já afeta nossas vidas e em um vasto campo de atuação. O livro trata do uso de algoritmos desde sistemas de avaliação de professores a programas de monitoramento da polícia, métricas de crédito adotadas por bancos e seguradoras e aborda o escândalo da Cambridge Analytica e o Facebook.

O livro rompe a ideia de imparcialidade da máquina ao qual estamos acostumados por obras de ficção científica e pelo cinema. Se a base de dados que ensina a máquina estiver cheia de preconceito e viés os programas irão perpetuar isso, e como diferentemente das pessoas eles são raramente questionados, isso tem o potencial de criar muita injustiça ao longo do tempo.

Conclusão.

Trazendo conhecimento e sem perder tempo com tecnicidades Cathy O’Neil vai direto ao ponto e nos alerta de como o uso indiscriminado de algoritmos, muitas vezes visando apenas a amplificação de lucros pode trazer um retrocesso e como essa ameaça pode se passar de maneira invisível perante nossos olhos.

Bruna.Dietrich 27/02/2023

A forma como somos tão facilmente manipulados na era da internet é assustador! No fim, não passamos de um número.

Ana Flávia 08/01/2023

Leitura essencial
Existe um pensamento corrente na nossa sociedade de que a tecnologia seria capaz de resolver facilmente diversos problemas. Porém, como a autora do livro expõe de maneira clara, se a tecnologia não for usada com pensamento crítico, transparência e ética, ela pode levar a consequências desastrosas.
Acredito que esse livro é uma leitura importante para entendermos os desafios que enfrentamos na atualidade. Deveria ser leitura obrigatória para profissionais de tecnologia, mas não é necessário conhecimento técnico para a leitura.

Fernanda.Lopes 30/12/2022

Assustador e necessário
As reclamações sobre algoritmos de redes sociais já são conhecidas. Mas, nesse livro, nós damos um passo adiante, entendendo como os algoritmos afetam outras áreas da nossa vida, como a busca por crédito ou por emprego.

Muitos exemplos ali são mais presentes na sociedade norte-americana, mas isso não significa que a gente não veja situações semelhantes por aqui.

É assustador perceber o quanto o contato humano na resolução de problemas ainda é reservado às classes mais altas, enquanto os mais pobres e trabalhadores têm que ver suas vidas sendo dirigidas por algoritmos.

Renata 27/12/2022

Bem-vindos ao lado sombrio do Big Data?
Leitura excelente, a autora consegue nos explicar como funciona o mundo dos ADMs de forma fácil e didática, fazendo com que a gente entenda e perceba a realidade paralela mesmo não sendo matemáticos, cientistas de dados e, etc.

?Mas, como tentei mostrar ao longo deste livro, esses modelos são construídos não apenas de dados, mas das escolhas que fazemos sobre em quais dados prestar atenção - e quais deixar de fora. Essas escolhas não tratam apenas de logísticas, lucros e eficiência. Elas são fundamentalmente morais.? (Pág.: 337)

Angelica.Shihara 26/12/2022

Nós escutamos falar em algoritmos e Big Data, temos uma pequena noção do que significa e não fazemos ideia das consequências negativas que esse sistema pode trazer para nós e, pior ainda, para pessoas mais vulneráveis e desfavorecidas.
A leitura traz dados, casos e estudos mais aprofundados sobre esse sistema. Como bem pontua a autora, ?Se nos afastarmos delas e tratarmos os modelos matemáticos como forças neutras e inevitáveis, como o clima ou as marés, estaremos abdicando de nossa responsabilidade. E o resultado, como vimos, são ADMs que nos tratam como partes de máquinas no local de trabalho, que boicotam funcionários e se deleitam com desigualdades. Devemos nos unir para fiscalizar essas ADMs, para domá-las e desarmá-las. Minha esperança é que serão lembradas, assim como as mortais minas de carvão de um século atrás, como relíquias dos primórdios dessa nova revolução, antes de termos aprendido a como trazer justiça, equidade e responsabilização à era dos dados. A matemática merece muito mais do que ADMs, e a democracia também.

Priscila.Lanza 19/12/2022

@Serasa agora eu entendi
Na era do Big Data, nada passa despercebido. Você acessa a internet, curte, comenta, compartilha, compra, recomenda, critica, mostra seu Spotify wrapped do ano, atualiza suas competências no LinkedIn.
Mas quando o Google/Facebook/Instagram e afins te mostram uma propaganda muito assertiva, é invasivo. Será?
Sua fatura do cartão te define.
A faculdade em que estudou te define. Onde você mora te define.
Sua rede de amigos na internet te define. Não de uma forma justa, a frase "Me diga com quem andas que te direi quem és." nunca fez tanto sentido.

Maria Amélia 15/12/2022

?indicado ao National Book Award 2021

Livro com uma linguagem de fácil compreensão para quem não é da área (como eu).

"Vivemos na Era do Algoritmo. Cada vez mais, as decisões que afetam nossas vidas ? onde estudamos, se obtemos um empréstimo para comprar um carro, quanto pagamos pelo seguro saúde ? estão sendo tomadas por modelos matemáticos. Em teoria, isso deveria nos conduzir para um mundo mais justo: todos são julgados de acordo com as mesmas regras e o preconceito é eliminado. Mas, como Cathy O'Neil revela neste livro urgente e necessário, a verdade é justamente o contrário. Os modelos usados hoje são opacos, não regulamentados e incontestáveis, mesmo quando estão errados. O mais preocupante é que eles reforçam a discriminação: se um estudante pobre não consegue obter um empréstimo porque o modelo matemático o considera muito arriscado (graças ao endereço onde mora), ele também é recusado na universidade que poderia tirá-lo da pobreza. Os algoritmos criam uma espiral discriminatória. Os modelos amparam os privilegiados e punem os oprimidos, criando um ?coquetel tóxico para a democracia?."

Sol 04/12/2022

Um pouco assustador como um episódio de black mirror, saber que os algoritmos podem determinar o futuro de pessoas com base em CEP por exemplo. Ótimo livro apesar disso.