O risco de a IA passar de Serva Passiva a Mestra Tirânica é dramaticamente atraente — Como a Skynet! — mas os riscos reais residem nas esferas mundanas da ordem socioeconômica. Como explico em meu novo livro Investindo em Revoluções, as revoluções tecnológicas compartilham a mesma dinâmica: aqueles que lucram com as inovações as impulsionam desenfreadamente, sem levar em conta as consequências futuras e interesses alheios, pois o objetivo é expandir o mais rápido possível para alcançar o domínio total do mercado.
Escrito por Charles Hugh Smith
Isso é perfeitamente compreensível, já que parar para avaliar possíveis problemas significa, na prática, ceder o controle aos concorrentes [ou seja, É INEVITÁVEL QUE SEJA SOBRE CONTROLE].
A sociedade — toda a civilização que não se reduz a dados financeiros — sofre as consequências, mas ao longo de um período muito mais extenso do que a expansão inicial da tecnologia. Em outras palavras, as recompensas imediatas da revolução tecnológica beneficiam os inovadores mais ágeis, enquanto as consequências mais amplas — tanto os benefícios quanto as desvantagens — impactam as esferas socioculturais e políticas por um período muito mais longo.
Isso cria uma defasagem temporal, em que a sociedade precisa absorver e avaliar as consequências anos ou até décadas após a expansão inicial da tecnologia. A ferramenta organizacional dos inovadores é a corporação, uma estrutura financeira com um único objetivo — expandir receitas e lucros por todos os meios disponíveis — e uma hierarquia de comando-controle-comunicações (também conhecida como 3C) paramilitar.
Essa estrutura se encaixa perfeitamente com os mercados, que precificam tudo no momento presente: os mercados não possuem mecanismos para precificar nefastas consequências futuras; eles precificam apenas produção, transporte, moedas, materiais, marketing, estoque, etc., no presente.
Em contraste, a sociedade é caracterizada por uma multiplicidade de interesses e estruturas em vários estágios de defesa de interesses. Não existe um único objetivo ou hierarquia, e os benefícios e malefícios das mudanças tecnológicas são tipicamente distribuídos de forma muito desigual.
Aqueles que estão em posição de colher os frutos ganham terreno, enquanto aqueles que estão em posição de arcar com as consequências negativas perdem terreno. Cada um, então, defenderá o controle ou deixará a situação correr solta, conforme o caso.
A mentalidade americana favorece a abordagem de “deixar correr solto” e depois lidar com as consequências das revoluções tecnológicas. Isso atende aos interesses dos inovadores e especuladores iniciais, que podem acumular grandes fortunas na euforia especulativa inicial para embarcar nessa onda. Isso aconteceu e se repetiu nas ferrovias, nos automóveis, no rádio, na TV, na internet e assim por diante.
Cada revolução é caracterizada como destruição criativa: a indústria de chicotes para charretes é dizimada, mas uma indústria maior é criada.
É aqui que a correlação é confundida com causalidade : o fato de esse ciclo ter ocorrido em um passado recente não o torna uma Lei da Natureza, ou seja, uma manifestação previsível de causalidade.
O que nos leva à IA. A IA é diferente e única: à medida que se expande, ela não gera a necessidade de mais mão de obra humana, ela substitui a mão de obra humana. Essa é a sua razão de ser implícita .
Os lucros vão para as empresas e especuladores dos inovadores iniciais, e as consequências recaem sobre uma sociedade despreparada para avaliá-las, muito menos para limitá-las e controlá-la.
A IA é diferente em outro aspecto: ela gera uma reprodução convincente das características e interações humanas, reproduções de pensamentos e conhecimentos que consideramos “reais” porque estão em “nossa linguagem”.
Mas, como explico no meu livro Ultra-Processed Life , esses fac-símiles são todos processados de maneiras que não conseguimos discernir: tudo é processado em caixas-pretas, seguindo roteiros e agendas que não podemos ver.
O que é apresentado como uma representação precisa é, na verdade, uma versão ultraprocessada que omite tudo o que é impraticável ou indesejável. Dizem-nos que o que vemos na tela é real, mas não é; é o equivalente a uma gosma alaranjada, ultraprocessada, açucarada, salgada e gordurosa, apresentada como uma “alternativa saudável” a uma cenoura crua.
O que se perde ao substituir as cópias ultraprocessadas da IA ocorre abaixo da nossa percepção. Não notamos o que foi perdido e, portanto, não podemos mais fazer uma avaliação realista: essa capacidade foi perdida.
A IA também está acelerando o processo de mudança tecnológica, um processo que vem se acelerando há 60 anos. O livro de Alvin Toffler, de 1970, “O Choque do Futuro“, descreveu a natureza desorientadora da mudança impulsionada pela tecnologia, um tema atualizado por Douglas Rushkoff em seu livro de 2004, “O Choque do Presente, quando tudo acontece agora” .
Ao juntarmos essas dinâmicas, chegamos à seguinte analogia em relação à IA : somos como crianças brincando com fósforos e gasolina em uma floresta seca e devastada pela seca.
Mesmo com os formidáveis recursos das grandes corporações de tecnologia e do Estado se mobilizando para garantir a supremacia da IA , talvez estejamos enganados: aqueles que desperdiçam recursos para construir uma Skynet estatal-corporativa “para servir [destruir] à humanidade” estão acelerando nossa autodestruição, enquanto as sociedades [ E INDIVÍDUOS] que limitam a sua exposição à complexidade excessiva da IA sairão vencedoras, e não perdedoras.
Só para lembrar o que está em jogo na busca pela supremacia da IA : não se trata apenas de capital financeiro e lucro, mas trata-se DE TUDO.
