Sobre o fetiche da IA: notas críticas sobre a história da tecnosociedade de Yuval Harari
O perigo da Inteligência Artificial (IA) não se encontra na tecnologia em si, e sim no fato de que será usada por um setor pequeno da sociedade para explorar as grandes massas.
Por Lucas Aguilera | CLAE – Tradução de Pedro Marin para a Revista Opera*
(Foto: World Economic Forum / Ciaran McCrickard)
Há cerca de um mês, Elon Musk, fundador de empresas como Tesla e SpaceX e segundo lugar na “lista mundial de multimilionários da Forbes”, assinou junto a Sam Altman, diretor da OpenAI, Steve Wozniak, co-fundador da Apple, e outras personalidades da indústria tecnológica, uma carta aberta no site do instituto Future of Life. Na carta, solicitavam uma pausa “de imediato, durante ao menos 6 meses, do treinamento dos sistemas de inteligência artificial mais potentes que o GPT-4”, argumentando que a inteligência artificial “poderia ser um dos maiores riscos para o futuro da civilização”.
A publicação desta carta pôs na agenda pública global um debate que se apresenta como uma preocupação pelo futuro da humanidade, a civilização e a ética do desenvolvimento tecnológico atual, no marco do que chamam de quarta revolução industrial. No entanto, o que há de fundo é uma disputa pelo controle do tempo social de produção, pois tal controle permite, a um punhado de empresas financeiras e tecnológicas, a apropriação da riqueza global socialmente produzida.
Como mostra disso, se pode observar como, apesar de sua aparente inquietude pelos potenciais perigos que implicaria o desenvolvimento deste tipo de tecnologia, Musk, além de ter sido co-fundador da OpenAI (empresa da qual se retirou em 2018), criou, duas semanas antes de assinar a carta à qual nos referimos, o TruthGPT, uma empresa dedicada, justamente, ao desenvolvimento de Inteligência Artificial (IA). Paradoxalmente, o mesmo empresário a definiu como “uma inteligência artificial que busque a verdade máxima e tente compreender a natureza do universo […], uma IA que se preocupe com entender o universo tem pouca probabilidade de aniquilar os humanos porque somos uma parte interessante do universo”.
Esses investimentos também podem ser encontrados em outras gigantes da tecnologia, como a Microsoft, que desde 2019 mantém uma associação com a OpenAI, a empresa que lançou a já famosa plataforma ChatGPT, a partir da qual o debate pelo desenvolvimento de inteligências artificiais foi avivado. Bill Gates, fundador desta gigante, parece ter sido um pouco mais cético quanto às preocupações colocadas na carta aberta mencionada acima: “não creio que pedir a um grupo em particular que faça uma pausa resolva os desafios. Realmente não entendo os que estão dizendo que deveríamos parar. Tampouco, se todos os países do mundo estariam de acordo com parar, e porquê parar”.
Por trás das “boas intenções”: a disputa pelo controle do desenvolvimento tecnológico
A verdade é que os gigantes tecnológicos não podem parar sua corrida pelo controle dos tempos sociais da produção, que estabeleceu uma disputa global dentro da Nova Aristocracia Financeira e Tecnológica, a fração da burguesia que hoje tem a capacidade de levar adiante esse tipo de inovação. Uma nova personificação social, que emerge num cenário de constituição de uma nova fase do sistema capitalista, assentada nos processos de financeirização-digitalização dos processos produtivos a nível global.
Desta maneira, apesar da existência de numerosos projetos estratégicos de alcance mundial, em termos gerais, o mundo se enquadra no chamado “G2”, ordenado nas tensões visíveis entre os Estados Unidos e a República Popular da China. Nesse marco é que, em tempos pós-pandemia, vemos emergir uma nova dinâmica imperialista-tecnológica, que parece operar como contradição principal das lutas intercapitalistas, entre o que pode definir-se, por um lado, como o projeto Estados Unidos-Amazon (e o modelo GAFAM[1]) e, por outro lado, pelo modelo China-Huawei (e o modelo BAT[2]), definições de uma disputa profunda, complexa e por vezes contraditória entre grandes interesses econômicos.
Tomando o caso das grandes empresas tecnológicas da China, se pode mencionar que a Huawei, no ano de 2022, investiu 22 bilhões de dólares no desenvolvimento de armazenamento em nuvem. A Alibaba, por sua vez, neste mesmo ano investiu 15 bilhões de dólares em sua Academia DAMO – em áreas de pesquisa focadas na inteligência de dados, IoT, interação homem-máquina e computação quântica –, além de outros 1,4 bilhões de dólares em seu sistema de inteligência artificial para alto-falantes inteligentes e, por último, 600 milhões de dólares na SenseTime, uma empresa de aprendizagem profunda e visão artificial.
Já a Baidu investiu no Centro de Computação Inteligente (aplicativos como transporte inteligente, direção automática e redes industriais) e em armazenamento em nuvem. Por último, a Bytedance investiu em uma IA que cria avatares de forma automática, diferentemente da Meta (sua contraparte estadunidense), que os cria de forma manual.
Em relação às grandes empresas de tecnologia sediadas nos Estados Unidos, segundo dados conhecidos em fevereiro de 2023, o Google investiu 400 milhões de dólares em uma startup de inteligência artificial chamada Anthropic, enquanto a Alphabet, empresa matriz do Google, anunciou no fim de março funções impulsionadas por IA para suas plataformas, além de seu próprio chatbot de inteligência artificial, o Bard. A Amazon, por sua vez, anunciou que ofereceria acesso à IA em sua plataforma (AWS), além de ter estabelecido acordos com empresas de Inteligência Artificial como a Stability AI e a Hugging Face Inc., que desenvolve um sistema rival ao ChatGPT.
No que tange à Meta, seu CEO, Mark Zuckerberg, anunciou que a companhia está trabalhando para introduzir mais serviços em suas aplicações com Inteligência Artificial: “fizemos experiências de chat para o Whatsapp e o Messenger, ferramentas de criação de imagens para o Facebook e Instagram, além de funções de vídeo”. Finalmente, no final de março, a Apple adquiriu uma empresa de IA conhecida como WaveOne, e no final de abril, Tim Cook, CEO da companhia, declarou que a mesma se comprometeria a investir 430 milhões de dólares nos Estados Unidos para a produção de semicondutores e microprocessadores e no desenvolvimento de tecnologias para a rede 5G e para Inteligência Artificial.
Como seus investimentos deixam claro, as gigantes tecnológicas não pararam um segundo no desenvolvimento da Inteligência Artificial – mas sua filantropia artificial não para aí. No final do ano passado e começo deste, tanto Microsoft, Google, Meta, Amazon e Twitter (propriedade de Elon Musk) anunciaram demissões em suas equipes dedicadas a analisar aspectos éticos sobre o desenvolvimento da Inteligência Artificial, às quais se somam outros milhares de funcionários que foram afastados de suas funções nessas empresas nos últimos meses.
O que fica claro então é que, paradoxalmente, muitos dos que demonstraram sua preocupação filantrópica assinando a carta e solicitando uma pausa no desenvolvimento de tecnologias de IA são os mesmos que continuam investindo milhões de dólares nesse desenvolvimento. Qual é então a verdadeira preocupação? Como já dissemos, o interesse deles é em quem lidera e controla os avanços da ciência e da tecnologia.
Além dos CEOs que lideram essas empresas tecnológicas, aparecem como assinantes da carta alguns intelectuais que se apresentam como defensores dos destinos da humanidade. Quadros orgânicos das elites dirigentes que constroem os fundamentos ideológicos da sociedade que se encontra em pleno desenvolvimento. Um deles, o preferido de Davos, é Yuval Harari, intelectual israelense amplamente difundido em todo o mundo.
Não são só o problema, também são a solução
O muito citado historiador israelense, Yuval Harari, em seu último livro “Homo Deus”, e em diversas entrevistas, faz declarações sobre o desenvolvimento inalterável da IA, à qual atribui capacidades de “criar regimes muito mais totalitários do que qualquer outro que vimos na história da humanidade.” Diante da implacabilidade do futuro desse mundo da IA, ele recorre às subjetividades daquela “pequena elite com status super-humano” criada pela desorganização tecnológica e pelas expectativas de um futuro não desigual.
Harari, em suas intervenções, apresenta uma historicização da evolução da humanidade como uma “graça divina” da evolução da tecnologia em seus “avanços inevitáveis” na qual o humano é quem a utiliza, ocultando a origem da potência criadora da força do trabalho. O autor sustenta que a cooperação, a criação e a imaginação são a essência do humano, e que, como resultado deste processo “evolutivo” na atualidade, as mesmas poderiam ser “roubadas” pela tecnologia. Desta maneira, segundo este intelectual orgânico do capital, o foco segue sendo o material inorgânico sobre o humano.
O que Harari oculta é que a ciência e a tecnologia são produtos do trabalho, e que, sob o domínio do sistema capitalista, se voltam contra o homem para explorar suas habilidades e potências. O perigo, então – se é que pretendemos falar de possíveis perigos para a humanidade –, não se encontra no desenvolvimento dessas tecnologias em si, e sim no fato de que as mesmas são implementadas por um setor extremamente reduzido da sociedade para explorar as grandes massas trabalhadoras. A Nova Aristocracia Financeira e Tecnológica oculta, em sua práxis, seu objetivo principal: concentrar as riquezas, subsumindo o humano para ser a coisa perpétua, um eterno “não-ser”.
Mas nosso autor não para aí. Em sua futurologia, predica que “uma vez que os esforços científicos sejam coroados de sucesso, eles desencadearão amargos conflitos políticos” e se dará lugar à verdadeira luta que nos espera: “a luta pela juventude eterna”. Um panorama que, em suas palavras, nos permitiria evoluir desde nosso estado atual de Homo Sapiens até um de Homo Deus, e desta maneira “ascender os humanos a Deuses”.
Um futuro logicamente reservado para alguns, já que ao mesmo tempo este Nostradamus contemporâneo prognostica que “milhões de humanos nos países em via de desenvolvimento e nos bairros mais miseráveis continuarão tendo que lidar com a pobreza, doenças e a violência”. Quer dizer: enquanto as maiorias serão lançadas em condições de extrema pobreza e conformarão o que esse autor denomina como “classe inútil”, outros – muitos poucos, a nosso ver – estarão claramente ocupados em sua busca pela primavera da juventude.
Ao mesmo tempo, nosso oráculo tecnocrático aconselha que em um futuro não tão distante a felicidade não será encontrada nem no plano político, nem no econômico, nem no social: “esqueçamos do crescimento econômico, das reformas sociais e das revoluções políticas: para aumentar os níveis mundiais de felicidade precisamos manipular a bioquímica humana”. O que ele não explica – ou ao menos não se infere facilmente –, é qual é o conceito de felicidade ao qual se refere, sugerindo que a medicalização é um dos possíveis caminhos para uma felicidade mundial, afirmação que faria corar o próprio Aldous Huxley e seu romance “Admirável Mundo Novo”.
O que, novamente, nosso autor não diz, é que o debate sobre o uso dos avanços científicos sempre fez parte dos processos coletivos da humanidade, no entanto, eles foram historicamente apropriados e realizados por setores concentrados, de modo que essa suposta “manipulação da bioquímica” pela humanidade também não foge a esse ponto.
Dessa forma, o intelectual sustenta que o controle dessas “tecnologias perigosas” evitará que os humanos “sejam hackeados, explorados”, simplesmente ocultando assim a condição de explorador do sistema capitalista, tão atual quanto a própria tecnologia, anulando completamente o ser humano como sujeito criador e legítimo proprietário de saberes “perigosos”.
Leia também – A iminente crise da mente
Embora o intelectual em sua história suplique para que tomemos consciência sobre os progressos da ciência em sua famosa “guerra contra a morte”, dizendo que “a luta real que nos espera” é pura e simplesmente “a luta pela eterna juventude”, paralelamente nos leva ao disciplinamento total, porque uma humanidade sem capacidade de reflexão é uma humanidade moldável aos interesses dos poderes concentrados.
Claramente, a tecnologia não é neutra, e é por isso que a Nova Aristocracia Financeiro-Tecnológica está disputando como direcionar o uso das tecnologias, mas com o foco em continuar concentrando ainda mais. É necessária uma compreensão mais profunda das estruturas sociais e econômicas subjacentes que modelam e dirigem o desenvolvimento tecnológico e científico, e uma avaliação crítica das contradições e conflitos entre a tecnologia e o capitalismo. Esta é a verdadeira guerra que hoje estamos atravessando: quem fica com o conhecimento científico e tecnológico?
Inteligência artificial ou inteligência das maiorias? Sobre as potências criativas do trabalho
Como já afirmei em outro artigo, compreender os processos que estão por trás dos fenômenos que aparecem na superfície permite entender suas causas e superar a ingenuidade intelectual. Yuval Harari explica a situação atual a partir da irrupção da Inteligência Artificial (IA) no processo produtivo, como parte de um aparente desenvolvimento “natural”. O que não explicita é a materialização de ditos avanços tecnológicos como capital fixo.
Estes meios de produção, como a Inteligência Artificial, o 5G e a internet das coisas (IoT), são produtos do saber social extraído da elaboração de cientistas, matemáticos, programadores, e também das atividades de bilhões de usuários e usuárias. É dizer: de todo aquele sujeito produtor que se relaciona com os instrumentos a partir de seu pertencimento ao corpo social.
Não parece correto então falar da emergência, como diz Harari, de uma classe inútil, já que os milhões de seres humanos formam parte de um complexo sistema inter-relacionado e interconectado de produção nunca antes visto na humanidade.
No atual processo de divisão do trabalho, na expressão máxima do que Marx anunciou como a constituição do “trabalhador coletivo” global, é que vemos “o conhecimento, a inteligência e a vontade” particulares ficarem totalmente subsumidos à lógica do capital.
Ao conceito de “inteligência artificial”, fetiche que oculta o processo onde o objeto produto do trabalho social é subjetivado, adquirindo vida própria e uma espécie de “vontade” que orienta o desenvolvimento da ciência e a tecnologia para além da ação do ser humano, cabe contrapor o conceito de “inteligência das maiorias”, o que Marx já levantava ao falar do intelecto geral como um processo social e global de inovação permanente que impulsiona as forças produtivas, não apenas como conhecimento, mas sim como “órgãos imediatos da prática social”.
O desenvolvimento máximo das forças produtivas abre um momento onde a automatização do processo produtivo está levando a um mínimo o tempo de trabalho socialmente necessário e, por outro lado, está anulando a potência criativa do trabalho. Se desloca a jornada de trabalho de seu lugar central na criação de valor e se põe no centro a tensão e a disputa do tempo restante, que Marx define como tempo disponível.
Tal como descrito por García Linera, em sua leitura dos Grundrisse, o tempo de trabalho direto “potencialmente deixa de ser a medida dessa riqueza, pois tende a mostrar-se como um ‘fundamento miserável’ frente ao campo das possibilidades que abre a presença da ‘força produtiva geral’ ou intelecto social geral.”
Consciente desse estado de coisas, o capital desenvolveu os mecanismos para conseguir apropriar-se do tempo de trabalho fora da jornada laboral como era tradicionalmente concebida. A socialização dos múltiplos dispositivos tecnológicos permitiu pô-los à disposição como meios de produção associados à ação humana, transformando nosso tempo fora da jornada de trabalho em trabalho produtivo não-remunerado, ou seja, mais-trabalho.
Mas o capital, neste processo, também se apropria da potência criativa do trabalho social, com a possibilidade de desenvolvimento exponencial graças à integração da criatividade da humanidade, por meio da conectividade que as tecnologias permitem no território virtual. Essa potência criativa transforma o tempo disponível em força produtiva que, captada pelo capitalista, pode ser transformada em valor. O mesmo está ligado a uma rede de redes que, alcançando a sua totalidade pelas forças estranhas do capital e a força criadora do trabalho, potencialmente geram riqueza social.
Portanto, os demais tempos da vida, como os dedicados às necessidades espirituais, criativas e intelectuais, são os que se prolongam. De forma que parece que o capital conseguiu subsumir este tempo disponível que, como classes subalternas, entendíamos como um campo de possibilidade da revolução cultural e possibilidade de libertação desse não-ser como homem-coisa no sistema produtivo, rumo ao ser como homem e um mundo humano. Sob essas condições, hoje o observamos como potência destrutiva, ou seja, converteu-se à negatividade.
As forças dos meios de produção unificam as dispersões sociais, impõem uma única forma de transformar a materialidade no tempo livre, conseguem gerar um tipo de conduta e de movimento também fora do sistema produtivo. A práxis criativa está subsumida. Torna-se práxis de não-criatividade, enquanto for apropriada pelo capitalista.
Mas a grande contradição do sistema é que esses tempos são tempos de possibilidade de reflexão-ação, ou seja, de práxis, o que pode ser a possibilidade de ruptura com o próprio sistema. São tempos que na etapa anterior eram mediados por atividades sociais (esportes, cultura etc.), também subsumidas formalmente ao capital, mas sem possibilidade de colocar nossa capacidade de trabalho em relação a um meio de produção.
Essa socialização hoje se encontra na virtualização, no mundo das redes sociais, onde o capital cumpre seu duplo objetivo: a geração de excedente de trabalho e a dispersão da classe trabalhadora. Na realidade “concreta” (de carne e osso) observa-se uma dispersão de magnitude nunca antes vista, um momento de individualização (atomização, isolamento, microssegmentação); o próprio Schwab, fundador do Fórum de Davos, argumenta que um dos efeitos centrais da digitalização é o surgimento da sociedade “egocêntrica”, um processo de individualização onde a noção de pertencimento a uma comunidade se define por valores e projetos pessoais, e não mais pelo espaço (a comunidade), o trabalho e a família, como ocorria no passado.
Mas o pensador de Davos também expressa em suas afirmações a contradição sistêmica, em que o nível de conectividade atual permite que em um segundo possamos ter a interação de milhares e milhares de seres humanos. Ele sustenta que os meios digitais permitem que aqueles que estão social ou fisicamente separados se conectem com pessoas como eles: “a alta disponibilidade, os baixos custos e os aspectos geograficamente neutros dos meios digitais permitem uma maior interação através das fronteiras sociais, econômicas, culturais, religiosas e ideológicas”. Condições objetivas que representam uma maior condição de possibilidade de constituição da classe trabalhadora, já anunciadas por Marx e os grandes quadros marxistas que o seguiram no desenvolvimento teórico para explicar a realidade.
Saída e oportunidade para as classes subalternas: a necessidade de um programa
A IA não é um perigo mundial. Fica comprovado que os avanços tecnológicos estão dando resultados que, há 20 anos, eram impensáveis. A engenharia genética, a robótica e a Inteligência Artificial são instrumentos criados pela humanidade, pelo trabalhador global, pelo tempo socialmente investido. Mas quem fica com esse tempo? Por acaso pode hoje qualquer pessoa no mundo ter acesso a casas inteligentes, a plataformas saudáveis, a uma alimentação ilimitada? Não é preciso procurar uma resposta para o que é óbvio. Hoje o trabalho vivo não tem o que precisa para viver. Produz, mas não pode consumir. A única coisa que cria valor é o trabalho vivo; é o trabalho que sustenta o mundo.
Está claro que as condições objetivas que se apresentam para uma mudança sistêmica não são suficientes. A essas condições devem acompanhar condições subjetivas, a tomada de consciência de classe e a predisposição a levar adiante um programa de luta, hoje necessariamente de escala global. O capital torna instrumento todos os meios à sua disposição contra essa tendência, com o fim de seguir subordinando seu inimigo de classe. Para isso, deve formar uma infraestrutura de dominação, por meio da geração de histórias pela mão de seus intelectuais orgânicos.
Histórias que incluem o destino fatal da humanidade, a perda absoluta de capacidade reflexiva, e a tecnologia como um mal em si mesmo, difundidas e instrumentalizadas para bloquear, para negar, a possibilidade de que as grandes maiorias se proponham a recuperar o que é produto de seu trabalho, de sua potência criativa como humanidade ao longo de toda sua história.
A cultura, entendida como produção material e espiritual da humanidade, é apropriada e transformada na cultura da classe dominante. Processo por meio do qual, ao mesmo tempo, tal classe bloqueia a possibilidade de acesso aos milhões de seres humanos que são seus próprios produtores, seus sujeitos criativos.
Podemos imaginar, como já colocava Trotsky (1923), um momento no qual a sociedade possa se despojar da premente preocupação com o pão de cada dia, onde as crianças bem alimentadas absorvam os elementos da ciência e da arte, em que não haja bocas inúteis (uma situação profundamente antagônica àquela prevista por Harari com seu conceito de “classe inútil”), onde o egoísmo liberado do homem e da mulher (formidável poder) só tenda ao conhecimento e aperfeiçoamento do universo; em tal sociedade, “o dinamismo da cultura não será comparável a nada que conhecemos no passado”.
Mas, também como afirma Trotsky, isso só será possível após um período de intensificação de uma luta direcionada por objetivos revolucionários. Harari é muito claro a respeito disso. O intelectual pontua que nestes tempos de máximo desenvolvimento, milhões de seres humanos seguirão sofrendo as consequências da pobreza, da guerra e da miséria, ao mesmo tempo em que os esforços das elites se concentram em encontrar a eterna juventude e poderes divinos. E, frente a isso, Harari diz que, embora pareça injusto, e que seja razoável que esses flagelos devam ser tratados com urgência, “a história não funciona assim. Aqueles que vivem em palácios sempre tiveram projetos diferentes dos que vivem em barracos, e é improvável que isso mude no século XXI” (2016).
Uma história fatalista, estruturada com o fim de justificar uma visão imutável dos processos sociais, um desenvolvimento “natural” dos destinos da humanidade, onde sempre existiram explorados e exploradores, ocultando a origem de um sistema que instrumentaliza a violência para impor as relações sociais atuais, fazendo correr rios de sangue sempre que as classe subalternas se rebelam e instrumentalizam seu poder nos largos períodos de lutas revolucionários.
Aos presságios de um destino impossível de mudar, à visão de uma “sociedade centrada em si”, é preciso mais uma vez opor a construção da Comunidade Organizada, que aproveite a potencial liberdade concedida pelo atual desenvolvimento tecnológico e a redução máxima do trabalho socialmente necessário para a produção de riqueza. Significa construir novas relações sociais, onde os corpos predispostos ao coletivo, ao comunitário, estabeleçam uma relação material com a realidade já não mais mediada pela necessidade estranha de ser um corpo que produz e que consome, e sim pela necessidade organizada de ser um corpo produtor de poder.
Um programa que permita, através da luta, de nos apropriarmos do tempo que se libera e dos produtos de nosso próprio trabalho, que abrem também a possibilidade de pôr fim aos grandes males que afligem a humanidade.