A passagem do estado de natureza para o estado civil produz uma mudança notável no homem, substituindo o instinto pela lei em sua conduta e dando às suas ações a moralidade de que elas anteriormente careciam…. Em que pese, nesse estado civil, o homem privar-se de algumas vantagens de que ele gozava na natureza, ele consegue outras em troca tão grandes, suas faculdades são tão estimuladas e desenvolvidas, suas ideias tão expandidas e toda a sua alma fica tão elevada que, se não fosse pelo fato de que o abuso da nova condição normalmente faz o homem aviltar-se a um ponto abaixo daquele que ele deixou, ele abençoaria continuamente o momento feliz que o tirou daquele estado para sempre, e ao invés de um animal estúpido e sem imaginação, fez dele um ser inteligente e um homem.
Trecho retirado do livro O Contrato Social (1762) do filósofo e escritor suíço Jean-Jacques Rousseau (1712-1778) tal como citado em “Rousseau e a Revolução”, de Will Durant (1885-1981) e Ariel Durant (1898-1981)
Hoje, pela primeira vez na história, graças à inteligência artificial, é possível a qualquer um criar pessoas falsificadas que podem passar por reais em muitos dos novos ambientes digitais que criamos. Essas pessoas falsificadas são os artefatos mais perigosos na história humana, capazes de destruir não só economias mas a liberdade humana ela mesma. […] A democracia depende do consentimento informado (e não mal-informado) dos governados. Permitindo às pessoas, às corporações e aos governos mais poderosos politica e economicamente controlarem nossa atenção, esses sistemas vão nos controlar. As pessoas falsificadas, ao nos distraírem e deixarem-nos confusos e ao explorarem nossos medos e ansiedades mais irresistíveis nos levarão a cair na tentação e a partir dali aceitarmos nossa própria subjugação.
Trechos retirados do artigo “O Problema com Pessoas Falsificadas”, escrito por Daniel Dennett, professor emérito de filosofia da Universidade Tufts nos Estados Unidos
Prezados leitores, hoje tive uma experiência frustrante, que será cada vez mais comum para nós, pobres mortais, em nossas interações com empresas: seremos atendidos por robôs, sem nenhuma interação com pessoas reais. Eu até tentei esperar na linha em busca de um atendente que me desse um pouco mais de informação do que havia obtido pressionando todas as teclas que o robô mandou que eu pressionasse. Foi em vão: muito provavelmente as empresas nos deixam esperando infinitamente por um atendente humano para que desistamos e façamos o que ela quer: busquemos responder às nossas próprias perguntas acessando informações no aplicativo, para que custos sejam cortados e o lucro seja aumentado.
De acordo com essa filosofia de negócios, minha frustração não importa: o que importa é que a empresa cria uma estrutura enxuta cuja interface com o cliente, concretizada na forma de robôs, permite-lhe resolver problemas simplesmente tornando-os inexistentes. Se o seu problema particular não corresponde a nenhuma das opções dadas pelo robô, isso significa que você está errado. Foi você que não soube classificá-lo corretamente e por isso não obteve a resposta que queria. E se ele não é passível de classificação, ele não existe como conceito, pois o robô oferece uma gama certa de tipos nos quais todas as interações do cliente com o produto ou serviço oferecido pela empresa devem se encaixar. Simples assim.
O que fazer? Resignar-se? Aparentemente esses sistemas de inteligência artificial vieram para tornar os operadores de telemarketing, que faziam o atendimento telefônico ao cliente, criaturas ultrapassadas e superadas. Se a consequência fosse só a de acabar com uma profissão, não há nada de especialmente trágico nisso, pois outras profissões já foram exterminadas pela tecnologia. Mas para o filósofo Daniel Dennett, há outras consequências mais sinistras dessa interação com robôs: pode ser o fim da civilização, tal como ela é conhecida no Ocidente, baseada na liberdade das pessoas.
Pois o fato é que os robôs podem fazer muito mais do que nos dar ordens para encontrarmos as informações de que precisamos. Conforme o trecho que abre este artigo, eles podem ser pessoas falsificadas com um tal nível de sofisticação que nós pensaremos que elas são reais: elas conversarão conosco, isto é, responderão ao que falarmos, darão conselhos específicos com base naquilo que dissermos a elas, nos guiarão sobre o que comer, como nos relacionarmos com amigos, pais e parentes, que tratamento de saúde adotar, que remédio tomar. E quando nos dermos conta de que não são pessoas reais, mas simulacros criados por alguém que quer ganhar dinheiro manipulando nossos desejos, medos e ansiedades, nós perderemos a confiança nas pessoas em geral, aprenderemos a desconfiar de todos porque assim como aqueles seres do mundo virtual mentem, aqueles do mundo físico provavelmente o farão também.
Para Dennett esses avatares têm o potencial de destruir a civilização justamente por erodir a confiança mútua que faz a vida em sociedade possível: a confiança de que se seguirmos as regras seremos protegidos de males infligidos a nós por outras pessoas, pois as regras estabelecem os padrões de convivência. Se não posso acreditar em nada do que as pessoas falam, se pressuponho que elas estão sempre prontas a mentir e a enganar para satisfazer seus interesses pessoais, voltamos ao estado hobbesiano do homem lobo do próprio homem: seguir regras quando as regras são violadas sistematicamente pode ser mortal para você, o melhor é agir de maneira a proteger o que é seu, sem se importar com as consequências para a sociedade como um todo.
O efeito disso é dramático para o regime político: a desconfiança impede o diálogo de boa-fé, em que as partes procuram mutuamente esclarecer-se e chegar a um consenso. Não havendo diálogo não há troca de informações fidedignas, mas apenas tentativas mútuas de manipulação. A manipulação de cidadãos que são chamados a escolher regularmente seus governantes os farão escolher mal, o que para Dennett significa escolher pessoas que ao invés de defenderem nossas liberdades nos subjugarão. Interações com pessoas falsificadas, manipulações, desconfiança, violação de regras de convivência, falta de diálogo, desinformação, privação da liberdade, fim da civilização.
Essa postulação da liberdade e das leis como pressupostos da vida civilizada e do florescimento do homem já havia sido feita por Jean-Jacques Rousseau em seu famoso livro O Contrato Social, citado na abertura deste artigo. Para o filósofo genebrino, quando o homem passa do estado da natureza para o estado civil ele perde a capacidade de usar da violência para resolver suas disputas, mas ganha muito mais ao ter seu comportamento enquadrado pelas leis: ele ganha a liberdade de viver livre da perseguição, do roubo, do assalto, da calúnia, pois todos os membros da sociedade estarão submetidos às mesmas regras. E livre do medo da morte e da violência, o homem tem a oportunidade de desenvolver suas plenas potencialidades e fazer-se homem.
À luz das lições de Rousseau e dos alertas dados por Daniel Dennett sobre os perigos da inteligência artificial, uma questão impõe-se: homem para quê neste século XXI? Para obedecer aos ditames dos robôs, o que significa submeter-se aos valores e à moralidade daqueles que os construíram, tornando-se escravos? Ou para construir uma sociedade em que a tecnologia seja um instrumento para fazer a liberdade florescer no âmbito da convivência e do respeito mútuos? No primeiro caso talvez o homem se torne irrelevante e seja exterminado e no segundo caso será um ser livre para usar os robôs para se transformar no homem inteligente, com o pleno uso das suas faculdades mentais, vislumbrado por Rousseau como o homem civilizado por excelência. Aguardemos e enquanto isso lembremos que por trás de todo rosto bonito e sorridente de um personagem de IA está simplesmente um mecanismo automático de atendimento ao cliente.