Artigo escrito por Ricardo Cavallini, CEO da Makers e Expert da Singularity University.
Semana passada participei de uma discussão onde uma pessoa não acreditava que a IA poderia ferrar a humanidade.
Eu apontei diversas frentes para ilustrar.
Como bem lembrou Yuval Harari, a IA pode criar uma religião.
A IA pode ser o suprassumo das fake news. Se hoje a maior parte das pessoas não entende a diferença entre opinião e fato, imagina com uma IA controlando o discurso? E esta IA poderá responder apenas para uma ou duas pessoas, como acontece hoje com os monopólio das redes sociais.
A IA provavelmente será responsável por grande parte do código que usaremos daqui uns anos. Imagine ela controlando tudo, da sua geladeira a usinas nucleares.
No futuro, a IA poderá criar em grande volume armas biológicas, vírus e muito mais.
Daria para ficar horas aqui falando sobre possíveis formas da IA causar um mau tremendo a humanidade.
Claro, IA não é nenhuma bomba nuclear.
Mas será que a IA é mais ou menos perigosa que uma bomba nuclear?
O lançamento de uma bomba nuclear é algo bem controlado, poucas pessoas no mundo podem começar um ataque. Dado a inteligência emocional dos líderes atuais, isso já é bastante temeroso.
Criar uma bomba nuclear é difícil e muito custoso. IA será cada vez mais barato e acessível. O síndico do seu condomínio terá acesso para fazer alguma meleca.
A bomba nuclear não se auto duplica, criando uma ainda mais poderosa. A IA poderá fazer isso.
Os maiores especialistas em física entendem exatamente como funciona uma bomba nuclear e sabem como desarmá-la, se assim decidirem. No caso de IA, nem mesmo quem produz sabe explicar exatamente como funciona, quais seus limites e sua capacidade.
A bomba nuclear é o auge das armas de explosão e sua evolução é limitada. O que temos agora são os mísseis hipersônicos, que realimentam a guerra fria, mas não aumentam exponencialmente o poder de fogo.
No caso da IA, ainda estamos na infância da tecnologia. E a velocidade desta evolução também importa. Para entender isso, faço um paralelo com as próprias armas.
O arco e flecha foi inventado há muito tempo atrás. Do primeiro arco e flecha para a primeira arma de fogo, foram 60 mil anos. E não estou falando de uma pistola não, estou falando de armas feitas de cano de bambu e pólvora.
Dessas primeiras armas rudimentares de bambu até o tanque de guerra, foram 900 anos.
Do primeiro tanque de guerra pra bomba atômica, apenas 30 anos.
Percebe a curva exponencial? 60 mil, 900, 30.
ChatGPT e outras ferramentas de IA são como essas armas de cano de bambu. Elas já podem fazer algum mal, ainda bem limitado. Porém, na velocidade de evolução atual, não levará 30 anos para chegarmos na versão bomba atômica da IA.
A grande semelhança das duas é que a IA representará para essa nova geração ou que a bomba atômica representou para a minha. O medo do fim do mundo será uma constante.
