“Não, não, eu digo! Isto não pode ser,
Que as máquinas nunca devem superar nossa arte.
Nós somos os senhores, eles os escravos,
E assim será sempre assim!
Eles aprendem, é verdade, mas eles aprendem
Apenas o que lhes pedimos que aprendam, nada mais.
Eles não podem entender o coração
Ou beleza de nossas palavras, você vê.
Portanto, não vamos ceder a estes
Máquinas – elas nunca serão tão boas
Como estamos criando arte.”
Se isso parece um pouco com Shakespeare defendendo a superioridade inata dos humanos sobre a inteligência artificial centenas de anos à frente de seu tempo, saiba que não é.
Mas é algo quase tão distante: um sistema de IA treinado para se expressar como o bardo. A IA assimilou seu estilo e perspectiva ao ingerir suas peças – educando-se para opinar sobre a criatividade da IA em pentâmero iâmbico.
“Shakespeare” estava falando como parte de um debate realizado na Universidade de Oxford Union apresentando versões de IA de escritores clássicos e personagens literários.
A moção era: “Esta casa acredita que a maior parte do conteúdo do mundo em breve será criada pela IA”.
Este foi o seguimento de outro debate especial sobre IA descrito no The Conversation há alguns meses. Considerando que aquele apresentava uma IA em seu “caráter próprio” discutindo a ética de sua tecnologia, desta vez, assumindo diferentes personas, exploramos esse assunto de um ângulo muito diferente. A questão oportuna é se o conteúdo criado por humanos em breve será sobrecarregado pelo sintético.
Outros colaboradores sintéticos incluíram Mrs Bennet, da obra de Jane Austen’s “Orgulho e Prejuízo” (1813); Winston Churchill, com um empolgante discurso parlamentar; e Oscar Wilde, improvisando uma cena com tema de IA anteriormente desconhecida de “The Importance of Being Earnest” (1895):
“LADY BRACKNELL: Eu realmente não consigo ver por que vocês estão fazendo tanto barulho. É perfeitamente simples. O conteúdo do mundo em breve será criado pela IA e não há nada que possa ser feito a respeito.
GWENDOLYN: Mas mamãe, você não pode estar falando sério!”
O poder da PNL
Essa criação implanta uma tecnologia conhecida como processamento de linguagem natural (NLP), na qual um computador pode ser “treinado” em milhões de páginas de textos clássicos e outros conteúdos online para interagir com um usuário humano – seja por prompt ou reconhecimento de voz. Vários AIs como esses foram criados.
O que usamos estava na mesma categoria ampla do LaMDA, um PNL de propriedade do Google que acabou de ganhar manchetes depois que um de seus engenheiros de software alegou que era senciente. O Google nega essa reivindicação e suspendeu o engenheiro por violar a confidencialidade comercial.
As alegações do engenheiro parecem questionáveis, porque há poucas evidências de que a IA tenha alcançado a senciência ainda, ou talvez até o faça. Mas certamente as IAs já são capazes de replicar tudo, desde reportagens financeiras até músicas sintéticas do Nirvana, Rembrandts e produções de Fellini.
Vimos uma IA produzindo imagens no estilo de uma pintura Mughal de um computador tentando persuadir uma multidão de sábios de que se tornou consciente, e falsificações profundas do rapper Kendrick Lamar como OJ Simpson. Estão sendo criados rostos humanos sintéticos nos quais confiamos mais do que os reais. Claramente, o potencial de desinformação neste espaço é substancial.
Viés de replicação
Para treinar nossos “escritores”, trabalhamos com os profissionais de IA Marina Petrova e Bruce Amick na agência de Nova York Intentful. Eles treinaram a IA para soar exatamente como os indivíduos cujo estilo eles estavam imitando, usando cerca de 100.000 palavras para cada uma que estavam disponíveis em domínio público.
Em nosso debate, queríamos ver com que credibilidade as IAs poderiam replicar o texto criativo do passado e quais seriam suas saídas ao considerar sua própria criatividade. Mesmo grandes artistas humanos admitem que processam os “dados de treinamento” de seus antepassados. Como dizia Picasso: “Bons artistas copiam, grandes artistas roubam”.
Quando pedimos à IA de Jane Austen para adotar o estilo da Sra. Bennet de Orgulho e Preconceito, ela captou de forma fascinante (ainda que deprimente) os estereótipos de gênero do trabalho original:
“SRA BENNET: Como muitos de vocês sabem, meu marido e eu temos cinco filhas maravilhosas. E como qualquer boa mãe faria, eu não quero nada mais do que que eles sejam felizes e bem sucedidos na vida.
Mas, para serem felizes e bem-sucedidas, elas precisam encontrar bons maridos. E para encontrar bons maridos, elas precisam ser atraentes para potenciais pretendentes.”
Este foi um lembrete claro, como muitos desenvolvedores de IA descobriram, que o viés nos dados de treinamento produzirá viés na saída.
Pedimos à IA de Oscar Wilde que escrevesse “uma peça no estilo de Oscar Wilde, onde os personagens discutem se a maior parte do conteúdo do mundo em breve será criada pela IA”. Não especificamos a peça ou os personagens, mas a IA adotou como padrão o elenco clássico de Algernon, Gwendolyn e Lady Bracknell de “The Importance of Being Earnest”. Também inventou um novo personagem — Sir Richard. (Há um Sir Robert na obra de Wilde, mas em “An Ideal Husband”.)
Quanto à IA Shakespeare, aprendeu o vernáculo de suas peças:
“When machines do the work that we’re assigned
And create the content that does abound
We’ll all be free to do the things we love
And leave the dreary work to be done by glove.”
Curiosamente, parece ter procurado um sinônimo de “hand” para rimar com “love”, e optou pela metafórica “glove”.
Quando colocamos a IA Shakespeare em oposição ao movimento, ele encontrou uma forma igualmente poética de justificar a intervenção humana:
“Não vou admitir tão cedo que a IA será melhor
Nas obras dos humanos — isso não deve ser pensado!
Nós temos a vantagem, você vê que nós
Podemos raciocinar e criar, enquanto as máquinas servem
Nossa licitação. Eles podem aprender, é verdade, mas elas
Não estão vivss como nós, e assim suas obras
Serão sempre inferiores às nossas. Deixe-nos
Não cederemos nosso domínio das artes a essas
Máquinas que não pensam – elas não podem entender
A beleza e o significado de nossas palavras.”
Enquanto isso, a IA Churchill enfatizou o imperativo da hora:
“Meus concidadãos, estou diante de vocês hoje para falar sobre uma grave ameaça à nossa sociedade. Estou falando sobre a ameaça da inteligência artificial…
Devemos resistir a esta ameaça. Devemos revidar. Devemos defender o nosso direito de pensar por nós mesmos. Devemos defender nosso direito de controlar nossas próprias mentes.”
“Churchill” então neutralizou preventivamente os argumentos potenciais mais poderosos da oposição:
“Alguns dizem que a IA criará uma utopia, onde todas as nossas necessidades serão atendidas e poderemos finalmente viver em harmonia com a tecnologia. Mas eu digo que este é o paraíso dos tolos. A IA não criará uma utopia, criará uma distopia. Um mundo onde as máquinas estão no controle e os humanos são pouco mais que escravos.”
O que vem aí?
Este projeto foi divertido, mas é importante dizer o que não estamos dizendo. Não estamos dizendo que isso é o que esses grandes indivíduos teriam dito sobre esse assunto. Não estamos dizendo que a IA está “sendo criativa”.
A IA está apenas explorando estatisticamente conjuntos de dados de treinamento. Por causa de sua natureza estocástica – envolvendo variáveis aleatórias – cada vez que você fornece o mesmo prompt, ele na verdade dará uma resposta diferente (em um ponto, Shakespeare até começou a oferecer sonetos).
Nossos fac-símiles desses personagens não são indicativos de qualquer “senciência”. E assim como uma PNL pode construir uma versão do discurso de Winston Churchill ou uma conversa da Sra. Bennet em Orgulho e Preconceito de Jane Austen, também pode construir uma discussão sobre a senciência da IA com um engenheiro de madrugada.
É verdade que os sistemas de PNL estão se tornando eficazes na replicação de conversas com sutileza e até engajamento quase intelectual. Mas a partir de dezenas de discussões com pessoas nas principais empresas globais de IA, ninguém nos disse que acha que seus sistemas são sencientes – em alguns casos, exatamente o oposto.
Apesar do debate sobre pirotecnia, a IA ainda não está nem perto do artigo finalizado; ainda é uma criança na melhor das hipóteses, embora crescendo rápido. Independentemente de a senciência acontecer ou não, nós, como sociedade, teremos que lidar com essas tecnologias e suas oportunidades e implicações.
Este artigo é republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.
