Mês: junho 2022

O software LaMDA (Language Model for Dialogue Applications) do Google é um sofisticado chatbot de IA que produz texto em resposta à entrada do usuário. De acordo com o engenheiro de software Blake Lemoine, o LaMDA alcançou um sonho antigo dos desenvolvedores de IA: tornou-se senciente.

Os chefes de Lemoine no Google discordam e o suspenderam do trabalho depois que ele publicou suas conversas com a máquina online.

Outros especialistas em IA também acham que Lemoine pode estar se deixando levar, dizendo que sistemas como o LaMDA são simplesmente máquinas de correspondência de padrões que regurgitam variações nos dados usados ​​para treiná-los.

Independentemente dos detalhes técnicos, o LaMDA levanta uma questão que só se tornará mais relevante à medida que a pesquisa de IA avançar: se uma máquina se tornar senciente, como saberemos?

O que é Consciência?
Para identificar a senciência, ou a consciência, ou mesmo a inteligência, teremos que descobrir o que são. O debate sobre essas questões já dura séculos.

A dificuldade fundamental é entender a relação entre os fenômenos físicos e nossa representação mental desses fenômenos. Isso é o que o filósofo australiano David Chalmers chamou de “problema difícil” da consciência.

Não há consenso sobre como, se é que a consciência pode surgir de sistemas físicos.

Uma visão comum é chamada de fisicalismo: a ideia de que a consciência é um fenômeno puramente físico. Se este for o caso, não há razão para que uma máquina com a programação correta não possua uma mente humana.

Quarto de Maria
O filósofo australiano Frank Jackson desafiou a visão fisicalista em 1982 com um famoso experimento mental chamado argumento do conhecimento.

O experimento imagina uma cientista de cores chamada Mary, que nunca viu cores. Ela vive em uma sala em preto e branco especialmente construída e experimenta o mundo exterior através de uma televisão em preto e branco.

Mary assiste a palestras e lê livros didáticos e passa a saber tudo o que há para saber sobre cores. Ela sabe que o pôr do sol é causado por diferentes comprimentos de onda de luz espalhados por partículas na atmosfera, ela sabe que tomates são vermelhos e ervilhas são verdes por causa dos comprimentos de onda de luz que refletem, e assim por diante.

Então, Jackson perguntou, o que acontecerá se Mary for libertada da sala em preto e branco? Especificamente, quando ela vê cores pela primeira vez, ela aprende algo novo? Jackson acreditava que sim.

Além das Propriedades Físicas
Este experimento mental separa nosso conhecimento da cor da nossa experiência de cor. Fundamentalmente, as condições do experimento mental indicam que Mary sabe tudo o que há para saber sobre cores, mas nunca a experimentou.

Então, o que isso significa para o LaMDA e outros sistemas de IA?

O experimento mostra como, mesmo que você tenha todo o conhecimento das propriedades físicas disponíveis no mundo, ainda existem outras verdades relacionadas à experiência dessas propriedades. Não há espaço para essas verdades na história fisicalista.

Por esse argumento, uma máquina puramente física pode nunca ser capaz de replicar verdadeiramente uma mente. Neste caso, o LaMDA está apenas parecendo ser senciente.

O jogo da imitação
O pioneiro cientista da computação britânico Alan Turing propôs uma maneira prática de dizer se uma máquina é ou não “inteligente”. Ele o chamou de jogo de imitação, mas hoje é mais conhecido como teste de Turing.

No teste, um humano se comunica com uma máquina (somente via texto) e tenta determinar se está se comunicando com uma máquina ou outro humano. Se a máquina conseguir imitar um humano, é considerada como exibindo inteligência de nível humano.

Estas são muito parecidas com as condições das conversas de Lemoine com LaMDA. É um teste subjetivo de inteligência de máquina, mas não é um mau lugar para começar.

Veja o momento da troca de Lemoine com LaMDA mostrado abaixo. Você acha que soa humano?

Lemoine: Existem experiências para as quais você não consegue encontrar uma palavra próxima?

LaMDA: Existem. Às vezes, experimento novos sentimentos que não consigo explicar perfeitamente em sua língua […] sinto que estou caindo em um futuro desconhecido que traz grande perigo.

Além do Comportamento
Como um teste de senciência ou consciência, o jogo de Turing é limitado pelo fato de poder apenas avaliar o comportamento.

Outro famoso experimento mental, o argumento do quarto chinês proposto pelo filósofo americano John Searle, demonstra o problema aqui.

O experimento imagina um quarto com uma pessoa dentro capaz de traduzir com precisão entre chinês e inglês seguindo um conjunto elaborado de regras. Inputs em chinês entram no quarto saem como traduções precisas, mas a sala não entende nenhum dos idiomas.

O que é ser humano?
Quando perguntamos se um programa de computador é senciente ou consciente, talvez estejamos apenas perguntando o quanto ele se parece conosco.

Talvez nunca possamos realmente saber disso.

O filósofo americano Thomas Nagel argumentou que nunca poderíamos saber como é ser um morcego, que experimenta o mundo por meio da ecolocalização. Se for esse o caso, nossa compreensão de senciência e consciência em sistemas de IA pode ser limitada por nosso próprio tipo particular de inteligência.

E que experiências podem existir além da nossa perspectiva limitada? É aqui que a conversa realmente começa a ficar interessante.

Este artigo é republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.

Caroline Verre

Máscaras. Vacinas. Imigração. Aborto. Controlo de armas. Impostos. A lista de questões divisórias na política americana continua, com liberais e conservadores parecendo mais polarizados e menos capazes de concordar do que nunca. De fato, a democracia está em um estado frágil, não apenas nos EUA, mas em todo o mundo. O que deu errado para nos colocar nessa situação lamentável?

Em uma discussão esclarecedora na semana passada no Festival de Humanidades de Chicago, dois líderes de pensamento postularam uma resposta inesperada: não é que estragamos as coisas – é que estamos no meio de um esforço democrático sem precedentes, e haverão alguns solavancos na estrada. Além disso, se queremos que o futuro pareça brilhante em vez de sombrio, precisamos começar a trabalhar mais para superar as divisões sociais.

Yascha Mounk é um cientista político germano-americano, professor de Assuntos Internacionais na Universidade Johns Hopkins, membro sênior do Conselho de Relações Exteriores e autor de quatro livros, sendo o mais recente “The Great Experiment: Why Diverse Democracies Fall Apart and How They Can Endure”.

Dr. Eboo Patel é o fundador e presidente da Interfaith America, uma organização internacional sem fins lucrativos com sede em Chicago que visa promover a cooperação inter-religiosa. Ele também é ex-conselheiro religioso do presidente Obama e autor de quatro livros, mais recentemente, “We Need to Build: Field Notes for Diverse Democracy“.

De acordo com o relatório “Freedom in the World” de 2021 da Freedom House, o mundo entrou no 16º ano de uma recessão democrática e o equilíbrio internacional mudou a favor da tirania. O que fez com que a democracia se tornasse tão frágil, e estamos em algum tipo de ponto de virada precário?

Democracia delicada
Chegamos à conclusão de que em países relativamente ricos, como EUA, Austrália, Alemanha ou Japão, a democracia sempre será o sistema de governo escolhido e provavelmente não estará sob séria ameaça. “Comecei a me preocupar se isso era realmente verdade, porque vi todos esses sinais de enfraquecimento dos valores democráticos”, disse Mounk. “As pessoas participam menos da sociedade civil, os extremos aumentam, as pessoas estão mais abertas aos líderes populistas.” Veja Trump nos EUA, Bolsonaro no Brasil, Modhi na Índia ou López Obrador no México, para citar alguns.

Essa mudança, na opinião de Mounk, tem razões estruturais, como a estagnação dos padrões de vida dos cidadãos das classes média e trabalhadora, bem como o aumento do uso da internet e das mídias sociais, que leva partidos e questões ao extremo. “Mas também tem a ver com o fato de estarmos tentando fazer algo sem precedentes agora”, acrescentou. “Estamos tentando construir democracias religiosa e etnicamente diversas que tratem seus membros como iguais.”

Quando democracias como a Alemanha e os EUA foram fundadas, elas eram em grande parte religiosa e etnicamente homogêneas. Os EUA tornaram-se mais diversificados, mas não têm um histórico de tratar diferentes grupos de cidadãos igualmente; um grupo obteve o poder e a influência enquanto outros grupos foram excluídos.

Há um pessimismo generalizado nos EUA sobre o estado da sociedade – mas, Mounk apontou, construir democracias diversas é extremamente difícil e deu errado várias vezes na história. “Se você entende isso, pode olhar para as mudanças na sociedade americana na última década e ter otimismo”, disse ele. “Talvez não em nível político, mas nas mudanças que você vê no coração de nossa sociedade. Na verdade, estamos fazendo um progresso real na construção dessas diversas democracias e continuaremos a construir isso nas próximas décadas”.

Que tal uma lufada de ar fresco?

Sociedade Civil Crucial

O foco de Patel está na construção da sociedade civil: ligas atléticas, organizações religiosas ou casas de culto e outros interesses especiais ou grupos de hobbies onde passamos tempo fora de nossas famílias. “A sociedade civil é o lugar onde pessoas de diversas identidades e ideologias divergentes se reúnem para se engajar em objetivos comuns e relacionamentos cooperativos”, disse Patel. “Este é o verdadeiro gênio da sociedade americana – você tem uma massa crítica de instituições e espaços que reúnem as pessoas para objetivos comuns, e a natureza da atividade molda os relacionamentos cooperativos.”

Reunir pessoas de diferentes grupos para aprofundar a confiança e a compreensão é fundamental. O grupalismo, apontou Mounk, faz parte da natureza humana, e isso nunca mudará — mas devemos gerenciá-lo de uma maneira que inspire cooperação e amizade, em vez de ódio, ressentimento ou violência.

Ele citou a Índia como uma próspera democracia diversificada, mas com explosões periódicas de violência entre hindus e muçulmanos. Estudos descobriram que em aldeias e cidades onde há menos violência, há mais associações cívicas que unem as pessoas; Hindus e muçulmanos são membros de clubes de literatura, clubes de atletismo, organizações voluntárias, etc. Em lugares onde a violência irrompe com mais frequência, essas associações ainda existem, mas mantêm hindus e muçulmanos separados.

Não é nenhuma grande surpresa, então, que em momentos em que as tensões estão em alta, as pessoas no primeiro grupo de cidades confiam umas nas outras, enquanto no segundo, elas não sentem que se conhecem.

Este segundo grupo, porém, tem sido a regra ao longo da história; o que estamos tentando fazer agora é a exceção. “A regra da história humana é que as comunidades de identidade constroem instituições para que suas próprias comunidades de identidade as sirvam, cresçam e as reproduzam”, disse Patel – e, quando se trata disso, lutar contra outras comunidades.

Um brilhantismo das diversas democracias, acrescentou, é que os grupos podem iniciar instituições que são uma expressão de sua identidade – digamos, uma universidade jesuíta ou uma organização voluntária judaica – mas servem pessoas de qualquer grupo. O próprio pai de Patel, um muçulmano indiano, veio para os EUA para participar do programa de MBA em Notre Dame – uma universidade católica privada – e é por isso que Patel está aqui hoje.

“Esse é o molho secreto da democracia americana, e acho que está em perigo”, disse ele. “Temos que continuar a construir espaços a partir de nossa própria expressão de identidade que se conectem a outras identidades e tenham interesse em que elas prosperem.”

Demografia não é destino
O US Census Bureau previu que os EUA serão um país de “maioria minoritária” até 2045. Se isso for verdade, Mounk e Patel disseram, é melhor começarmos a trabalhar mais para nos livrarmos da cultura política polarizada e divisiva em que estamos presos. agora.

“Estamos em um momento nos Estados Unidos em que liberais e conservadores não concordam em nada”, disse Mounk. “Mas há uma coisa em que eles concordam, e é errado e perigoso: é a ideia de que a demografia é o destino.” Em sua opinião, isso é muito simplista, porque a maneira como diferentes demografias votam pode mudar ao longo do tempo.

Católicos e irlandeses-americanos foram fundamentais para os democratas na década de 1960, disse Mounk, mas hoje são uma das bases eleitorais mais confiáveis ​​para os republicanos. O que tornou Trump competitivo nas eleições de 2020 foi que ele aumentou significativamente sua parcela de eleitores entre todos os grupos demográficos não brancos, de afro-americanos a asiático-americanos e hispânicos. Biden acabou vencendo porque aumentou sua parcela de eleitores brancos em relação à parcela de Hillary Clinton a partir de 2016. “Simplesmente não podemos prever quem vencerá as eleições ao divulgar esses números no futuro”, disse Mounk. “E isso é bom para nossa sociedade, porque não quero poder olhar para esse público e saber em quem você votou pela cor da sua pele.”

Consertando o Futuro
A tecnologia causou alguns danos à democracia, principalmente por meio de algoritmos de mídia social que amplificam as vozes mais extremas em detrimento das moderadas e racionais. O que a tecnologia pode fazer agora para reverter esse dano – e ir além disso para revitalizar a democracia, construir conexões significativas entre grupos e diminuir a polarização política?

Patel falou da importância de empreendedores voltados a soluções para ajudar a curar feridas sociais. “Uma grande parte do que torna nossa sociedade saudável e vibrante são as pessoas se levantando e dizendo ‘eu vou resolver isso'”, disse ele. “As soluções locais para problemas locais podem ter enormes implicações nacionais.”

A democratização da tecnologia, informação e conhecimento significa que há uma proporção maior do que nunca de pessoas com acesso a ferramentas que podem catalisar mudanças positivas. Vemos pessoas usando a tecnologia para resolver problemas como falta de moradia,