Categorias
Blog

Se a Inteligência Artificial se tornasse senciente, como saberíamos?

O software LaMDA (Language Model for Dialogue Applications) do Google é um sofisticado chatbot de IA que produz texto em resposta à entrada do usuário. De acordo com o engenheiro de software Blake Lemoine, o LaMDA alcançou um sonho antigo dos desenvolvedores de IA: tornou-se senciente.

Os chefes de Lemoine no Google discordam e o suspenderam do trabalho depois que ele publicou suas conversas com a máquina online.

Outros especialistas em IA também acham que Lemoine pode estar se deixando levar, dizendo que sistemas como o LaMDA são simplesmente máquinas de correspondência de padrões que regurgitam variações nos dados usados ​​para treiná-los.

Independentemente dos detalhes técnicos, o LaMDA levanta uma questão que só se tornará mais relevante à medida que a pesquisa de IA avançar: se uma máquina se tornar senciente, como saberemos?

O que é Consciência?
Para identificar a senciência, ou a consciência, ou mesmo a inteligência, teremos que descobrir o que são. O debate sobre essas questões já dura séculos.

A dificuldade fundamental é entender a relação entre os fenômenos físicos e nossa representação mental desses fenômenos. Isso é o que o filósofo australiano David Chalmers chamou de “problema difícil” da consciência.

Não há consenso sobre como, se é que a consciência pode surgir de sistemas físicos.

Uma visão comum é chamada de fisicalismo: a ideia de que a consciência é um fenômeno puramente físico. Se este for o caso, não há razão para que uma máquina com a programação correta não possua uma mente humana.

Quarto de Maria
O filósofo australiano Frank Jackson desafiou a visão fisicalista em 1982 com um famoso experimento mental chamado argumento do conhecimento.

O experimento imagina uma cientista de cores chamada Mary, que nunca viu cores. Ela vive em uma sala em preto e branco especialmente construída e experimenta o mundo exterior através de uma televisão em preto e branco.

Mary assiste a palestras e lê livros didáticos e passa a saber tudo o que há para saber sobre cores. Ela sabe que o pôr do sol é causado por diferentes comprimentos de onda de luz espalhados por partículas na atmosfera, ela sabe que tomates são vermelhos e ervilhas são verdes por causa dos comprimentos de onda de luz que refletem, e assim por diante.

Então, Jackson perguntou, o que acontecerá se Mary for libertada da sala em preto e branco? Especificamente, quando ela vê cores pela primeira vez, ela aprende algo novo? Jackson acreditava que sim.

Além das Propriedades Físicas
Este experimento mental separa nosso conhecimento da cor da nossa experiência de cor. Fundamentalmente, as condições do experimento mental indicam que Mary sabe tudo o que há para saber sobre cores, mas nunca a experimentou.

Então, o que isso significa para o LaMDA e outros sistemas de IA?

O experimento mostra como, mesmo que você tenha todo o conhecimento das propriedades físicas disponíveis no mundo, ainda existem outras verdades relacionadas à experiência dessas propriedades. Não há espaço para essas verdades na história fisicalista.

Por esse argumento, uma máquina puramente física pode nunca ser capaz de replicar verdadeiramente uma mente. Neste caso, o LaMDA está apenas parecendo ser senciente.

O jogo da imitação
O pioneiro cientista da computação britânico Alan Turing propôs uma maneira prática de dizer se uma máquina é ou não “inteligente”. Ele o chamou de jogo de imitação, mas hoje é mais conhecido como teste de Turing.

No teste, um humano se comunica com uma máquina (somente via texto) e tenta determinar se está se comunicando com uma máquina ou outro humano. Se a máquina conseguir imitar um humano, é considerada como exibindo inteligência de nível humano.

Estas são muito parecidas com as condições das conversas de Lemoine com LaMDA. É um teste subjetivo de inteligência de máquina, mas não é um mau lugar para começar.

Veja o momento da troca de Lemoine com LaMDA mostrado abaixo. Você acha que soa humano?

Lemoine: Existem experiências para as quais você não consegue encontrar uma palavra próxima?

LaMDA: Existem. Às vezes, experimento novos sentimentos que não consigo explicar perfeitamente em sua língua […] sinto que estou caindo em um futuro desconhecido que traz grande perigo.

Além do Comportamento
Como um teste de senciência ou consciência, o jogo de Turing é limitado pelo fato de poder apenas avaliar o comportamento.

Outro famoso experimento mental, o argumento do quarto chinês proposto pelo filósofo americano John Searle, demonstra o problema aqui.

O experimento imagina um quarto com uma pessoa dentro capaz de traduzir com precisão entre chinês e inglês seguindo um conjunto elaborado de regras. Inputs em chinês entram no quarto saem como traduções precisas, mas a sala não entende nenhum dos idiomas.

O que é ser humano?
Quando perguntamos se um programa de computador é senciente ou consciente, talvez estejamos apenas perguntando o quanto ele se parece conosco.

Talvez nunca possamos realmente saber disso.

O filósofo americano Thomas Nagel argumentou que nunca poderíamos saber como é ser um morcego, que experimenta o mundo por meio da ecolocalização. Se for esse o caso, nossa compreensão de senciência e consciência em sistemas de IA pode ser limitada por nosso próprio tipo particular de inteligência.

E que experiências podem existir além da nossa perspectiva limitada? É aqui que a conversa realmente começa a ficar interessante.

Este artigo é republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.

Categorias
Blog

Democracia adoecendo: Veja como podemos começar a revivê-la

Máscaras. Vacinas. Imigração. Aborto. Controlo de armas. Impostos. A lista de questões divisórias na política americana continua, com liberais e conservadores parecendo mais polarizados e menos capazes de concordar do que nunca. De fato, a democracia está em um estado frágil, não apenas nos EUA, mas em todo o mundo. O que deu errado para nos colocar nessa situação lamentável?

Em uma discussão esclarecedora na semana passada no Festival de Humanidades de Chicago, dois líderes de pensamento postularam uma resposta inesperada: não é que estragamos as coisas – é que estamos no meio de um esforço democrático sem precedentes, e haverão alguns solavancos na estrada. Além disso, se queremos que o futuro pareça brilhante em vez de sombrio, precisamos começar a trabalhar mais para superar as divisões sociais.

Yascha Mounk é um cientista político germano-americano, professor de Assuntos Internacionais na Universidade Johns Hopkins, membro sênior do Conselho de Relações Exteriores e autor de quatro livros, sendo o mais recente “The Great Experiment: Why Diverse Democracies Fall Apart and How They Can Endure”.

Dr. Eboo Patel é o fundador e presidente da Interfaith America, uma organização internacional sem fins lucrativos com sede em Chicago que visa promover a cooperação inter-religiosa. Ele também é ex-conselheiro religioso do presidente Obama e autor de quatro livros, mais recentemente, “We Need to Build: Field Notes for Diverse Democracy“.

De acordo com o relatório “Freedom in the World” de 2021 da Freedom House, o mundo entrou no 16º ano de uma recessão democrática e o equilíbrio internacional mudou a favor da tirania. O que fez com que a democracia se tornasse tão frágil, e estamos em algum tipo de ponto de virada precário?

Democracia delicada
Chegamos à conclusão de que em países relativamente ricos, como EUA, Austrália, Alemanha ou Japão, a democracia sempre será o sistema de governo escolhido e provavelmente não estará sob séria ameaça. “Comecei a me preocupar se isso era realmente verdade, porque vi todos esses sinais de enfraquecimento dos valores democráticos”, disse Mounk. “As pessoas participam menos da sociedade civil, os extremos aumentam, as pessoas estão mais abertas aos líderes populistas.” Veja Trump nos EUA, Bolsonaro no Brasil, Modhi na Índia ou López Obrador no México, para citar alguns.

Essa mudança, na opinião de Mounk, tem razões estruturais, como a estagnação dos padrões de vida dos cidadãos das classes média e trabalhadora, bem como o aumento do uso da internet e das mídias sociais, que leva partidos e questões ao extremo. “Mas também tem a ver com o fato de estarmos tentando fazer algo sem precedentes agora”, acrescentou. “Estamos tentando construir democracias religiosa e etnicamente diversas que tratem seus membros como iguais.”

Quando democracias como a Alemanha e os EUA foram fundadas, elas eram em grande parte religiosa e etnicamente homogêneas. Os EUA tornaram-se mais diversificados, mas não têm um histórico de tratar diferentes grupos de cidadãos igualmente; um grupo obteve o poder e a influência enquanto outros grupos foram excluídos.

Há um pessimismo generalizado nos EUA sobre o estado da sociedade – mas, Mounk apontou, construir democracias diversas é extremamente difícil e deu errado várias vezes na história. “Se você entende isso, pode olhar para as mudanças na sociedade americana na última década e ter otimismo”, disse ele. “Talvez não em nível político, mas nas mudanças que você vê no coração de nossa sociedade. Na verdade, estamos fazendo um progresso real na construção dessas diversas democracias e continuaremos a construir isso nas próximas décadas”.

Que tal uma lufada de ar fresco?

Sociedade Civil Crucial

O foco de Patel está na construção da sociedade civil: ligas atléticas, organizações religiosas ou casas de culto e outros interesses especiais ou grupos de hobbies onde passamos tempo fora de nossas famílias. “A sociedade civil é o lugar onde pessoas de diversas identidades e ideologias divergentes se reúnem para se engajar em objetivos comuns e relacionamentos cooperativos”, disse Patel. “Este é o verdadeiro gênio da sociedade americana – você tem uma massa crítica de instituições e espaços que reúnem as pessoas para objetivos comuns, e a natureza da atividade molda os relacionamentos cooperativos.”

Reunir pessoas de diferentes grupos para aprofundar a confiança e a compreensão é fundamental. O grupalismo, apontou Mounk, faz parte da natureza humana, e isso nunca mudará — mas devemos gerenciá-lo de uma maneira que inspire cooperação e amizade, em vez de ódio, ressentimento ou violência.

Ele citou a Índia como uma próspera democracia diversificada, mas com explosões periódicas de violência entre hindus e muçulmanos. Estudos descobriram que em aldeias e cidades onde há menos violência, há mais associações cívicas que unem as pessoas; Hindus e muçulmanos são membros de clubes de literatura, clubes de atletismo, organizações voluntárias, etc. Em lugares onde a violência irrompe com mais frequência, essas associações ainda existem, mas mantêm hindus e muçulmanos separados.

Não é nenhuma grande surpresa, então, que em momentos em que as tensões estão em alta, as pessoas no primeiro grupo de cidades confiam umas nas outras, enquanto no segundo, elas não sentem que se conhecem.

Este segundo grupo, porém, tem sido a regra ao longo da história; o que estamos tentando fazer agora é a exceção. “A regra da história humana é que as comunidades de identidade constroem instituições para que suas próprias comunidades de identidade as sirvam, cresçam e as reproduzam”, disse Patel – e, quando se trata disso, lutar contra outras comunidades.

Um brilhantismo das diversas democracias, acrescentou, é que os grupos podem iniciar instituições que são uma expressão de sua identidade – digamos, uma universidade jesuíta ou uma organização voluntária judaica – mas servem pessoas de qualquer grupo. O próprio pai de Patel, um muçulmano indiano, veio para os EUA para participar do programa de MBA em Notre Dame – uma universidade católica privada – e é por isso que Patel está aqui hoje.

“Esse é o molho secreto da democracia americana, e acho que está em perigo”, disse ele. “Temos que continuar a construir espaços a partir de nossa própria expressão de identidade que se conectem a outras identidades e tenham interesse em que elas prosperem.”

Demografia não é destino
O US Census Bureau previu que os EUA serão um país de “maioria minoritária” até 2045. Se isso for verdade, Mounk e Patel disseram, é melhor começarmos a trabalhar mais para nos livrarmos da cultura política polarizada e divisiva em que estamos presos. agora.

“Estamos em um momento nos Estados Unidos em que liberais e conservadores não concordam em nada”, disse Mounk. “Mas há uma coisa em que eles concordam, e é errado e perigoso: é a ideia de que a demografia é o destino.” Em sua opinião, isso é muito simplista, porque a maneira como diferentes demografias votam pode mudar ao longo do tempo.

Católicos e irlandeses-americanos foram fundamentais para os democratas na década de 1960, disse Mounk, mas hoje são uma das bases eleitorais mais confiáveis ​​para os republicanos. O que tornou Trump competitivo nas eleições de 2020 foi que ele aumentou significativamente sua parcela de eleitores entre todos os grupos demográficos não brancos, de afro-americanos a asiático-americanos e hispânicos. Biden acabou vencendo porque aumentou sua parcela de eleitores brancos em relação à parcela de Hillary Clinton a partir de 2016. “Simplesmente não podemos prever quem vencerá as eleições ao divulgar esses números no futuro”, disse Mounk. “E isso é bom para nossa sociedade, porque não quero poder olhar para esse público e saber em quem você votou pela cor da sua pele.”

Consertando o Futuro
A tecnologia causou alguns danos à democracia, principalmente por meio de algoritmos de mídia social que amplificam as vozes mais extremas em detrimento das moderadas e racionais. O que a tecnologia pode fazer agora para reverter esse dano – e ir além disso para revitalizar a democracia, construir conexões significativas entre grupos e diminuir a polarização política?

Patel falou da importância de empreendedores voltados a soluções para ajudar a curar feridas sociais. “Uma grande parte do que torna nossa sociedade saudável e vibrante são as pessoas se levantando e dizendo ‘eu vou resolver isso'”, disse ele. “As soluções locais para problemas locais podem ter enormes implicações nacionais.”

A democratização da tecnologia, informação e conhecimento significa que há uma proporção maior do que nunca de pessoas com acesso a ferramentas que podem catalisar mudanças positivas. Vemos pessoas usando a tecnologia para resolver problemas como falta de moradia, poluição, mudanças climáticas e até mesmo tornar as tecnologias digitais existentes mais éticas.

Como esse espírito de inovação orientada para a comunidade pode ser aplicado para consertar e preservar nosso sistema político adoecido?

Uma linha do livro de Mounk diz: “Nunca na história uma democracia conseguiu ser diversa e igualitária, tratando os membros de muitos grupos étnicos ou religiosos diferentes de forma justa, e ainda assim alcançar esse objetivo agora é central para o projeto democrático em países ao redor do mundo. .”

Temos nosso trabalho cortado para nós.

Artigo originalmente publicado em SingularityHub.

Categorias
Blog

China: Barragem de 180 metros de altura será construída inteiramente por robôs

À medida que o mundo corre para parar de queimar combustíveis fósseis e implementar mais fontes renováveis ​​de energia, há muito hype em torno da energia solar e eólica. Embora sejam comparativamente mais fáceis de colocar em funcionamento, essas fontes de energia não têm a mesma capacidade de produção – ou consistência – que a energia hidrelétrica. A China está investindo muito em todos os itens acima, mais recentemente anunciando a construção de uma enorme barragem no rio Amarelo, na província de Qinghai, localizada no planalto tibetano.

Uma vez concluída, a represa Yangqu deverá gerar quase cinco bilhões de quilowatts-hora de eletricidade por ano – meio bilhão a mais do que a represa Hoover do Arizona – e os planos são para que ela seja construída inteiramente por robôs, sem qualquer trabalho humano.

Um artigo publicado no mês passado no Journal of Tsinghua University detalha um “sistema de impressão 3D” que usa IA e robôs para preencher grandes projetos de construção. Com base na descrição, porém, é um pouco impróprio equiparar o sistema à impressão 3D; enquanto projetos de construção menores, como casas impressas em 3D, usam uma impressora que cospe uma mistura de concreto camada por camada, não há menção a uma impressora nesta descrição do projeto.

Em vez disso, um sistema de programação de construção avalia um modelo de design digital do projeto seção por seção, calculando quanto material de enchimento é necessário e, em seguida, um robô coleta o material e o transporta para a seção pretendida. Os robôs fazem “pavimentação e laminação inteligente” para terminar uma camada de construção e, em seguida, enviam feedback para o sistema de agendamento. É impressão 3D em que uma estrutura muito alta sobe camada por camada usando um processo automatizado, mas principalmente, não é impressão 3D porque não há uma impressora.

O projeto não está sendo feito do zero, ou seja, já existe uma barragem no local, construída a partir de 2010, juntamente com uma hidrelétrica de 1.200 megawatts. As instalações existentes estão sendo ampliadas.

Serão necessários trabalhadores humanos para minerar alguns dos materiais de construção, mas a automação pesada do projeto idealmente significa que ele será concluído mais rapidamente e com menos erros do que o trabalho humano permitiria; as máquinas podem trabalhar em turnos de 12 horas, ou até 24 horas por dia. Os planos são para que a primeira seção entre em operação em 2024 e todo o projeto esteja em funcionamento no ano seguinte.

Para efeito de comparação, a Represa Hoover tem 221 metros de altura e levou 5 anos para ser construída. E, como se vê, construir uma barragem é um trabalho traiçoeiro: 96 pessoas morreram durante a construção da Represa Hoover por causas como afogamento, serem atingidos por materiais de construção caindo ou feridos em explosões para limpar rochas naturais. Outra vantagem do trabalho mecânico, então, é que a segurança humana não será ameaçada.

Os chineses não são estranhos à construção de barragens maciças; A Barragem das Três Gargantas, no rio Yangtze, na província de Hubei, é a maior usina hidrelétrica do mundo. Com 181 metros de altura, é quase exatamente a mesma altura que Yangqu estará uma vez completa, mas é muito mais larga.

A China pretende atingir a neutralidade de carbono até 2060. Para ter alguma chance de atingir essa meta, eles vão precisar de muito mais do que painéis solares e turbinas eólicas; esta é uma das várias barragens que estão sendo construídas no país (para adicionar às muitas milhares já existentes), e eles também estão apostando na energia nuclear.

Na China, como no resto do mundo, a transição para as energias renováveis ​​está em andamento lento, mas constante. A represa Yangqu é altamente ambiciosa, mas se for bem-sucedida, não será a primeira vez que a China prova que os opositores estão errados.

Artigo originalmente publicado em SingularityHub.

Categorias
Blog

Transporte autônomo: Volvo e DHL fazem parceria