Categorias
Blog

Inteligência artificial no trabalho: estratégia ou desespero?

Por Marcelo Murilo, Co-Fundador e VP de Inovação e Tecnologia do Grupo Benner.

A inteligência artificial (IA) está no centro de uma das maiores revoluções tecnológicas da nossa era, transformando indústrias e redefinindo modelos de negócios. No entanto, é crucial perguntar: a sua estratégia de IA é um movimento desesperado para agradar o mercado ou uma abordagem estruturada, com métricas claras e foco em resultados concretos?

Nos últimos anos, a inteligência artificial (IA) deixou de ser uma tecnologia emergente para se tornar uma força motriz na transformação digital das empresas. A promessa de eficiência operacional, inovação em produtos e serviços, e insights valiosos a partir de grandes volumes de dados, tem impulsionado investimentos massivos em IA em todos os setores. Estimativas recentes da International Data Corporation (IDC) projetam que os gastos globais com IA alcançarão a marca de US$ 500 bilhões até 2024, um aumento substancial em relação aos US$ 342 bilhões registrados em 2021.

Essa corrida para adotar IA é impulsionada não apenas pelo potencial de transformação, mas também pela pressão competitiva. Organizações em todo o mundo sentem a necessidade de incorporar IA para não ficarem para trás, especialmente quando competidores estão relatando ganhos significativos de eficiência e novas capacidades habilitadas pela IA. No entanto, a rapidez com que muitas empresas estão adotando essa tecnologia levanta preocupações sobre a profundidade de seu planejamento e compreensão.

O mercado global de IA tem mostrado um crescimento exponencial, com empresas relatando melhorias significativas em áreas como atendimento ao cliente, manutenção preditiva e otimização de cadeias de suprimento. Relatórios da McKinsey indicam que 57% das empresas que adotaram IA observaram um aumento na produtividade, enquanto 45% relataram melhorias substanciais na experiência do cliente.

Contudo, a adoção desenfreada de IA sem uma estratégia bem delineada pode levar a desilusões. O Hype Cycle do Gartner para IA ilustra bem essa situação, onde muitas tecnologias emergentes passam pelo “Pico de Expectativas Infladas” antes de entrar no “Vale da Desilusão”. Isso ocorre quando as limitações da tecnologia se tornam evidentes e as expectativas não são atendidas, resultando em frustração e perdas financeiras.

Além disso, a implementação de IA não é isenta de desafios técnicos e culturais. A integração de sistemas de IA com as infraestruturas de TI existentes, a falta de talentos qualificados e as questões de ética e privacidade são barreiras significativas que as empresas precisam superar. De acordo com uma pesquisa da Deloitte, 48% das empresas relataram dificuldades em integrar IA com suas operações existentes, enquanto 39% mencionaram a escassez de profissionais capacitados como um grande obstáculo.

No Brasil, a adoção de IA também está crescendo, embora com desafios específicos. Uma pesquisa realizada pela Associação Brasileira das Empresas de Tecnologia da Informação e Comunicação (Brasscom) aponta que o mercado de IA no Brasil deverá movimentar cerca de R$ 21 bilhões até 2025. No entanto, muitas empresas brasileiras ainda lutam com a falta de infraestrutura adequada e a necessidade de qualificação profissional.

A transformação impulsionada pela IA é inegável e inevitável. No entanto, para colher os benefícios dessa tecnologia, é fundamental que as empresas adotem uma abordagem estratégica e estruturada. A promessa da IA é grande, mas para realizá-la, as organizações precisam evitar a adoção precipitada e garantir que suas iniciativas estejam alinhadas com objetivos claros e realistas.

Adoção da IA: Entre o Hype e a Realidade

A adoção da inteligência artificial (IA) nas empresas tem sido amplamente impulsionada por uma combinação de expectativas elevadas e pressões competitivas. A promessa de que a IA pode revolucionar processos, criar novos produtos e serviços, e proporcionar insights valiosos a partir de grandes volumes de dados, tem levado muitas organizações a embarcarem nessa jornada tecnológica. No entanto, é crucial distinguir entre a adoção bem-sucedida da IA e os projetos que falham por não atingirem as expectativas.

O Gartner Hype Cycle, uma ferramenta desenvolvida para mapear a maturidade, adoção e aplicação comercial de tecnologias específicas, ilustra bem o ciclo de entusiasmo exagerado seguido por desilusão. No “Pico de Expectativas Infladas”, muitas empresas adotam tecnologias emergentes como a IA com uma visão otimista, mas muitas vezes irrealista, das suas capacidades. As expectativas elevadas frequentemente resultam em frustração quando as limitações da tecnologia e a complexidade de sua implementação se tornam evidentes, levando as empresas ao “Vale da Desilusão”.

Segundo um estudo da Forrester Research, cerca de 60% dos projetos de IA falham devido à falta de alinhamento com os objetivos estratégicos da empresa. Este dado alarmante destaca a importância de uma abordagem planejada e estruturada para a adoção da IA. Empresas que investem em IA sem uma estratégia clara frequentemente enfrentam desafios significativos, incluindo a falta de infraestrutura adequada, a ausência de talentos qualificados e a dificuldade em integrar novas tecnologias com sistemas existentes.

O fenômeno do Hype Cycle também pode ser observado em diversos casos reais. Por exemplo, uma empresa global de telecomunicações investiu milhões de dólares em uma solução de IA para melhorar o atendimento ao cliente, mas enfrentou uma série de desafios técnicos e operacionais que impediram o alcance dos resultados esperados. Sem uma análise detalhada das necessidades específicas e das capacidades reais da tecnologia, o projeto resultou em frustração e perdas financeiras significativas.

No Brasil, a realidade não é diferente. Muitas empresas brasileiras adotam a IA com o objetivo de não ficarem atrás de seus concorrentes, mas sem uma preparação adequada. A pesquisa da Fundação Getúlio Vargas (FGV) revela que a maioria das empresas no país enfrenta dificuldades semelhantes, incluindo a falta de conhecimento técnico e a necessidade de infraestrutura robusta. Esta adoção precipitada frequentemente resulta em altos custos sem os retornos esperados.

A Deloitte aponta que apenas 25% das empresas que implementaram IA por pressão externa conseguiram alcançar os resultados desejados. Esta estatística sublinha a importância de uma abordagem estratégica e estruturada. A pressão para adotar IA sem um entendimento claro de suas capacidades e limitações pode levar a investimentos mal direcionados e expectativas irrealistas.

A verdadeira inovação com IA não vem do simples fato de seguir modismos, mas da integração cuidadosa e estratégica dessa tecnologia nos processos de negócios. Para colher os benefícios da IA, é essencial que as empresas alinhem suas iniciativas com objetivos claros e mensuráveis, garantindo que cada projeto de IA tenha um propósito definido e contribua para os objetivos estratégicos da organização.

A adoção precipitada de IA, sem um planejamento adequado, pode resultar em mais problemas do que benefícios. As empresas que desejam aproveitar ao máximo essa tecnologia devem focar em uma abordagem estruturada, evitando a armadilha do hype e garantindo que suas iniciativas estejam alinhadas com suas metas de negócios a longo prazo.

Impactos Negativos da Adoção Precipitada

A adoção precipitada de inteligência artificial (IA) pode acarretar uma série de impactos negativos, tanto financeiros quanto operacionais, que comprometem a viabilidade e a reputação das empresas. Sem uma estratégia clara e objetivos bem definidos, os projetos de IA correm o risco de se tornar investimentos dispendiosos que não entregam os resultados esperados.

Perdas Financeiras

A primeira e mais evidente consequência da adoção precipitada de IA é a perda financeira. Empresas investem milhões em tecnologias de IA, atraídas pelo potencial de transformação, mas frequentemente sem uma análise detalhada de custo-benefício. Dados da Deloitte indicam que apenas 25% das empresas que implementaram IA por pressão externa conseguiram alcançar os resultados desejados. Essa estatística sublinha a necessidade de um planejamento adequado e objetivos claros para evitar desperdício de recursos.

Danos à Reputação

Além das perdas financeiras, os projetos de IA malsucedidos podem causar danos significativos à reputação das empresas. Promessas não cumpridas e expectativas não atendidas podem levar à desconfiança dos stakeholders, incluindo clientes, investidores e parceiros de negócios. No cenário competitivo atual, a reputação é um ativo crucial que pode ser severamente comprometido por falhas tecnológicas.

Ineficiências Operacionais

A adoção de IA sem uma estratégia bem delineada pode levar a ineficiências operacionais significativas. Sistemas mal integrados e a falta de treinamento adequado para os funcionários resultam em processos fragmentados e falhas na execução. De acordo com uma pesquisa da McKinsey, 48% das empresas relataram dificuldades em integrar IA com suas operações existentes, o que pode causar interrupções nas atividades diárias e afetar a produtividade geral.

No Brasil, um estudo da Fundação Getúlio Vargas (FGV) revelou que muitas empresas enfrentam desafios semelhantes. A falta de infraestrutura adequada e a necessidade de qualificação profissional são barreiras significativas para a implementação eficaz da IA. Sem superar essas barreiras, as empresas correm o risco de ver suas operações se tornarem mais complicadas e menos eficientes.

Questões Éticas e de Privacidade

A implementação apressada de IA também pode levantar questões éticas e de privacidade, especialmente se as políticas de governança e proteção de dados não forem adequadamente estabelecidas. A pressão para adotar IA rapidamente pode levar as empresas a negligenciarem aspectos críticos de privacidade dos dados e ética no uso de algoritmos.

Por exemplo, o uso inadequado de IA em processos de recrutamento pode resultar em discriminação algorítmica, onde os vieses existentes nos dados de treinamento são amplificados pelas decisões automatizadas. Isso não só prejudica a imagem da empresa, mas também pode levar a litígios e multas regulatórias. De acordo com o relatório da Forrester, cerca de 22% das empresas relataram enfrentar problemas legais devido à implementação inadequada de IA, destacando a importância de uma abordagem ética e responsável.

Perda de Oportunidades

Finalmente, a adoção precipitada de IA pode resultar na perda de oportunidades valiosas. Quando os projetos de IA falham, as empresas não apenas perdem o investimento inicial, mas também o tempo e os recursos que poderiam ter sido direcionados para iniciativas mais estratégicas e bem planejadas. Essa perda de oportunidades pode ser particularmente prejudicial em mercados altamente competitivos, onde a capacidade de inovar e adaptar-se rapidamente é crucial para o sucesso a longo prazo.

A adoção bem-sucedida de IA requer uma análise cuidadosa, planejamento detalhado e uma compreensão clara das capacidades e limitações da tecnologia. As empresas devem evitar a tentação de seguir tendências sem uma preparação adequada, garantindo que suas iniciativas de IA estejam alinhadas com objetivos estratégicos claros e mensuráveis.

Implementação Estruturada: O Caminho para o Sucesso

Para garantir o sucesso na adoção da inteligência artificial (IA), as empresas precisam seguir uma abordagem estruturada que envolve planejamento detalhado, definição clara de objetivos, capacitação de equipes e monitoramento contínuo. Essa abordagem ajuda a mitigar os riscos associados à implementação precipitada e maximiza os benefícios potenciais da IA.

Conhecimento e Capacitação

A base de uma implementação bem-sucedida de IA começa com o conhecimento e a capacitação dos líderes empresariais. É essencial que executivos e gerentes compreendam não apenas os conceitos básicos de IA, como aprendizado de máquina e processamento de linguagem natural, mas também as suas capacidades e limitações. Investir em educação contínua e treinamento é crucial para assegurar que todos os envolvidos tenham um entendimento sólido da tecnologia.

Por exemplo, a McKinsey recomenda programas de capacitação que incluam workshops, cursos online e colaborações com universidades e institutos de pesquisa. Empresas que investem em capacitação tendem a ter uma implementação mais suave e eficiente de IA, pois suas equipes estão melhor preparadas para enfrentar os desafios técnicos e operacionais que surgem.

Definição de Objetivos Claros e Mensuráveis

Antes de iniciar qualquer projeto de IA, é fundamental estabelecer objetivos específicos e mensuráveis. As empresas devem se perguntar: quais problemas a IA resolverá? Quais são os resultados esperados? Esses objetivos devem estar alinhados com a estratégia geral da empresa e devem ser revisados regularmente para garantir que a implementação está no caminho certo.

A abordagem da Boston Consulting Group (BCG) enfatiza a importância de definir métricas claras de sucesso desde o início. Isso inclui indicadores de desempenho chave (KPIs) que possam monitorar o progresso e o impacto das iniciativas de IA. Por exemplo, uma empresa de logística pode definir como objetivo a redução do tempo de entrega em 20% através da otimização de rotas com IA utilizando KPIs específicos para medir essa melhoria.

Criação de Políticas e Governança de IA

Desenvolver políticas claras sobre o uso de IA é essencial para garantir a ética e a responsabilidade. Isso inclui a proteção de dados, a transparência no uso de algoritmos e a garantia de que a IA está sendo utilizada de maneira que respeite a privacidade e os direitos dos indivíduos.

Diretrizes de governança robustas, como as sugeridas pelo IEEE, ajudam a estabelecer um quadro ético para a implementação de IA. Essas diretrizes incluem práticas recomendadas para a coleta e uso de dados, a necessidade de auditorias regulares e a importância de manter a transparência com stakeholders. Empresas que adotam uma governança forte estão melhor posicionadas para evitar problemas legais e éticos, além de fortalecer a confiança dos clientes e investidores.

Integração com Sistemas Existentes

A integração de sistemas de IA com as infraestruturas de TI existentes é um dos maiores desafios para muitas empresas. É crucial planejar essa integração cuidadosamente para evitar interrupções nas operações e garantir que a nova tecnologia possa operar de forma eficiente com os sistemas já em uso.

Estudos de caso mostram que empresas que investem em soluções de integração robustas, como middleware e plataformas de gerenciamento de dados, conseguem uma implementação mais suave. Por exemplo, uma grande empresa de manufatura conseguiu integrar sua solução de IA para manutenção preditiva com seu sistema de gerenciamento de ativos, resultando em uma redução significativa de falhas de equipamentos e aumento da eficiência operacional.

Monitoramento e Avaliação Contínua

A implementação de IA não é um evento único, mas um processo contínuo que requer monitoramento e avaliação constantes. Empresas devem estabelecer métricas e indicadores de desempenho para acompanhar o progresso e o impacto das iniciativas de IA. Esses indicadores podem incluir a eficiência operacional, a satisfação do cliente e o impacto no ambiente de trabalho.

Empresas bem-sucedidas utilizam dados de mercado e avaliações internas para ajustar suas estratégias de IA conforme necessário. Isso envolve a análise regular dos KPIs e a disposição para fazer mudanças quando os resultados não estão de acordo com as expectativas. A Deloitte sugere que as empresas realizem revisões trimestrais para garantir que suas iniciativas de IA estejam no caminho certo e para identificar áreas de melhoria.

Por fim…

A verdadeira inovação com inteligência artificial (IA) não vem da adoção precipitada ou do seguimento de modismos, mas da integração cuidadosa e estratégica dessa tecnologia nos processos de negócios. Empresas que desejam aproveitar ao máximo os benefícios da IA precisam abordar sua implementação com um planejamento detalhado, capacitação contínua, governança robusta e um foco constante na ética e na transparência.

Os desafios e as armadilhas da adoção precipitada de IA são claros. Sem uma estratégia bem delineada, as organizações correm o risco de desperdício financeiro, danos à reputação, ineficiências operacionais e até problemas legais. Estudos de caso, tanto de sucesso quanto de fracasso, destacam a importância de alinhar as expectativas com as capacidades reais da tecnologia, garantir a qualidade dos dados e promover uma cultura de inovação e adaptação contínua.

No Brasil, as oportunidades para a implementação bem-sucedida de IA são vastas, especialmente em setores como agronegócio, saúde e finanças. No entanto, as empresas devem estar preparadas para enfrentar desafios específicos, como a infraestrutura tecnológica inadequada, a escassez de profissionais qualificados e a resistência à mudança. Investir em capacitação, melhorar a infraestrutura e desenvolver estratégias de gestão de mudança são passos cruciais para superar esses obstáculos.

Para garantir que a IA seja utilizada de maneira ética e responsável, é fundamental que as empresas estabeleçam políticas claras de governança e proteção de dados, implementem auditorias regulares e promovam a transparência e a explicabilidade dos algoritmos. A responsabilidade e a accountability devem ser claramente definidas para evitar problemas legais e éticos, e o feedback dos usuários deve ser continuamente incorporado para melhorar as soluções de IA.

Finalmente, a colaboração entre empresas, governos e instituições acadêmicas pode acelerar a adoção de IA e promover a inovação. Parcerias público-privadas, incentivos fiscais e a criação de ecossistemas de inovação são estratégias que podem ajudar a superar os desafios e criar um ambiente propício para o crescimento sustentável da IA.

Ao seguir essas recomendações e adotar uma abordagem estruturada e estratégica, as empresas estarão mais bem posicionadas para colher os frutos da IA, transformando suas operações, melhorando a satisfação dos clientes e ganhando uma vantagem competitiva sustentável no mercado.

Categorias
Blog

Quais são os erros mais comuns no uso da Inteligência Artificial?

Por Rafael Rez, Fundador e CMO da Web Estratégica.

A GenAI é uma ótima opção para nos ajudar em questões cotidianas, principalmente em nossos negócios. Porém, precisamos ter cautela e parar essa reprodutibilidade desenfreada.

A revolução digital impulsionada pela inteligência artificial promete transformar setores, otimizar processos e agilizar tarefas. Particularmente, tenho acompanhado de perto a adoção e o uso dessa tecnologia, mas, à medida que avançamos nesta jornada de IA, é essencial reconhecer e aprender com os erros que acompanham esse avanço tecnológico.

Um dos erros mais comuns que observo é a falta de compreensão sobre as capacidades, mas principalmente as limitações da inteligência artificial. Muitos gestores e profissionais de marketing se empolgam com a promessa de automação e eficiência proporcionada pela IA, sem considerar os contextos específicos em que ela pode ou não ser aplicada com sucesso. Isso leva a expectativas irreais e, consequentemente, a projetos mal planejados, mal executados e resultados decepcionantes.

Dados em massa

Outro equívoco comum é subestimar a importância do treinamento e da qualidade dos dados. As ferramentas de IA dependem fortemente de conjuntos de dados de alta qualidade para funcionar de maneira eficaz. Ignorar esse aspecto pode resultar em decisões inadequadas, o que não só compromete os resultados esperados, mas também pode causar danos à reputação da marca.

Aqui, também podemos citar o uso de prompts mal pensados, que acabam gerando respostas sem resultados positivos e, na maioria das vezes, frases prolixas. Por mais que a IA seja mais rápida que um ser humano no levantamento de novas ideias, no qualitativo, o ser humano é indispensável.

Sempre revisar o que foi feito, por um ser humano especialista e experiente no assunto

Muitas empresas cometem o erro de não envolver especialistas humanos na implementação e uso de sistemas baseados em IA. A tecnologia, por mais avançada que seja, ainda requer a supervisão e o conhecimento humano para interpretar os resultados e garantir que nenhuma citação esteja errada. Para mim, este é o maior erro no uso de IA: não se atentar à revisão.

Verificar a qualidade do produto final é essencial, pois não podemos esperar que a tecnologia tenha noção se o conteúdo no qual ela está se referenciando tem algum viés ou que ela crie algo sem precedentes. Por conta de seu grande banco de dados, as informações que a tecnologia fornece são cruzadas e acabam sendo criadas sem que realmente possam ser comprovadas. Para essa comprovação, é preciso da checagem e validação das informações, o que somente o ser humano pode fazer.

Além disso, é importante também uma revisão simples, mas muito necessária, do texto, eliminando rebuscamentos, repetições e outros problemas de linguagem que frequentemente a IA acaba trazendo nos textos.

Vieses mascarados

Um erro que tem implicações profundas para o funcionamento a longo prazo das soluções de IA é a negligência em não considerar suas consequências éticas. Desde questões de privacidade até preocupações com viés algorítmico, é fundamental que as empresas incorporem uma abordagem ética em todas as fases de uso de soluções baseadas em IA.

Como a IA não possui discernimento sobre o que ela realmente está escrevendo, a ferramenta acaba, muitas vezes, por tomar um viés político ou social, com base em seus milhares de dados, sem saber que aquilo é um viés. Isso, na maioria das vezes, acaba fazendo com que os conteúdos fiquem presos às mesmas ideias e aos mesmos vícios de linguagem.

Usar a ferramenta como substituto do humano

Em todos esses pontos, o erro mais comum e mais grave é acreditar que a ferramenta substitui o elemento humano. Ela agrega uma agilidade impressionante e pode acelerar muitos os processos, mas o centro de uma estratégia é o elemento humano, que vai direcionar a ferramenta para obter esses bons resultados, e precisa ser um especialista para fazer isso com sucesso.

Costumo dizer que um conteúdo deve cumprir uma função: oferecer um ponto de vista, uma opinião ou um direcionamento. Esse tipo de valor precisa ser agregado por um ser humano, que traga originalidade ao material base gerado pela IA.

Quando aplicada estrategicamente, a inteligência artificial oferece um potencial enorme para impulsionar o crescimento e a inovação de empresas. No entanto, devemos abordá-la com cuidado, entendendo seus desafios, para que seus principais benefícios possam ser absorvidos com sucesso.

Categorias
Blog

Desumanização algorítmica: qual o impacto da gestão automatizada nas mulheres que trabalham no mercado digital?

Por Carine Roos, CEO e fundadora da Newa Consultoria.

A gestão algorítmica está transformando o mundo do trabalho com o uso de algoritmos para monitorar e tomar decisões, mas levanta preocupações sobre desumanização e equidade, especialmente para as mulheres. A implementação ética e supervisão humana são essenciais para garantir justiça e dignidade no ambiente de trabalho.

Conforme vamos evoluindo como sociedade, o mundo do trabalho está passando por uma transformação significativa. O avanço tecnológico e o surgimento da Inteligência Artificial (IA) estão redefinindo a forma como as empresas gerenciam seus trabalhadores e tomam decisões relacionadas ao trabalho. Em resposta a essas mudanças, muitas empresas estão adotando uma gestão algorítmica.

A gestão algorítmica refere-se ao uso de algoritmos para gerenciar trabalhadores, monitorar desempenho, atribuir tarefas e tomar decisões relacionadas ao trabalho. Esta prática tem se tornado cada vez mais comum em plataformas digitais de trabalho, como aplicativos de entrega e transporte. Embora a gestão algorítmica possa aumentar a eficiência operacional, ela também levanta sérias preocupações sobre desumanização, especialmente na ausência de supervisão significativa e automatização da gestão.

Isso porque quando as decisões de gerenciamento são totalmente automatizadas e baseadas em algoritmos, a interação humana e a supervisão direta são minimizadas ou eliminadas. Isso pode criar uma sensação de alienação entre os trabalhadores, que se veem como meros números ou componentes de um sistema, em vez de seres humanos com necessidades e direitos. A falta de supervisão humana significa que questões como justiça, contexto pessoal e ética no trabalho são muitas vezes negligenciados. Os trabalhadores podem sentir-se desumanizados quando suas circunstâncias individuais não são consideradas nos processos de gestão.

Ainda a automatização da gestão pode levar à fragmentação do trabalho, onde tarefas são divididas em partes menores e altamente específicas. Isso pode resultar em um ambiente de trabalho onde os trabalhadores têm pouca ou nenhuma visibilidade sobre o processo geral ou os objetivos da empresa. A automatização também pode significar que decisões importantes, como demissões ou avaliações de desempenho, são tomadas sem consideração por nuances humanas. Esse tipo de gestão reduz os trabalhadores a engrenagens de uma máquina, desconsiderando suas competências, aspirações e necessidades específicas.

Impacto sobre as mulheres

As mulheres são particularmente vulneráveis a esses impactos desumanizantes por várias razões:

1) Subrepresentação em papéis de supervisão: Mulheres frequentemente têm menor representação em cargos de liderança e supervisão, o que significa que a perspectiva feminina é frequentemente ausente nas decisões de gestão algorítmica. Isso pode levar a políticas que não consideram adequadamente as necessidades ou desafios específicos enfrentados pelas mulheres no local de trabalho.

2) Segmentação em trabalhos precarizados: As mulheres são frequentemente empurradas para trabalhos que são mais propensos a serem controlados por algoritmos, como serviço ao cliente, cuidado e assistência, que são frequentemente mal pagos e precarizados. A gestão algorítmica nesses setores pode exacerbar a precariedade, implementando rigorosos sistemas de monitoramento e avaliação que ignoram as complexidades dos cuidados pessoais e sociais.

3) Invisibilidade e trabalho não remunerado: A gestão algorítmica pode ignorar ou subvalorizar o trabalho não remunerado que muitas mulheres realizam, como cuidados domésticos, filhos, idosos, pessoas doentes ou comunitários. Isso reforça as desigualdades de gênero, já que as plataformas digitais de trabalho muitas vezes não reconhecem ou recompensam adequadamente essas contribuições.

Supervisão humana e justiça algorítmica

Alguns caminhos para promover uma maior humanização do trabalho no contexto de gestão alogorítmica são:

1) Desenvolvimento de algoritmos éticos: as empresas devem garantir que os algoritmos sejam desenvolvidos com princípios éticos que considerem a dignidade humana, justiça e igualdade. Isso inclui incorporar análises de impacto de gênero e outras interseccionalidades para garantir que as decisões automatizadas não perpetuem discriminações ou desigualdades.

2) Transparência nos critérios de automatização: as empresas devem ser transparentes sobre como os algoritmos são usados e quais critérios são considerados nas decisões automatizadas. É essencial que os trabalhadores compreendam como suas performances são avaliadas e tenham acesso a explicações claras e compreensíveis sobre como os algoritmos funcionam.

3) Supervisão humana: manter elementos humanos na supervisão dos processos algorítmicos é crucial. Supervisores humanos devem ter o poder de revisar e, se necessário, contestar decisões automatizadas que possam ser injustas ou inadequadas. Isso ajuda a garantir que as nuances e contextos individuais dos trabalhadores sejam considerados.

4) Participação dos trabalhadores: incluir trabalhadores no processo de desenvolvimento e implementação de sistemas de gestão algorítmica pode ajudar a identificar e corrigir potenciais problemas antes que eles ocorram. Isso também empodera os trabalhadores, permitindo-lhes influenciar diretamente as políticas que afetam seu trabalho diário.

5) Revisão e avaliação contínua: as empresas devem realizar revisões periódicas dos sistemas de gestão algorítmica para identificar possíveis falhas ou efeitos adversos. Essas avaliações devem incluir análises de impacto social e de gênero para garantir que os sistemas estejam funcionando de maneira justa e equitativa.

6) Políticas de diversidade e inclusão: implementar políticas robustas de diversidade e inclusão pode ajudar a garantir que as decisões algorítmicas não excluam ou marginalizem grupos específicos, como mulheres. Isso inclui promover a equidade de gênero em todos os níveis da organização e garantir que os algoritmos não reforcem estereótipos ou vieses.

Ao adotar essas estratégias, as empresas podem mitigar os efeitos desumanizantes da gestão algorítmica e criar um ambiente de trabalho mais justo e humano para todos os trabalhadores, com atenção especial às necessidades e desafios específicos enfrentados pelas mulheres.

Categorias
Blog

IA nos negócios: evitando a perpetuação de preconceitos

Por Dilma Campos.

Racismo algorítimico deve ser sempre lembrado na medida em que estamos depositando nossa confiança na inteligência artificial. Você já pensou sobre esta necessidade neste futuro próximo e o impacto disso nos negócios?

Joy Buolamwini, mulher preta, estava no primeiro ano de sua pós-graduação no MIT em 2015 quando criou um experimento chamado “Aspire Mirror”, que tentava mudar a imagem de seu rosto na tela do computador, para funcionar como se fosse um espelho, mas os softwares simplesmente não conseguiam reconhecer sua face. A Amazon criou um programa de inteligência artificial para encontrar bons candidatos a vagas de emprego, que discriminava mulheres no processo de seleção.

A empresa deixou de usar o programa, mas só descobriu a falha após um ano de desenvolvimento. Uma campanha de uma rede de farmácias patrocinadora da Seleção Brasileira Feminina de Futebol mostra uma resposta enviesada dos três chatbots de IA mais conhecidos do mundo – entre eles o ChatGPT – , que dizia que quem havia feito mais gols pela Seleção Brasileira era Pelé, quando a resposta correta seria Marta (119 gols, contra os 95 dele).

O que essas histórias nos alertam sobre a Inteligência Artificial?

Há um iminente risco de perpetuarmos os preconceitos de gênero, raça e etnia de nossa sociedade se continuarmos a usar a IA como temos feito até hoje. Um viés que pode trazer severos danos de imagem e reputação das marcas e consequências ainda piores para as pessoas impactadas pelos erros da tecnologia.

Esse alerta se torna ainda mais urgente considerando uma pesquisa do BCG que ouviu 1.400 executivos C-level, que diz que 89% dos líderes consideram a IA e a GenAI uma das três prioridades tecnológicas para suas empresas, sendo que mais da metade (51%) coloca estas tecnologias no topo da lista dos investimentos.

Se os negócios estão sendo redesenhados usando tecnologias emergentes como a IA, o que precisa ser feito para evitar erros como os das histórias contadas no início deste artigo?

Em primeiro lugar, alertar os executivos, lideranças e CEOs que tomam as decisões de investimentos na tecnologia sobre a importância da diversidade e da responsabilidade ética das marcas como premissas de desenvolvimento, em especial enquanto a regulamentação da IA ainda não foi aprovada. Afinal, os algoritmos da inteligência artificial são treinados com base em dados que precisam prever a diversidade de raça, gênero e etnia da população brasileira e mundial.

Parece óbvio, mas por que ainda precisamos falar sobre isso? Uma pesquisa do Google for Startups, “O Impacto e o futuro da Inteligência Artificial no Brasil” mostrou que falta diversidade nas empresas de IA: 49% não têm mulheres na liderança, 61% não têm pessoas negras nestes cargos e 71% não têm pessoas LGBTQIAPN+. Sem o olhar diverso, será que os programas de IA e os algoritmos que estão sendo desenvolvidos nesse ecossistema têm a premissa de incluir todas as pessoas em sua diversidade? Muito provavelmente não.

Uma iniciativa brasileira que está indo na contramão desta tendência é a DEB, uma IA desenvolvida pelo Instituto Identidades do Brasil, ONG que promove a igualdade racial no mercado de trabalho e na sociedade. Desenvolvida por uma equipe de especialistas em diversidade do Instituto, DEB tira dúvidas sobre a pauta étnico-racial, apoiando o letramento racial de empresas e organizações.

Antes de finalizar, quero destacar uma fala de Joy Buolamwini, a pesquisadora do início desse texto que, depois de ter descoberto as falhas nos sistemas de reconhecimento facial de pessoas pretas, intensificou os estudos e fundou a Liga da Justiça Algorítmica, além de publicar o best-seller Unmasking AI. Sua reflexão resume de forma exemplar porque as empresas têm de se preocupar com o tema, se não pela questão ética, pelo impacto disso no negócio: “Se você criou uma ferramenta de IA que não funciona para a maioria das pessoas do mundo, você acha que realmente criou uma boa ferramenta?”