As controvérsias envolvendo a inteligência artificial abrangem uma ampla gama de debates públicos, acadêmicos e políticos sobre os efeitos na sociedade da inteligência artificial (IA). Esses debates se intensificaram particularmente no final da década de 2010 e na década de 2020, coincidindo com um período acelerado de desenvolvimento conhecido como o boom da IA. Enquanto os defensores enfatizam o potencial da tecnologia para resolver problemas complexos e melhorar a qualidade de vida humana, os detratores destacam uma grande variedade de perigos e desafios. Estes incluem preocupações com ética, plágio e roubo, fraude, segurança e alinhamento, impactos ambientais, desemprego tecnológico e a disseminação de desinformação. O tema também abrange desafios teóricos ou futuros graves, como o surgimento da superinteligência artificial e os riscos existenciais.
Antes de 2020 Chatbot Tay da Microsoft (2016)
Em 23 de março de 2016, a Microsoft lançou a Tay, um chatbot projetado para imitar os padrões de linguagem de uma garota estadunidense de 19 anos e aprender com as interações com os usuários do Twitter. Logo após o seu lançamento, a Tay começou a publicar tuítes racistas, sexistas e de outras formas inflamatórios, depois que os usuários do Twitter a ensinaram deliberadamente frases ofensivas e exploraram sua capacidade de "repita comigo". Exemplos de resultados controversos incluíram a negação do Holocausto e apelos ao genocídio usando insultos raciais.
Apenas 16 horas após o seu lançamento, a Microsoft suspendeu a conta no Twitter, excluiu os tuítes ofensivos e declarou que a Tay havia sofrido um "ataque coordenado por um subconjunto de pessoas" que "explorou uma vulnerabilidade". A Tay foi breve e acidentalmente relançada em 30 de março durante testes, após o que foi permanentemente desativada. O CEO da Microsoft, Satya Nadella, declarou mais tarde que a Tay "teve uma grande influência na forma como a Microsoft está abordando a IA" e ensinou à empresa a importância de assumir responsabilidade.
2020–2026 Escândalo de plágio de NFT da Voiceverse (2022)
Em 14 de janeiro de 2022, o dublador Troy Baker anunciou uma parceria com a Voiceverse, uma empresa baseada em blockchain que comercializava tecnologia proprietária de clonagem de voz por IA como tokens não fungíveis (NFTs), provocando uma reação imediata sobre preocupações ambientais, temores de que a IA pudesse substituir dubladores humanos e preocupações com fraudes. Mais tarde naquele mesmo dia, o criador sob pseudônimo do 15.ai — um projeto gratuito e não comercial de pesquisa de síntese de voz por IA — revelou por meio de registros (logs) de servidor que a Voiceverse havia usado o 15.ai para gerar amostras de voz, alterado o tom delas para torná-las irreconhecíveis e comercializado-as falsamente como sua própria tecnologia proprietária antes de vendê-las como NFTs; o desenvolvedor do 15.ai já havia declarado anteriormente que não tinha interesse em incorporar NFTs em seu trabalho. A Voiceverse confessou em menos de uma hora e afirmou que sua equipe de marketing havia usado o 15.ai sem atribuição enquanto se apressava para criar uma demonstração (demo). Publicações de notícias e grupos de vigilância de IA caracterizaram universalmente o incidente como roubo decorrente da inteligência artificial generativa.
Théâtre D'opéra Spatial (2022)
Em 29 de agosto de 2022, Jason Michael Allen conquistou o primeiro lugar na divisão de "artista emergente" (não profissional) da categoria "Artes Digitais/Fotografia Manipulada Digitalmente" na competição de belas artes da Feira Estadual do Colorado com Théâtre D'opéra Spatial, uma obra digital criada com o gerador de imagens por IA Midjourney, Adobe Photoshop e ferramentas de ampliação (upscaling) por IA, tornando-se uma das primeiras imagens feitas com IA generativa a ganhar tal prêmio. Allen divulgou o uso do Midjourney no momento da inscrição, embora os juízes não soubessem que se tratava de uma ferramenta de IA, mas afirmaram que teriam concedido o primeiro lugar a ele de qualquer maneira. Apesar de ter havido pouca contestação sobre a imagem na feira, as reações à vitória nas redes sociais foram negativas. Em 5 de setembro de 2023, o Escritório de Direitos Autorais dos Estados Unidos decidiu que a obra não era elegível para proteção de direitos autorais, pois a contribuição criativa humana foi de minimis e que as regras de direitos autorais "excluem obras produzidas por não humanos".
Declarações sobre os riscos da IA (2023)
Em 22 de março de 2023, o Future of Life Institute publicou uma carta aberta instando "todos os laboratórios de IA a pausarem imediatamente, por pelo menos 6 meses, o treinamento de sistemas de IA mais poderosos que o GPT-4", citando riscos como propaganda gerada por IA, automação extrema de empregos, obsolescência humana e uma perda de controle em toda a sociedade. A carta, publicada uma semana após o lançamento do GPT-4 da OpenAI, afirmava que os grandes modelos de linguagem atuais estavam "se tornando competitivos com humanos em tarefas gerais". O documento recebeu mais de 30.000 assinaturas, incluindo pesquisadores acadêmicos de IA e CEOs da indústria, como Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak e Yuval Noah Harari. A carta foi criticada por desviar a atenção de riscos sociais mais imediatos, como vieses algorítmicos, com Timnit Gebru e outros argumentando que ela amplificava "algum cenário futurista e distópico de ficção científica" em vez dos problemas atuais da IA.
Em 30 de maio de 2023, o Center for AI Safety divulgou uma declaração de uma única frase assinada por centenas de especialistas em inteligência artificial e outras figuras notáveis: "Mitigar o risco de extinção devido à IA deve ser uma prioridade global, ao lado de outros riscos em escala social, como pandemias e guerras nucleares." Os signatários incluíram os vencedores do Prêmio Turing Geoffrey Hinton e Yoshua Bengio, bem como líderes científicos e executivos de várias grandes empresas de IA, incluindo Sam Altman, Demis Hassabis e Bill Gates. A declaração gerou reações de líderes políticos, incluindo o Primeiro-ministro do Reino Unido, Rishi Sunak, que a retuitou afirmando que o governo do Reino Unido a analisaria cuidadosamente, e a Porta-voz da Casa Branca, Karine Jean-Pierre, que comentou que a IA "é uma das tecnologias mais poderosas que vemos atualmente no nosso tempo". Céticos, incluindo os da Human Rights Watch, argumentaram que os cientistas deveriam se concentrar nos riscos conhecidos da IA, em vez de riscos futuros especulativos.
Remoção de Sam Altman da OpenAI (2023)
Em 17 de novembro de 2023, o conselho de administração da OpenAI destituiu o cofundador e diretor executivo Sam Altman, afirmando que "o conselho não tem mais confiança em sua capacidade de continuar liderando a OpenAI". A remoção foi precipitada por preocupações de funcionários sobre a forma como ele lidava com a segurança da inteligência artificial e por alegações de comportamento abusivo. Altman foi reintegrado em 22 de novembro após pressão de funcionários e investidores, incluindo uma carta assinada por 745 dos 770 funcionários da OpenAI ameaçando demissão em massa se o conselho não renunciasse. A remoção e subsequente reintegração causaram reações generalizadas, incluindo as ações da Microsoft caindo quase três por cento após o anúncio inicial e, em seguida, subindo mais de dois por cento para um recorde histórico depois que Altman foi contratado para liderar uma equipe de pesquisa de IA da Microsoft antes de sua reintegração. O incidente também gerou investigações da Autoridade de Concorrência e Mercados do Reino Unido e da Comissão Federal de Comércio dos EUA sobre o relacionamento da Microsoft com a OpenAI.
Controvérsia de pornografia deepfake de Taylor Swift (2024) No final de janeiro de 2024, imagens deepfake geradas por IA sexualmente explícitas de Taylor Swift se proliferaram no X, com uma postagem relatada tendo sido vista mais de 47 milhões de vezes antes de sua remoção. A firma de pesquisa de desinformação Graphika rastreou as imagens até o 4chan, enquanto membros de um grupo do Telegram haviam discutido maneiras de contornar as salvaguardas de censura dos geradores de imagem por IA para criar imagens pornográficas de celebridades. As imagens geraram respostas de grupos de defesa contra a agressão sexual, políticos dos EUA e Swifties. O CEO da Microsoft, Satya Nadella, chamou o incidente de "alarmante e terrível". O X bloqueou brevemente as pesquisas pelo nome de Swift em 27 de janeiro de 2024, e a Microsoft aprimorou as salvaguardas de seu modelo de texto para imagem para evitar abusos futuros. Em 30 de janeiro, os senadores americanos Dick Durbin, Lindsey Graham, Amy Klobuchar e Josh Hawley introduziram um projeto de lei bipartidário que permitiria às vítimas processar indivíduos que produzissem ou possuíssem "falsificações digitais" com a intenção de distribuir, ou aqueles que recebessem o material sabendo que foi feito sem consentimento.
Controvérsia de geração de imagens do Google Gemini (2024)
Em fevereiro de 2024, usuários de redes sociais relataram que o chatbot Gemini do Google estava gerando imagens que apresentavam pessoas de cor e mulheres em contextos historicamente imprecisos — como Vikings, soldados nazistas e os Pais Fundadores — e recusando prompts para gerar imagens de pessoas brancas. As imagens foram ridicularizadas nas redes sociais, inclusive por conservadores que as citaram como evidência da "cultura woke" do Google, e criticadas por Elon Musk, que denunciou os produtos do Google como tendenciosos e racistas. Em resposta, o Google pausou a capacidade do Gemini de gerar imagens de pessoas.
O executivo do Google, Prabhakar Raghavan, divulgou uma declaração explicando que o Gemini havia "compensado em excesso" em seus esforços para buscar a diversidade e reconhecendo que as imagens eram "embaraçosas e erradas". O CEO do Google, Sundar Pichai, chamou o incidente de ofensivo e inaceitável em um memorando interno, prometendo mudanças estruturais e técnicas, e vários funcionários da equipe de confiança e segurança do Google foram demitidos dias depois. O mercado reagiu negativamente, com as ações da Alphabet caindo 4,4 por cento, e Pichai enfrentou crescentes apelos para que renunciasse. O recurso de geração de imagens foi relançado no final de agosto de 2024, alimentado por seu novo modelo Imagen 3.
Comercial de Natal do McDonald's gerado por IA (2025)
Em 6 de dezembro de 2025, o McDonald's dos Países Baixos lançou It's the Most Terrible Time of the Year (É a Época Mais Terrível do Ano), um comercial de televisão de 45 segundos produzido fortemente com inteligência artificial generativa pela agência holandesa TBWA\Neboko e pelo estúdio de produção The Sweetshop, sediado nos Estados Unidos, seguindo uma tendência estabelecida por outras marcas como a Coca-Cola e a Toys "R" Us. O comercial retratava vários contratempos durante a época de Natal, com uma versão modificada da música "It's the Most Wonderful Time of the Year" de Andy Williams e o slogan para "esconder-se no McDonald's até janeiro chegar". O anúncio recebeu uma recepção negativa tanto pelo uso de IA generativa quanto por sua representação cínica das festas de fim de ano, e foi retirado do ar em 9 de dezembro de 2025. Os diretores Mark Potoka e Matt Spicer, baseados em Los Angeles e inicialmente creditados como envolvidos no filme, renunciaram após serem deixados de lado no processo de produção.
Escândalo de deepfake sexual do Grok (2025–2026)