Meredith Whittaker, presidente da Signal Foundation, contestou em entrevista à BBC a prioridade dada a previsões de que sistemas de inteligência artificial poderiam se tornar superinteligentes e destruir a humanidade. Para ela, faltam bases científicas para algumas dessas narrativas, enquanto riscos muito mais concretos já aparecem quando instituições confiam demais em sistemas que erram, inventam informações ou processam grandes quantidades de dados pessoais. A crítica não encerra o debate sobre riscos futuros. Ela expõe um problema metodológico mais útil: ameaças diferentes precisam ser avaliadas por evidência, probabilidade, impacto e possibilidade de prevenção, não pelo tamanho da manchete que conseguem gerar.
Meredith Whittaker preside a Signal Foundation, responsável pelo aplicativo Signal.
Em entrevista à BBC, ela classificou previsões catastróficas de IA como pouco fundamentadas cientificamente e defendeu maior atenção a usos inadequados já possíveis hoje.
A posição é uma avaliação de Whittaker e não representa consenso científico sobre riscos de longo prazo.
Privacidade, erros factuais, discriminação, decisões automatizadas, dependência tecnológica e concentração de infraestrutura são riscos observáveis ou analisáveis no presente.
Riscos presentes e hipóteses existenciais não precisam ser tratados como opções mutuamente exclusivas.
O que a liderança do Signal critica nas previsões sobre inteligência artificial
Meredith Whittaker possui trajetória longa em tecnologia, pesquisa e discussão sobre concentração de poder no setor digital.
Hoje ela preside a Signal Foundation, organização sem fins lucrativos responsável pelo aplicativo de mensagens criptografadas Signal.
Em entrevista à BBC, Whittaker criticou o destaque dado a cenários nos quais uma inteligência artificial muito avançada passaria a agir contra a humanidade.
Ela afirmou que não vê base científica suficiente para determinadas narrativas populares de “apocalipse da IA”.
Essa é uma posição forte e contestável.
Pesquisadores de segurança de IA argumentam que sistemas com níveis muito maiores de autonomia poderiam criar riscos difíceis de controlar.
Outros especialistas consideram esse debate excessivamente especulativo diante de danos já observáveis.
O Infoalfa não precisa escolher um desses campos como verdade absoluta.
É mais útil separar as perguntas.
Primeiro: sistemas atuais produzem riscos concretos?
Sim.
Segundo: sistemas futuros poderiam produzir riscos muito maiores?
É uma hipótese que pesquisadores tentam modelar e testar.
Terceiro: incerteza sobre o segundo problema justifica ignorar o primeiro?
Não.
Whittaker utilizou como exemplo um caso noticiado nos Estados Unidos no qual um sistema de IA utilizado em contexto de inteligência teria produzido informação falsa sobre um navio chinês supostamente transportando material nuclear.
Segundo a narrativa citada por ela, a informação teria contribuído para preparação de uma resposta militar antes que o erro fosse identificado.
A lição que ela extrai é menos sobre “IA rebelde” e mais sobre confiança institucional excessiva.
Um sistema não precisa possuir intenção própria para gerar consequência grave.
Basta alguém tratá-lo como confiável demais.
Essa distinção é fundamental.
Quando uma IA inventa uma referência numa tarefa escolar, o impacto pode ser uma nota ruim.
Quando o mesmo comportamento ocorre num contexto militar, médico, financeiro ou judicial, a consequência pode ser muito maior.
Risco atual: existe mecanismo conhecido e casos observáveis, como vazamento de dados, fraude ou informação fabricada.
Risco projetado: depende de capacidades futuras que ainda podem ou não surgir na forma prevista.
Ambos podem merecer estudo. A evidência necessária para sustentá-los não é a mesma.
Quais problemas concretos surgem quando a IA é utilizada sem controles
Privacidade é um dos mais imediatos.
Usuários colocam diariamente em assistentes textos de contratos, dados pessoais, exames, mensagens privadas e informações empresariais.
Nem sempre sabem onde esses dados serão processados, por quanto tempo serão mantidos ou se poderão ser utilizados para outras finalidades.
Isso é particularmente importante quando IA é integrada diretamente a mensagens.
Criptografia de ponta a ponta protege conteúdo durante transmissão entre os participantes autorizados.
Ela não resolve automaticamente o que acontece quando um usuário envia voluntariamente a mensagem para um serviço externo de IA.
Se o assistente precisa ler o conteúdo num servidor, uma nova entidade entra na cadeia de processamento.
Processamento local no próprio dispositivo pode reduzir parte dessa exposição, desde que a arquitetura realmente mantenha os dados no aparelho.
Outro risco é confiança excessiva.
Modelos produzem respostas linguisticamente convincentes mesmo quando erram.
Essa característica torna a supervisão mais difícil porque erro não vem acompanhado de hesitação.
Uma resposta falsa pode parecer tão segura quanto uma verdadeira.
Em atividades de baixo impacto, revisão ocasional pode bastar.
Em decisões administrativas, seleção de pessoas, concessão de crédito ou diagnóstico, os requisitos precisam ser muito maiores.
Existe também discriminação.
Modelos treinados com dados históricos podem reproduzir padrões presentes nesses dados.
Uma ferramenta não precisa possuir intenção discriminatória para produzir resultados desiguais.
Por isso testes precisam observar grupos diferentes, não apenas média geral de desempenho.
Agentes acrescentam risco de ação.
Um sistema que apenas escreve uma recomendação pode ser corrigido antes da execução.
Um agente autorizado a enviar e-mail, alterar cadastro ou executar pagamento reduz o intervalo entre erro e consequência.
Concentração de infraestrutura é outro tema frequente na atuação de Whittaker.
Treinar e operar modelos avançados exige chips, centros de dados, energia e serviços em nuvem controlados por poucas empresas.
Uma organização pode acreditar que está adotando dezenas de ferramentas diferentes quando várias dependem do mesmo pequeno grupo de provedores.
Isso cria dependência comercial e sistêmica.
No Brasil, a LGPD fornece uma camada jurídica para tratamento de dados pessoais.
A ANPD colocou inteligência artificial e tecnologias emergentes entre seus temas prioritários de fiscalização para 2026 e 2027.
A autoridade também mantém sandbox regulatório para produzir evidências sobre transparência, explicabilidade e proteção de dados.
Esse movimento é importante porque políticas de IA não deveriam se limitar a princípios genéricos.
É preciso testar sistemas reais.
Como avaliar riscos da IA sem cair no alarmismo ou na confiança excessiva
Uma forma mais útil começa pela atividade.
Qual decisão a IA está influenciando?
Qual seria a consequência de uma resposta errada?
Existe uma pessoa capaz de revisar o resultado?
A ação pode ser revertida?
Essas perguntas permitem classificar impacto.
Depois vem a exposição de dados.
O sistema recebe informações pessoais?
Documentos confidenciais?
Credenciais?
Dados de crianças?
Informações médicas?
Quanto mais sensível a entrada, maior deve ser o cuidado com fornecedor e arquitetura.
Quem opera o serviço?
Quais informações são realmente necessárias?
Os dados são armazenados?
Podem ser utilizados para treinamento ou melhoria?
Existe opção empresarial com controles adicionais?
Quem consegue acessar os registros?
O resultado será apenas consultivo ou poderá executar ações?
Auditoria independente também importa.
Uma empresa que desenvolve um sistema possui conhecimento técnico profundo e incentivo comercial para destacar suas melhores características.
Avaliações externas podem revelar falhas que testes internos não priorizaram.
Mas auditoria não é selo eterno.
Modelos mudam, dados mudam e integrações mudam.
Governança precisa ser contínua.
É aqui que o debate sobre riscos existenciais também pode ser colocado em perspectiva.
Se sistemas futuros desenvolverem capacidades muito superiores, testes atuais de autonomia, controle e segurança podem gerar conhecimento útil.
Não é necessário acreditar numa data para “fim da humanidade” para considerar prudente pesquisar controle de sistemas avançados.
Da mesma forma, considerar riscos futuros legítimos não justifica aceitar vigilância, discriminação ou decisões ruins hoje.
Probabilidade e impacto são dimensões diferentes.
Um evento muito improvável com impacto extremo pode merecer pesquisa.
Um dano moderado que ocorre todos os dias pode merecer prioridade operacional maior.
O debate melhora quando essas categorias deixam de competir por atenção como se uma anulasse a outra.
Para usuários comuns, a regra prática é simples.
Não trate IA como pessoa, autoridade ou fonte infalível.
Use-a como ferramenta.
Quanto maior a consequência, maior precisa ser a verificação.
Para empresas, o princípio é semelhante.
Não conceda a um modelo mais dados e poderes que aqueles necessários para a tarefa.
É uma regra antiga de segurança aplicada a uma tecnologia nova.
O debate sobre inteligência artificial fica pior quando qualquer risco é classificado como apocalipse ou descartado como exagero. Sistemas atuais já conseguem errar, expor informações, amplificar decisões ruins e concentrar poder. Sistemas futuros podem apresentar outras classes de risco. Cada problema precisa ser tratado pelo que as evidências permitem afirmar. O risco mais útil para uma decisão não é necessariamente o mais assustador. É aquele que conseguimos identificar, estimar e reduzir antes que vire consequência.
.png)
