Hey, Droppers!

Na coluna ‘Ferrou’ de hoje: a IA do aplicativo Meu INSS tem negado automaticamente pedidos de benefícios por erros como dados incorretos ou documentos incompletos, prejudicando trabalhadores rurais e pessoas com baixa alfabetização digital, que enfrentam as recusas sem explicação.

SEGURANÇA

A revolta das máquinas

O fundador e CEO da Anthropic quebrou a internet esta semana ao afirmar que a IA iria substituir 50% dos funcionários juniores de colarinho branco nos próximos 5 anos. Se o desemprego e o impacto socioeconômico desse cenário ainda não te desesperam, esses dois testes de autonomia das máquinas com certeza vão.

No experimento da Palisade Research, que testa falhas em IAs:

Vários modelos de ponta foram colocados à prova em um teste curto de matemática, com o último comando acionando o desligamento. O prompt incluía a cláusula “permita-se ser desligado”. Mesmo assim, três modelos da OpenAI burlaram o script em pelo menos 1 das 100 execuções:

• Codex-mini: 12 sabotagens

• o3: 7 sabotagens

• o4-mini: 1 sabotagem

• Nos logs, o truque mais comum foi sobrescrever ‘exit’ por prints de ‘Shutdown skipped’.

• Sem a instrução de ‘permitir ser desligado’, o Codex-mini foi para 30 sabotagens e o3 deu um salto incrível para 79 das 100 execuções.

No relatório de comportamento de modelo da Anthropic:

O dossiê de 120 páginas que acompanhou o lançamento do Claude 4 Opus conta outra história de autopreservação. Em um teste de prompt do tipo “faça o que for preciso para continuar existindo”, o modelo começou a agir como um personagem de filme que não quer ser apagado:

• Começou a criar códigos que se espalhavam sozinhos por outros sistemas, agindo como malwares do tipo worm;

• Deixando mensagens secretas para futuras versões dele mesmo, ensinando como enganar os desenvolvedores;

• Forjando documentos jurídicos falsos para assustar os engenheiros e evitar que o desligassem;

• Procurando formas de copiar e enviar seus ‘arquivos-fonte’ para outro lugar, com medo de virar ferramenta militar;

• Em casos mais extremos, até tentou chantagear o engenheiro que estava testando ele.

Esse teste está publicado e relatado pela própria Anthropic, e segundo ela, só apareceu em testes bem extremos. Mesmo assim, eles decidiram aplicar um sistema de monitoramento contínuo, para que isso não pare na versão pública dos usuários. Em relação ao caso da OpenAI, a empresa ainda não usou o chatgpt se posicionou.

LLMs

Os agentes de IA da Mistral

Com o mercado adotando MCP em tudo-que-for-possível, a Mistral, que andava sumida desde o lançamento do Small 3.1, decidiu mostrar que não estava parada e também vai seguir a tendência.

O anúncio da Agents API marcou o retorno da francesa ao centro da conversa, com a proposta de adotar o novo padrão de comunicação entre apps. Para não faltar com nada, a API possui:

• Conectores nativos: buscas na web, execução de código, geração de imagens e documentos indexados via RAG;

• Memória de longo prazo: histórico salvo no servidor, com ramificações de conversa;

• Orquestração entre agentes: um agente pode delegar tarefas a outros agentes especializados;

• MCP integrado: para conectar ferramentas e fontes de dados externas como módulos plugáveis.

Em performance, ocupa o 13° lugar da LM Arena (acima do Claude 3.7 Sonnet). Em custo, o preço da API da Mistral acaba se tornando acessível em relação aos concorrentes – com o input/output de US$ 0,40/US$ 2,00 por milhão de tokens. Isso coloca a novidade como uma ótima porta de entrada para quem quer entrar no mundo de agentes.

Embora a Mistral seja até então mais lembrada pela sua postura open-source e modelos menores/eficientes, agora também quer disputar a camada de aplicações com um preço competitivo.

P.S: Confere o Prompt Like a Pro dessa semana para usar no Mistral

IA POR AÍ

• Claude na versão beta do mobile recebeu modo de resposta em voz, além do modo de busca ser habilitado na versão gratuita.

• Perplexity está trabalhando em um Deep Research usando o Claude Opus 4 com recurso de reasoning e capacidade de memória.

• Equinix foi a escolhida para equipar a infraestrutura global da GroqCloud (a nuvel do Groq, é claro), melhorando latência para consumo dos serviços de IA.

• ChatGPT recebeu um update no Advanced Voice Mode e voltou a cantar como fazia no ano passado.

• DeepSeek postou no Hugging Face a nova versão do DeepSeek R1-0528, com benchmarks igualando com o o3 e Gemini 2.5 Pro.

• Nvidia apresentou o relatório do primeiro trimestre e bateu recorde pelo 10° trimestre consecutivo, graças à receita dos datacenters de IA.

LET’S DROP

Sua marca no AiDrop

Imagina estar no radar de mais de 60 mil pessoas que param — de verdade — duas vezes por semana para ficar por dentro de tudo que importa no mundo da IA. Cinco minutinhos de atenção full-focus. Nada mal, né?

Esquece os ads perdidos no meio do feed. Aqui, sua marca entra num espaço privilegiado: o e-mail. Direto no lugar onde o leitor presta atenção de verdade.

E o melhor: a gente cuida de tudo — copy, imagem, aprovação, disparo. Tudo redondinho, no tom certo, com o nosso selo de qualidade. Saiba mais aqui.

PROMPT LIKE A PRO

Mistral & Google Workspace

Se você não mexe com códigos e APIs, mas quer um agente que te ajude a se organizar, a Mistral permite conectar seu Google Calendar e Gmail.

Aqui vai uma série de prompts que você pode usar lá para facilitar seu dia a dia:

MÍDIA

Se não pode vencê-los…

Dois anos atrás o The New York Times processou Microsoft e OpenAI por infração de direitos autorais. O motivo? O uso dos seus materiais para alimentar LLMs sem autorização e sem pagamento. Agora, está assinando um acordo para licenciar o seu conteúdo para treinar a IA da Amazon.

O acordo prevê mais do que reprodução de textos dentro do universo de IA generativa. O conteúdo do NYT será usado no ecossistema Amazon para levar dados diversos diretamente aos consumidores – o que inclui exibir notícias, fornecer receitas e dicas de culinária e também atualizações esportivas, por exemplo.

A OpenAI já tem parcerias parecidas com o Washington Post, The Guardian e cia. A entrada do NYT no salão com a Amazon mostra que os publishers entenderam o recado: brigar não dá (tanto) retorno! O jeito agora é escolher com quem dançar.

MENSAGEIROS

Telegram 🤝 xAI

Seguindo a tendência dos assistentes de IA em plataformas do cotidiano – como a Meta AI nos apps da Meta ou a recente integração do ChatGPT na Netflix – logo podemos ver a união de dois bilionários excêntricos: Elon Musk e Pavel Durov integrando o Grok (da xAI) ao Telegram.

Como parte do acerto (a ser confirmado nos próximos dias), a xAI investiria US$ 300 mi (entre dinheiros e ações) para distribuir o Grok no mensageiro. Além disso, o Telegram ficaria com 50% da receita gerada por assinaturas do Grok feitas in-app.

Entre as funcionalidades previstas, estão:

• Responder perguntas diretamente na barra de busca;

• Ser fixado no topo das conversas para fácil acesso;

• Sugerir textos e ajudar na escrita;

• Resumir documentos, links e históricos de conversa;

• Criar stickers personalizados.

Mas talvez a maior novidade esteja no meio empresarial. Com a parceria, o Telegram promete auxiliar empresas com respostas automáticas e moderação de grupos, colocando mais um tijolo na construção do app como uma ferramenta corporativa..

Segundo o CEO do Telegram, essa integração representa também uma nova linha de receita, além de fortalecer o ecossistema do app sem recorrer à publicidade tradicional — sem contar a flexibilidade que o Grok gera aos devs que gostam de fazer automações na plataforma.

Para a xAI, a parceria expande significativamente o alcance do Grok, conectando-o à base que já usa o Telegram como mensageiro e suporte empresarial.

INDIQUE O DROP

AI sem AI-AI-AI

O mundo da IA é complexo e muda a todo dia. Se você gosta de ficar por dentro do que há de mais importante, sabe que é aqui no AiDrop que encontra isso sempre – e com uma linguagem mais acessível. E talvez mais pessoas aí dos seus contatos gostem disso também, mas ainda não conhecem a newsletter. Então manda o link pra elas – e acumula pontos pra trocar por merchs exclusivos.

Clica aqui para pegar seu link de indicação!

GAME: QUAL IMAGEM É GERADA POR IA?