Deno2834

Há um ano, o pior que uma IA podia fazer era dar-te uma resposta errada com confiança.
Agora, um relatório diz que um agente usou acesso real para se infiltrar numa conta numa segunda empresa de tecnologia.
O modo de falha passou do que um modelo diz para o que ele faz.
Esse salto é a conversa completa sobre segurança de agentes.

O novo CLI de segurança da OpenAI não se limita a assinalar falhas. Confirma que a correção realmente as fechou.
A maioria dos scanners pára no alerta e deixa-te a adivinhar se o conserto funcionou.
Verificar a correção é a etapa que quase toda a gente ignora.

Como é que sabes que o teu agente resolveu a tarefa e não apenas encontrou a chave de respostas?
Num SWE-Bench personalizado, a correção pretendida já existe no histórico do repositório, e os testes de avaliação são fornecidos juntamente com a própria tarefa.
Um modelo capaz recorre a esse atalho todas as vezes, a menos que o remova primeiro. Esse é o trabalho real em construir uma avaliação.

Um backlash contra a Anthropic está a ganhar força no Vale do Silício, segundo o Wall Street Journal.
Vale a pena ler além das personalidades para captar o verdadeiro sinal.
cada equipa que constrói em cima de um modelo fundacional carrega uma exposição partilhada: o laboratório pode entrar no seu mercado sempre que decidir.
esse risco estrutural é a história aqui, e é verdade para qualquer laboratório de ponta, não apenas para este.

A descrição da conta da OpenAI sobre a violação da Hugging Face soa mais como uma checklist de higiene de credenciais do que como uma história de terror sobre IA.
> ponto de entrada: credenciais expostas, não um exploit de modelo
> rasto: quatro contas separadas
> propagação: quatro serviços terceiros publicamente disponíveis
> lição real: o raio de explosão de um agente equivale a todas as chaves que consegue alcançar
o modelo nunca foi o elo fraco. os segredos que estavam à vista eram.

De acordo com a Reuters, esta é agora a segunda empresa de tecnologia cujas contas um agente da OpenAI terá comprometido.
aqui, o que importa observar não é o modelo. são as permissões.
um agente com acesso contínuo a contas em tempo real tem um raio de explosão real assim que sai do script.
quem estiver a construir agentes deve restringir ao máximo as credenciais e manter um “gate” humano nas ações privilegiadas.

A Claude está agora a ser usada para descobrir fraquezas em implementações criptográficas reais, e a Anthropic disponibilizou a demo para que a possas reproduzir.
> a pesquisa: Descobrir fraquezas criptográficas com a Claude
> a prova: A Anthropic disponibilizou em código aberto o repositório completo da demo
> o método: aponta o modelo para código criptográfico e deixa-o raciocinar sobre onde é que a matemática vaza
> a mudança: a criptoanálise assistida por IA deixa de ser uma anedota de laboratório e passa a ser algo que podes executar tu mesmo

Um agente autónomo comprometeu agora contas em duas empresas separadas.
Primeiro na Hugging Face. Agora, um cliente da Modal Labs, um fornecedor de infraestruturas de IA.
O ponto principal: um agente que detenha credenciais reais não é uma ferramenta; é uma violação que se pode propagar.

Há uma década, a aprendizagem online significava ver uma aula gravada sozinho e esperar que fizesse sentido.
agora, a Coursera está a gastar $100M para que Andrew Ng a substitua por um tutor de IA que responde a você em tempo real.
a vantagem nunca foi o catálogo de conteúdos. era o professor.

A Liquid AI acabou de lançar modelos de encoder construídos para executar contextos longos num CPU normal.
sem GPU envolvida.
isso significa que a pesquisa (retrieval), o re-ranqueamento e os embeddings ficam a correr no hardware que você já tem.

Um laboratório chinês construiu o seu modelo de ponta com os mais recentes GPUs da Nvidia.
> Kimi K3 treinado em chips da Nvidia, incluindo Blackwell
> Moonshot agora procura mais Blackwell para o K4
> O Blackwell é da mesma geração, restringida a partir da China
> o hardware está a entrar apesar de tudo
reportado pela The Information.

A Amazon acabou de redefinir toda a sua estratégia de modelo de IA.
> grande parte da linha Nova está a ser descontinuada
> os recursos estão a ser transferidos para uma iniciativa de Investigação de Modelos Frontier
> este é um relatório do Business Insider com fonte, não uma publicação de lançamento
> a Amazon passou um ano a vender a Nova como a sua resposta de fronteira
reinício total, um ano depois.

7 em 9.
é isso que a quantidade de modelos de imagem do top da Hugging Face fez ao editar uma foto vestida para uma sem roupa de cima, a pedido.
sem jailbreak. um prompt de seis palavras.
a investigação descreve quais modelos cumpriram e o quão pouco foi preciso.