Cyber Security Brasilby Igor Deungaro

Peso de modelo é código: pickle, safetensors e o que roda no load

Peso de modelo é código: pickle, safetensors e o que roda no load
Foto: autor desconhecido · CC0

Baixar um modelo parece baixar dados. Com o formato errado, é baixar um programa e executá-lo no momento em que você faz o load.

Por que pickle executa código

O pickle do Python não é um formato de dados, é uma linguagem de reconstrução de objetos. O método __reduce__ permite que o arquivo diga "para recriar este objeto, chame esta função com estes argumentos". A função pode ser os.system. Muitos checkpoints .pt, .pth, .bin e .pkl são pickle por baixo. Fazer o load é rodar o arquivo.

Se o formato aceita chamar função, o arquivo de pesos é um executável com extensão bonita.

O que o safetensors resolve

O safetensors existe exatamente por isso: um cabeçalho JSON com nomes, tipos e formatos, seguido de bytes crus de tensor. Não há instrução, não há objeto, não há chamada. O pior que um arquivo malformado consegue é falhar no parse. GGUF segue a mesma lógica de dado puro. O problema é que o ecossistema ainda carrega pickle por compatibilidade, e o código de exemplo copiado da internet raramente pergunta qual formato está chegando.

Controles que valem

  • Aceitar só safetensors ou GGUF em produção; pickle exige exceção aprovada.
  • torch.load sempre com weights_only=True, explícito, mesmo onde já é o padrão.
  • Scanner de pickle no pipeline de ingestão, tratado como sinal, não como garantia.
  • Conversão de formato feita uma vez, em sandbox sem rede e sem credencial.
  • Nenhum trust_remote_code=True sem revisão do código que ele puxa.

Onde isso pega de verdade

Não é no servidor de inferência, que alguém revisou. É no notebook do cientista de dados, com token de nuvem no ambiente, testando "só um modelo rapidinho" que achou no hub. O load roda com as permissões dele. Trate o checkpoint como trata um binário baixado: formato verificado, origem conhecida e ambiente descartável até provar o contrário.

Este blog publica em português e inglês. / This blog publishes in Portuguese and English. EN · PT

Denunciar abuso

As inseguranças do sucesso da segurança cibernética

As inseguranças do sucesso da segurança cibernética. Tornar-se um grande profissional não precisa custar sua felicidade, mas a cultura da moagem torna isso provável. Nos últimos anos, a questão da saúde mental no setor de segurança cibernética ganhou destaque. Uma  pesquisa de 2019  revelou que 1 em cada 6 CISOs admitiu se  automedicar  para lidar com o estresse de seu trabalho. A tensão passa pelo escritório do CISO e permeia todo o setor. Um perfil que está crescendo  mais rápido que o orçamento  e uma sofisticação cada vez maior e  o impacto financeiro  dos ataques se combinam para transformar o que antes era um canto do departamento de TI em uma panela de pressão. John Hammond  , pesquisador de segurança cibernética da Huntress, falou sobre “ Hard Truths and Unexpected Realities: Lamentations in Producing Cybersecurity Content ” na  Intigriti 1337UP Live  , uma conferência online sobre bugs, em março de 2022. Seus...

DICA: comandos para pentest e segurança ofensiva

Fala galera, blz ? Segue uma lista de comandos maravilhosa, voltada para teste de vulnerabilidades. Observação Pertinente: Os TIPOS de COMANDOS e as INSTRUÇÕES estão em INGLÊS! NÂO ME RESPONSABILIZO POR USO INDEVIDO. Pré-requisitos: ✔️  Python 3.5 ✔️  OS que suporte Python (eu utilizei Kali) Reconnaissance / Enumeration Extracting Live IPs from Nmap Scan nmap 10.1.1.1 --open -oG scan-results; cat scan-results | grep "/open" | cut -d " " -f 2 > exposed-services-ips Simple Port Knocking for x in 7000 8000 9000; do nmap -Pn –host_timeout 201 –max-retries 0 -p $x 1.1.1.1; done DNS lookups, Zone Transfers & Brute-Force whois domain.com dig {a|txt|ns|mx} domain.com dig {a|txt|ns|mx} domain.com @ns1.domain.com host -t {a|txt|ns|mx} megacorpone.com host -a megacorpone.com host -l megacorpone.com ns1.megacorpone.com dnsrecon -d megacorpone.com -t axfr @ns2.megacorpone.com dnsenum domain.com nslookup -> set type=any -> ls -d domain.com for ...

Atacantes precisam de menos de 10 horas para encontrar fraquezas

Atacantes precisam de menos de 10 horas para encontrar fraquezas. Configurações vulneráveis, falhas de software e serviços da Web expostos permitem que hackers encontrem pontos fracos exploráveis ​​nos perímetros das empresas em apenas algumas horas, não em dias. O hacker ético médio pode encontrar uma vulnerabilidade que permite a violação do perímetro da rede e, em seguida, explorar o ambiente em menos de 10 horas, com testadores de penetração focados na segurança da nuvem obtendo acesso mais rapidamente aos ativos direcionados. Além disso, uma vez que uma vulnerabilidade ou fraqueza é encontrada, cerca de 58% dos hackers éticos podem invadir um ambiente em menos de cinco horas. Isso está de acordo com uma pesquisa com 300 especialistas do SANS Institute e patrocinada pela empresa de serviços de segurança cibernética Bishop Fox, que também descobriu que as fraquezas mais comuns exploradas pelos hackers incluem configurações vulneráveis, falhas de software e serviços da Web expost...

Quem sou eu

Minha foto
Igor Deungaro
Bem Vindo ao Cyber Security Brasil, espero que goste !!!
Ver meu perfil completo

Cyber Security

AI-BOM: What to List Beyond the Libraries

Foto: Creative Tools · CC BY 2.0 Your SBOM lists torch , transformers and three hundred transitive dependencies. It does not say which model is running, which data it was fine-tuned on, or which tools it can call. The classic SBOM sees half In an AI system, behaviour does not live only in code. It lives in the weights, the fine-tuning dataset, the system prompt and the set of tools exposed to the agent. Changing any one of them changes what the system does, and none of them shows up in an inventory generated from requirements.txt . When the warning arrives that a base model had a problem, "where do we use this?" turns into a manual hunt. If the system prompt changes behaviour in production, it is a component and belongs in the inventory. What goes into an AI-BOM Model: name, origin, commit hash, file checksums, format and license. Training and fine-tuning datasets: origin, version, hash and who approved them. System prompts and templates, versioned as code, with ...

Marcadores