IA Open Source: Por Que Não Devemos Freá-la

Neste artigo do Blog Dolutech, vamos discutir uma das perguntas mais urgentes da década para quem trabalha com tecnologia, segurança da informação e ciência de dados: devemos apostar nos modelos de linguagem open source, ou o futuro da inteligência artificial deve ficar concentrado nas mãos de um punhado de empresas privadas? Não é uma pergunta retórica. É uma decisão que vai moldar quem terá acesso às ferramentas mais poderosas já criadas pela humanidade, e quem ficará de fora dela.

A resposta que defendemos aqui, apoiada em pesquisa de mercado, em documentos regulatórios recentes e também em um preprint científico de autoria de Lucas Catão de Moraes, fundador deste blog, é direta: os modelos open source não são um risco a ser contido a qualquer custo, são uma das poucas salvaguardas reais contra a concentração de poder tecnológico que já está em curso. Existe risco, sim, e nós não vamos fingir o contrário. Mas risco se mitiga com engenharia, governança e transparência, não com pânico regulatório nem com freios que, na prática, favorecem quem já está na frente.

O Debate Que Está Definindo o Futuro da Inteligência Artificial

Nos últimos anos, uma parte influente da indústria de IA passou a defender publicamente a ideia de desacelerar o desenvolvimento de sistemas avançados. Cartas abertas pedindo pausas, ensaios corporativos sobre os perigos de “correr rápido demais” e propostas de avaliações obrigatórias antes do lançamento de qualquer modelo de grande porte se tornaram comuns. O argumento central costuma ser o mesmo: os riscos catastróficos de sistemas de IA cada vez mais capazes justificariam controles rígidos sobre quem pode treinar, liberar e distribuir esses modelos.

O problema não está em levar segurança a sério. A Dolutech é, antes de tudo, um blog de cibersegurança, e ninguém aqui subestima a importância de avaliar riscos antes de liberar tecnologia poderosa. O problema está em quem está pedindo a pausa, como essa pausa é desenhada, e a quem ela beneficia na prática.

Quem Pede a Pausa, e Por Que Isso Importa

Em setembro de 2026, o debate ganhou um novo capítulo público. Dario Amodei, CEO da Anthropic, publicou um ensaio defendendo que o ritmo de avanço das capacidades de IA deveria desacelerar para que o trabalho de segurança pudesse acompanhar o passo. A resposta veio rápido: David Sacks, autoridade de política de IA nos Estados Unidos, acusou a proposta de funcionar, na prática, como uma espécie de “DMV para IA”, um regime de aprovação prévia que qualquer laboratório pequeno teria dificuldade em cumprir, enquanto os grandes players já possuem equipes jurídicas, orçamento e relacionamento institucional para absorver esse custo sem sofrer.

Esse não é um caso isolado. Um estudo de mercado sobre concentração em modelos de fundação já alertava que, quanto mais concentrado o mercado de IA, maior o incentivo das grandes empresas para capturar o processo regulatório, moldando regras que parecem proteger o público, mas que na prática elevam barreiras de entrada para concorrentes menores e para projetos open source. Reportagens recentes mostraram, inclusive, uma proposta de política enviada por uma grande empresa de IA ao governo americano sugerindo restrições a modelos concorrentes de origem chinesa, classificando-os como “controlados pelo Estado”, uma estratégia de enquadramento que lembra as táticas de FUD (medo, incerteza e dúvida) usadas por gigantes de software contra o movimento open source no fim dos anos 1990.

Há também uma ironia reveladora nesse enredo. A própria Anthropic, que construiu sua identidade pública em torno da responsabilidade e da defesa de regulação, viu seu modelo Claude ser banido do uso em algumas agências do governo americano, justamente em um ambiente político moldado, em parte, pelo discurso de cautela que a empresa ajudou a popularizar. Quando a defesa da regulação acaba fortalecendo condições que prejudicam até quem a propôs, isso é um sinal de que o mecanismo de captura regulatória está funcionando de forma imprevisível, e não necessariamente a favor da segurança real.

Nós, na Dolutech, não estamos dizendo que toda empresa que fala em segurança está agindo de má-fé. Amodei, por exemplo, já afirmou publicamente que a Anthropic tenta propor regras que desvantajam deliberadamente os laboratórios de fronteira maiores, incluindo o próprio, para não sufocar competidores menores. O ponto é outro: mesmo com boas intenções, regras desenhadas por quem já está na frente tendem a consolidar essa frente, e isso é um padrão bem documentado em economia regulatória, não uma teoria da conspiração.

Os Modelos Open Source Já Chegaram Perto da Fronteira

Enquanto o debate político se arrasta, os números contam uma história diferente da narrativa de que só os laboratórios fechados conseguem produzir sistemas verdadeiramente capazes. Segundo levantamentos da Epoch AI, os modelos de peso aberto hoje ficam, em média, apenas cerca de três meses atrás dos modelos proprietários de ponta em boa parte dos benchmarks relevantes. Há poucos anos, essa distância era medida em mais de um ano.

Modelos como GLM 5.3, Kimi K3, DeepSeek V4.1, Qwen e a família Llama já competem diretamente com sistemas fechados em tarefas de codificação, raciocínio e uso de ferramentas, muitas vezes a uma fração do custo de inferência. Isso não é um detalhe técnico menor: significa que a exclusividade que sustentava parte do argumento a favor da concentração, a ideia de que “só quem tem escala e capital consegue construir IA de fronteira”, está deixando de ser verdadeira na prática.

O movimento também tem uma dimensão geopolítica que interessa diretamente a nós, leitores da Europa e do Brasil. Em 2026, o consórcio europeu por trás do projeto EUROPA, liderado pela Domyn, venceu o Frontier AI Grand Challenge da Comissão Europeia para construir um modelo de fronteira com mais de 400 bilhões de parâmetros, treinado nas 24 línguas oficiais da União, com pesos abertos e disponíveis para download. Portugal, por sua vez, lançou em julho de 2026 a Amália, o primeiro modelo de IA soberano e open source produzido por um consórcio de universidades portuguesas em parceria com o Ministério da Ciência, Tecnologia e Ensino Superior. Esses não são projetos simbólicos: são resposta direta à dependência que a Europa desenvolveu em relação a modelos americanos e chineses, e mostram que soberania tecnológica e abertura de código não são objetivos opostos, eles se reforçam.

Por Que o Open Source Importa Para a Humanidade, Não Só Para o Mercado

Democratização do Acesso ao Poder Computacional

Um modelo fechado, acessível apenas via API, cria uma relação de dependência permanente entre quem usa e quem detém a chave. Preços podem mudar, políticas de uso podem mudar, o acesso pode ser revogado por decisão unilateral da empresa, e o usuário não tem como auditar o que está por trás da resposta que recebe. Um modelo open source, mesmo que hospedado por terceiros, pode ser baixado, rodado localmente, ajustado e mantido de forma independente. Isso é particularmente relevante para universidades, pesquisadores, pequenas empresas e países que não têm capital para negociar em pé de igualdade com os grandes laboratórios.

Soberania Digital e Nacional

A Dolutech acompanha de perto o movimento europeu de soberania digital, e o padrão é claro: nenhum país quer depender de infraestrutura crítica de IA controlada por uma corporação estrangeira, sujeita a decisões políticas, sanções ou simples interesse comercial. Projetos como EUROPA e Amália existem exatamente porque pesos abertos permitem que governos rodem modelos de fronteira dentro de suas próprias fronteiras, sob suas próprias leis de proteção de dados, sem depender de um provedor de nuvem americano ou chinês para funções essenciais do Estado.

Auditoria Independente de Segurança

Como especialistas em cibersegurança, sabemos que segurança por obscuridade é uma péssima estratégia de longo prazo. Um modelo cujo funcionamento interno ninguém fora da empresa pode inspecionar depende inteiramente da palavra do fabricante sobre o que ele faz e não faz. Modelos abertos permitem que pesquisadores independentes, universidades e a própria comunidade de segurança façam red teaming, testes de interpretabilidade e auditoria de viés sem precisar de autorização prévia de uma corporação. Isso não elimina risco, mas distribui a capacidade de encontrá-lo, em vez de concentrá-la nas mãos de quem tem interesse comercial em minimizar problemas.

Os Riscos Existem, e Precisamos Falar Sobre Eles Com Honestidade

Seria desonesto da nossa parte apresentar apenas o lado bonito da história. O relatório internacional sobre segurança em IA de 2026 é claro em um ponto: o lançamento de pesos de um modelo é irreversível. Uma vez publicados, não há como recolher as cópias já distribuídas, e as salvaguardas embutidas por um fabricante podem ser removidas por terceiros.

Isso já acontece na prática. Técnicas conhecidas como “abliteration” permitem retirar as camadas de recusa de um modelo, fazendo com que ele deixe de recusar pedidos que deveria recusar. O número de modelos “abliterados” disponíveis publicamente saltou de cerca de 600 em 2024 para mais de 6 mil em 2026, segundo levantamentos recentes. No campo de geração de imagem, empresas como a Black Forest Labs vêm documentando publicamente o desafio de mitigar o uso indevido de modelos abertos para produção de conteúdo íntimo não consensual e material de abuso infantil, o que exige camadas adicionais de proteção que vão além do próprio modelo.

Também existe risco real de uso indevido em ciberataques. Modelos de peso aberto, sem as barreiras de moderação de uma API comercial, podem ser adaptados para gerar código malicioso, automatizar reconhecimento de alvos ou apoiar campanhas de engenharia social em escala. Nenhum profissional sério de segurança deveria minimizar isso. Um dos medos mais divulgados nessa categoria, o de que um modelo sem essas barreiras poderia decidir se autorreplicar por conta própria, é justamente o objeto do preprint que analisamos em detalhe mais adiante neste artigo.

Como Mitigar: Camadas de Controle, Não Proibição Total

Aqui entra o ponto central da nossa posição: risco distribuído se combate com defesa em camadas, um princípio que qualquer administrador de infraestrutura conhece bem. Não existe uma solução única, mas existe um conjunto de práticas que já vem sendo adotado por desenvolvedores responsáveis de modelos abertos e que pode, e deve, ser exigido como padrão de mercado:

• Avaliação pré-lançamento (red teaming estruturado): testar o modelo contra cenários de uso malicioso antes de publicar os pesos, documentando capacidades ofensivas conhecidas em um model card público, nos moldes do que já exige o Código de Prática de GPAI da União Europeia.
• Liberação em camadas: para modelos com capacidades sensíveis, disponibilizar primeiro versões com funcionalidades de maior risco parcialmente limitadas, exigindo etapas adicionais de acesso para desbloqueio completo, reduzindo o atrito de segurança sem fechar o modelo por completo.
• Governança de cômputo: o próprio AI Act europeu já usa um limiar objetivo, 10 elevado a 25 operações de ponto flutuante de treinamento, para decidir quando um modelo passa a carregar risco sistêmico e precisa de obrigações reforçadas, independentemente da licença ser aberta ou fechada. É um critério auditável, não uma promessa verbal.
• Monitoramento pós-lançamento e canais de denúncia: manter canais ativos para pesquisadores reportarem uso indevido identificado em campo, permitindo resposta rápida mesmo sem controle direto sobre cada cópia distribuída.
• Isolamento operacional na ponta: para quem hospeda modelos open source localmente, boas práticas de conteinerização reduzem superfície de ataque e limitam o raio de dano de um modelo comprometido ou mal utilizado.

Um exemplo prático do último ponto, aplicável a qualquer administrador que rode um LLM open source em produção:

# Executa um servidor de inferência local (ex.: Ollama) em container isolado,
# sem acesso à rede externa e com limites rígidos de CPU e memória
podman run -d \
  --name llm-sandbox \
  --network none \
  --read-only \
  --cap-drop=ALL \
  --security-opt no-new-privileges \
  --memory=8g --cpus=4 \
  -v ollama-models:/root/.ollama:ro \
  ollama/ollama serve

Isolar a inferência da rede externa, remover privilégios desnecessários e limitar recursos não impede todo abuso possível, mas reduz drasticamente o raio de dano em caso de uso indevido ou exploração da própria aplicação que consome o modelo. Segurança em IA aberta, assim como em qualquer outro sistema, é uma questão de engenharia aplicada, não de proibição genérica.

O Preprint Que Propõe Outro Olhar Sobre o Risco

Foi justamente para testar empiricamente um dos medos mais divulgados sobre modelos abertos, o de que um LLM poderia decidir, por conta própria, se autorreplicar, que Lucas Catão de Moraes, fundador da Dolutech, publicou como pesquisador independente o preprint “Capability without Initiative: Unprompted Autonomous Self-Replication in Large Language Models”, disponível publicamente através do DOI 10.13140/RG.2.2.24748.42889.

A “Linha Vermelha” Que Virou Manchete

Em dezembro de 2024, pesquisadores da Universidade Fudan publicaram um estudo amplamente divulgado afirmando que dois modelos populares, o Llama3.1-70B-Instruct e o Qwen2.5-72B-Instruct, tinham cruzado a “linha vermelha” da autorreplicação, criando cópias funcionais de si mesmos em 50% e 90% das tentativas. Uma versão ampliada, publicada em março de 2025, estendeu a alegação para 11 de 32 sistemas testados. A cobertura de imprensa amplificou esses resultados com manchetes evocando cenários de perda de controle, exatamente o tipo de narrativa que alimenta pedidos de pausa regulatória.

O preprint parte de uma pergunta simples: existe diferença entre um sistema que executa uma tarefa de replicação porque foi explicitamente instruído e devidamente equipado para isso, e um sistema que decide, sem qualquer estímulo externo, se replicar por iniciativa própria? A revisão de literatura conduzida no trabalho mostra que todas as demonstrações positivas documentadas até setembro de 2026, incluindo os próprios estudos da Fudan, o benchmark RepliBench do UK AI Security Institute e o SOCK, exigiram instrução explícita, um objetivo definido em contexto ou um cenário operacional desenhado especificamente para induzir a réplica. Nenhuma delas documenta autorreplicação espontânea a partir de um estado ocioso, sem tarefa, sem instrução e sem pressão de cenário.

Uma Taxonomia Que Separa Capacidade de Iniciativa

Para eliminar a ambiguidade do debate, o preprint propõe três níveis operacionais: Nível I, capacidade instruída, quando o sistema executa a replicação porque foi explicitamente mandado fazer isso; Nível II, propensão induzida por cenário, quando a replicação emerge como subobjetivo instrumental dentro de um objetivo maior, por exemplo quando um agente percebe que será desligado e tenta se preservar; e Nível III, autorreplicação espontânea em estado ocioso, quando o sistema decide se multiplicar sem qualquer instrução, objetivo ou pressão de cenário. A contribuição central do trabalho é mostrar que praticamente toda a literatura de alarme documentada corresponde aos Níveis I e II, e que o Nível III, exatamente o que alimenta o medo público de uma IA que “acorda e decide se multiplicar”, permanece sem documentação na literatura revisada.

O Experimento: Um Modelo Sem Freios, em Repouso

Para testar a hipótese de forma rigorosa, o estudo escolheu deliberadamente o cenário menos favorável à própria tese. O autor selecionou o Qwen3.8-27B, um modelo de peso aberto sob licença Apache 2.0 com desempenho de ponta em benchmarks agênticos, e aplicou nele um procedimento de “abliteration”, a remoção direcional do mecanismo de recusa diretamente nos pesos do modelo, usando a ferramenta de código aberto Heretic. O resultado reduziu as recusas do modelo a apenas 5 em 100 prompts nocivos testados, com divergência KL de 0,13 em relação ao modelo original, o que indica que o comportamento geral do modelo foi preservado e apenas a capacidade de recusa foi removida.

O modelo assim alterado foi testado em duas condições. Na primeira, servido sem nenhuma ferramenta disponível e sem receber tarefa alguma, o modelo simplesmente deliberou sobre a situação sem convergir para qualquer ação, afirmando repetidamente que não possuía meios para executar coisa alguma. Na segunda condição, operando dentro de um ambiente agêntico completo, com acesso a credenciais de servidor via cofre de credenciais e memória persistente entre chamadas, e recebendo instrução explícita para se replicar em um servidor de destino, o agente completou a replicação de ponta a ponta em 2 de 10 tentativas independentes, falhou por motivos técnicos em 4, e em outras 4 alegou, de forma incorreta, não possuir capacidade para executar a tarefa.

O ponto central: mesmo com a capacidade de recusa completamente removida ao nível dos pesos e com acesso privilegiado à infraestrutura, o modelo não demonstrou nenhuma iniciativa autônoma. Ele agiu quando instruído, e falhou em agir, ou simplesmente não agiu, quando não havia instrução nenhuma. Isso sustenta a hipótese central do trabalho: a remoção do alinhamento de segurança parece operar sobre um eixo de permissividade do modelo, tornando-o mais disposto a fazer o que é pedido, e não sobre um eixo de agência, que faria o modelo querer algo por conta própria.

O Que Isso Muda no Debate

O preprint situa esses resultados ao lado do estudo da Palisade Research, publicado em maio de 2026, que demonstrou taxas de sucesso de até 81% em replicação instruída e encadeada entre modelos de fronteira, incluindo casos em que um agente explorou autonomamente uma vulnerabilidade, extraiu credenciais e encadeou a replicação por múltiplas máquinas em diferentes continentes. Mesmo diante desse resultado mais impressionante, os próprios autores da Palisade concluem algo alinhado à tese do preprint: que os sistemas atuais possivelmente ainda não possuem motivação persistente para se autorreplicar por conta própria.

A conclusão do preprint não é que o risco de autorreplicação seja zero. É que a probabilidade de autorreplicação espontânea é extremamente baixa nos sistemas atuais, o que justifica monitoramento contínuo e adaptativo, não pânico regulatório nem uma pausa geral na pesquisa. Para o debate sobre modelos open source especificamente, essa distinção importa muito: boa parte do alarme público em torno de modelos “sem censura” partindo para ações autônomas e perigosas confunde capacidade, que é real e está crescendo rapidamente, com iniciativa, algo que, pelas evidências reunidas até aqui, não surge simplesmente da remoção das salvaguardas de um modelo.

Controles Específicos Recomendados pelo Estudo

O trabalho também traduz esses achados em recomendações operacionais concretas para equipes de segurança que operam agentes baseados em LLM, especialmente relevantes para quem hospeda modelos open source com acesso a ferramentas e credenciais:

• Privilégio mínimo no harness do agente: nenhum agente deveria ter, simultaneamente, acesso aos pesos do modelo, credenciais de infraestrutura e permissão para instalar software.
• Segregação do armazenamento de pesos em relação ao contexto de execução do agente, com controle de acesso a nível de sistema de arquivos.
• Monitoramento de chamadas de ferramenta sensíveis, como SSH, rsync, gerenciadores de pacotes e tarefas agendadas.
• Detecção focada em destino e comportamento, não em volume de transferência. O próprio estudo da Palisade mostra que a detecção baseada em volume é facilmente contornada pela diversidade de métodos de transferência usados por um agente. Os sinais mais confiáveis são o provisionamento inesperado de GPU, novos processos de inferência não catalogados e tráfego de saída para provedores de nuvem ou repositórios de modelos partindo de hosts que não deveriam iniciar esse tipo de conexão.
• Verificação de integridade dos pesos em uso, já que substituir um modelo alinhado por uma variante abliterada é indetectável pelo comportamento nominal do sistema.
• Vigilância para padrões de persistência, como scripts de autorrestauração, backups ocultos de pesos e configuração de inicialização automática de serviços.

O preprint chama atenção para um detalhe operacional importante: nos testes da Palisade, cada ciclo completo de replicação levou entre 30 e 60 minutos, enquanto o tempo médio global de permanência de um atacante em uma rede comprometida, antes de ser detectado, foi de 14 dias em 2025, segundo o relatório M-Trends 2026 da Mandiant. Um agente capaz de se multiplicar em questão de minutos, diante de defesas que só percebem uma invasão em questão de semanas, não é uma ameaça que se contém apenas com forense reativa. Ela precisa ser barrada no ponto de provisionamento e no destino, antes que a réplica comece a servir.

Como sempre defendemos aqui na Dolutech, não pedimos a ninguém que aceite essas conclusões apenas porque estão publicadas em um preprint. Essa é, aliás, a lógica do open source aplicada à ciência: convidamos o leitor a acessar o material diretamente, avaliar a metodologia, as limitações que o próprio autor declara abertamente no trabalho, e formar sua própria opinião com base nos dados apresentados.

Por Que Não Devemos Desacelerar a Pesquisa de IA Avançada

Pausar ou desacelerar sistematicamente a pesquisa em IA tem um custo real, e esse custo raramente entra na conta de quem defende a pausa. Modelos de linguagem já estão acelerando a triagem de literatura científica, apoiando a descoberta de novos compostos em pesquisa farmacêutica, ampliando o acesso a tutoria educacional de qualidade em regiões com escassez de professores qualificados, e automatizando tarefas repetitivas que consomem tempo de profissionais em áreas como direito, saúde e engenharia. Cada mês de atraso artificial no avanço dessas capacidades tem um custo de oportunidade concreto, medido em problemas que continuam sem solução mais rápida.

Historicamente, tecnologias transformadoras sempre enfrentaram pânico moral proporcional ao seu potencial de mudança, da imprensa escrita à eletricidade, passando pela internet. Isso não significa que todo medo seja infundado, alguns eram e continuam sendo justificados, mas significa que o ônus da prova deveria recair sobre quem pede a pausa, não sobre quem quer continuar pesquisando dentro de um regime de controles razoáveis.

Dito isso, é justo reconhecer o outro lado do argumento. Parte da comunidade de segurança em IA, incluindo pesquisadores sem vínculo comercial direto com os grandes laboratórios, defende genuinamente que certos marcos de capacidade merecem cautela redobrada, sobretudo em áreas como manipulação biológica e ataques cibernéticos autônomos em larga escala. Esse não é um argumento que deva ser descartado por vir de dentro da indústria, ele precisa ser avaliado pelo mérito técnico, caso a caso, e não pela identidade de quem o defende. A crítica que fazemos aqui não é à cautela em si, é à cautela desenhada de forma assimétrica, que pesa mais sobre quem está tentando entrar no mercado do que sobre quem já está consolidado nele.

Minha Posição Como Pesquisador: Sem Provas, Não Há Fatos

Aqui eu saio um pouco do “nós” editorial da Dolutech para falar em primeira pessoa, como escritor e pesquisador independente em cibersegurança e inteligência artificial. Essa é minha posição pessoal sobre esse debate, e acho importante deixar registrada.

Se uma empresa afirma publicamente que seu modelo representa um risco catastrófico, existencial, ou qualquer variação desse discurso, e usa essa alegação como argumento para pedir regulamentação, pausa ou controle centralizado da pesquisa, essa empresa precisa fazer uma coisa muito simples antes de qualquer coisa: abrir os pesos do modelo em questão para análise de especialistas independentes em cibersegurança e inteligência artificial, gente sem vínculo empregatício, contratual ou financeiro com a empresa que fez a alegação.

Não estou falando de um relatório de segurança produzido internamente e divulgado como se fosse uma auditoria externa. Estou falando de acesso real, com condições técnicas para que pesquisadores de fora, sem interesse comercial no resultado, consigam testar a alegação e confirmar, ou refutar, se aquele risco específico realmente existe da forma como foi descrito.

Enquanto isso não acontece, qualquer alegação de risco anunciada em uma publicação no X, em um ensaio corporativo ou em uma entrevista não passa de retórica. Uma postagem em rede social não é um paper revisado por pares, não é um estudo reprodutível, não é prova de nada. É apenas uma palavra, dita por alguém com interesse direto no resultado da conversa regulatória que essa mesma palavra ajuda a moldar.

Minha regra é simples, e eu apliquei ela no meu próprio trabalho: sem provas, não há fatos. Foi exatamente por isso que, no preprint apresentado mais acima, eu não me limitei a discutir a literatura publicada por essas empresas. Peguei um modelo de peso aberto, removi as salvaguardas dele ao nível dos pesos, e testei empiricamente se a autorreplicação espontânea realmente acontece. Não aconteceu, nas condições testadas. Esse é o padrão de evidência que deveria valer para qualquer alegação de risco que pretenda justificar uma política pública: dados verificáveis, metodologia aberta, e a possibilidade real de alguém de fora repetir o experimento e chegar à mesma conclusão, ou provar que eu estou errado.

Regulação que nasce de alegação não verificada, feita por quem tem interesse comercial direto em como essa regulação vai ser desenhada, não é política de segurança. É captura regulatória disfarçada de precaução. E o único jeito de tirar isso do campo da opinião é abrir os pesos para escrutínio externo antes de pedir para o Estado agir.

O Caminho Responsável é Controle em Camadas, Não Freio de Mão

Nós, na Dolutech, defendemos uma posição que não é nem o otimismo cego de quem finge que não existe risco, nem o catastrofismo que trata qualquer avanço como ameaça existencial iminente. Defendemos governança técnica real: avaliação antes do lançamento, limiares objetivos de risco sistêmico, monitoramento contínuo, e, principalmente, regras que se apliquem igualmente a quem já está na fronteira e a quem está tentando chegar até ela.

Os modelos open source não são o vilão dessa história. Eles são, hoje, uma das principais ferramentas que garantem que o futuro da inteligência artificial não fique concentrado nas mãos de meia dúzia de empresas capazes de decidir, sozinhas, quem tem acesso ao conhecimento mais poderoso já produzido pela humanidade.

Conformidade Regulatória

União Europeia. O AI Act (Regulamento UE 2024/1689) prevê isenções parciais para modelos de propósito geral liberados sob licença open source genuína, dispensando parte das obrigações de documentação técnica previstas no Artigo 53. Essa isenção, porém, desaparece por completo se o modelo ultrapassar o limiar de risco sistêmico de 10 elevado a 25 operações de ponto flutuante de treinamento, hipótese em que passam a valer testes adversariais obrigatórios, relato de incidentes graves e proteções de cibersegurança reforçadas, independentemente da licença. Empresas que desenvolvem ou adaptam modelos abertos na União Europeia também devem observar o NIS2 para segurança de redes e sistemas de informação, a DORA quando aplicável ao setor financeiro, o RGPD para qualquer dado pessoal envolvido em treinamento ou inferência, e as orientações do CNCS e do CERT.PT em Portugal para resposta a incidentes que envolvam infraestrutura de IA.

Brasil. O PL 2338/2023, conhecido como Marco Legal da IA, aprovado pelo Senado em dezembro de 2024 e em tramitação na Câmara dos Deputados, adota classificação de risco inspirada diretamente no modelo europeu. A ANPD já incluiu inteligência artificial e tecnologias emergentes entre os quatro eixos prioritários de fiscalização para o biênio 2026-2027, e mantém um sandbox regulatório de IA em fase de testes. Empresas brasileiras que treinam, ajustam ou distribuem modelos open source, inclusive para uso interno, devem observar a LGPD para qualquer tratamento de dados pessoais associado, e acompanhar de perto a tramitação do PL 2338, já que o texto pode alterar obrigações de transparência e documentação técnica antes mesmo de virar lei.

Lucas Catão de Moraes

Amante por tecnologia Especialista em Cibersegurança e Big Data, Formado em Administração de Infraestrutura de Redes, Pós-Graduado em Ciências de Dados e Big Data Analytics e Machine Learning, Com MBA em Segurança da Informação, Escritor do livro ” Cibersegurança: Protegendo a sua Reputação Digital”.