Glossário

IA constitucional

O que é IA constitucional?

A IA constitucional é um método de treino para modelos de linguagem publicado pela Anthropic em 2022; nada tem que ver com direito constitucional. Baseia-se num conjunto escrito de princípios, a "constituição": o modelo critica e revê as suas próprias respostas com base nesses princípios, depois uma IA compara pares de respostas, e este feedback serve de sinal de recompensa para a aprendizagem por reforço (RLAIF). Isto reduz a necessidade de etiquetagem humana de conteúdos nocivos; em janeiro de 2026, a Anthropic publicou uma constituição revista para o Claude.

Como o KI.ordo ajuda

Os modelos Claude da Anthropic utilizados no KI.ordo são treinados, entre outros, com este método.

Temas

Training
Segurança da IA
Anthropic

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Aprendizagem por reforço a partir de feedback humano (RLHF)

O RLHF é um método de treino que torna os modelos de linguagem mais úteis e mais seguros. Pessoas comparam e avaliam várias respostas do modelo; estas avaliações são usadas para treinar um modelo de recompensa, que depois treina o próprio modelo de linguagem através de aprendizagem por reforço. Assim, o modelo aprende, por exemplo, a responder com mais clareza ou a recusar pedidos problemáticos. O RLHF ocorre no fornecedor do modelo, antes de este ser lançado – não junto de utilizadores individuais.

treino
feedback humano
+1

Claude

O Claude é uma família de grandes modelos de linguagem da empresa norte-americana de IA Anthropic. Os modelos compreendem e escrevem texto em muitos idiomas, analisam documentos, escrevem código e podem utilizar ferramentas, por exemplo para pesquisa ou automatização. As mais conhecidas são as famílias de modelos Haiku, Sonnet e Opus, que diferem em velocidade, custo e capacidade. A Anthropic dá especial ênfase à segurança e a um comportamento fiável dos modelos.

Anthropic
modelo de linguagem
+1

Ética da IA

A ética da IA ocupa-se das questões morais em torno do desenvolvimento e da utilização da IA: equidade e discriminação, transparência e explicabilidade, proteção de dados, responsabilidade por erros, segurança e os efeitos no trabalho e na sociedade. Para as organizações, concretiza-se em diretrizes, avaliações de risco, supervisão humana e comunicação honesta sobre os limites da IA. Exemplo: antes de introduzir uma ferramenta de triagem de currículos, verifica-se se esta prejudica determinados grupos.

Ética
Área responsável
+1

segurança dos LLM

A segurança dos LLM abrange todas as medidas que protegem aplicações construídas sobre grandes modelos de linguagem contra utilização abusiva, fuga de dados e comportamentos indesejados. Os riscos típicos incluem prompt injection, divulgação de instruções ou dados confidenciais e agentes com permissões excessivas. A proteção resulta de várias camadas: instruções claras, direitos restritos, verificações de entradas e saídas, firewalls de IA, red teaming e auditorias regulares.

segurança
modelos de linguagem
+1

Modelo