Glossário

Colapso do modelo

O que é Colapso do modelo?

O colapso do modelo é a perda de qualidade que pode ocorrer quando modelos generativos são treinados repetidamente com dados que foram, eles próprios, produzidos por IA. Os conteúdos raros e os casos-limite perdem-se gradualmente, e os resultados tornam-se mais uniformes e mais propensos a erros. O problema ganha importância porque a proporção de textos e imagens gerados por IA na internet está a aumentar. Dados criteriosamente selecionados e criados por pessoas ajudam a contrariá-lo.

Temas

dados de treino
IA generativa
qualidade dos dados

Experimentar o KI.ordo

Agentes, fluxos e modelos num só espaço de trabalho – demonstração gratuita de 24 horas.

Iniciar demonstração

← Todos os termos

Termos relacionados

Dados sintéticos

Os dados sintéticos são gerados artificialmente, e não recolhidos no mundo real, mas imitam os padrões e as propriedades dos dados reais. Ajudam quando os dados genuínos são escassos, caros ou sensíveis do ponto de vista da proteção de dados – por exemplo, para testar software, treinar modelos ou verificar um chatbot com consultas de exemplo realistas. É importante que reflitam a realidade com suficiente proximidade e não permitam tirar conclusões sobre pessoas reais.

dados de teste
proteção de dados
+1

Modelo

Dados de treino

Os dados de treino são os exemplos a partir dos quais um modelo de IA aprende padrões: grandes coleções de texto para modelos de linguagem, imagens etiquetadas para modelos de imagem. A sua qualidade, diversidade e atualidade determinam em grande medida a fiabilidade e a equidade de um modelo e o quão atualizado será o seu conhecimento. Para as organizações, também importa saber se um fornecedor utiliza os dados dos clientes que lhe são fornecidos para treino adicional.

Dados
Training
+1

IA generativa

IA generativa designa sistemas de IA que criam conteúdos novos – texto, imagens, áudio, vídeo ou código de programação – em vez de se limitarem a ordenar ou avaliar dados existentes. Baseiam-se em modelos que aprendem padrões a partir de grandes quantidades de dados e os usam para produzir novas saídas plausíveis. Nas empresas, é usada, por exemplo, para redigir e-mails, resumos, descrições de produtos ou ideias de imagens. Os resultados podem conter erros e devem ser verificados antes de serem utilizados.

Conceito fundamental
Criação de conteúdos
+1

Garbage in, garbage out (GIGO)

"Garbage in, garbage out" descreve o princípio de que um sistema só consegue produzir resultados tão bons quanto os dados que recebe. Isto aplica-se duplamente à IA: dados de treino ou de conhecimento incorretos, desatualizados ou unilaterais conduzem a respostas erradas ou enviesadas. Um chatbot que recorra a uma lista de preços desatualizada indicará preços desatualizados. Cuidar dos dados é, por isso, uma tarefa contínua em todos os projetos de IA.

Qualidade dos dados
Princípio
+1