La superinteligencia artificial (Artificial Superintelligence, ASI) es un concepto teórico para una IA que superaría claramente a las personas en casi todas las capacidades intelectuales, incluidas la investigación, la planificación y el juicio social. Un sistema así no existe. El término se usa sobre todo en filosofía y en la investigación sobre seguridad de la IA para debatir el control y la alineación de futuros sistemas con los valores humanos.
Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.
Iniciar demoLa inteligencia artificial general (Artificial General Intelligence, AGI) designa un sistema de IA hipotético capaz de realizar una amplia variedad de tareas intelectuales a nivel humano y de trasladar con flexibilidad lo aprendido a nuevos ámbitos. Los sistemas actuales rinden bien en muchas tareas, pero siguen mostrando límites, por ejemplo en fiabilidad. No existe una definición ni un método de medición aceptados, y si se alcanzará la AGI y cuándo es objeto de debate entre especialistas.
La singularidad tecnológica es una idea teórica: un momento a partir del cual la inteligencia artificial se mejoraría a sí misma tan rápido que el progreso técnico dejaría de ser previsible o controlable por las personas. El término lo popularizaron el escritor Vernor Vinge y el futurólogo Ray Kurzweil. Si llegará a ocurrir y cuándo es una cuestión científica abierta y discutida. Aun así, la idea influye en los debates sobre seguridad de la IA, regulación y riesgos a largo plazo.
La ética de la IA se ocupa de las cuestiones morales que rodean el desarrollo y el uso de la IA: equidad y discriminación, transparencia y explicabilidad, protección de datos, responsabilidad por los errores, seguridad y efectos sobre el trabajo y la sociedad. En una organización se concreta en directrices, evaluaciones de riesgo, supervisión humana y una comunicación honesta sobre los límites de la IA. Ejemplo: antes de usar un filtro de candidaturas, compruebas que no perjudique a determinados grupos.
La seguridad de LLM abarca todas las medidas que protegen las aplicaciones basadas en grandes modelos de lenguaje frente a abusos, fugas de datos y comportamientos no deseados. Riesgos típicos son la inyección de prompts, la revelación de instrucciones o datos confidenciales y agentes con permisos excesivos. La protección se construye en varias capas: instrucciones claras, derechos limitados, control de entradas y salidas, cortafuegos de IA, red teaming y auditorías periódicas.
