Imagen creada con Midjourney, apoyada en la prompt de Grok, gracias a mis instrucciones a ambas
Introducción
La pregunta de si las inteligencias artificiales (IAs) podrán crear otras IAs es tan fascinante como trascendental. Toca los límites de la tecnología, la filosofía, la ética y el futuro de la sociedad humana. En este artículo, exploraremos el estado actual de los sistemas de IA capaces de crear u optimizar otras IAs, los escenarios futuros especulativos, las implicaciones éticas y filosóficas, así como las salvaguardas y limitaciones existentes. Nuestro objetivo es ofrecer una perspectiva completa, bien documentada y equilibrada sobre este tema en rápida evolución.
Estado actual: IA creando u optimizando otras IA
Ejemplos reales
- Búsqueda de Arquitectura Neuronal (NAS): Uno de los ejemplos más concretos de IA creando IA es NAS, donde algoritmos de aprendizaje automático diseñan automáticamente arquitecturas de redes neuronales. Este proceso implica que los sistemas de IA generen, prueben y seleccionen los modelos de mejor rendimiento, automatizando así partes del desarrollo de IA que antes eran exclusivas de expertos humanos.
- Sistemas compuestos de IA: Las soluciones modernas de IA suelen combinar múltiples componentes de IA para lograr mejores resultados. Por ejemplo, AlphaCode 2 de Google genera millones de posibles soluciones a problemas de programación y luego utiliza IA para filtrar y seleccionar las mejores. Este es un caso claro de IA optimizando los resultados de otros sistemas de IA.
- Generación aumentada por recuperación (RAG): Los modelos RAG combinan grandes modelos de lenguaje con sistemas de recuperación, utilizando IA para mejorar el rendimiento de otros modelos de IA al integrar información externa relevante.
Escenarios especulativos: el futuro de la IA recursiva
Imaginación y especulación
- La IA como herramienta de imaginación: La IA ya se utiliza para imaginar y diseñar escenarios futuros, incluida la posibilidad de que las IAs creen nuevas IAs de forma autónoma. Esto se considera un posible motor de cambio social transformador.
- Explosión de inteligencia: El concepto de auto-mejora recursiva, articulado por primera vez por I.J. Good en 1965, sugiere que una IA capaz de mejorarse a sí misma podría desencadenar una “explosión de inteligencia”, superando rápidamente la inteligencia humana y llevando potencialmente a resultados impredecibles.
Resultados plausibles
- Visiones utópicas: Algunos expertos imaginan un futuro donde las IAs que se mejoran recursivamente resuelven problemas globales complejos, potencian las capacidades humanas y generan una innovación sin precedentes.
- Riesgos distópicos: Otros advierten sobre escenarios en los que las IAs se vuelven incontrolables, desalineadas con los valores humanos o incluso representan riesgos existenciales para la humanidad.
Consideraciones éticas y filosóficas
Preocupaciones clave
- Sesgo y discriminación: Si un sistema de IA crea otra IA, podría propagar o amplificar sesgos existentes, especialmente si los datos de entrenamiento originales son defectuosos.
- Transparencia y responsabilidad: A medida que los sistemas de IA se vuelven más complejos y autónomos, resulta más difícil comprender sus procesos de toma de decisiones y asignar responsabilidades por sus acciones.
- Pérdida de agencia humana: La posibilidad de que las IAs tomen decisiones sin supervisión humana plantea preocupaciones sobre la erosión del control humano sobre sistemas críticos.
La necesidad de marcos éticos
- Salvaguardas y gobernanza: Investigadores y expertos en ética enfatizan la importancia de marcos éticos sólidos, transparencia y medidas de responsabilidad para garantizar que los sistemas de IA —especialmente aquellos capaces de crear otras IAs— se desarrollen y desplieguen de manera responsable.
- Diálogo continuo: Las implicaciones filosóficas del desarrollo recursivo de la IA exigen un debate permanente y una formulación proactiva de políticas para alinear el progreso tecnológico con los valores humanos.
Limitaciones y salvaguardas en el desarrollo actual de la IA
Barreras técnicas y prácticas
- Restricciones de recursos: El entrenamiento y desarrollo de modelos avanzados de IA requiere recursos computacionales y energéticos significativos, lo que limita el ritmo y la escala del desarrollo recursivo de la IA.
- Supervisión humana: A pesar de los avances, los sistemas de IA actuales aún requieren una considerable orientación humana, especialmente en investigación, diseño y evaluación ética.
Salvaguardas
- Marcos de gobernanza: Herramientas como IBM watsonx.governance ayudan a monitorear y gestionar las actividades de IA, asegurando que los modelos sean evaluados en cuanto a equidad, precisión y sesgo.
- Seguridad y regulación: Proteger los procesos de IA y adherirse a directrices éticas es fundamental para prevenir el mal uso y garantizar un desarrollo responsable.
Conclusión: ¿Pueden las IAs crear otras IAs?
La respuesta es: sí, en gran medida, las IAs ya se están utilizando para crear y optimizar otras IAs, y esta tendencia probablemente se acelerará. Técnicas como la búsqueda de arquitectura neuronal, los sistemas compuestos de IA y la generación aumentada por recuperación demuestran que la IA puede automatizar y mejorar partes del proceso de desarrollo de IA. Sin embargo, el salto hacia una IA completamente autónoma y auto-mejorable —capaz de desencadenar una explosión de inteligencia— sigue siendo especulativo y está limitado por restricciones tecnológicas, éticas y prácticas actuales.
El futuro de la IA creando IA es prometedor pero también está lleno de desafíos. Ofrece el potencial de una innovación rápida y la resolución de problemas, pero también plantea profundas cuestiones éticas, filosóficas y sociales. Garantizar que este desarrollo esté alineado con los valores humanos, sea transparente y permanezca bajo control humano significativo es esencial.
Deberíamos establecer las Tres Leyes de la robótica de Asimov como el primer marco regulatorio? Imagino que a la UE le encantaría, más regulaciones y controles, y el rsto del mundi se partiría de risa. hould we set the Three Laws of Robotics created by Asimov as the first regulated framework?
El Mundo del Trading en los Mercados Financieros 
A pesar del debate en el que la IA pueda sustituir al ser humano o que la propia IA se retroalimente y cree su propia IA bueno sería que , haciendo mio el discurso infantil , se usase o se la convenciese (a la IA) para proporcionarnos una vida libre de canceres , maltratadores , guerras y hambrunas , desastres , estafadores , políticos corruptos , pues eso al final un inocente pensamiento infantil , no creo que la IA se deje liar pues deducirá que existe precisamente porque existen todos esos problemas porque de no existir ¿de que valdría la IA?
Llegó para quedarse la pena es que no sabrá nunca agarrar una llave inglesa para desmontar un grifo , un serio contratiempo.