¿Qué es la automejora recursiva?

La automejora recursiva es un sistema que hace el trabajo de mejorarse a sí mismo, y cada versión nueva es mejor en ese trabajo. El caso más claro es una IA que escribe parte del código con el que se entrena la siguiente IA, que luego ayuda a construir la de después. Cada versión es más capaz y tarda menos en producirse, así que el avance se acelera en vez de mantener un ritmo fijo.

Un laboratorio de IA usa su modelo actual para ayudar a escribir código y ejecutar experimentos para el siguiente. Ese modelo nuevo es a la vez más capaz y más rápido de producir, así que asume una parte mayor del trabajo para el modelo que viene después, y el ciclo se estrecha. ¿Por qué no dejarlo en manos de los ingenieros, que es como avanza cualquier otra tecnología? Porque entonces son las personas quienes marcan el ritmo, y cada modelo nuevo sigue costando más o menos los mismos meses por muy bueno que fuera el anterior. Ningún sistema hace todo este trabajo por sí solo todavía. Las piezas que sí existen son limitadas: programas que se volvieron imbatibles al ajedrez y al Go jugando millones de partidas contra copias de sí mismos, y laboratorios que usan sus propios modelos para acelerar su investigación. Lo que se discute es el techo. Un bando cree que el bucle podría avanzar más rápido de lo que los equipos de seguridad tardan en probar cada modelo nuevo, y el otro cree que se frena al ritmo de fabricar chips y correr experimentos, algo que ninguna inteligencia acorta.

Una impresora 3D que imprime juguetes seguirá imprimiendo juguetes al mismo ritmo para siempre. Apúntala hacia sí misma y pasa algo distinto, porque puede imprimir mejores piezas para su propia estructura, y la impresora mejorada imprime después piezas mejores de las que habría logrado antes. Cada versión la construye una máquina mejor que la anterior, así que las mejoras llegan más rápido y llegan más lejos. Aun así necesita plástico y electricidad, que es justo donde la gente discrepa sobre hasta dónde puede llegar esto.