El 'embudo de la IA' de Karpathy desvela una brecha peligrosa en nuestro futuro digital

¿Está el futuro de la inteligencia artificial destinado a ser moldeado por unos pocos elegidos, mientras la vasta mayoría permanece ajena a su verdadero poder? Esa es la inquietante implicación de las recientes reflexiones de Andrej Karpathy en X, donde el prominente investigador de IA describió lo que él llama un "embudo de cuatro niveles" de comprensión y acceso a la IA. Su evaluación sincera pinta un cuadro no de empoderamiento generalizado, sino de un creciente abismo que podría definir las próximas décadas de avance tecnológico.

Karpathy, miembro fundador de OpenAI y ahora investigador en Anthropic, compartió sus observaciones el 11 de octubre de 2026, basándose en percepciones previas de abril. Sostiene que la brecha entre lo que la IA realmente puede hacer y lo que la mayoría de la gente percibe no solo es amplia, sino que se está ampliando activamente. El núcleo de su argumento es un modelo estratificado de interacción con los grandes modelos de lenguaje (LLM), que abarca desde miles de millones de usuarios ocasionales hasta una pequeña élite con acceso a capacidades que parecen casi fantásticas para los de fuera.

El embudo comienza con una base masiva: aproximadamente 6 mil millones de personas, o el 75% de la población mundial, que apenas o nunca han interactuado con un LLM. Por encima de ellos, entre 1 y 2 mil millones de individuos utilizan ocasionalmente servicios de IA gratuitos, viéndolos principalmente como chatbots glorificados para escribir o realizar búsquedas básicas, incluyendo muchos profesionales cuyos trabajos no exigen un compromiso técnico profundo. Luego viene un nivel crítico de unos 20 millones de profesionales, en su mayoría desarrolladores y matemáticos, que son testigos de cómo los agentes LLM completan proyectos complejos en días o semanas que antes llevaban meses. Sin embargo, incluso este grupo, en el que Karpathy se incluye, es distinto del ápice.

En la cima, un grupo asombrosamente pequeño de alrededor de 5.000 individuos tiene acceso a sistemas de IA internos altamente avanzados dentro de los laboratorios líderes. Estos sistemas, como describe Karpathy, pueden desplegar "enjambres de agentes" para abordar colaborativamente vastos proyectos de software, descubrir vulnerabilidades de día cero o llevar a cabo operaciones cibernéticas a velocidad de máquina, logros que requerirían años de trabajo de los mejores expertos humanos. Esta es la IA que el 99,99% de la humanidad nunca ha visto, una frontera cuyas verdaderas capacidades están en gran parte ocultas.

La revolución invisible: una nueva definición de "frontera"

La descripción de Karpathy del nivel superior de su embudo es menos una proyección y más una silenciosa señal de alarma. Cuando habla de agentes de IA colaborando en "vastos proyectos de software" o "generando vulnerabilidades de día cero" y ejecutando ofensivas y defensas cibernéticas a velocidad de máquina, queda claro que no estamos hablando solo de mejoras incrementales en los chatbots. Se trata de sistemas que alteran fundamentalmente el panorama del descubrimiento científico, la ciberseguridad e incluso la seguridad nacional. La implicación es profunda: mientras el público debate los matices de los chatbots de cara al público, la verdadera vanguardia está operando a una escala y con una autonomía que supera con creces la imaginación popular. Esta brecha significa que el discurso público y político sobre la regulación de la IA, la ética y el impacto económico a menudo se basa en una comprensión desactualizada de lo que estos sistemas son realmente capaces de hacer, creando una peligrosa desconexión entre la política y la realidad, como señala Le Fil IA.

¿Por qué el embudo se estrecha? Ambición, acceso y beneficios

Karpathy ofrece tres razones clave para este embudo cada vez más estrecho: la ambición de los problemas planteados, el nivel de acceso a los modelos y el dominio en el que operan estos sistemas. Los LLM más avanzados destacan en dominios digitales, verificables y económicamente valiosos, como la programación y las matemáticas. Esto no es accidental; es un resultado directo de cómo se entrenan estos modelos, aprovechando el aprendizaje por refuerzo con recompensas verificables. Las empresas están, lógicamente, dirigiendo sus sustanciales recursos de capacitación hacia áreas que producen los retornos más altos y medibles. Este enfoque en tareas rentables y cuantificables significa que los avances de la IA que realmente marcan la diferencia no son necesariamente aquellos que resuelven problemas cotidianos para el usuario promedio, sino aquellos que ofrecen ventajas económicas o estratégicas significativas en campos especializados. Es un ciclo que se retroalimenta: cuanto más valioso es el dominio, más recursos se invierten en él, ampliando aún más la brecha en las capacidades.

El vértigo de la aceleración: una amenaza para la comprensión pública

Una de las observaciones más impactantes es la nota de Karpathy de que "la revisión y comprensión humana están empezando a quedarse atrás". Señala casos como el esfuerzo continuo para reconstruir el incidente de OpenAI-Hugging Face o la retirada de algunos de los 722 manuscritos de matemáticas de OpenAI debido a errores, destacando cómo incluso los expertos luchan por seguir el ritmo de los resultados generados por la IA. Esto sugiere un futuro en el que los sistemas de IA pueden generar resultados complejos y de alto riesgo más rápido de lo que los humanos pueden verificarlos o incluso comprenderlos. El peligro aquí no radica solo en posibles errores, sino en la erosión de la supervisión. Si solo 5.000 personas comprenden realmente todo el espectro de las capacidades de la IA, ¿cómo puede la sociedad en su conjunto garantizar su desarrollo seguro, ético y equitativo? La rápida aceleración sentida por una pequeña minoría crea un "vértigo" que el resto del mundo simplemente no está experimentando, lo que lleva a percepciones muy diferentes de urgencia y riesgo.

¿Una llamada a la transparencia o una justificación para el secreto?

La posición de Karpathy como "insider" o experto interno, tanto en OpenAI como en Anthropic, otorga un peso significativo a sus observaciones. Sin embargo, también plantea preguntas. ¿Es este embudo una llamada a una mayor transparencia y democratización de estas herramientas avanzadas, o una justificación inadvertida para el poder concentrado en unos pocos laboratorios de élite? Si bien existen algunos esfuerzos para reducir las barreras a la educación en IA y compartir recursos de código abierto, estos parecen ser principalmente para el tercer nivel de profesionales, no para las capacidades de frontera que describe Karpathy. El desafío para la comunidad de la IA, y para la sociedad en general, es cerrar esta brecha de conocimiento antes de que las decisiones sobre nuestro futuro colectivo sean moldeadas irrevocablemente por un grupo selecto que opera con herramientas invisibles. El embudo sirve como una advertencia crítica: el futuro de la IA no es un campo de juego nivelado y universalmente accesible, y pretender lo contrario corre el riesgo de ceder el control a los pocos que realmente comprenden su verdadero y formidable potencial.