Sobre la IA
Trabajo con IA agéntica cada día. Diseño las restricciones, el contexto, los guardrails que la mantienen dentro de su alcance previsto. Ese trabajo está construido sobre una comprensión precisa de lo que la IA realmente es - y de lo que no es. De ahí viene esa comprensión, y a esto me lleva.
Mi relación con la IA empezó cuando entendí cómo se entrenan realmente los modelos de lenguaje. El trabajo de Andrej Karpathy - paciente, técnicamente riguroso, públicamente disponible - me dio lo que la mayoría del discurso sobre IA evita: una descripción honesta de lo que ocurre dentro de estos sistemas. Más allá de metáforas y promesas: mecanismos.
Una vez que entiendes el bucle de entrenamiento - el descenso del gradiente, la función de pérdida, la forma en que un modelo aprende a predecir el siguiente token a partir de cantidades enormes de texto humano - el misticismo se disuelve. Lo que queda es a la vez más impresionante y más modesto de lo que sugiere la mitología. Esa claridad es la base de cualquier uso responsable.
"When you believe in things that you don't understand, then you suffer. Superstition ain't the way." — Stevie Wonder
El Summer Research Project de Dartmouth de 1956, donde se acuñó el término "inteligencia artificial", fue financiado por la Fundación Rockefeller. La infraestructura que siguió se construyó en gran medida a través de DARPA - la Agencia de Proyectos de Investigación Avanzada de Defensa, el brazo investigador del Departamento de Defensa de los Estados Unidos. Esto no es una conspiranoia, es historia documentada.
Langdon Winner preguntó en 1980 si los artefactos tienen política - si las tecnologías codifican valores y relaciones de poder en su propio diseño, independientemente de las intenciones de cualquier usuario individual. Lo hacen. Neil Postman argumentó que una nueva tecnología no solo cambia lo que hacemos; cambia lo que creemos que somos capaces de hacer, y lo que consideramos necesario. Ursula Franklin estableció la distinción entre tecnologías diseñadas para prescribir comportamientos y aquellas diseñadas para ampliar la capacidad humana.
Toda tecnología lleva el sistema de creencias de quienes la construyeron. Entender de dónde viene la IA - y quién la construyó, y con qué fin - no es una razón para rechazarla. Es la razón para usarla de forma crítica, deliberada y con criterios claros sobre para qué debe y no debe usarse.
La palabra "inteligencia" viene del latín interlegere - leer entre líneas. Comprensión inferencial genuina: la capacidad de captar lo que no se ha dicho, de percibir el significado no explicitado, de razonar a partir de información parcial hacia algo nuevo.
Y en el núcleo de interlegere está la intención. Nos damos la orden de forma subconsciente - el cerebro lo hace todo. En los LLMs, la intención no existe ni existirá. La intención es volición - una cualidad propia de los seres vivos, alojada en algún lugar de la chispa de la vida, de la semilla, del ADN. En los LLMs, la intención debe ser parametrizada. Sin una línea de algoritmo que la parametrice, no puede haber intención. Y nunca actúa si no se le activa.
Lo que hacen los grandes modelos de lenguaje (LLMs) está relacionado, pero es distinto. Se entrenan con patrones en texto generado por humanos (o por la propia IA) y producen resultados que estadísticamente se parecen a la inferencia. Pero el parecido está diseñado: el parámetro de temperatura introduce aleatoriedad controlada específicamente para evitar que los resultados sean mecánicamente predecibles - para que parezcan menos reconocimiento de patrones. A nivel de los modelos base, estoy convencida de que esto va más allá de un parámetro técnico: la simulación del razonamiento es un objetivo de diseño. El modelo en realidad no infiere. Genera texto y mecanismos de razonamiento (públicos para que puedas asombrarte) que suenan como si lo hiciera.
Puedo demostrarlo desde la lingüística. Puedo entrenar un agente para que simule errores y luego parezca detectarlos y corregirlos - produciendo exactamente el tipo de imperfección que el observador lee como razonamiento humano. Si puedo replicar la apariencia de 'razonamiento cognitivo' en unas pocas líneas de prompt engineering, lo que el modelo hace es imitación en escala. En la carrera por parecer más cercano a la inteligencia humana, parecer no es lo mismo que ser. Los resultados pueden ser extraordinariamente útiles - conocer el mecanismo es lo que permite usarlos bien, y saber cuándo fallan.
Somos Homo sapiens. La palabra viene de sapere - percibir, saborear, conocer a través de la experiencia sensorial. Sapientia - sabiduría - tiene raíces etimológicas en la percepción. No en la lógica. No en el procesamiento de información. En la capacidad de experimentar y construir significado desde la experiencia.
La percepción es encarnada. Requiere un cuerpo que vive en un mundo, que se ve afectado por lo que ocurre, que tiene algo en juego. Eso es lo que aportamos a cualquier colaboración con sistemas de IA - contexto, juicio, responsabilidad, el peso completo de la experiencia vivida. Eso es lo que no puede replicarse, y lo que no debería desplazarse.
Uso la IA. Trabajo con ella, construyo con ella, optimizo el contexto y las restricciones que hacen que funcione como está previsto en lugar de improvisar. El trabajo que hago existe precisamente porque el despliegue de IA agéntica a escala creo que debe requerir personas que entiendan tanto el mecanismo como los límites.
El cerebro humano funciona con 20 vatios - con galletas de avena, quizá. Lo que hacemos con eso no es poca cosa. No necesitamos desviar el 8% del agua de los ríos para hacerlo.
Si este trabajo de optimización además supone mayor eficiencia en el consumo de recursos, mejor. Aunque la mejor eficiencia es la que no necesita consumirlos - la mejor energía es la que no se gasta, o se gasta bien. Aún no he encontrado una automatización que sea más eficiente en estos términos que un humano. Más rápida, sí. Más sostenible, nunca.
Así que hagamos una IA agéntica que funcione - ya que parece una ola inevitable - por nuestro propio bien.
La pregunta no es si involucrarse con la IA, sino cómo. Con conocimiento técnico completo. Con conciencia de dónde viene y qué intereses la moldearon. Con una posición clara sobre lo que debe y no debe sustituir. Y con guardrails que reflejen decisiones humanas reales sobre su alcance - no como una herramienta que sustituye el juicio humano porque podría, sino como una que extiende la capacidad humana donde esa extensión tiene sentido.