Las advertencias de Ramon López de Mántaras, pionero español de la inteligencia artificial, plantean una cuestión que afecta tanto a la política tecnológica como a la economía: si la atención pública se concentra en una hipotética rebelión de las máquinas, pueden quedar en segundo plano los daños que ya dependen de decisiones humanas. Su crítica no demuestra que la IA general sea imposible ni que las inversiones carezcan de valor, pero sí obliga a distinguir entre riesgos verificables, promesas comerciales y escenarios todavía especulativos.
Del temor abstracto a la responsabilidad identificable
La insistencia de López de Mántaras en que los sistemas actuales no actúan como agentes morales tiene una consecuencia práctica. Si un modelo se utiliza para producir desinformación, discriminar en una selección laboral o facilitar un ciberataque, la responsabilidad no desaparece tras atribuirle autonomía a la tecnología. Debe examinarse quién diseñó, desplegó y supervisó el sistema, quién se benefició de su uso y qué controles omitió. Ese enfoque puede mejorar la rendición de cuentas y orientar las normas hacia conductas concretas.
También ayuda a ordenar las prioridades. Las armas autónomas, la vigilancia masiva, las falsificaciones y los sesgos algorítmicos son problemas con vías de daño reconocibles: pueden afectar la seguridad, la privacidad, la reputación y el acceso a servicios. Reducirlos a una discusión futurista sobre máquinas conscientes dificulta que ciudadanos y reguladores comprendan qué decisiones requieren límites, auditorías o reparación. En ese sentido, el énfasis del investigador puede contribuir a una conversación pública más útil.
Sin embargo, atribuir el discurso apocalíptico exclusivamente al marketing también exige cautela. Las empresas tienen incentivos para presentar sus productos como transformadores y atraer capital, pero la investigación sobre riesgos extremos no se reduce necesariamente a una estrategia comercial. Una evaluación responsable debe separar las declaraciones interesadas de las preguntas legítimas sobre sistemas futuros, sin permitir que estas últimas oculten abusos actuales ni descartarlas por su origen empresarial.
Promesas económicas frente a resultados medibles
La discusión sobre el rendimiento de las inversiones afecta a empresas, trabajadores y gobiernos que están decidiendo cuánto capital destinar a la automatización. López de Mántaras cita una estimación de Daron Acemoglu según la cual la IA podría automatizar alrededor del 4,6% de las tareas laborales en una década y elevar la productividad total cerca del 0,7% en ese periodo. También contrasta esa previsión con expectativas mucho más altas difundidas por algunas entidades financieras. La diferencia muestra que no existe una única proyección aceptada y que las cifras dependen de supuestos sobre adopción, costes y capacidad real de los sistemas.
Si los beneficios llegan más despacio de lo esperado, las organizaciones que inviertan sin evaluar casos de uso pueden asumir gastos de infraestructura, integración y supervisión que no se compensen con mejoras proporcionales. En el ámbito público, la presión por modernizar servicios puede desplazar fondos de necesidades más urgentes. Para los trabajadores, una automatización parcial puede traducirse en reorganización de tareas y mayor vigilancia, incluso cuando no elimina puestos completos. Medir resultados concretos, en lugar de equiparar gasto tecnológico con productividad, es decisivo para evitar decisiones guiadas por expectativas infladas.
La perspectiva más optimista también merece espacio: la automatización de tareas repetitivas puede ahorrar tiempo, apoyar análisis especializados y ampliar el acceso a ciertas herramientas. Los efectos podrían superar las estimaciones actuales si las empresas rediseñan procesos, capacitan a sus plantillas y resuelven problemas de fiabilidad. Pero las ganancias no se distribuirán automáticamente. Sin negociación laboral, formación y reglas de responsabilidad, los ahorros pueden concentrarse en propietarios y proveedores mientras los costes de transición recaen sobre trabajadores y comunidades.
Escalar modelos, escalar también los costes
La crítica al crecimiento de modelos cada vez mayores pone sobre la mesa un coste menos visible en la promoción comercial: más capacidad puede exigir más centros de datos, electricidad, agua y chips. Si las mejoras marginales se encarecen, la expansión indiscriminada eleva la huella ambiental y puede concentrar la investigación en compañías capaces de financiar cómputo a gran escala. La tesis de los rendimientos decrecientes no permite concluir que todo aumento de tamaño sea inútil; sí refuerza la necesidad de comparar el coste total con el beneficio obtenido en cada aplicación.
La alternativa propuesta por el investigador, sistemas especializados para tareas delimitadas, puede facilitar pruebas, controles y auditorías más precisos. Un modelo diseñado para una función concreta suele permitir definir mejor los datos pertinentes y los límites operativos. Aun así, la especialización no elimina el sesgo, los errores ni la dependencia de proveedores, y puede multiplicar soluciones incompatibles entre sí. La elección entre modelos generales y específicos debería basarse en desempeño y riesgo, no en una preferencia abstracta por una arquitectura.
Regular sin confundir prudencia con inmovilismo
La principal incertidumbre es que las proyecciones económicas y técnicas se apoyan en tecnologías que cambian con rapidez, mientras sus efectos sociales dependen de decisiones institucionales. Una regulación demasiado débil deja espacio a la vigilancia abusiva, la discriminación y la difusión de contenidos falsos; una norma rígida o mal diseñada puede elevar los costes de entrada, frenar usos beneficiosos y consolidar la ventaja de las grandes plataformas, que disponen de más recursos para cumplirla.
Para equilibrar esos riesgos, las políticas públicas pueden exigir evaluaciones proporcionales al impacto, documentación de los datos y mecanismos de reclamación cuando una decisión automatizada perjudique a una persona. Las empresas, por su parte, deberían demostrar utilidad, seguridad y coste antes de escalar un sistema, además de identificar responsables humanos. No hay garantía de que estas medidas resuelvan todos los problemas, pero ofrecen criterios comprobables para juzgar tanto las promesas de transformación económica como las advertencias de daño.
El debate que abre López de Mántaras resulta más productivo cuando se traduce en preguntas concretas: quién controla la tecnología, qué tareas mejora, a qué coste y quién soporta sus errores. Mantener la atención en daños presentes no obliga a ignorar escenarios futuros; exige asignarles prioridades distintas según la evidencia y la capacidad de prevención. La credibilidad de la industria y la calidad de las decisiones públicas dependerán menos de anunciar una inteligencia superior que de mostrar beneficios verificables y responder por las consecuencias de su uso.
