Los orígenes de la guerra con pólvora se remontan al siglo XV, cuando se inventó la pistola de mecha, el primer dispositivo de disparo mecánico. Ahora enjambres de drones atacan las fronteras con impunidad. En 1685, el físico italiano Giovanni Borelli imaginó un mundo en el que las máquinas impulsadas por poleas podrían copiar las acciones de los animales. Elon Musk habla ahora de robots lo suficientemente inteligentes como para ir de compras y sustituir a los cirujanos.
El desarrollo tecnológico es inmediato y está arraigado en la historia, tanto Todo, en todas partes, a la vez como Caballos lentos. El contraste entre rápido y lento está incrustado en la obra Calculating Empires, un mural de 24 metros de largo expuesto en el Museo del Diseño de Barcelona. Visualiza el viaje desde la imprenta hasta las falsificaciones profundas, desde el quipu, una antigua calculadora peruana hecha de cuerda anudada, hasta los sistemas de datos de “escala planetaria”.
“Lo que es realmente interesante para mí es que cuando la gente entra en esta configuración, les ayuda a poner este momento en perspectiva”, dijo Kate Crawford en el Mobile World Congress celebrado en Barcelona en marzo. Crawford, profesor de investigación en inteligencia artificial en la Universidad del Sur de California, es el cocreador del mural, que tardó cuatro años en completarse. Este trabajo con el artista visual Vladen Joler nos desafía a todos a pensar en quién establece las reglas y decide qué importa cuando se trata de cambios tecnológicos fundamentales.
“La gente siente que vivimos en este presentismo tecnológico y una enorme cantidad de cambios”, dijo Crawford. “Así que poder dar un paso atrás y decir: ‘¿Qué hemos aprendido en 500 años?’ (importa). Para mí (el mural) fue un proyecto transformador porque tenía muy claro que la historia no se trata solo de innovación técnica. Se trata de quién tiene derecho a establecer las reglas según las cuales vivimos”.
“Es por eso que la IA de agente es tan importante en este momento, porque es un campo que evoluciona rápidamente. Los estándares aún no se han establecido, y son las personas aquí en salas como esta, en lugares como el Mobile World Congress, quienes van a tener estas conversaciones: ¿cómo queremos que sean estos estándares, cómo los implementamos en nuestros sistemas y cómo nos protegemos a nosotros mismos y a nuestros clientes?”
“Porque este es un punto importante para asegurarnos realmente de que se trata de una tecnología que sea profundamente útil y útil y no una que abra vulnerabilidades y vectores de ataque y nuevas superficies de ataque y que, de hecho, pueda ser muy peligrosa desde un punto de vista cognitivo”.
El Mobile World Congress es un fenómeno. Más de 100.000 delegados se mueven con determinación a través de ocho enormes salas, cada una equipada con tecnología preparada para el futuro. Enormes pabellones, patrocinados por Huawei y Google, Honor y Qualcomm, exhiben maravillosos productos nuevos que vinculan nuestro automóvil con nuestro teléfono, nuestro robot con los discapacitados, nuestras gafas con Internet. Los gobiernos que buscan influencia e inversión están compitiendo por espacio con empresas que esperan lograr grandes avances en la revolución de la inteligencia artificial.
El MWC es también un lugar de debate. En los grandes escenarios, las mentes más destacadas del mundo de la tecnología a menudo se pierden entre las luces de neón parpadeantes y las pantallas de plasma interactivas. “Actúa rápido y rompe cosas”, dijo Mark Zuckerberg en 2012. Hoy hay mucho en juego.
Estamos manteniendo una animada discusión sobre el significado mismo de la inteligencia. Demis Hassabis, fundador de DeepMind, dijo que la inteligencia artificial general podría estar aquí en sólo cinco años. En este mundo, ¿quién o qué tomará las decisiones? ¿Es esta una pregunta humana? ¿O hay una persona a cargo? ¿O la persona no es necesaria en absoluto? Mo Gawdat, ex director comercial de Google, ha hablado de los riesgos de una “distopía a corto plazo” mientras los gobiernos, la sociedad civil y los reguladores luchan por controlar el impacto de las máquinas que pueden aprender y tomar decisiones.
“¿Qué entendemos por inteligencia?” preguntó Crawford. “La historia del término ‘inteligencia’ es complicada. Se ha utilizado para dividir a la población, para promover una agenda sobre quién es valioso y quién no”.
“Estamos tratando de comparar los agentes con la inteligencia humana. En realidad, son bastante diferentes. (La inteligencia) es probabilidad estadística a escala. Son sistemas que realizan tareas en entornos complejos. Es muy diferente de la inteligencia humana, pero significa que necesitamos un conjunto diferente de preguntas, que son: ¿Qué están haciendo los agentes? ¿Cómo podemos rastrearlo y cómo podemos comprender mejor cómo cambiará nuestros propios procesos de trabajo y, mucho más importante, cómo vivimos?”
“La historia del término “inteligencia” es compleja…”
Kate Crawford, profesora de investigación en inteligencia artificial de la Universidad del Sur de California
Mientras continúa el debate sobre las tensiones entre OpenAI, Anthropic y el Departamento de Guerra de Estados Unidos, Crawford pregunta cuáles son las líneas rojas para el uso de agentes. “Imagínense agentes en el campo de batalla”, dice. No necesitamos esto. Según se informa, Irán está sufriendo bombardeos de inteligencia artificial “a la velocidad del pensamiento”. Una de las funciones de la IA es la “compresión de decisiones”, reduciendo el tiempo entre la idea y la ejecución. La “cadena de muerte” se está acortando.
Crawford habla de análisis forense de rendición de cuentas: sistemas que rastrean dónde se toman las decisiones. En este momento estamos sufriendo un blanqueo de cuentas, donde nadie asume la responsabilidad. En el Servicio Civil del Reino Unido, el brazo operativo del gobierno, esto se conoce como “síndrome del hombro inclinado”, donde todos esquivan y esquivan para evitar responsabilidades.
“Estamos viendo una especie de juego de caparazón en el que (la gente dice) ‘¿es el desarrollador (quién es responsable)? ¿Es este el desarrollador? ¿Es este un cliente corporativo? ¿Es este el usuario final? Y todos pueden decir: “Bueno, todavía no lo sabemos”. Esto es inaceptable”, dijo Crawford. Creo que a medida que hablemos, especialmente con los reguladores, veremos una cadena de responsabilidad muy sólida para que sepamos exactamente quién es responsable y cuándo”.
“Estamos apenas empezando a comprender cómo se ve eso”, dijo. Todas las conversaciones deben ir al grano. Y de inmediato.
