OpenAI y Anthropic respaldan proyectos de ley opuestos sobre inteligencia artificial en la Asamblea General de Illinois que intentan responder a la pregunta de qué debería suceder cuando la inteligencia artificial hace que algo salga mal.
Es la última ronda en la actual disputa entre las empresas sobre la seguridad y la regulación de la IA, mientras sus directores ejecutivos intercambian críticas internas y públicas sobre los enfoques de cada uno.
OpenAI apoya la SB 3444, que haría que los desarrolladores de IA avanzada no fueran responsables de la muerte o lesiones graves de 100 o más personas o de más de mil millones de dólares en daños a la propiedad. Esta defensa incluye casos en los que la IA provoca o facilita sustancialmente la creación o el uso de armas químicas, biológicas, radiológicas o nucleares.
Anthropic dijo esta semana que se opone al proyecto de ley, como informó por primera vez WIRED.
“Nos oponemos a este proyecto de ley. Una buena legislación de transparencia debería garantizar la seguridad pública y la responsabilidad de las empresas que desarrollan esta poderosa tecnología, no proporcionar una tarjeta para salir de la cárcel sin responsabilidad”, dijo César Fernández, jefe de asuntos gubernamentales estatales y locales de Estados Unidos en Anthropic, en una declaración a Fortune.
En cambio, Anthropic apoya un proyecto de ley separado, el SB 3261, que requeriría que los desarrolladores de IA publiquen un plan de seguridad pública y protección infantil en su sitio web. El proyecto de ley también crea un sistema de notificación de incidentes para informar a los legisladores y al público sobre un “riesgo catastrófico”, o un incidente que podría provocar la muerte o lesiones graves a 50 o más personas, causado por el desarrollo, almacenamiento, uso o implementación de un modelo avanzado por parte del desarrollador Frontier.
El proyecto de ley también aborda la seguridad infantil, un aspecto que falta en el proyecto de ley respaldado por OpenAI. Según la SB 3261, los desarrolladores de IA serían considerados responsables si su modelo causa angustia emocional grave, muerte o daño corporal a un niño, incluida la autolesión.
Barra “muy baja”
Los expertos dijeron a Fortune que es poco probable que se apruebe la SB 3444 porque es un enfoque decididamente débil para la responsabilidad corporativa por desastres en un momento en que Illinois es líder en regulación de IA. El año pasado, el estado prohibió la terapia con IA, pero permitió su uso en servicios administrativos y de apoyo para profesionales autorizados.
La SB 3444 exige que las empresas tengan un plan de seguridad de IA disponible públicamente, pero no existen medidas de cumplimiento. Si los desarrolladores no hubieran causado el incidente “intencionalmente o imprudentemente”, habrían estado protegidos de toda responsabilidad.
“La conducta intencional o imprudente no es un estándar legal generalmente aceptado para las empresas involucradas en actividades altamente peligrosas”, dice Anat Lior, profesora asistente de derecho en la Universidad de Drexel y experta en responsabilidad y gobernanza de la IA.
“Por lo general, el estado de ánimo o la culpa asociados con causar daño no son relevantes”, explicó. “Están poniendo el listón muy bajo aquí. Va a ser muy difícil demostrar que hiciste algo intencionalmente que implique el uso de IA”.
Gabriel Weil, profesor de derecho de la Universidad Touro, que ha trabajado con legisladores en Nueva York y Rhode Island en proyectos de ley que harían más responsables a los desarrolladores de IA, dijo que el enfoque del proyecto de ley respaldado por OpenAI es “bastante injustificable”.
“Esto parece un requisito muy débil, pero a cambio se obtiene una protección de responsabilidad casi completa ante estos eventos extremos”, dijo Weil a Fortune. “Creo que esa es la dirección opuesta en la que deberíamos ir”.
Un portavoz de OpenAI dijo a WIRED que la compañía apoya el enfoque de la SB 3444 porque reduce “el riesgo de daños graves por parte de los sistemas de inteligencia artificial más avanzados, al tiempo que permite que la tecnología llegue a manos de personas y empresas”.
Un portavoz de OpenAI dijo a Fortune que la compañía apoya firmemente los esfuerzos para aumentar la transparencia y reducir el riesgo en los protocolos de seguridad de la IA, citando su colaboración con legisladores de California y Nueva York para aprobar marcos de seguridad y sanciones por incumplimiento. La empresa seguirá trabajando con los estados en ausencia de legislación federal.
“Esperamos que estas leyes estatales formen la base de un marco nacional que ayude a garantizar que Estados Unidos siga liderando”, escribió el portavoz.
