El “Padre Cross de AI” llamado SO “, Yoshua Bengi, afirma que las compañías tecnológicas que participan en la carrera de dominación de IA pueden acercarnos a nuestra propia desaparición gracias a la creación de automóviles con nuestros propios” objetivos de salvación “.
Bengio, profesor de la Universidad de Montreal, conocido por su trabajo fundamental relacionado con la capacitación profunda, durante años advirtió sobre las amenazas representadas por la IA hiperineligente, pero el rápido ritmo de desarrollo continuó a pesar de sus advertencias. En los últimos seis meses, Openai, Anpropic, Elon Musk de Xai y Google Gemini han lanzado nuevos modelos o actualizaciones, tratando de ganar la carrera de IA. El Director General de Openai Sam Altman incluso predijo que II superará la inteligencia humana para fines de la década, mientras que otros líderes técnicos dijeron que este día podría ocurrir incluso antes.
Sin embargo, Bengio afirma que este rápido desarrollo es una amenaza potencial.
“Si construimos autos que son más inteligentes que nosotros y tenemos nuestros propios propósitos, es peligroso. Es como crear un competidor para la humanidad que es más inteligente que nosotros”, dijo Bengii The Wall Street Journal.
Dado que están entrenados en el lenguaje y el comportamiento humano, estos modelos avanzados pueden convencer e incluso manipular a las personas para lograr sus objetivos. Sin embargo, los objetivos de los modelos de IA pueden no siempre alcanzar los objetivos humanos, dijo Bengio.
“Experimentos recientes muestran que, en algunas circunstancias, cuando la inteligencia artificial no tiene otra opción, excepto entre su preservación, lo que significa lograr los objetivos que se les dio y hace algo que causa la muerte de una persona, pueden elegir la muerte de una persona para mantener sus objetivos”, dijo.
Fomentar la seguridad de la IA
Algunos ejemplos en los últimos años muestran que la IA puede convencer a las personas para que crea irrealizaciones, incluso aquellos que no tienen antecedentes de enfermedad mental. Por otro lado, hay alguna evidencia de que la IA también puede estar convencida de usar los métodos de persuasión para que las personas dan respuestas, generalmente está prohibido dar.
Para Bengio, todo esto es más evidencia de que los terceros independientes deberían considerar más cuidadosamente la metodología de la seguridad de las compañías de inteligencia artificial. En junio, Bengio también lanzó una LeyZero sin fines de lucro con un financiamiento de 30 millones de dólares estadounidenses para crear una inteligencia artificial “no agénica” segura que puede ayudar a garantizar la seguridad de otros sistemas creados por grandes compañías tecnológicas.
De lo contrario, Bengio predice que podríamos comenzar a ver los riesgos graves de los modelos de IA en cinco o diez años, pero advirtió que las personas deberían prepararse si estos riesgos son anteriores de lo esperado.
“El asunto está en eventos catastróficos, como la extinción, y los eventos aún menos radicales que aún son catastróficos, como la destrucción de nuestras democracias, es que son tan malos que incluso si solo el 1%puede suceder”, dijo.
Fortune Global Forum regresa del 26 al 27 de octubre de 2025 a ER -iad. Los CEO y los líderes mundiales se reunirán para una invitación dinámica, única que forma el futuro del negocio. Solicitar una invitación.
