"Desde que salió ChatGPT me di cuenta de que estábamos en un camino realmente peligroso"

Yoshua Bengio, uno de los creadores de la IA: "Desde que salió ChatGPT me di cuenta de que estábamos en un camino realmente peligroso" Cada vez más investigadores reconocen públicamente que el ritmo de progreso de la IA plantea interrogantes profundos sobre la seguridad, el poder y el futuro de las democracias Foto: Yoshua Bengio, profesor de Ciencias de la Computación en la Universidad de Montreal y considerado uno de los padres de la IA.(Pódcast The Diary of a CEO) Yoshua Bengio, profesor de Ciencias de la Computación en la Universidad de Montreal y considerado uno de los padres de la IA.(Pódcast The Diary of a CEO) Por Mónica Millán Valera 22/12/2025 - 17:03 La 'uberización de la guerra': la IA está reescribiendo el código de los conflictos ¿La primera AGI ya está aquí? Japón asegura haber creado una IA capaz de razonar como un ser humano El rápido avance de la inteligencia artificial ha reactivado el debate sobre sus riesgos potenciales, especialmente cuando las advertencias proceden de quienes han contribuido de forma decisiva a su desarrollo. La irrupción de ChatGPT marcó un punto de inflexión incluso para algunos de los mayores referentes del sector. Las preocupaciones ya no se limitan a escenarios teóricos o a voces externas al ámbito tecnológico. Cada vez más investigadores reconocen públicamente que el ritmo de progreso de la IA plantea interrogantes profundos sobre la seguridad, el poder y el futuro de las democracias. Uno de ellos es Yoshua Bengio, profesor de Ciencias de la Computación en la Universidad de Montreal y considerado uno de los padres de la IA, que ha decidido alzar la voz tras años de trabajo centrado en el aprendizaje automático. El científico más citado del mundo en Google Scholar y ganador del Premio Turing. También es fundador de LawZero, una organización sin fines de lucro dedicada al desarrollo de sistemas de IA seguros y alineados con los valores humanos. A pesar de su perfil académico y reservado, el investigador ha participado recientemente en el pódcast The Diary of a CEO, donde ha explicado por qué decidió exponerse públicamente y alertar sobre los riesgos asociados a la nueva generación de modelos de lenguaje. Durante la entrevista, Bengio reconoce que el lanzamiento de ChatGPT fue determinante. “Desde que salió ChatGPT me di cuenta de que estábamos sin lugar a dudas en un camino realmente peligroso”, afirma. Según detalla, antes de la aparición de estos modelos muchos expertos pensaban que faltarían décadas para que las máquinas comprendieran el lenguaje humano. Sin embargo, esa barrera se superó mucho antes de lo esperado, lo que aceleró la reflexión sobre posibles consecuencias no deseadas. Bengio matiza que, en la actualidad, estos sistemas todavía presentan limitaciones importantes, como en la planificación compleja, por lo que no constituyen una amenaza inmediata. No obstante, advierte de que podrían serlo en un plazo relativamente corto si continúan evolucionando sin controles adecuados. Entre los escenarios que le preocuparon especialmente menciona la posibilidad de que la IA se convierta en un competidor directo de los humanos o en una herramienta capaz de otorgar un poder desproporcionado a quien la controle, con capacidad para desestabilizar el orden social y político. El científico admite que, como creador de estas tecnologías, su reacción inicial fue defensiva ante las críticas. Sin embargo, esa postura cambió rápidamente. “Y esa emoción fue el amor por mis hijos”, confiesa, al explicar que empezó a cuestionarse si ellos vivirán en una democracia dentro de 20 años. Esa reflexión hizo imposible continuar por el mismo camino sin intentar alertar y promover alternativas que reduzcan los riesgos potenciales asociados a la IA avanzada. Bengio subraya que incluso una probabilidad mínima de un desenlace catastrófico debería ser motivo suficiente para actuar. “Incluso si solo hubiera un 1% de probabilidad, eso sería insoportable, inaceptable”, afirma, aludiendo a escenarios como la desaparición de la humanidad o la instauración de un poder autoritario global apoyado en la IA. El investigador añade que, según encuestas entre especialistas en aprendizaje automático, algunos estiman riesgos aún mayores, cercanos al 10%, lo que refuerza la necesidad de prestar mucha más atención a la seguridad y la gobernanza de estas tecnologías. Aunque reconoce que no existe información suficiente para predecir con certeza el futuro, Bengio concluye que no hay argumentos sólidos para descartar por completo los escenarios más pesimistas, razón por la que considera urgente abrir un debate profundo y responsable sobre el rumbo de la inteligencia artificial.

NOTICIAS