Renunció a un gigante de la IA y le puso fecha al peor escenario: “Podría matarnos a todos”

Jacob Coxon, investigador británico de 27 años que trabajó en OpenAI y Anthropic, encendió las alarmas sobre el rumbo de la inteligencia artificial pocos días después de dejar su puesto en esta última compañía.A través de una serie de publicaciones en X, sostuvo que dentro de la industria se contemplan escenarios extremos ante la posibilidad de que futuros modelos desarrollen capacidades superiores a las humanas. “Las personas que están creando inteligencia artificial piensan que podrían matarnos a todos para finales de esta década”, escribió Coxon.El especialista trabajó durante tres años en OpenAI antes de sumarse a Anthropic. En ambas empresas estuvo vinculado al preentrenamiento de modelos de inteligencia artificial.Según Coxon, los próximos sistemas podrían alcanzar capacidades “sobrehumanas” y adquirir herramientas para vulnerar sistemas, acelerar investigaciones y conseguir recursos con una autonomía cada vez mayor.También cuestionó la competencia entre las compañías por desarrollar modelos más potentes y planteó que esa carrera puede incrementar los riesgos.+ MIRÁ MÁS: Lanzaron los iPhone 18 con una de las novedades más esperadas: los precios para conseguirlos“Ninguna otra actividad humana representa este nivel de riesgo”, sostuvo el investigador, quien además afirmó que algunos referentes del sector moderan públicamente sus advertencias pese a expresar mayores preocupaciones en conversaciones privadas.Coxon aseguró que empresas como OpenAI y Anthropic avanzan hacia una “superinteligencia auto-mejorante” cuando todavía no existen herramientas que garanticen por completo que esos sistemas permanezcan bajo control humano.Sus declaraciones tuvieron una fuerte repercusión y alcanzaron millones de visualizaciones. Evan Hubinger, quien fue su jefe en Anthropic y trabaja en alineamiento de inteligencia artificial, respaldó públicamente parte de sus planteos. “Realmente creemos con sinceridad que la IA podría matar a todos los humanos”, escribió Hubinger.El investigador señaló además que Anthropic trabaja sobre los riesgos vinculados al alineamiento de los sistemas de inteligencia artificial, aunque reconoció que todavía no existe una solución definitiva para controlar una eventual superinteligencia.

Renunció a un gigante de la IA y le puso fecha al peor escenario: “Podría matarnos a todos”

Jacob Coxon, exinvestigador de OpenAI y Anthropic, lanzó una fuerte advertencia sobre los riesgos de los sistemas más avanzados. Sus declaraciones.

Más notas sobre Tendencias

“Pata de lana”: despidió a su amiga fallecida en redes, hizo una impensada confesión y es viral

Lanzaron los iPhone 18 con una de las novedades más esperadas: los precios para conseguirlos

Personal reunió a periodistas para debatir el futuro de los medios frente a los algoritmos y la IA

Seguinos en las redes

Renunció a un gigante de la IA y le puso fecha al peor escenario: “Podría matarnos a todos”

Jacob Coxon, exinvestigador de OpenAI y Anthropic, lanzó una fuerte advertencia sobre los riesgos de los sistemas más avanzados. Sus declaraciones.

Temas de la nota

Más notas sobre Tendencias