Your browser doesn’t support HTML5 audio
Jacob Coxon, un joven investigador que trabajaba en Anthropic, anunció su renuncia y lanzó una fuerte advertencia sobre el avance de la inteligencia artificial. Según planteó, la carrera por desarrollar sistemas cada vez más avanzados podría representar un riesgo para la humanidad.
“Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”, sostuvo Coxon en una publicación en X.
El investigador cuestionó, además, que las decisiones sobre el futuro de esta tecnología estén concentradas en pocas manos y que la competencia entre las principales compañías del sector esté marcada por la necesidad de ser las primeras en alcanzar nuevos avances.
En ese sentido, estableció una diferencia entre Anthropic y OpenAI. Según su mirada, en OpenAI muchos no habrían dimensionado completamente lo que está en juego “a escala de civilización”, mientras que en Anthropic existiría una mayor conciencia sobre los riesgos, aunque la empresa estaría atrapada en una carrera tecnológica.
“No es marketing”
Coxon también rechazó la posibilidad de que sus declaraciones sean simplemente una estrategia para generar repercusión, atención o inversiones.
“No es marketing. Más bien al contrario: muchos directivos miden sus palabras ante la prensa para sonar sensatos, pero he oído a esas mismas personas expresar miedo en privado”, afirmó.
Para el investigador, ninguna otra actividad humana implica actualmente un nivel de peligro comparable al desarrollo de sistemas de inteligencia artificial cada vez más sofisticados.
Sus declaraciones rápidamente se volvieron virales. En pocas horas, su publicación alcanzó cerca de 50 millones de visualizaciones, en medio de una creciente sucesión de noticias vinculadas con nuevos avances en inteligencia artificial.
Entre ellas aparecen sistemas autónomos capaces de realizar acciones complejas, nuevos modelos que alcanzan capacidades que hasta hace pocos años parecían difíciles de imaginar y avances científicos vinculados con estas herramientas.
Su exjefe respaldó la advertencia
Las declaraciones de Coxon cobraron mayor relevancia luego de que su exjefe en Anthropic, Evan Hubinger, saliera públicamente a respaldarlo.
Hubinger está al frente de investigaciones relacionadas con la alineación de los modelos, una disciplina que busca que los sistemas de inteligencia artificial actúen de acuerdo con los objetivos establecidos por sus desarrolladores.
“¡De verdad creemos que la IA puede matar a todo el mundo!”, escribió Hubinger en X. Además, aseguró que, personalmente, considera que la probabilidad de que ocurra una extinción durante la próxima década supera el 10%.
Sin embargo, aclaró que considera bajo el riesgo asociado a los modelos actuales. Su principal preocupación está puesta en un escenario futuro: el desarrollo de una superinteligencia mediante procesos de automejora recursiva.
El temor por la automejora de la IA
La automejora recursiva es uno de los escenarios que genera mayor preocupación entre quienes estudian los riesgos de la inteligencia artificial avanzada.
La hipótesis plantea que los modelos existentes podrían participar en el desarrollo y entrenamiento de nuevas generaciones de sistemas, dando lugar a una evolución acelerada en la que cada modelo sea más avanzado que el anterior con una intervención humana cada vez menor.
Este escenario alimenta el debate sobre la capacidad de los seres humanos para mantener el control sobre sistemas que podrían superar ampliamente sus capacidades.
Entre los especialistas existe un concepto conocido como “p doom”, utilizado para referirse a la probabilidad estimada de que la inteligencia artificial provoque una catástrofe de consecuencias sin precedentes para la humanidad.
La estimación del 10% mencionada por Hubinger se encuentra entre las cifras consideradas altas dentro de este debate.
Anthropic ya había advertido sobre el riesgo
La preocupación expresada por Coxon y Hubinger se suma a anteriores advertencias realizadas desde la propia Anthropic sobre los posibles riesgos de la inteligencia artificial avanzada.
El propio CEO de la compañía, Dario Amodei, había planteado meses atrás que el desarrollo de estos sistemas se encuentra cada vez más cerca de escenarios considerados peligrosos.
“En 2026 estamos bastante más cerca del peligro real de lo que lo estábamos en 2023”, había señalado.
Las nuevas declaraciones vuelven a poner en el centro de la discusión una pregunta que acompaña al desarrollo acelerado de la inteligencia artificial: hasta dónde puede avanzar esta tecnología antes de que los seres humanos pierdan la capacidad de controlarla.
Leé más notas de La Opinión Austral
Compartir esta noticia