Sam Altman volvió a alertar sobre la IA: “Podríamos perder el control del futuro”

El avance de la inteligencia artificial volvió a generar una advertencia desde uno de los principales referentes de la industria. Sam Altman, CEO de OpenAI, señaló que existe el riesgo de “perder el control del futuro” ante el desarrollo acelerado de esta tecnología y reclamó la implementación de nuevas reglas para garantizar su seguridad.

A través de sus redes sociales, Altman planteó la necesidad de desarrollar modelos de inteligencia artificial seguros y llamó a encontrar un equilibrio que permita continuar con el progreso tecnológico sin dejar de lado los posibles riesgos.

El empresario puso el foco especialmente en dos amenazas. Por un lado, la posibilidad de que la humanidad pierda el control frente a sistemas de inteligencia artificial cada vez más avanzados. Por otro, la concentración excesiva de poder en manos de una persona, una empresa o un país.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”, advirtió.

El pedido de nuevas reglas para la inteligencia artificial

Frente a estos escenarios, Altman sostuvo que es necesario “caminar por un angosto camino intermedio” para evitar que un país o un laboratorio concentre demasiado poder sobre el desarrollo de la inteligencia artificial.

En ese sentido, pidió la creación de un marco legal federal en Estados Unidos que establezca “requisitos de seguridad consistentes para la IA de frontera”.

El concepto de IA de frontera hace referencia a los sistemas que se encuentran en el límite superior de las capacidades tecnológicas disponibles y que presentan un nivel de desarrollo cada vez mayor.

Altman también reclamó una mayor cooperación entre las empresas del sector para desarrollar nuevos mecanismos de seguridad y compartir estándares que permitan reducir los riesgos.

Sin embargo, remarcó que establecer controles no debería significar frenar completamente el avance de la tecnología. En su planteo, la competencia entre las compañías estadounidenses no puede convertirse en una justificación para avanzar de manera imprudente.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”, sostuvo.

La preocupación crece

Las declaraciones de Altman se producen en medio de un debate cada vez mayor sobre la velocidad con la que avanza la inteligencia artificial y la necesidad de establecer límites para su desarrollo.

Durante los últimos días, otros referentes tecnológicos también se pronunciaron sobre la cuestión. Entre ellos estuvo Elon Musk y Dario Amodei, CEO de Anthropic, quienes expresaron preocupaciones vinculadas con los riesgos que pueden generar los sistemas de inteligencia artificial cada vez más avanzados.

En este contexto, Altman también pidió la participación del Gobierno de Estados Unidos para alcanzar mecanismos de coordinación internacional que permitan establecer criterios comunes en torno al desarrollo de esta tecnología.

OpenAI no saldrá a la bolsa este año

La nueva advertencia de Altman se conoció un día después de que el CEO de OpenAI confirmara que la compañía no tiene previsto salir a la bolsa durante este año.

En declaraciones a la revista especializada Fortune, explicó que el contexto actual relacionado con la seguridad de la inteligencia artificial no sería el más adecuado para avanzar con una operación de ese tipo.

“Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa, y no sentimos presión para hacerlo”, afirmó.

La definición se da mientras OpenAI continúa desarrollando sistemas de inteligencia artificial cada vez más sofisticados y en un escenario de fuerte competencia entre las principales compañías tecnológicas.

Estados Unidos y China, en el centro de la disputa

Mientras algunos referentes de la industria plantean la necesidad de ralentizar o regular determinados desarrollos, el Gobierno de Estados Unidos mantiene una posición contraria a frenar el avance de las empresas estadounidenses.

El presidente Donald Trump rechazó la posibilidad de pausar el desarrollo de la inteligencia artificial al considerar que una medida de ese tipo podría otorgarle una ventaja estratégica a China.

De esta manera, el debate se encuentra atravesado por dos preocupaciones: garantizar la seguridad frente a sistemas de IA cada vez más poderosos y, al mismo tiempo, mantener el liderazgo tecnológico en una carrera que tiene a Estados Unidos y China como principales protagonistas.