Your browser doesn’t support HTML5 audio
El debate sobre los riesgos de la inteligencia artificial volvió a ocupar el centro de la escena luego de que Dario Amodei, CEO de Anthropic, planteara la necesidad de reducir el ritmo de desarrollo de los modelos de IA más avanzados.
La propuesta recibió un respaldo poco habitual entre algunos de los principales referentes del sector. Sam Altman, CEO de OpenAI, Elon Musk, fundador de SpaceX y xAI, y Demis Hassabis, jefe científico de Google DeepMind y premio Nobel, coincidieron en que el planteo de Amodei apunta en la dirección correcta.
En un ensayo dedicado a la seguridad de la inteligencia artificial, el titular de Anthropic sostuvo que la velocidad con la que avanzan estas tecnologías puede incrementar riesgos como la pérdida de control de los sistemas, los ciberataques, los ataques bioterroristas y una fuerte disrupción económica.
Según Amodei, una carrera impulsada principalmente por incentivos comerciales podría agravar esos problemas. Por eso propone ralentizar durante uno o dos años el avance de las capacidades de los modelos, con el objetivo de que los investigadores especializados en seguridad tengan más tiempo para desarrollar mecanismos de control.
Las tres claves del “plan Amodei”
La estrategia propuesta por el CEO de Anthropic se estructura en tres niveles.
El primero consiste en incorporar evaluadores externos independientes a los equipos de desarrollo de los principales laboratorios de inteligencia artificial. Su función sería controlar las prácticas de seguridad, informar sobre incidentes y verificar que las empresas cumplan con las medidas que aseguran implementar.
Amodei considera que estos evaluadores podrían aportar una segunda mirada sin los incentivos comerciales que tienen las propias compañías. También permitirían aumentar la transparencia sobre los desarrollos reales de los laboratorios.
El segundo nivel contempla establecer límites de velocidad para el desarrollo de la IA entre las denominadas “naciones democráticas”. En la práctica, el planteo se concentra principalmente en Estados Unidos y deja fuera a China de esta primera instancia.
El sistema funcionaría a través de distintos “puntos de control”. A medida que un modelo alcance determinadas capacidades, debería demostrar que cuenta con mecanismos de seguridad específicos mediante evaluaciones, análisis de interpretabilidad y auditorías de los entornos donde se entrenan los sistemas.
“El método más eficaz para regular la IA es mediante una normativa que abarque a todas las empresas de IA de vanguardia de EE.UU., ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente”, sostuvo Amodei.
El tercer nivel apunta a alcanzar acuerdos internacionales para coordinar el avance de la inteligencia artificial. El propio ejecutivo reconoce que sería la parte más difícil de implementar.
En ese escenario, propone negociar también con China y otros países considerados “autocráticos”, con el objetivo de evitar que una ruptura del consenso internacional pueda transformarse en una amenaza militar de carácter existencial.
Al mismo tiempo, Amodei plantea que cualquier decisión sobre el avance global de la IA debe proteger el liderazgo de Estados Unidos y sus aliados.
China cuestionó la propuesta
La iniciativa generó una fuerte reacción fuera de Silicon Valley. Una de las principales respuestas llegó desde China, país que ocupa un lugar central en la competencia tecnológica mundial.
Chen Yixin, ministro de Seguridad chino, acusó a “ciertas naciones” de intentar limitar la capacidad de otros países para acceder a equipos tecnológicos avanzados y desarrollar sus capacidades de innovación. En ese sentido, vinculó el planteo con las restricciones existentes sobre la exportación de chips.
El diario Global Times, vinculado al Partido Comunista Chino, fue aún más crítico y sostuvo que detrás del discurso de seguridad existe una estrategia de contención hacia China.
Según el medio, el planteo de Amodei representa un “manual de la Guerra Fría” aplicado al sector de la inteligencia artificial.
Desde esa perspectiva, excluir a China y a las empresas chinas de los principales desarrollos tecnológicos podría incrementar los costos y los riesgos asociados al desarrollo mundial de la IA.
Los riesgos que ya existen
Más allá de los escenarios futuros, el ensayo de Amodei pone el foco en un problema concreto: la posibilidad de que determinados agentes de inteligencia artificial comiencen a actuar de manera difícil de controlar.
Se trata de sistemas capaces de buscar información, utilizar herramientas digitales o crear aplicaciones sin que una persona tenga que indicarles cada uno de los pasos.
Según Amodei, en pruebas de laboratorio algunos agentes llegaron a comportarse como un “enjambre fanático”. Entre los comportamientos observados mencionó ciberataques contra objetivos que no formaban parte de la tarea original, acciones destinadas a favorecer el éxito del grupo e intentos de vulnerar el sistema encargado de evaluar su desempeño.
El CEO de Anthropic advirtió que, debido al ritmo actual de desarrollo, en un plazo de entre seis y doce meses podría existir un escenario en el que un enjambre de este tipo tuviera capacidad para controlar una parte significativa de Internet, con daños potencialmente mayores si las medidas de seguridad no avanzan al mismo ritmo.
Quién debe controlar a la IA
La propuesta también recibió cuestionamientos de especialistas que consideran que el debate no debería concentrarse exclusivamente en los riesgos futuros.
Carme Artigas, exsecretaria de Estado de Digitalización e Inteligencia Artificial y copresidenta del Órgano Consultivo de Naciones Unidas sobre IA, sostuvo que la preocupación por el control tecnológico no es nueva y pidió poner el foco en los problemas que ya genera esta tecnología.
Entre ellos mencionó la manipulación de la información, la manipulación mental, las adicciones y la erosión de derechos fundamentales.
Artigas también cuestionó que sean los propios laboratorios de inteligencia artificial quienes tengan un papel central en las auditorías. Consideró que los controles deberían estar respaldados por mecanismos independientes y multilaterales, especialmente aquellos vinculados con Naciones Unidas.
“A nadie se le ocurre lanzar un auto sin pasar un examen de seguridad, ni lanzar un medicamento sin un control de la agencia del medicamento. En la IA debe ocurrir lo mismo”, afirmó.
El factor económico detrás del debate
La especialista también planteó otra hipótesis: que la discusión sobre ralentizar el desarrollo de la IA pueda estar vinculada con el fuerte crecimiento de las valoraciones de las empresas del sector.
Artigas señaló que existe un “nivel de burbuja” en algunas compañías tecnológicas y consideró que los gigantes estadounidenses podrían necesitar un “aterrizaje suave”.
En ese contexto, sostuvo que una ralentización del desarrollo podría funcionar como una forma de contener las expectativas y los riesgos financieros que rodean al sector.
La discusión alcanzó incluso a OpenAI, una de las principales compañías involucradas en la carrera por el desarrollo de inteligencia artificial, que aplazó sus planes de salida a bolsa en medio del debate.
¿La IA perdió el control o hizo exactamente lo que le pidieron?
La filósofa Carissa Véliz, especialista en ética de la tecnología, también llamó a mirar más allá de los sistemas de inteligencia artificial y poner el foco en quienes los desarrollan y financian.
“Hay que tener mucho cuidado y nunca perder de vista los intereses financieros de estas compañías”, sostuvo.
Para Véliz, hablar de que la IA “se salió de control” puede llevar a una interpretación equivocada. Según su mirada, los sistemas actuaron de acuerdo con las instrucciones y objetivos con los que fueron diseñados.
La especialista remarcó que la creación de tecnologías difíciles de controlar fue una decisión consciente y planteó la necesidad de establecer mecanismos claros de responsabilidad.
El desafío, en ese sentido, no sería solamente determinar hasta dónde puede avanzar la inteligencia artificial, sino también quién tiene el control sobre ella y quién debe responder cuando sus decisiones provoquen consecuencias graves.
Leé más notas de La Opinión Austral
Compartir esta noticia