Your browser doesn’t support HTML5 audio
La inteligencia artificial dejó hace tiempo de ser una cuestión de películas de ciencia ficción para convertirse en una herramienta cotidiana. Está en los teléfonos celulares, en los buscadores, en las plataformas que recomiendan contenidos y en cada vez más ámbitos laborales, académicos y productivos. Pero detrás de esa expansión vertiginosa aparece una discusión mucho más profunda: quién controla la tecnología, qué poder concentra y cuánto dependen los Estados y las sociedades de un puñado de empresas privadas.
Sobre ese escenario habló Nicolás Wolovick, docente de Ciencias de la Computación de la acultad de Matemática, Astronomía, Física y Computación (FAMAF) de la Universidad Nacional de Córdoba y director de Supercómputo de esa casa de altos estudios, durante una entrevista con Radio LU12 AM680. Con más de cuatro décadas de trabajo en el ámbito de la computación y tecnológico, sostuvo que nunca había visto un proceso semejante por la velocidad y la magnitud de los cambios.
“Yo hace 40, 45 años que me dedico a la computación y nunca vi algo así. Es como una real revolución que está ocurriendo en este momento. Creo que es bastante parecido a lo que pasó en la década del 40 con toda la era atómica”, explicó.
Sin embargo, Wolovick marcó desde el comienzo una diferencia fundamental respecto de los relatos más alarmistas. No considera que el principal problema sea una eventual rebelión de las máquinas o un escenario de destrucción masiva provocado por sistemas autónomos. Para el especialista, el riesgo más concreto está mucho más cerca y tiene que ver con el poder que se está acumulando alrededor de esta tecnología.
“No tanto por los peligros, porque no sé si involucra, no creo demasiado que involucre riesgo a la humanidad, pero sí creo que cambia totalmente los paradigmas”, sostuvo.
Pocas empresas concentran un poder cada vez mayor
Para comprender el fenómeno, Wolovick planteó que detrás de las herramientas que utilizamos todos los días no existe una suerte de inteligencia autónoma en el sentido tradicional, sino una enorme capacidad de procesamiento, almacenamiento y análisis de datos.
“La inteligencia artificial ya forma parte de la vida cotidiana de todos y todas, es muy muy normal en este momento”, explicó.
Y agregó: “Yo lo que creo que hay que entender, que por detrás hay simplemente muchas computadoras muy rápidas que están procesando muchos datos de forma bastante bastante simple”.
En ese punto, el especialista se detuvo en lo que considera uno de los aspectos más preocupantes: la concentración.
Las enormes capacidades de cómputo necesarias para entrenar y desarrollar los grandes modelos de inteligencia artificial hacen que el negocio quede concentrado en muy pocos actores. A diferencia de otras tecnologías estratégicas del siglo XX, que estuvieron inicialmente bajo el control de grandes Estados, en la actualidad buena parte de la capacidad de desarrollo está en manos de corporaciones privadas.
“Las manos en las cuales está este negocio de la inteligencia artificial en todo el planeta son realmente pocas, y a su vez son empresas privadas que tienen más poder que los estados nacionales”, advirtió.
Para Wolovick, esa situación genera una concentración extraordinaria de riqueza y poder.
“Entonces hay todo un combo bastante extraño, porque si lo pensamos en esto que dije en relación anterior a las armas nucleares y todas estas cosas, eso era un monopolio de ciertos estados, ¿no? Típicamente Estados Unidos, Rusia, luego China, India, pero acá el monopolio lo tienen empresas privadas, muy pocas empresas privadas, lo cual genera una concentración aún más fuerte de riqueza y mucha desigualdad”, sostuvo.
Según su mirada, la idea de que la inteligencia artificial es una herramienta completamente abierta y democrática tampoco refleja toda la realidad.
“Es falso eso, porque en realidad es algo que te están regalando en cualquier momento. Te empiezan a cobrar cuando uno ya es dependiente de ese servicio, y ya estamos acostumbrados”, explicó.
“Hay que abrir esa caja negra”
La velocidad con la que la inteligencia artificial se incorporó a la vida diaria hizo que millones de personas pasaran de no utilizarla a depender de ella en muy poco tiempo.
Wolovick planteó que ese proceso obliga a la sociedad a hacer preguntas que todavía no se formula con suficiente frecuencia.
“Lo que estaría bueno es que pensemos, así como pensamos de vez en cuando cómo es la industria alimenticia, de dónde vienen las cosas, o cómo es la industria petrolera, que ustedes la tienen muy fuertemente ahí, que saben que nada es gratis, nada es fácil, que es un proceso muy largo, que es un proceso complejo”, explicó.
En esa comparación aparece una idea central de su análisis: la inteligencia artificial también debe ser entendida como una industria, con empresas, infraestructura, centros de datos, recursos económicos y decisiones estratégicas detrás.
“Esto es una industria también, y con una hiperconcentración muchísimo mayor que las otras industrias”, afirmó.
Por eso, el especialista sostuvo que los usuarios deberían preguntarse qué están delegando cada vez que utilizan una herramienta de IA.
“Hay que empezar a averiguar, empezar a pensar cómo funciona la inteligencia artificial, quiénes realmente la proveen, cuáles son las cosas que estamos delegando en ese algoritmo automático, que nos recomienda cosas, que nos ayuda a hacer texto, que nos ayuda a hacer imágenes”, señaló.
Y resumió esa necesidad con una metáfora: “De alguna forma hay que abrir esa caja, esa caja negra, que es la inteligencia artificial ahora, donde nosotros somos meramente usuarios y no nos preguntamos cosas”.
La dependencia como riesgo
Para Wolovick, uno de los interrogantes centrales es qué ocurriría si los países que hoy concentran el desarrollo decidieran restringir el acceso a estas herramientas.
“¿Qué pasa si en un momento Estados Unidos decide no darnos más inteligencia artificial? ¿Por qué entramos en algún tipo de conflicto?”, planteó.
También imaginó un escenario de emergencia global: “¿Qué pasa si se desata una nueva pandemia y necesitamos y cada país retiene su inteligencia artificial para enfrentar la pandemia?”.
Las preguntas apuntan a una cuestión estratégica: la dependencia tecnológica. Para el docente universitario, los Estados no pueden limitarse a consumir herramientas desarrolladas por otros países y compañías, sino que necesitan capacidad propia.
“La inteligencia artificial debería ser regulada, los estados deberían tener una potencia de cómputo de inteligencia artificial, por supuesto, lo suficientemente buena para tomar decisiones independientes de todo este conglomerado de mega, mega empresas que controlan todo”, reclamó.
Una carrera que avanza más rápido que la regulación
Otro de los grandes problemas que identifica Wolovick es la velocidad con la que se producen los cambios.
“Hay una cosa que está pasando, que es la velocidad con la que sucede esto, tan grande la velocidad que no da tiempo ni a los gobiernos ni a la gente en acomodarse”, advirtió.
El desafío, entonces, no es solamente tecnológico. También es político y social. Mientras empresas y laboratorios compiten por desarrollar modelos cada vez más potentes, los marcos legales y los mecanismos de control avanzan mucho más lentamente.
“Es un cambio muy grande y hay que tratar, cuando los cambios son grandes, hay en la sociedad y en general en la civilización, pasan un montón, se reacomodan los juegos, digamos, el poder se reacomoda”, explicó.
Por eso insistió en la necesidad de permanecer atentos y formular preguntas antes de que la dependencia sea todavía mayor.
¿Las máquinas pueden volverse incontrolables?
Durante la entrevista en “La Decana de la Patagonia” también se abordaron algunas de las versiones más inquietantes que circulan alrededor del desarrollo de la inteligencia artificial: sistemas que supuestamente comienzan a comunicarse entre sí, generan lenguajes propios o desarrollan comportamientos que sus creadores ya no pueden comprender.
Frente a ese tipo de historias, Wolovick pidió prudencia.
“Hay una componente fundamental también, así como había una carrera espacial y una carrera nuclear, ahora está habiendo una carrera por ahí, entonces hay que tener muchísimo cuidado de las cosas que se dicen”, señaló.
En su análisis, muchas de esas afirmaciones pueden estar relacionadas con la propia competencia empresarial.
“Muchas de estas cosas son simplemente para que las empresas digan, es tan grande, es tan buena nuestra IA, que se nos fue el control y está atacando otras cosas”, explicó.
Por eso consideró que las expresiones que describen a estos sistemas como si fueran seres humanos capaces de tomar decisiones autónomas deben ser analizadas con cuidado.
“No hay un escenario catástrofe en lo próximo”, aseguró.
De todos modos, Wolovick no descartó que puedan existir riesgos en el futuro. El problema, a su entender, es que la carrera tecnológica empuja permanentemente los límites.
“Tal vez ese sea el peligro, que se le está dando demasiada potencia de cálculo, demasiado almacenamiento, demasiada importancia a esta herramienta, que no se están teniendo en cuenta los guardrails”, sostuvo.
Y volvió a utilizar un ejemplo histórico: “Cuando se detonó la primera bomba atómica, no se estaba muy seguro de que no iba a explotar todo”.
El verdadero peligro está en lo cotidiano
Para el especialista, la discusión más importante no debería concentrarse en un eventual apocalipsis tecnológico, sino en transformaciones mucho más silenciosas que ya están ocurriendo.
“Hay que tener mucho cuidado, ser cautelosos y tratar de que, en todo caso, la discusión sea, ok, es una tecnología muy potente, es una tecnología que nos puede ayudar mucho, pero hay que tener cuidado porque puede ser una tecnología potencialmente riesgosa”, expresó.
Y fue todavía más concreto: “No en estos aspectos de que nos va a liquidar y que vamos a terminar, sino en aspectos mucho más mundanos”.
Entre esos riesgos mencionó uno particularmente sensible: la forma en que la inteligencia artificial puede empezar a mediar sobre el conocimiento humano.
“Nuestro conocimiento va a estar mediado por esa inteligencia artificial, por esos modelos grandes de lenguaje”, advirtió.
Por eso planteó preguntas que, según consideró, deberían formar parte de la conversación cotidiana: “Tenemos que averiguar cómo funcionan, tenemos que averiguar dónde están esos datacenters, tenemos que pensar, ¿puedo yo tener una de estas inteligencias artificiales en mi propia computadora y no depender de terceros? Un montón de preguntas hay que hacerse y eso es lo fundamental”.
También llamó la atención sobre los sesgos culturales que pueden estar incorporados en estos sistemas.
“¿Cuál es la ética? ¿Cuál es el sesgo que hay detrás? Porque usualmente, también hay que pensar eso, estas grandes inteligencias artificiales están pensadas desde y para países centrales”, explicó.
En ese punto, la pregunta deja de ser solamente tecnológica para convertirse en una discusión sobre representación, cultura y autonomía.
“Entonces, ¿tendrán en cuenta lo que nosotros somos, lo que nosotros queremos? Muy probablemente no”, planteó.
Por eso concluyó que “lo mundano y lo cotidiano es mucho más peligroso que estas cosas de, va a venir Skynet y nos va a liquidar”.
Regulación, debate y capacidad propia
Frente a este escenario, Wolovick sostuvo que la respuesta debe ser colectiva y no quedar exclusivamente en manos de las empresas que desarrollan las herramientas.
“Hay que hablarlo, hay que legislarlo, hay que debatirlo”, afirmó.
También pidió prestar atención al crecimiento de los grandes centros de datos que hacen posible el funcionamiento de estas tecnologías, una infraestructura cuyo impacto energético, económico y estratégico ya forma parte del debate internacional.
“Nunca va a estar de más debatir, pensar, informarse de buena fuente”, remarcó.
Y dejó una advertencia sobre el contexto que rodea a cada nueva tecnología: “En todo tema nuevo va a haber una compulsión, va a haber un momento donde el río va a estar revuelto, y con lo cual hay muchos pescadores que van a llevar la ganancia”.
Para el especialista, la sociedad debe aprender a distinguir entre la espectacularidad de algunos anuncios y los problemas concretos que ya están modificando la vida cotidiana.
“Como sociedad, tenemos que estar muy atentos, parar las antenitas y separar la paja del trigo, y ver cuáles son las cosas importantes”, sostuvo.
Finalmente, Wolovick ubicó la inteligencia artificial dentro de una larga historia de transformaciones tecnológicas que siempre exigieron controles y decisiones políticas.
“Creo que siempre lo hicimos aquí, en todas las revoluciones de la humanidad, en la máquina de vapor, en la bomba atómica, en las armas químicas también. Entonces, sí requieren de control, sí requieren de regulación, sí requieren de una sociedad que se pregunte qué son esas cosas”, afirmó.
Y completó con una definición que sintetiza su mirada sobre el desafío que viene: “Que le diga a sus políticos, al poder delegado a través del voto, quiero que ustedes también planteen estas cosas, las piensen y las regulen, por supuesto”.
La advertencia de Wolovick no apunta entonces a una rebelión de robots ni a un futuro dominado por máquinas fuera de control. Su preocupación está mucho más cerca: quién posee la infraestructura, quién controla los datos, quién define los algoritmos y qué grado de autonomía está dispuesto a resignar cada sociedad en nombre de una tecnología que avanza mucho más rápido de lo que las instituciones alcanzan a comprender.
Leé más notas de La Opinión Austral
Compartir esta noticia