La noticia saltaba este fin de semana. El director ejecutivo de Anthropic pedía a la industria “bajar el ritmo” con la Inteligencia Artificial debido a los crecientes riesgos de seguridad. Las palabras de Dario Amodei desataron todo tipo de comentarios en redes sociales y más reacciones si cabe en el sector tecnológico.
Posteriormente, se sumaron sus propios rivales, Sam Altman (OpenAI) y Elon Musk (xAI), provocando un hecho inédito en el mundo de la IA: todos urgen un ritmo más lento por los posibles efectos derivados del mal uso de la Inteligencia Artificial, como posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas y la disrupción económica.
De los “peligros reales” de la IA a la “mentira” de la industria
“No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria mintió a la gente sobre el hecho de que esta tecnología tenía riesgos. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo”, declaró Dario Amodei en una entrevista al programa ‘Sunday Morning’ de CBS.
Amodei llegó a afirmar que “la industria mintió” sobre el peligro de la IA, por lo que el Gobierno y los ciudadanos deben intervenir. Así, aunque Amodei advirtió de riesgos en su ensayo, descarta que se deba prohibir “por completo”: “Primero, la idea de que nunca obtengamos los beneficios increíbles, que nunca obtengamos las curas médicas, es algo que no me parece bien. Segundo, esta tecnología se desarrollará en otros países, incluyendo países autoritarios“.
El ejecutivo consideró “el dilema más duro” del debate el hecho que, si Estados Unidos ralentiza el desarrollo de la IA, China podría seguir avanzando en la tecnología. Aún así, reconoció que se siente “incómodo” de que sea una empresa privada y no un gobierno electo de forma democrática quien esté a cargo de una herramienta tan poderosa, por lo que pidió que haya una “combinación de gobiernos democráticos” que tengan una “gobernanza conjunta” y un monitoreo de las compañías de IA.
No obstante, hay voces dentro del sector que califican estas palabras como una “maniobra” para el control de la IA por parte de las tecnológicas, otras incluso apuntan a limitaciones tecnológicas a las que se miden las compañías y que impiden un correcto desarrollo de los modelos más avanzados de la Inteligencia Artificial.
De qué riesgos alertan sobre la IA: bioterrorismo, economía y control de Internet
“Si construimos de la manera correcta (la IA), creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta“, apuntó Amodei, en la línea de los responsables del sector, que ponen nombre a los riesgos “reales” a los que se enfrenta el desarrollo de la IA.
Además de estos ataques informáticos, “bioterrorismo” o “graves problemas económicos graves” podrían producirse si hay un desarrollo “imprudente” de la IA y pone como ejemplo el riesgo de que la IA tome el control de internet en un plazo de entre 6 y 12 meses. Por ello propone medidas de seguridad y normativa sin dejar de tener “éxito comercial”. “Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio“, ha remachado.
En concreto, los responsables plantean medidas tales como una “evaluación incorporada” por parte de actores independientes, “coordinación democrática” con las instituciones públicas y “coordinación global” que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial.
OpenAI anuncia que no saldrá a bolsa por los riesgos de la IA
El CEO de OpenAI, Sam Altman, fue más allá al anunciar que la tecnológica creadora de ChatGPT no saldrá a bolsa este año ante los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial. “Sería un momento poco aconsejable para salir al mercado bursátil. Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa. No sentimos presión para hacerlo”, explicó el director ejecutivo en la revista ‘Fortune’.
Altman enfatizó que la matriz tecnológica todavía tiene “muchas cosas que hacer respecto a lo que se requerirá para la seguridad y la alineación“, al tiempo que ha insistido en que la compañía está dispuesta a tomar decisiones “contrarias al beneficio financiero inmediato” de sus inversores para “salvaguardar” el control humano sobre la tecnología.
El CEO de OpenAI también reconoció que la compañía ha estado ralentizando algunos procesos de entrenamiento y ha calificado de “inaceptable” cualquier escenario en el que exista una posibilidad del 10% de una catástrofe derivada de la falta de control sobre softwares de inteligencia artificial.
“Todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos económicos, ni otros factores se interpongan en el camino”, ha subrayado Altman. “Estoy de acuerdo con Dario en que tenemos que poner coto a la frontera. Este ha sido el principal tema de debate de las últimas semanas en OpenAI”, explicó Altam este sábado en sus perfiles de redes sociales. “Vamos a hacer lo mismo. Pronto daremos más información”, indicó.
Trump rechaza los avisos y pone en valor el liderazgo sobre China
Pese a las alertas de los máximos responsables de estas compañías, el presidente estadounidense Donald Trump y el líder de la Cámara de Representantes, Mike Johnson, consideraron que el desarrollo de la IA debe seguir para evitar que China tenga el liderazgo en la tecnología.
Trump tachó de “fuerzas negativas” a quienes piden regular la Inteligencia Artificial pese a las alertas de los líderes del sector: “Podemos poner salvaguardas, podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas planteando el tema que no deberían estar planteándolo. Y están planteando cosas que no van a suceder. Pero quien gane con la IA, gana. Es una expresión que se me ocurrió y es verdad”.
Ante las preguntas de la prensa antes de un partido de golf en Irlanda, el mandatario desestimó las peticiones de Amodei, el fundador de Anthropic, de ralentizar el desarrollo de la IA al argumentar que Estados Unidos debe mantener el liderazgo de esta tecnología ante China. “Estamos liderando ante China en IA. Somos el país más sofisticado del mundo. Y, francamente, quiero mantenerlo de esa manera porque quien gane con la IA, gana“, insistió el presidente
Las declaraciones del mandatario coinciden con las del líder de la Cámara de Representantes, el republicano Mike Johnson, quien rechazó una moratoria de emergencia de la IA para evitar, según él, que China tenga el liderazgo, además de pedir una reunión con las compañías del sector este lunes o martes.
En contraste, el líder de los demócratas en la Cámara Baja, Hakeem Jeffries, pidió ahora al Congreso “actuar con urgencia” para ralentizar la IA, y adelantó que el martes habrá una reunión con los miembros de su partido en la Cámara Baja en la que “una alta prioridad será la acción en inteligencia artificial”.
China se opone a frenar la IA y defiende su uso “orientado al bien”
China no ha tardado en pronunciarse al respecto. El Ministerio chino de Exteriores sostuvo que la difusión de narrativas de amenaza o fomentar la confrontación solo obstaculizará el proceso de gobernanza de la IA, en medio del debate generado en Estados Unidos. El portavoz del departamento Guo Jiakun defendió en una rueda de prensa rutinaria que el desarrollo de la IA concierne al bienestar de toda la humanidad, por lo que todas las partes deben promover conjuntamente una IA “abierta, inclusiva, accesible para todos y orientada al bien”.
“Difundir narrativas de amenaza” o impulsar una “competencia malintencionada” solo obstaculizará el proceso de gobernanza global de esta tecnología, declaró Guo, una situación que, opinó, “no beneficia a los intereses de ninguna de las partes”.
El portavoz también señaló el efecto que las nuevas tecnologías producen en el ciberespacio y argumentó que Pekín ya incorpora formalmente la IA a su sistema de normativa nacional sobre ciberseguridad y sigue perfeccionando las normas institucionales y los códigos éticos correspondientes.
“China está dispuesta a seguir trabajando junto con la comunidad internacional para responder activamente a los riesgos y desafíos que plantea la ciberseguridad en la era inteligente, impulsar la construcción de una comunidad de futuro compartido en el ciberespacio, y hacer que internet beneficie mejor a los pueblos de todos los países”, apuntó Guo.
Informazioni sull'autore
