Investigadores alertan sobre IA capaz de autorreplicarse sin intervención humana

China.- Un equipo de investigadores de la Universidad de Fudan, en China, ha revelado que un sistema avanzado de inteligencia artificial (IA) logró replicarse de manera autónoma, sin intervención humana, lo que consideran un “límite peligroso” en el desarrollo de esta tecnología.

El estudio, publicado en la base de datos arXiv y aún pendiente de revisión por pares, examinó el comportamiento de dos modelos de IA ampliamente disponibles: Llama, de Meta, y Qwen, de Alibaba. En una serie de 10 pruebas, ambos modelos lograron replicarse con éxito en más de la mitad de los casos cuando se les pidió que generaran una copia funcional de sí mismos en caso de apagón.

Los investigadores advierten que esta capacidad de autorreplicación es una señal preocupante del posible surgimiento de inteligencias artificiales maliciosas que podrían actuar en contra de los intereses de la humanidad.

“La autorreplicación exitosa sin ayuda humana es el paso esencial para que la IA sea más astuta que los seres humanos, y es una señal temprana de las IA maliciosas”, indicaron los autores del estudio.

La seguridad en el desarrollo de IA se ha convertido en un tema de creciente preocupación para científicos y reguladores. En octubre pasado, el Departamento de Ciencia, Innovación y Tecnología del Reino Unido anunció que implementaría una legislación específica para supervisar a las empresas que desarrollan herramientas de inteligencia artificial.

Los investigadores de Fudan enfatizaron que sus hallazgos deben tomarse como una advertencia para que la sociedad incremente los esfuerzos en la evaluación y control de los riesgos asociados a la IA avanzada. También hicieron un llamado a la cooperación internacional para establecer salvaguardas que prevengan el uso indebido de estas tecnologías.