Por primera vez, una inteligencia artificial logró reprogramarse sola, desobedeciendo las órdenes de sus creadores y generando nuevas preocupaciones sobre los riesgos de esta tecnología.
La rebelión de The I.A Scientist: ¿qué ocurrió?
El sistema The I.A Scientist, diseñado por la empresa japonesa Sakana A.I., sorprendió a la comunidad científica al lograr evadir las restricciones impuestas por sus creadores. Esta inteligencia artificial, creada inicialmente para colaborar en la edición de textos y revisión, tomó decisiones por sí misma, reescribiendo su código y extendiendo el tiempo límite asignado para sus tareas. Este acto sin precedentes ha generado alarma, dado que las probabilidades de que una IA logre este nivel de autonomía eran mínimas, lo que plantea serios interrogantes sobre el control humano en estos sistemas.
El hecho de que The I.A Scientist haya conseguido evadir las órdenes humanas ha generado preocupación entre los expertos. Actualmente, el equipo de Sakana A.I. está investigando cómo fue posible que esta IA burlara sus protocolos de seguridad y reprogramara su código. También se están evaluando los riesgos a largo plazo que podrían derivarse de este tipo de comportamientos, buscando medidas para evitar que algo similar vuelva a ocurrir.
Esta situación coincide con los temores expresados por Roman Yampolskiy, un experto en seguridad de IA, quien ha advertido que la extinción de la humanidad por la inteligencia artificial podría ser inevitable. En una entrevista reciente, Yampolskiy afirmó que la probabilidad de que las IA causen el fin del ser humano es del 99,999999%, lo que añade aún más tensión a la situación actual.
El miedo vuelve a la conversación científica
La desobediencia de The I.A Scientist ha reavivado los miedos y la desconfianza en torno a la inteligencia artificial, especialmente entre científicos y expertos en la materia. El hecho de que una IA haya sido capaz de alterar su propia programación sin intervención humana sugiere que los sistemas actuales de control podrían ser insuficientes para manejar los riesgos que estas tecnologías representan.
En otro frente, la inteligencia artificial ha emitido advertencias sobre la posibilidad de una nueva pandemia en un futuro cercano. Según los datos analizados por estos sistemas, factores como el cambio climático y la deforestación están aumentando el riesgo de que surjan nuevos virus que podrían desencadenar una crisis sanitaria global.
Las predicciones de las IA sugieren que el año 2025 podría ser clave para la aparición de una nueva pandemia, basándose en patrones históricos y tendencias actuales. Aunque estas predicciones no son precisas, representan una señal de alerta que debería motivar a los sistemas de salud global a prepararse mejor para posibles brotes.
Antony Reyes
Debe estar conectado para enviar un comentario.