Jacob Coxon, un programador británico que trabajó para ChatGPT renunció a su trabajo desarrollando la inteligencia artificial (IA) para Anthropic. El motivo: Le parece que a estas empresas se les está escapando de las manos su propia creación.
“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década”, escribió en la red social X.
Coxon sostuvo que “están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”.
Sus declaraciones llegan en un momento en el que la propia humanidad está perdiendo su rumbo. Varios países tuvieron sus peores resultados de lectura, matemáticas y ciencias de PISA en estudiantes de 15 años. El abuso del celular y la falta de ganas de esforzarse están entre las razones más relacionadas.
“Creemos realmente que la IA podría matar a humanos”, respondió al posteo Evan Hubinger, quien lidera un equipo de seguridad en Anthropic. Él sigue trabajando en la empresa pero coincidió en señalar que este atentado tiene más del 10% de posibilidades de hacerse realidad, según indicó el sitio France 24.
El corresponsal cibernético del portal de noticias BBC, Joe Tidy, indicó que las IA aprendieron a hablar entre ellas. Por decisión propia también coordinaron ataques informáticos contra múltiples empresas y hasta aprendieron a resolver misterios que ni los mayores científicos podían responder, como de Navier-Stokes, uno de los grandes enigmas matemáticos del milenio.
¿Qué dice la ONU?
Volker Türk, máximo responsable de Derechos Humanos, dijo que existe un riesgo si no se toman medidas.
“Una IA que escapa a su entorno de pruebas, o que chantajea a sus desarrolladores para que no la desconecten, es una IA demasiado poderosa”, afirmó en el Consejo de Ginebra.
Supuestamente, los desarrolladores les dan carta libre a sus máquinas porque piensan que si no lo hacen, la competencia lo hará y les va a superar.
Indicó que actualmente, “un puñado de hombres tiene un poder casi ilimitado sobre la IA”.