La advertencia de Jacob Coxon en X, ya supera las 81 millones de visualizaciones en la plataforma. CORTESIA: Magnific
El investigador británico Jacob Coxon, de 27 años, renunció este martes a su puesto en la empresa de inteligencia artificial Anthropic y publicó en su cuenta de X una advertencia en la que sostiene que “ninguna de las dos empresas (OpenAI y Anthropic) actúa con responsabilidad” y que “corren derecho a una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”.
Te puede interesar: CBP prueba reconocimiento facial en salida hacia México
Su dimisión, ocurrida en San Francisco y respaldada públicamente por el responsable de ciencia de alineamiento de Anthropic, Evan Hubinger, adquiere relevancia porque coincide con la negativa de la compañía a someter su modelo más avanzado a pruebas del organismo regulador británico y con la presentación en el Congreso de Estados Unidos de proyectos de ley que buscan prohibir el desarrollo de superinteligencia.
Coxon, quien según reportes de prensa trabajó en el preentrenamiento de modelos en OpenAI y Anthropic durante los últimos tres años, acusó a ambos laboratorios de estar inmersos en una carrera hacia sistemas sobrehumanos sin contar con mecanismos suficientes para controlarlos.
El investigador afirmó que las personas que construyen estos sistemas “creen sinceramente que podría matarnos a todos antes de que termine la década” y advirtió que la tecnología pronto será capaz de “hackear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos”.
Las declaraciones de Coxon encontraron respaldo inmediato dentro de la propia Anthropic; Hubinger escribió en X que “Jacob tiene razón.
De verdad creemos que la IA podría matar a todos los humanos” y estimó, a título personal, que existe una probabilidad superior al 10 por ciento de que la inteligencia artificial provoque la extinción humana en la próxima década.
No obstante, Hubinger precisó que los modelos actuales presentan un riesgo bajo y que su preocupación se centra en una eventual superinteligencia surgida de procesos de automejora recursiva.
Samuel Marks, otro investigador de Anthropic que habló a título personal, sostuvo que “los desarrolladores de IA creen que su tecnología podría causar la extinción humana” y que “a mayor antigüedad del empleado, mayor es su preocupación”.
La renuncia de Coxon se produce en un contexto de acelerados avances en la industria; según reportes de prensa, OpenAI desplegó recientemente unos 10,000 agentes de inteligencia artificial durante 88 horas para resolver un aspecto clave de las ecuaciones de Navier-Stokes, uno de los problemas del milenio, con un costo computacional de millones de dólares.
Paralelamente, Anthropic enfrenta cuestionamientos luego de que, de acuerdo con el Financial Times, declinara por primera vez otorgar acceso a su modelo Claude Mythos 5.1 para pruebas previas al lanzamiento por parte del Instituto de Seguridad de IA del Reino Unido, aunque sí concedió acceso a organizaciones estadounidenses.
Recibe alertas de última hora directo en tu celular. ¡Únete a nuestro canal exclusivo de WhatsApp
En el ámbito legislativo, el senador Bernie Sanders y el representante Greg Casar presentaron el 3 de septiembre la “Ley para Prohibir la Superintendencia Artificial”, que propone una prohibición permanente del desarrollo de superinteligencia y una pausa temporal en el avance de la IA avanzada hasta que una agencia federal establezca normas de seguridad.
Sanders declaró que “los líderes de las principales empresas de IA reconocen públicamente que no comprenden plenamente la tecnología y que se les está escapando de control”; la iniciativa también contempla la búsqueda de acuerdos internacionales para impedir que la superinteligencia se desarrolle en cualquier parte del mundo.
