Jacob Coxon, quien trabajó en OpenAI y luego en Anthropic, renunció a la industria y criticó a ambas compañías por supuestamente no priorizar la seguridad en el desarrollo de la inteligencia artificial.
El investigador británico Jacob Coxon, de 27 años, anunció su salida de la industria de la inteligencia artificial y acusó a las empresas OpenAI y Anthropic de no actuar de manera responsable. Coxon trabajó durante tres años en preentrenamiento de modelos de IA, primero en OpenAI y luego, desde este año, en Anthropic.
En un mensaje publicado en X, Coxon escribió: «Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas». Además, agregó: «Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo».
La renuncia de Coxon ocurre en un contexto en el que Anthropic se prepara para su salida a bolsa. Al ser contactadas por la AFP, ni OpenAI ni Anthropic respondieron de inmediato a las solicitudes de comentarios.
En su mensaje, Coxon también señaló que ninguna empresa debería desarrollar de manera responsable una IA que supere a los humanos sin intervención gubernamental o una desaceleración coordinada. Sobre Anthropic, afirmó: «En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero… a pesar del riesgo».
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos. A finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, pidieron a Washington preparar un mecanismo de frenado. El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que «el momento actual llama por extrema precaución» y coordinación internacional.