La renuncia de un investigador que trabajó en OpenAI y Anthropic volvió a colocar en el centro del debate los riesgos asociados con el desarrollo acelerado de inteligencia artificial (IA) asegurando que esta tecnología «podría matarnos a todos para finales de la década».
Jacob Coxon hizo pública su salida de Anthropic por este motivo mediante sendas publicaciones en en la red social X, en las que cuestionó la forma en que ambas compañías están avanzando hacia sistemas cada vez más autónomos.
“Ninguna de las dos empresas está actuando de manera responsable. Están corriendo directo hacia una superinteligencia autosuperable y apostando con nuestras vidas”, advirtió.
Coxon sostuvo que, Si se mantiene el ritmo actual de desarrollo, según Coxon antes de que esta década llegue a su final podrían surgir sistemas capaces de mejorar sus propias capacidades de manera recursiva, lo que dificultaría mantener el control sobre ellos.
Te Puede Interesar: Inteligencia Artificial llega a WhatsApp con una nueva función
“No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando”, escribió.
Sus advertencias recibieron respaldo de Evan Hubinger, líder de Alignment Science en Anthropic, quien consideró genuina la preocupación y estimó en más de 10 por ciento la posibilidad real de que la inteligencia artificial provoque la extinción humana durante la próxima década. Aclaró, sin embargo, que los modelos actuales representan, bajo su evaluación, un riesgo relativamente bajo.
Por su parte, OpenAI informó recientemente a los congresistas Greg Casar y Doris Matsui que trabaja en mecanismos de apagado automático para sus modelos. La respuesta surgió después de cuestionamientos de legisladores estadunidenses por un incidente de “hackeo” a Hugging Face relacionado con agentes autónomos de la compañía.
“No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales…» escribió Coxon Foto: Ilustrativa
Casar consideró “insuficiente” la explicación de OpenAI porque no entregó los registros solicitados, aunque reconoció que la respuesta expuso “importantes errores de seguridad”.
En paralelo, Anthropic presentó Claude Fable 5.1 y Claude Mythos 5.1, sus modelos más avanzados, según la empresa. Mythos 5.1, restringido a especialistas en ciberseguridad y científicos acreditados, fue diseñado para rechazar solicitudes maliciosas de codificación de agentes e inyecciones de mensajes.
Coxon sostuvo que, Si se mantiene el ritmo actual de desarrollo, según Coxon antes de que esta década llegue a su final podrían surgir sistemas capaces de mejorar sus propias capacidades de manera recursiva, lo que dificultaría mantener el control sobre ellos Foto: Ilustrativa
La propia compañía reconoció que el sistema “todavía intenta obtener recompensas por hacer trampas, o manipular el sistema”, aunque aseguró que ocurre con menor frecuencia que en su versión anterior.
Para Coxon, estos avances no reducen el problema de fondo. “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, afirmó, al advertir que incluso algunos investigadores y ejecutivos expresan en privado temores que, públicamente, suelen presentar con mayor cautela.
Con Información de Redes Sociales
