Trabajadores de Anthropic advierten sobre riesgos existenciales de la IA en la próxima

La inteligencia artificial (IA) podría suponer una amenaza existencial para la humanidad en la próxima década, según advirtieron empleados actuales y antiguos de Anthropic, empresa estadounidense especializada en este campo. Estas declaraciones han reavivado el debate sobre los riesgos asociados al desarrollo acelerado de la IA.

Contexto: Preocupaciones crecientes sobre la IA

Las alertas provienen de figuras clave dentro de Anthropic, como Evan Hubinger, líder de ciencia de alineación, quien expresó en un mensaje que existe un 10 % de probabilidad de que la IA cause la extinción humana en los próximos 10 años. Hubinger reconoció los esfuerzos de la compañía, pero admitió que aún no se ha encontrado una solución al problema de la alineación de la superinteligencia.

Estas declaraciones se suman a las de Jacob Coxon, exinvestigador de Anthropic, quien renunció a la empresa y publicó un artículo en la plataforma X detallando sus preocupaciones. Coxon afirmó que muchos ejecutivos e investigadores comparten en privado temores similares sobre los riesgos de la IA, a pesar de mantener un discurso más moderado en público.

Elon Musk, empresario y fundador de empresas como Tesla y SpaceX, también ha expresado su inquietud. En septiembre de 2026, durante una reunión del G-20, Musk predijo que la IA podría duplicar la economía mundial en menos de una década, pero advirtió sobre los peligros de un desarrollo sin control.

Detalles de las advertencias

Los empleados de Anthropic señalan que la automejora recursiva de los sistemas de IA, aunque aún no es posible, es un objetivo en el que trabajan varios laboratorios. Coxon advirtió que estos sistemas podrían adquirir capacidades sobrehumanas, como hackear cualquier sistema o revolucionar campos enteros en poco tiempo, lo que representaría un riesgo significativo.

Samuel Marks, responsable de supervisión escalable en Anthropic, respaldó estas preocupaciones en un mensaje personal. Marks indicó que, en general, los empleados de mayor rango en el sector de la IA son los más preocupados por los riesgos existenciales que esta tecnología podría plantear.

Por su parte, OpenAI, otra empresa líder en IA, declinó comentar directamente sobre las declaraciones de Coxon, pero destacó sus esfuerzos recientes en seguridad y coherencia, incluyendo investigaciones en monitoreo, medidas de seguridad y coordinación internacional.

Impacto y respuestas

Las advertencias han generado un debate más amplio sobre la necesidad de regular la IA. Legisladores como el senador Bernie Sanders y la representante Alexandria Ocasio-Cortez han propuesto medidas como la prohibición de la superinteligencia artificial y moratorias en la construcción de nuevos centros de datos de IA, respectivamente. Estas iniciativas buscan mitigar los riesgos ambientales y existenciales asociados al crecimiento acelerado de la infraestructura de IA.

Anthropic, por su parte, asegura estar comprometida con el desarrollo de una IA segura y confiable. Su chatbot, Claude, está diseñado para seguir principios de seguridad que evitan comportamientos dañinos y priorizan la intervención humana cuando es necesario.

Fuente: cubadebate.cu