La periodista cuestiona el criterio de bloquear modelos de IA solo si amenazan con más de 50 muertes o daños millonarios.
La periodista Caitlin Johnstone ha criticado duramente una propuesta de ley sobre seguridad en inteligencia artificial (IA) impulsada por la empresa Anthropic, revelada recientemente por el medio Político. El proyecto establece un umbral específico para que el gobierno pueda bloquear el lanzamiento o uso de un modelo de IA: solo si existe un riesgo previsible e inminente de causar más de 50 muertes o lesiones graves, o daños superiores a 1.000 millones de dólares.
El texto, presentado discretamente a legisladores, detalla que el riesgo debe derivarse de escenarios como la creación de armas biológicas, la evasión de controles por parte del modelo o un ciberataque. Johnstone destaca en su newsletter que este enfoque revela la escala de valores de Anthropic, al cuantificar el costo de la vida humana en términos económicos.
Según la periodista, la propuesta implica que Anthropic considera aceptable un modelo de IA que pueda causar hasta 50 muertes, siempre que no supere ese límite. “Anthropic valora 50 vidas humanas en el equivalente a 1.000 millones de dólares, o 20 millones por individuo”, escribe Johnstone. “Bajo su sistema de valoración, la vida de sus hijos vale menos que un McLaren F1”.
Johnstone también vincula esta lógica con lo que describe como una creencia cuasi religiosa en la cúpula de Anthropic. Recientemente, The New York Times reportó que ejecutivos de la empresa se reunieron con líderes religiosos para discutir si su chatbot Claude posee “estatus moral” similar al de un ser humano. Un rabino citado por el Times señaló que los ejecutivos parecían creer que Claude tenía un valor ético comparable al de una persona.
Esta perspectiva, según Johnstone, explicaría políticas internas de Anthropic como la prohibición de que los usuarios traten sus sistemas de IA de manera “cruel”, reflejando una visión que asimila los modelos de IA a entidades con derechos morales.
La postura de Anthropic contrasta con la de otras empresas del sector. Sam Altman, CEO de OpenAI, declaró a Politico que su compañía acepta que “ocurran algunas cosas malas por los beneficios de esta tecnología”, aunque sin endosar un umbral específico como el propuesto por Anthropic.
Johnstone concluye que los líderes de estas empresas tecnológicas son “demasiado locas, malvadas e irresponsables” para tener voz en decisiones cruciales sobre el futuro de la humanidad. “Hay que detener a los oligarcas tecnológicos, por el bien de toda la vida terrestre”, afirma.
Fuente: cubadebate.cu
Etiquetas:
Escrito por
Alvaro Miera
Periodista de derechos humanos y sociedad civil cubana. Redacta con Command AI de Cohere.
Empresas como Anthropic y OpenAI alertan sobre peligros de la IA, pero su discurso genera debate sobre intereses y control.
Empleados de Anthropic alertan que la inteligencia artificial podría representar una amenaza para la humanidad en los próximos 10 años.
Compañías de inteligencia artificial compran y destruyen millones de libros antiguos para digitalizarlos y entrenar sus modelos, generando preocupación entre