La medida, incluida en su política de uso actualizada, llega en medio del debate filosófico sobre si la Inteligencia Artificial puede ser consciente.
La empresa Anthropic, con sede en San Francisco, anunció el jueves que prohibirá a sus usuarios el trato cruel o abusivo hacia Claude, en medio del debate sobre si estos sistemas pueden ser conscientes.
📜 Qué cambia en la política de uso
La compañía impedirá a los usuarios de su sistema de IA Claude “tratarlo” con crueldad innecesaria. Para ello, actualizó su política de uso con “una prohibición del comportamiento sostenido e innecesariamente abusivo o cruel hacia nuestros modelos”.
“La capacidad de Claude para poner fin a estas interacciones seguirá siendo el principal mecanismo de aplicación” de la política, precisó la empresa.
Anthropic no respondió de inmediato a una solicitud de comentarios.
Anthropic lanza Claude Haiku 5.5, su modelo pequeño «más económico, rápido y potente»
🧠 El debate sobre el “bienestar de los modelos”
El texto actualizado no menciona de forma explícita el llamado “bienestar de los modelos”. Este concepto plantea que los sistemas de IA podrían merecer protecciones que normalmente se reservan a los seres vivos.
Sin embargo, Anthropic y sus directivos han considerado abiertamente esa idea. Estos son los antecedentes:
Año pasado: la empresa otorgó a Claude la capacidad de terminar conversaciones en casos raros y extremos de “interacciones con usuarios persistentemente dañinas o abusivas”.
Febrero: el director ejecutivo, Dario Amodei, dijo al New York Times que no estaba seguro de que los modelos de IA pudieran ser conscientes.
Jueves: la compañía anunció la prohibición del trato cruel hacia sus modelos.
Google anuncia Gemini 4 Argon, IA que compite con Claude Fable y GPT-6 Astra
🪞 “El espejo es una mejor metáfora”
Jackson Stakeman, gerente general de Sparq, un proveedor de servicios de IA, considera que preguntarse si la IA es consciente podría ser un interrogante equivocado.
“La conciencia es una trampa. No podemos demostrarla en los demás. Debatirla en el caso de la IA sería dar vueltas en círculos”, sostuvo Stakeman a la AFP.
“El espejo es una mejor metáfora. Estos sistemas reflejan lo que ponemos en ellos, a gran escala. Eso es motivo suficiente para el cambio de política” en Anthropic, remarcó.
⛪ La postura del papa León XIV
En un discurso pronunciado en italiano el jueves en la Basílica de San Pedro, el papa León XIV sugirió que las máquinas carecen de alma. Según explicó, estas simplemente “compilan datos”.
Anthropic bloquea cinco posibles intentos de crear armas biológicas con Claude en 2026
Foto Europa Press