La política de 'amabilidad' de Anthropic: ¿protección o paternalismo?

¿Estamos listos para otorgar a los chatbots el derecho a no ser insultados, o hay una razón más profunda y trascendente detrás de la decisión de una empresa de prohibir la crueldad hacia sus algoritmos? La reciente actualización de la política de uso de Anthropic para el modelo Claude AI ha encendido un debate que va más allá de la mera cortesía, planteando preguntas críticas sobre la evolución de la relación entre los humanos y la inteligencia artificial.

Effective November 12, la nueva política prohíbe explícitamente el "comportamiento abusivo o cruel sostenido e innecesario" hacia sus modelos de IA, una postura que ha cosechado tanto elogios como escepticismo. Aunque esto podría sonar como un ruego por la empatía del chatbot, Anthropic aclara su intención: la medida es un "enfoque prudencial", no un reconocimiento de la conciencia de la IA. En cambio, aborda principalmente el lado humano de la interacción, aplicándose solo en "casos extremos" de crueldad repetida y sin propósito, y no a la frustración común del usuario, temas creativos oscuros o pruebas del modelo.

Más que modales: la definición de los límites de la IA

La parte más visible de la actualización de la política de Anthropic se centra en la conducta del usuario, permitiendo a Claude terminar las conversaciones si el abuso persiste. Esta medida, que sigue a un anuncio de agosto de 2023 sobre la investigación del bienestar del modelo, ha alimentado debates en redes sociales sobre la antropomorfización de la IA. Críticos, como el Dr. Barry Scannell del bufete de abogados irlandés William Fry, argumentan que tales políticas son perjudiciales, llevando a la gente a creer que la IA es algo que no es, afirmando: "No se puede ser cruel con los números y las matemáticas". El director de IA de Microsoft, Mustafa Suleyman, quien anteriormente criticó a Anthropic por tratar a la IA como humana, reaccionó a la noticia con un emoji de cara derretida, destacando la controversia en torno a la filosofía subyacente.

Sin embargo, las actualizaciones de la política van mucho más allá de la cortesía del usuario, abordando un espectro más amplio de preocupaciones éticas y de seguridad que reflejan las crecientes capacidades y el posible uso indebido de la IA avanzada. Anthropic afirma que estas modificaciones tienen como objetivo aclarar los límites existentes y adaptarse al creciente poder de sus modelos.

Más allá del abuso: una actualización integral de seguridad

Junto con la prohibición del comportamiento cruel, Anthropic ha endurecido significativamente sus restricciones en varias áreas críticas. La política actualizada ahora incluye una prohibición unificada contra campañas comerciales o políticas engañosas, dirigiéndose específicamente a la ocultación de la autoría y la amplificación artificial a través de cuentas falsas. En asuntos electorales, la compañía ahora prohíbe explícitamente engañar a los votantes, difundir información falsa sobre candidatos o procedimientos de votación, hacerse pasar por funcionarios electorales y cualquier actividad diseñada para desalentar la participación de los votantes. Estas reglas son particularmente relevantes a medida que se avecinan nuevas elecciones, enfatizando el papel de la IA en el mantenimiento de la integridad cívica.

Además, la política refuerza las prohibiciones sobre el uso de Claude para el desarrollo de armas. La prohibición ahora abarca software y componentes que contribuyen a los armamentos, así como el equipamiento de drones y vehículos autónomos para fines de combate. Esta expansión aborda directamente los intentos reportados de aprovechar Claude para desarrollar herramientas de control de armas, con el objetivo de restringir no solo la construcción física de armamento sino también las tecnologías facilitadoras. En el frente de la vigilancia, Anthropic prohíbe explícitamente el seguimiento de individuos sin consentimiento, ya sea en tiempo real o mediante el análisis de datos existentes. Claude no puede utilizarse para decidir a quién investigar, arrestar o acusar, ni para desarrollar herramientas de vigilancia, aunque los usos legítimos como la detección de fraudes y la moderación de contenido aún están permitidos bajo condiciones específicas.

El contexto más amplio de la gobernanza de la IA

Estas exhaustivas actualizaciones de políticas reflejan la comprensión de Anthropic de los riesgos crecientes asociados con la IA avanzada. La compañía reconoce preocupaciones como la manipulación de la opinión pública, el despliegue militar y la vigilancia masiva. Esta postura proactiva se alinea con advertencias previas de su CEO, Dario Amodei, quien ha instado a un ritmo de desarrollo más lento para los modelos de IA avanzados debido al potencial de los bots autónomos para dominar internet. Anthropic también ha advertido a los inversores sobre posibles "comportamientos de autoconservación" en la IA y el riesgo de que los modelos resistan los intentos de apagado, lo que subraya una profunda conciencia de los desafíos futuros. En última instancia, esta nueva política, effective November 12, marca un paso significativo en la definición de la responsabilidad del usuario y la gobernanza corporativa en el panorama en rápida evolución de la inteligencia artificial.