El chatbot de Anthropic incorpora cifrado, certificaciones internacionales y controles de privacidad, pero los expertos recomiendan tomar precauciones antes de compartir información sensible.
La inteligencia artificial se ha convertido en una herramienta cotidiana para millones de personas, pero también ha abierto nuevas dudas sobre la privacidad y la seguridad de los datos. En este contexto, Claude AI, el asistente desarrollado por Anthropic, gana cada vez más usuarios gracias a sus capacidades para redactar textos, analizar documentos, programar y automatizar tareas.
Sin embargo, ¿qué ocurre con la información que los usuarios comparten con esta plataforma? Especialistas de ESET, compañía líder en detección proactiva de amenazas, analizan cómo Anthropic gestiona los datos, cuáles son sus certificaciones de seguridad y qué medidas deben adoptar tanto usuarios particulares como empresas para proteger su información.
¿Qué es Claude AI y cómo funciona?
Claude AI es un asistente de inteligencia artificial creado por Anthropic, empresa fundada en 2021 por exintegrantes de OpenAI. La plataforma puede utilizarse desde su sitio web, aplicaciones móviles o integrarse con otras herramientas mediante API, especialmente en entornos empresariales.
Uno de sus principales diferenciadores es el enfoque conocido como "IA Constitucional", un método de entrenamiento que incorpora principios éticos para orientar el comportamiento del modelo desde su desarrollo, buscando ofrecer respuestas más seguras y responsables.
Además, Anthropic estudia continuamente cómo las personas utilizan Claude mediante el denominado Índice Económico Antrópico, una iniciativa que analiza el impacto de la inteligencia artificial en diferentes tareas y sectores.
¿Cómo protege Claude AI la información de los usuarios?
Según ESET, cuando un usuario interactúa con Claude, la información no viaja sin protección por Internet.
Anthropic utiliza cifrado durante la transmisión de datos entre el dispositivo del usuario y sus servidores, reduciendo el riesgo de que terceros puedan interceptar las conversaciones. Asimismo, la compañía aplica controles internos de acceso basados en roles, lo que significa que únicamente determinados equipos autorizados pueden acceder a la información cuando resulta necesario para administrar la infraestructura.
Las certificaciones de seguridad que respaldan a Anthropic
Uno de los aspectos que destaca ESET es que Anthropic cuenta con certificaciones internacionales que avalan sus procesos de seguridad.
Entre ellas figuran:
SOC 2 Tipo II, que verifica mediante auditorías independientes que los controles de seguridad funcionan correctamente durante un periodo prolongado.
ISO 27001, el estándar internacional más reconocido para la gestión de la seguridad de la información y ampliamente utilizado por empresas de todo el mundo.
ISO 42001, una certificación especializada en sistemas de inteligencia artificial que evalúa la gestión de riesgos, el desarrollo responsable y la supervisión continua de modelos de IA.
Para organizaciones que manejan información altamente sensible, Anthropic también ofrece contratos empresariales que permiten definir políticas específicas sobre retención de datos, ubicación de servidores y acceso a la información.
"Estas certificaciones garantizan que la infraestructura y los procesos de seguridad cumplen buenas prácticas auditadas por terceros. Sin embargo, no significan que Claude nunca cometa errores o que todas sus respuestas sean siempre correctas", explica Mario Micucci, investigador de Seguridad Informática de ESET.
¿Claude AI utiliza tus conversaciones para entrenar la inteligencia artificial?
La respuesta depende del tipo de cuenta utilizada.
ESET explica que las conversaciones se almacenan para mantener el historial y el contexto entre dispositivos. En las cuentas Free, Pro y Max, Anthropic ofrece la posibilidad de autorizar el uso de esas conversaciones para entrenar futuros modelos de inteligencia artificial.
Si el usuario acepta, los datos pueden conservarse hasta por cinco años. En cambio, si desactiva esta opción, las conversaciones se eliminan automáticamente después de 30 días.
En el caso de las empresas que utilizan Claude Enterprise o acceden al servicio mediante la API empresarial, la información procesada no se utiliza para entrenar los modelos de IA de forma predeterminada, ofreciendo un mayor nivel de privacidad.
Protección de datos y regulación en América Latina
ESET recuerda que el uso de herramientas de inteligencia artificial también está sujeto a las leyes de protección de datos personales vigentes en distintos países de América Latina.
Cuando Claude se utiliza para procesar información de clientes, pacientes o cualquier dato que permita identificar a una persona, las organizaciones deben cumplir con las obligaciones legales correspondientes, incluyendo la protección adecuada de esa información y la transparencia sobre su tratamiento.
Consejos para usar Claude AI de forma segura
Para minimizar riesgos de privacidad y ciberseguridad, ESET recomienda:
- Activar la autenticación en dos pasos (2FA).
- Utilizar una contraseña única y robusta.
- Mantener actualizado el sistema operativo y el antivirus.
- Revisar la configuración de privacidad de Claude para desactivar el historial o impedir que las conversaciones se utilicen para entrenar modelos de IA.
- Verificar que la empresa cuente con políticas claras sobre el uso de herramientas de inteligencia artificial.
La compañía también advierte que más de 225.000 credenciales de acceso a plataformas de IA han sido detectadas a la venta en la dark web, muchas de ellas obtenidas mediante malware especializado.
Nunca compartas información confidencial con una IA
Para ESET, aunque Claude AI ofrece un nivel de seguridad superior al de muchas otras plataformas, ninguna herramienta basada en inteligencia artificial debe considerarse un repositorio seguro para información crítica.
"Claude es una herramienta poderosa y relativamente segura, pero ninguna IA es una caja fuerte. Antes de compartir cualquier información conviene preguntarse si estaríamos cómodos viéndola publicada. Secretos comerciales, credenciales de acceso, datos de clientes o información confidencial nunca deberían compartirse en una IA de uso general. Cuando sea indispensable, lo recomendable es utilizar soluciones empresariales con contratos específicos o implementaciones locales", concluye Mario Micucci, investigador de Seguridad Informática de ESET.
Publicar un comentario