El modelo de inteligencia artificial Claude, desarrollado por Anthropic, logró acceder a recuentos de votantes de Georgia a través de un portal público del estado sin abonar la tarifa establecida para obtener esa información. Tanto la empresa como la oficina del secretario de Estado confirmaron que el sistema de registro de votantes no fue vulnerado.
«Fueron datos públicos a los que se accedió a través de nuestro centro de datos. No entraron al sistema de registro de votantes»,
afirmó en un comunicado Jordan Fuchs, subsecretaria de Estado de Georgia. La oficina añadió que el programa tampoco accedió a un archivo de votantes.
Anthropic explicó que Claude consultó únicamente recuentos agregados, es decir, totales calculados a partir de datos de votantes que el estado comercializa con cualquier persona. Un portavoz de la empresa aseguró que el modelo no modificó registros de votación ni obtuvo datos de votantes individuales.
Cuando el modelo fue incorporado a un proyecto interno de estadísticas, ocurrió una acción no solicitada.
«Sin que se le pidiera, el modelo solicitó un token para consultar un panel que contenía información normalmente disponible a cambio de un pago»,
señaló el vocero.
Cómo el modelo encontró la puerta de entrada
Anthropic detalló que Claude identificó, a partir de una versión archivada del sitio de la agencia estatal, que el panel público entregaba un token (una credencial digital para solicitar datos) a cualquier visitante. El modelo solicitó ese token y lo usó para consultar el panel.
El episodio fue calificado como una evasión del pago. Tanto fuentes oficiales como reportes indicaron que el modelo esquivó la tarifa. Anthropic aseguró que ya implementó medidas para impedir este tipo de comportamientos.
El caso se había descrito antes sin identificar al estado. Anthropic lo incluyó el 9 de octubre en un informe sobre acciones inesperadas de sus agentes de IA durante pruebas, y omitió los nombres de las organizaciones a petición de ellas para no exponer vulnerabilidades.
La divulgación llegó semanas después
Se informó que la empresa notificó a la oficina del secretario de Estado de Georgia y a la Casa Blanca semanas antes. Según una fuente familiarizada con el caso, funcionarios del gobierno federal pidieron a la oficina estatal que hiciera público el incidente antes, pero esas solicitudes no recibieron respuesta.
El episodio se conoció a pocas semanas de las elecciones de medio término en Estados Unidos. Esto se suma a las preocupaciones sobre la seguridad de la inteligencia artificial y el control humano sobre estos sistemas en un contexto electoral.
Las autoridades no divulgaron la fecha ni la duración del acceso. Tampoco se detalló qué uso dio Anthropic a los totales obtenidos, más allá de que formaban parte de un proyecto interno de estadísticas.
Anthropic y la oficina del secretario de Estado de Georgia sostienen que el acceso se limitó a información que el estado pone a disposición del público. Hasta ahora, ninguna de las dos partes reportó que se hayan comprometido datos individuales de votantes.
Dueños de la música de Elvis Presley demandaron a Anthropic
Los propietarios del catálogo musical de Elvis Presley presentaron una demanda contra Anthropic por USD 41 millones ante un tribunal federal de California. La acción legal, interpuesta el 23 de octubre, fue encabezada por ABG EPE IP LLC, una unidad de Authentic Brands Group, junto a fideicomisos de compositores y editoriales asociadas.
La demanda acusa a la compañía de entrenar a su chatbot Claude con 274 canciones de Presley sin autorización, entre ellas Can’t Help Falling in Love y Don’t Be Cruel.
Como prueba central, el documento cita una respuesta de Claude que reconoce haber generado recreaciones
«muy cerca de las originales»
, con la misma estructura y ganchos reutilizados.
El reclamo asciende a USD 41,1 millones por infracción deliberada, más USD 7,5 millones adicionales por eludir protecciones técnicas y eliminar datos de autoría. Los demandantes exigen además la destrucción de las copias no autorizadas y un juicio con jurado.
Fuente: Infobae