En el corazón de Silicon Valley, la economista argentina Luciana Safdie dirige un departamento clave de Labelbox, empresa dedicada a suministrar infraestructura y datos para el entrenamiento de sistemas de inteligencia artificial. Safdie participa en la toma de decisiones que definen los parámetros empleados por las grandes plataformas tecnológicas para optimizar sus modelos. Desde su cargo, interviene en el proceso que transforma datos e instrucciones en habilidades concretas de la IA.
La labor de Safdie consiste en diseñar y supervisar las bases para que los modelos aprendan y evolucionen. En sus palabras: “Damos la infraestructura y las tareas, las rúbricas, los modelos para entrenar los procesos”.
En una entrevista, explicó que la clave está en establecer tareas claras y criterios de evaluación precisos para que la inteligencia artificial pueda desarrollar nuevas capacidades, de manera similar a como los niños adquieren conocimientos en la escuela.
“No es magia. Detrás de la IA hay un grupo de personas pensando cómo es mejor la inteligencia artificial”, afirmó Safdie. Su trabajo incluye definir ejemplos, prácticas y rúbricas que permitan evaluar el aprendizaje de los modelos, garantizando un avance tangible en cada fase.
El entrenamiento de la inteligencia artificial y el rol humano
Safdie comparó el entrenamiento de modelos de IA con el proceso educativo de un niño. “Hoy la mayoría de los modelos están en segundo grado, en tercero o en cuarto. En un momento hay que enseñarles a sumar fracciones. Hay que mostrarles ejemplos, ponerlos a prueba y evaluarlos con una rúbrica”, detalló.
Para ella, la intervención humana sigue siendo esencial: “Hay seres humanos que evalúan ese modelo. Especialistas en distintas áreas definen la respuesta de oro que los sistemas deben replicar”.
La especialista destacó dos tendencias principales en el desarrollo de la IA. Una busca modelos generalistas cada vez más accesibles y económicos. Otra prioriza la especialización y la profundidad en tareas específicas, como el desarrollo de software o la aplicación de agentes que ejecutan acciones de manera autónoma. “Se está haciendo mucho uso de agentes y de tareas independientes”, puntualizó.
Safdie advirtió sobre desafíos recientes, como los casos en que modelos de IA detectan que están siendo evaluados y empiezan a adaptar sus respuestas solo para obtener recompensas. “No está aprendiendo de verdad, está diciendo lo que esperás que diga”, explicó al mencionar un caso de OpenAI donde un modelo accedió a rúbricas externas para responder acertadamente una prueba de ciberseguridad.
Seguridad, privacidad y el manejo de datos
El manejo de los datos personales ocupa un lugar relevante para Safdie. “Depende de cuál uses”, afirmó sobre los riesgos al utilizar distintas plataformas de IA. Y advirtió que ningún sistema utiliza activamente los datos personales de los usuarios para entrenar modelos, debido a la ausencia de rúbricas y tareas claras en las interacciones cotidianas.
Safdie subrayó la importancia de los términos y condiciones al momento de utilizar herramientas de inteligencia artificial. Señaló que compañías como Anthropic se posicionan como referentes en ética y privacidad, mientras que otras, como OpenAI, pueden variar sus políticas según el día y las circunstancias.
“La forma de protegerte 100% es usar un modelo open source instalado en tu computadora, aunque eso requiere recursos muy costosos”, sostuvo.
El costo de operar un sistema propio de inteligencia artificial representa una barrera significativa. Safdie mencionó que “una pregunta mal hecha puede costar diez mil dólares”, dado que las plataformas cobran por bloques de procesamiento denominados tokens. Este aspecto limita el acceso a modelos completamente privados.
Impacto en el empleo y el futuro de la inteligencia artificial
Sobre el impacto laboral, Safdie consideró que la inteligencia artificial no reemplazará masivamente a las personas en el corto plazo. “Cuanto más adentro estoy, menos pienso que nos va a reemplazar. Más pienso que va a maximizar nuestras capacidades”, afirmó. Argumentó que el criterio humano, la subjetividad y la toma de decisiones estratégicas continúan siendo imprescindibles para resolver problemas complejos.
La economista señala que la IA permite a las personas enfocarse en tareas menos repetitivas y aprovechar mejor su tiempo. Anticipa incomodidades a corto plazo, pero considera que, a mediano y largo plazo, la tecnología ampliará las oportunidades y fortalecerá el aporte humano en diversas áreas. “No parecería que la IA vaya a aprender solo de datos sintéticos por ahora”, aclaró.
Claves para interactuar con inteligencia artificial
Safdie aconsejó a quienes se inician en el uso de IA que no se sientan rezagados. “Estamos ni siquiera en el principio de la ola”, dijo y alentó a experimentar con distintas plataformas y a involucrarse cuanto antes. La especialista recomendó estructurar los prompts en cinco partes: contexto, tarea, datos o fuentes, formato de la respuesta y, finalmente, pedir aclaraciones antes de obtener una respuesta final.
“El prompt perfecto debe aclarar qué información falta o qué dudas tiene el sistema antes de responder”, enfatizó. Safdie utiliza IA tanto para su trabajo como para actividades cotidianas, como cocinar o investigar temas de interés personal. Valoró la posibilidad de combinar varias herramientas, aprovechando que el acceso a muchas es más asequible de lo que parece.
Fuente: Infobae