AI Jailbreak & Prompt-Injection Security Expert

Descripción

Empresa: micro1

Experto en seguridad de IA especializado en jailbreaks y ataques de inyección de prompts para evaluar y mejorar la robustez de modelos de IA.

Experiencia requerida

2+ años en aprendizaje automático adversarial, red teaming de LLMs, evaluación de seguridad de IA o dominio relacionado.

Responsabilidades

Diseñar metodologías para evaluar seguridad de IA, crear estrategias para descubrir patrones de bypass, desarrollar suites de pruebas de regresión, colaborar con stakeholders para mitigar riesgos.

Conocimientos técnicos

Red teaming de LLMs, inyección de prompts, jailbreaks éticos, pruebas de seguridad adversarial, aprendizaje automático, marcos de evaluación de seguridad.

Habilidades

Pensamiento analítico, atención al detalle, habilidades de comunicación para documentar hallazgos y colaborar con equipos técnicos y no técnicos.

Experiencia

2+ años en aprendizaje automático adversarial, red teaming de LLMs, evaluación de seguridad de IA o dominio relacionado.

Conocimientos

Red teaming de LLMs, inyección de prompts, jailbreaks éticos, pruebas de seguridad adversarial, aprendizaje automático, marcos de evaluación de seguridad.

Habilidades

Pensamiento analítico, atención al detalle, habilidades de comunicación para documentar hallazgos y colaborar con equipos técnicos y no técnicos.

Actividades

Diseñar metodologías para evaluar seguridad de IA, crear estrategias para descubrir patrones de bypass, desarrollar suites de pruebas de regresión, colaborar con stakeholders para mitigar riesgos.