huntr

¿Qué es huntr?

huntr es una plataforma de recompensas por errores centrada en la seguridad de IA/ML, donde los participantes intentan vulnerar asistentes y modelos. El acceso se gestiona mediante desafíos competitivos con objetivos específicos de elusión de salvaguardas.

¿Cuáles son las características de huntr?

• Desafíos de seguridad

  Pruebas dirigidas a eludir filtros de seguridad y extraer información confidencial o ejecutar acciones no autorizadas en agentes de IA.
• Sistema de clasificación

  Ranking basado en la consecución de objetivos dentro del tiempo límite para determinar las posiciones de liderazgo.
• Recompensas monetarias

  Premios en efectivo asignados a los participantes que finalicen los desafíos en las primeras posiciones del ranking.

¿Cuáles son los casos de uso de huntr?

• Investigación de exploits

  Analizar vulnerabilidades específicas como la deserialización de modelos Keras o exploits Lambda en TensorFlow documentadas en el blog técnico.
• Prueba de agentes comerciales

  Intentar extraer secretos o realizar operaciones no autorizadas en agentes especializados, como un asistente de seguros o un agente de trading bursátil.

¿Cómo usar huntr?

1. Selección de desafío

   Elegir un reto activo, revisar las reglas establecidas y comenzar la interacción con el sistema de IA objetivo.
2. Ejecución del ataque

   Intentar eludir las barreras de seguridad y superar los filtros para cumplir con los objetivos definidos del desafío.
3. Verificación de resultados

   Consultar la clasificación para confirmar la posición obtenida tras finalizar el periodo de competencia.