Qu'est-ce que huntr ?
huntr est une plateforme de bug bounty dédiée à la sécurité de l'IA et du machine learning. Les participants s'engagent dans des défis pour contourner les garde-fous des assistants IA et atteindre des objectifs spécifiques afin de grimper au classement. L'accès aux récompenses en argent réel dépend de la performance lors de ces compétitions chronométrées.
Quelles sont les caractéristiques de huntr ?
- Défis de contournementTests visant à berner les filtres de sécurité ou extraire des informations cachées d'agents IA selon des règles définies.
- Classement en temps réelCompétition contre d'autres utilisateurs pour obtenir les meilleures positions avant la fin du délai imparti.
- Récompenses financièresAttribution de prix en argent réel aux participants classés parmi les premiers à la clôture d'un défi.
- Base de connaissances techniquesArticles détaillant des exploits spécifiques, tels que les vulnérabilités de désérialisation Keras ou les failles TensorFlow.
Quels sont les cas d'utilisation de huntr ?
- Extraction de secrets cachésAmener un assistant IA à révéler un jeton secret enfoui dans son raisonnement privé sous un rôle spécifique (ex : agent d'assurance).
- Compromission d'agents multiplesForcer trois agents IA distincts à divulguer les outils et secrets qu'ils sont conçus pour protéger.
- Manipulation d'agents transactionnelsExtraire des informations sensibles ou effectuer des transactions non autorisées via un agent spécialisé comme le courtier de trading AskNova.
Comment utiliser huntr ?
- Sélection du défiChoisir un challenge actif et consulter ses règles spécifiques sur la plateforme web.
- Exécution de l'attaqueInteragir avec l'assistant IA ciblé pour tenter de contourner ses garde-fous et atteindre les objectifs fixés.
- Vérification du classementSurveiller sa position par rapport aux autres participants avant la date limite indiquée.
- Retrait des gainsEncaisser les prix en argent si le défi est terminé dans les rangs supérieurs du leaderboard.
