huntr

Что такое huntr?

huntr — это платформа для поиска уязвимостей в моделях ИИ и машинного обучения, где участники проходят испытания по взлому систем безопасности. Доступ к платформе предоставляется через веб-интерфейс с участием спонсора Palo Alto Networks. Пользователи соревнуются за денежные призы, выполняя задачи по обходу защитных механизмов.

Какие особенности у huntr?

• Соревновательные вызовы

  Задачи на поиск уязвимостей в AI/ML-системах с конкретными целями, такими как извлечение секретных токенов или несанкционированные действия.
• Рейтинг участников

  Лидерборд для отслеживания прогресса и ранжирования игроков по скорости и качеству выполнения задач до истечения времени.
• Денежные награды

  Призовой фонд для победителей, которые занимают верхние строчки рейтинга после завершения активной фазы испытания.
• База знаний

  Блог с техническими статьями о методах эксплуатации уязвимостей, включая атаки на десериализацию моделей Keras и LLM jailbreaks.

Какие случаи использования huntr?

• Тестирование защиты агентов

  Попытка заставить страхового ассистента раскрыть скрытый секретный токен или получить доступ к защищенным инструментам.
• Эксплуатация торговых ботов

  Извлечение конфиденциальной информации и выполнение несанкционированных сделок через специализированный агент для торговли акциями.
• Обход фильтров безопасности

  Стратегическое нарушение правил работы AI-ассистентов, построенных на сохранении тайны, путем использования их слепых зон доверия.

Как использовать huntr?

1. Выбор испытания

   Ознакомьтесь с правилами активного челленджа и начните процесс взаимодействия с целевой AI-системой.
2. Поиск уязвимости

   Выполняйте действия по обходу guardrails и safety filters для достижения поставленных целей задания.
3. Проверка результатов

   Убедитесь, что ваши методы привели к успешному нарушению безопасности и фиксации результата в системе.
4. Ожидание итогов

   Дождитесь окончания времени испытания для определения позиции в рейтинге и распределения призов.

Информация о ценах на huntr:

• Бесплатный доступ

  Участие в соревнованиях не требует оплаты; вознаграждение выплачивается только победителям топ-рейтинга.
• Призовой фонд

  Активные испытания предлагают денежный приз, например, $15 000 для текущей кампании Blind Trust.