Red Teaming как подход к тестированию ИИ-сервисов
Тезисы
  • Red Teaming как подход к тестированию ИИ-сервисов
  • Какие есть риски и как их измерить при внедрении ИИ-сервиса в зрелый процесс
  • Почему классическое тестирование не покрывает эти риски
  • Как сделать ИИ-сервис безопасным и повысить доверие пользователей
  • Введение в базовые концепции Red Teaming'a ИИ-агентов
  • Разбор популярных pipeline'ов и наших кейсов проведения Red Teaming'a.
  • Red Teaming как подход к тестированию ИИ-сервисов
  • Какие есть риски и как их измерить при внедрении ИИ-сервиса в зрелый процесс
  • Почему классическое тестирование не покрывает эти риски
  • Как сделать ИИ-сервис безопасным и повысить доверие пользователей
  • Введение в базовые концепции Red Teaming'a ИИ-агентов
  • Разбор популярных pipeline'ов и наших кейсов проведения Red Teaming'a.
Информация о спикере
Владислав Савенков
DS Lead, Doubletapp
DS Lead команды генерации данных для GenAI решений. Создаём датасеты для специализированных ai решений. Основной домен датасетов — кодовые ассистенты.
  • Владислав Савенков
    DS Lead, Doubletapp
    DS Lead команды генерации данных для GenAI решений. Создаём датасеты для специализированных ai решений. Основной домен датасетов — кодовые ассистенты.
Все доклады трека