В открытом подкасте AI Security Lab исследователи безопасности генеративного ИИ обсудят риски использования LLM, методы проверки приложений промпт-инъекциями, которые могут привести к генерации токсичного контента, утечке системных инструкций, введению в заблуждение и отказу в обслуживании. Приходите, чтобы узнать, как протестировать разными методами приложения с LLM и VLM
Впереди нас ждут насыщенные выходные, приглашаем на новый выпуск открытого подкаста AI Security Lab Университета ИТМО и Raft, в котором разработчики инструмента LLAMATOR и выпускники курса лаборатории расскажут о методах тестирования безопасности ИИ-приложений
Как протестировать безопасность AI-приложений?
Ответят 15 июня 15:00 – 16:00 МСК (онлайн) магистранты AI Talent Hub:
Никита Иванов и Роман Неронов – разработчики LLAMATOR
Эдуард Поляков и Владислав Славкин – исследователи промпт-атак LLM на генерацию токсичного контента и DoS
Илья Тамбовцев и Святослав Иванов – разработчики тестов VLM на галлюцинации и состязательные атаки
Обсудим методы проверки приложений промпт-инъекциями, которые могут привести к генерации токсичного контента, утечке системных инструкций, введению в заблуждение и отказу в обслуживании
Подписывайтесь на канал AI Security Lab, чтобы оставаться в курсе мероприятий и новостей безопасности ИИ: https://t.me/aisecuritylab