Классификация BaFin систем высокого риска в контексте ИИ

[suchona.kan.i.z]

«Высокий риск»: эти системы искусственного интеллекта разрешены, но к ним предъявляются строгие требования. Компании должны пройти оценку соответствия, проводимую независимым органом, чтобы гарантировать, что эти системы соответствуют требованиям законодательства с точки зрения прозрачности, справедливости и безопасности. Системы искусственного интеллекта одобрены, если они соответствуют установленным требованиям.
«Ограниченный риск»: с помощью этих систем искусственного интеллекта существует обязательство предоставлять информацию потребителям (конечным пользователям). Примеры таких приложений включают чат-боты с искусственным интеллектом для поддержки клиентов.
«Минимальный риск»: к системам ИИ этой категории предъявляются Список телефонных номеров whatsapp в Беларуси самые низкие требования. Примеры таких вариантов использования ИИ включают видеоигры или спам-фильтры.

источник: Презентация на конференции KI Handelsblatt «ИИ и надзор – в области напряжения между регулированием и инновациями», Ян Кифер/BaFin, сентябрь 2024 г.

Финансовые учреждения, интегрирующие приложения и модели на основе искусственного интеллекта в свои услуги, обязаны проводить детальную оценку рисков этих моделей. Они должны гарантировать, что их системы искусственного интеллекта соответствуют законодательным требованиям прозрачности, справедливости и безопасности. В то же время правовая база должна поддерживать появление и продвижение инноваций.