KI-Sicherheitsbedrohungen: Data Poisoning, Evasion Attacks und Governance
Über den Vortrag
Der Vortrag „KI-Sicherheitsbedrohungen: Data Poisoning, Evasion Attacks und Governance“ von Lecturio GmbH ist Bestandteil des Kurses „KI-Manager: Modul 6 hidden BC“.
Quiz zum Vortrag
Was beschreibt Data Poisoning bei KI-Trainingsdaten?
- Gezielte Manipulation von Trainingsdaten
- Verschlüsselung aller Eingabedaten
- Kompression von großen Datensätzen
- Zufällige Löschung alter Daten
- Replikation von Trainingsdaten
Bei welcher Zugriffskonstellation wird eine Evasion Attack bei autonomen KI-Agenten besonders kritisch?
- Zugriff auf Daten, externe Inhalte und Internet
- Lokale Ausführung ohne Netzwerkzugang
- Nutzung ausschließlich öffentlicher Daten
- Fehlende Schnittstellen zu E-Mails
- Read-only Zugriff ohne Verarbeitung
Was ist ein wesentliches Merkmal von automatisiertem Red Teaming für KI-Systeme?
- Mehrstufige, automatisch bewertete Angriffe
- Einmalige manuelle Penetrationstests
- Reines Monitoring von Logdateien
- Backup-Erstellung der Trainingsdaten
- Verschlüsselung der Netzwerkverbindungen
Was verlangt der EU AI Act für KI-Modelle mit systemischem Risiko?
- Dokumentierte Sicherheitstests wie Red Teaming
- Verzicht auf Sicherheitsprotokolle
- Offene Veröffentlichung des Quellcodes
- Einsatz ausschließlich kleiner Modelle
- Ausschluss automatisierter Tests
Dozent des Vortrages KI-Sicherheitsbedrohungen: Data Poisoning, Evasion Attacks und Governance
Lecturio GmbH
Lecturio steht für nachhaltige, einfache und kosteneffiziente Aus- und Weiterbildung in Unternehmen und für Privatpersonen. Das Lernangebot umfasst mehr als 7000 videobasierte E-Learning-Kurse in mehr als 80 Themengebieten. Der Fokus für Unternehmen liegt in den Bereichen Compliance, Leadership, Projektmanagement, Softskills, Vertrieb und Medizin. Privatkunden nutzen Lecturio mehrheitlich als Begleiter während ihres Studiums sowie zur Examensvorbereitung in Medizin und Jura. Bei Lecturio lernt man mit praxisnahen videobasierten Online-Trainings – in deutscher und in englischer Sprache. Tausende von Quizfragen machen den Lernerfolg messbar. Lecturio-Kurse sind auf allen Endgeräten abrufbar – mit der iOS- und Android App auch offline. Lecturio hat es sich zur Mission gemacht, Unternehmen und Privatpersonen dabei zu helfen, ihr volles Potential zu entfalten.Kundenrezensionen
5,0 von 5 Sternen
| 5 Sterne |
|
5 |
| 4 Sterne |
|
0 |
| 3 Sterne |
|
0 |
| 2 Sterne |
|
0 |
| 1 Stern |
|
0 |
