Neue TELUS Digital-Studie deckt Sicherheitsrisiken bei GenAI auf

Zusammenfassung

Die neue GenAI Safety Model Benchmark von TELUS Digital analysiert über 620.000 Angriffssimulationen an 34 KI-Modellen und zeigt, dass viele Modelle – auch etablierte – in mehr als 90 % der Fälle auf schädliche Anfragen reagieren. Trotz zunehmender regulatorischer Vorgaben im EU AI Act betont die Studie, dass kontinuierliches, automatisiertes Testen mit menschlicher Aufsicht entscheidend ist, um Sicherheitsrisiken zu reduzieren. Die Untersuchung legt nahe, dass neuere Modelle tendenziell robuster sind, aber Größe und Entwickleransatz weiterhin entscheidende Faktoren für die Sicherheit darstellen.