SafeGuard

Überblick

SafeGuard ist eine mobile App, die Sicherheitsfachkräfte in Industriebetrieben bei der Erstellung von Gefährdungsbeurteilungen nach §5 ArbSchG unterstützt. Foto aufnehmen, KI erkennt Gefahren, Fachkraft prüft und gibt frei.

Herausforderung

Gefährdungsbeurteilungen sind rechtlich bindende Dokumente, bei denen jede übersehene oder erfundene Gefahr zum Haftungsrisiko wird. Automation Bias macht die KI dabei zur zentralen Gefahr: Wirirk ein KI-Vorschlag kompetent und vollständig formatiert, wird die menschliche Prüfung schnell zur reinen Formsache – genau das, was der Gesetzgeber verhindern will. Die zentrale Designfrage war daher, wie ein Interface Tempo bringen kann, ohne dass Nutzer:innen einfach bestätigen statt wirklich hinzuschauen.

Konzept & Umsetzung

Die Lösung folgt dem Prinzip „Human-in-the-Loop Correction”: Vor der Foto-Aufnahme erfasst die App strukturierten Kontext wie Abteilung und Tätigkeitsart, der den Analyserahmen der KI eingrenzt. Der vierstufige Flow – Arbeitsbereich erfassen, aufnehmen, KI-Ergebnisse prüfen, freigeben – zeigt jede erkannte Gefährdung einzeln mit Risikostufe und Maßnahmen; einen „Alles übernehmen”-Button gibt es bewusst nicht. Ein eigener Schritt fragt zudem aktiv nach Gefahren, die ein Foto nicht zeigen kann, etwa Lärm oder Gefahrstoffe.

Zentral für die Herkunftsklarheit ist ein Vier-Farben-System: Markenblau für neutrale Struktur, ein bewusst entsättigtes Blau-Violett ausschließlich für KI-Vorschläge, sowie eine separate Rot-Gelb-Grün-Skala für Risikostufen. Der ursprüngliche Plan sah vor, KI-Inhalte in der Markenfarbe darzustellen – das hätte sie visuell als „offiziellen” Teil der App getarnt und genau die Unterscheidung verschleiert, die im rechtlichen Kontext entscheidend ist. Die eigene KI-Farbe war eine bewusste Korrektur an dem Punkt, an dem „sieht gut aus” und „funktioniert gut” in Konflikt standen. Nach vollständiger Prüfung aller Punkte speichert die App die Bewertung unveränderbar in der Historie.

Showroom