Ein KI-Cockpit für Beschäftigte. Künstliche Intelligenz am Arbeitsplatz verstehen, souverän einsetzen und kontrollieren.

Dieses Whitepaper präsentiert zentrale Erkenntnisse aus dem Projekt „KI-Cockpit“, das die exemplarische Umsetzung der europäischen KI-Verordnung in der betrieblichen Praxis untersucht. Das Projekt demonstriert, wie KI-Systeme so gestaltet werden können, dass menschliche Transparenz, Kontrolle und Steuerung gewährleistet sind. Der „Human in Command“-Ansatz, der im Mittelpunkt des Projekts steht, integriert den Menschen aktiv in die Überwachung und Gestaltung von KI-Systemen, wodurch Risiken minimiert und die Akzeptanz von KI gestärkt werden. Mit dem KI-Cockpit wird eine technische Lösung entwickelt, die Transparenz, Fairness und Kontrollmöglichkeiten durch Performance-Monitoring, Testfälle und kontextspezifische Autonomiestufen bietet. Das Paper ist im Projekt "KI-Cockpit", gefördert vom Bundesministerium für Arbeit und Soziales (BMAS) entstanden, das gemeinsam mit den Partnern nexus - Institut für Kooperationsmanagement und interdisziplinäre Forschung, der Hochschule Aalen, dem Institut für Arbeitswissenschaft und Technologiemanagement (IAT) der Universität Stuttgart, Chemistree GmbH, Starwit Technologies GmbH sowie der Caritas Dortmund durchgeführt wurde.