Das interdisziplinäre Verbundprojekt SAIL (SustAInable Life-cycle of Intelligent Socio-Technical Systems) adressiert drei Hauptbereiche: Grundlagenforschung in KI, ihre gesellschaftlichen Auswirkungen und konkrete Anwendungen in Industrie und Gesundheitsversorgung. Die weitverbreitete Präsenz von KI in der Gesellschaft birgt Herausforderungen, denen das Forschungsnetzwerk SAIL durch eine neue Generation von KI-Technologie begegnen will.

Intelligente soziotechnische Systeme sind über ihren Lebenszyklus unterschiedlichsten Umgebungen und Bedingungen ausgesetzt. Durch die Integration von maschinellen Lernverfahren oder allgemein Künstlicher Intelligenz (KI) als Kern sind diese Systeme außerordentlich leistungsfähig. Ein langfristiger störungsfreier Betrieb kann aber nicht immer sichergestellt werden. Daher resultieren für solche KI-basierten Systeme hohe Anforderungen in Hinblick auf die Sicherheit, Robustheit und Lernfähigkeit im jeweiligen Anwendungskontext. Das SAIL-Projekt zielt daher auf die nächste Stufe der KI-Entwicklung ab, indem es den bisherigen Fokus der rein technischen Anforderungen der Einführungsphase auf den gesamten Lebenszyklus von KI-Systemen erweitert. Insbesondere werden dabei die technologischen und gesellschaftlichen Auswirkungen berücksichtigt. Das Forschungsprogramm umfasst grundlegende Forschung im Kernbereich der KI sowie die zwei Anwendungsgebiete „Industrielle Arbeitsplätze“ und „Adaptive Assistenzsysteme im Gesundheitswesen“. Rund 90 Wissenschaftler*innen aus vier Forschungseinrichtungen untersuchen seit 2022 verschiedene Aspekte, wie die menschliche Verantwortung bei der Entwicklung und Anwendung von KI-Systemen, die Widerstandsfähigkeit und Robustheit solcher Systeme sowie die nachhaltige und effiziente Gestaltung von KI-Technologie. Hierbei kooperieren die Universität Bielefeld, die Universität Paderborn, die Hochschule Bielefeld und die Technische Hochschule Ostwestfalen-Lippe mit dem langfristigen Ziel, das SAIL-Netzwerk zu einer internationalen, einzigartigen Plattform für intelligente soziotechnische Systeme in NRW zu machen. Das Heinz Nixdorf Institut ist mit den zwei Fachgruppen „Regelungstechnik und Mechatronik“ sowie „Secure Software Engineering“ beteiligt und bringt seine Expertise zu menschzentrierten intelligenten technischen Systemen ein. In der Fachgruppe „Regelungstechnik und Mechatronik“ werden lernende Verfahren in einer Human and Hardware in the Loop (HHiL)-Simulation untersucht, um durch adaptives Verhalten eine bestmögliche Immersion des Menschen in ein interaktives Assistenzsystem zu erreichen. Die Wissenschaftler*innen der Fachgruppe „Secure Software Engineering“ erforschen, wie sich zukünftige KI-Systeme so entwerfen lassen, dass Angriffe auf die KI möglichst bereits durch entsprechend sichere Architekturen abgewehrt, oder anderenfalls zumindest effektiv erkannt werden können.

Webseite zum Forschungsnetzwerk SAIL