Banner Viadrina

Abteilung für Presse- und Öffentlichkeitsarbeit

Verantwortungsvolle Entwicklung von künstlicher Intelligenz – ENS-Professor Jan-Hendrik Passoth veröffentlicht Papier im Rahmen des EU-Projektes ASSISTANT

IMG_3792_C Sebastian Pape_hoch_190 ©Sebastian Pape
cropped-logo-ASSISTANT-6_190 ©Assistant

Prof. Dr. Jan-Hendrik Passoth, Professor für Techniksoziologie an der European New School (ENS) der Viadrina, hat mit seinem Team ein Papier zur verantwortungsvollen Entwicklung künstlicher Intelligenz vorgelegt. Das Dokument ist ein entscheidendes Zwischenergebnis im Rahmen des EU-Forschungsprojektes ASSISTANT.

Im Rahmen des Forschungsprojektes werden sogenannte digitale Zwillinge für die Optimierung von Produktionsprozessen entwickelt, deren Komponenten künstliche Intelligenz verwenden. Das Team von Jan-Hendrik Passoth ist in das Projekt involviert, um sicherzustellen, dass beim Entwicklungsprozess soziale, politische und ethische Anforderungen berücksichtigt werden.

„Basierend auf technischen Architekturdokumenten haben wir nun erstmalig einen Plan vorgelegt, worauf bei der weiteren Entwicklung zu achten ist. In unterschiedlichen Workshops mit Projektpartnern aus den Ingenieurs- und Technikwissenschaften haben wir diskutiert, was Verantwortung in der Produktion genau bedeuten kann und dann abstrakte Frameworks aus dem akademischen Feld konkret auf das Projekt angepasst“, so Passoth.

Insbesondere die Übersetzung von abstrakten Richtlinien und Werten in konkrete Fragestellungen ist der besondere Beitrag des Projektes: „Es mangelt heute weniger an Wertedefinitionen oder der Festlegung von Zielen für künstliche Intelligenz. Die große Herausforderung ist die Konkretisierung, also die Frage, was das für den einzelnen Entwickler oder die einzelne Entwicklerin heißt“, erklärt Passoth weiter.

Eine konkrete Erkenntnis des Papieres ist: Insbesondere bei einer auf verschiedene Teams verteilten Entwicklung ist die Verortung von spezifischer Verantwortung oft schwierig. Wenn unterschiedliche Komponenten von unterschiedlichen Personen entwickelt werden, ist es notwendig, ganz explizit Verantwortungen in Bezug auf z. B. Transparenz oder Haftbarkeit festzulegen. Darüber hinaus liegt ein besonderer Fokus auf der Erklärbarkeit von Entscheidungen der künstlichen Intelligenz gegenüber Anwenderinnen und Anwendern, Projektverantwortlichen und gesellschaftlichen Akteurinnen und Akteuren, um den Umgang mit vorgeschlagenen Optimierungen zu verbessern.

Die entwickelte „Human-Centric Architecture“ ist dabei nur der erste Schritt. Im weiteren Projektverlauf wird das Dokument weiterentwickelt, um Konkretisierungen im Projekt aufzugreifen und zu berücksichtigen. Auch die Methodik soll Schritt für Schritt erweitert und an die Entwicklungsprozesse angepasst werden.

Neben der Europa-Universität Viadrina sind an dem ASSISTANT-Konsortium folgende Universitäten und Partner beteiligt:
University College Cork (Irland), University of Patras – Laboratory for Manufacturing Systems and Automation (Griechenland), Flanders Make (Belgien), Technische Universität München (Deutschland), Biti Innovations AB (Schweden), SIEMENS AG (Deutschland), INTRASOFT International (Luxemburg), Atlas Copco (Belgien), SIEMENS Energy (Deutschland), Groupe PSA (Frankreich).

Weitere Informationen zum Projekt