Zum Inhalt springenZur Suche springen

Forschungsprojekte

Aktuelle Projekte

Manchot-Forschungsgruppe II „Entscheidungsfindung mit Hilfe von Methoden der Künstlichen Intelligenz“ – Use Case Wirtschaft „Social Governance and Compliance“

In der zweiten Förderperiode der Manchot-Forschungsgruppe II „Entscheidungsfindung mit Hilfe von Methoden der Künstlichen Intelligenz“ sollen die in der ersten Förderperiode gewonnenen Erkenntnisse zu Beschäftigtenreaktionen auf den Einsatz von KI im Bereich Human Resources erweitert werden.

Mittels verschiedener qualitativer und quantitativer Studien soll ein Leitfaden und Maßnahmenplan für Unternehmen entstehen.

Wenn Sie als Unternehmen Interesse an diesem Forschungsprojekt haben und uns mit Ihrer Erfahrung unterstützen möchten, melden Sie sich gerne bei uns. 

Weitere Informationen zur Manchot-Forschungsgruppe II finden Sie hier.

Ansprechpartner an der HHU Düsseldorf: Jun.-Prof. Dr. Marius Wehner

Projektmitarbeiterinnen an der HHU Düsseldorf: 
Lynn Schmodde
Larissa Pomrehn

Projektlaufzeit: 01.01.2022 - 31.12.2024

Verbundvorhaben zwischen der HTW Berlin und der Heinrich-Heine-Universität Düsseldorf

Das Projekt "Fair Enough" soll sich damit beschäftigen, wie die Fairness von Learning Analytics Systemen überprüft und auditiert werden kann.

Die gesellschaftlichen Folgen von algorithmischen Entscheidungsprozessen werden durch die Kombination der implementierten algorithmischen Verfahren mit den verwendeten Daten und dem Nutzer_innenverhalten determiniert. Während die Fairness algorithmischer Verfahren in der Informatik vorrangig nach quantitativen, formal-analytischen Maßstäben beurteilt wird, die nicht alle zur gleichen Zeit erfüllt sein können, beurteilen Nutzer_innen die Fairness algorithmischer Verfahren eher auf ihrer subjektiven, individuellen Wahrnehmung und den gesellschaftlichen Normen. Deshalb wird das Thema im Projekt von zwei komplementären Seiten untersucht:

1. Entwicklung von praxistauglichen Methoden zur Beurteilung von Learning Analytics Systemen und Daten auf Ihre Fairness (HTW Berlin),

2. Untersuchung der Anforderungen und Erwartungen von Nutzer_innen an die Fairness von Learning Analytics Systemen (HHU Düsseldorf).

Im Ergebnis des Projektes soll ein Werkzeug in Form eines 6-stufigen Leitfadens zur Überprüfung von Learning Analytics Systemen hinsichtlich ihrer Fairness entstehen, welcher sowohl die Fairness des Systems aus Daten und Algorithmen als auch den Verwendungsprozess der durch das System getroffenen Aussagen berücksichtigt.

Im Rahmen des Projekts führen wir unter anderem Experimente mit Lernenden und Lehrenden durch - wenn Sie Interesse an unserem Forschungsvorhaben haben, melden Sie sich gerne bei uns.

Ansprechpartner an der HHU Düsseldorf: Jun.-Prof. Dr. Marius Wehner 

Projektlaufzeit: 01.03.2021-29.02.2024

Projektleitung: Prof. Dr. Katharina Simbeck

Jun.-Prof. Dr. Marius Wehner 

Projektmitarbeiterin an der HHU Düsseldorf: Lynn Schmodde

Projektmitarbeiterin an der HTW Berlin: Linda Fernsel

Mittelgeber: Bundesministerium für Bildung und Forschung

Das „Cranfield Network on International Strategic Human Resource Management“ (CRANET) erhebt seit nunmehr 30 Jahren international Daten mit dem Ziel Trends im Personalmanagement zu identifizieren.

Unter dem Motto „Hallo Zukunft. Hallo HR“ kooperieren weltweit 47 Universitäten, um eine valide Datengrundlage zur Erforschung relevanter Praktiken und Tendenzen im Personalmanagement zu schaffen.

Der aktuelle Fokus der CRANET-Studie 2021 liegt dabei auf der Erforschung von Themen wie:

  • HR Praktiken im nationalen und komparativen, internationalen Vergleich
  • Auswirkungen der COVID19-Pandemie auf das HRM und HR Praktiken
  • Analyse der Veränderungen von „gelebten“ HR Praktiken über die Zeit

Die Daten werden bis Ende September 2021 in Form von standardisierten Fragebögen erhoben, welche von den jeweiligen Netzwerkpartnern an nationale Organisationen versendet werden. Das besondere an den Erhebungen ist, dass die Fragebögen —mit Ausnahme von Sprache und falls nötig länderspezifischen Abänderungen— identisch sind. Sie bieten somit für Wissenschaft und Praxis eine einmalige und vergleichbare Datenbasis, die als Grundlage für einschlägige Forschung genutzt wird. 

Wir bedanken uns sehr herzlich bei HRpepper Management Consultants für die freundliche Unterstützung der deutschen Cranet-Erhebung im Jahr 2021.

Die Studien von 2015/16 liefert beispielweise interessante erste Ergebnisse über:

  • Die Zunehmende Bedeutung der Digitalisierung im Recruiting, Talentmanagement und Learning
  • Den Einsatz von flexiblen und agilen Arbeitsformen, wie interaktive Lernräume, flexible Organisationsstrukturen und Arbeitsmodelle etc.
  • Die Unsicherheit der HR-Abteilungen mit diesen Themen umzugehen und gewappnet zu sein für eine digitale Umstrukturierung

Ansprechpartner an der HHU: 

Jun.-Prof. Dr. Marius Wehner

Universitätsstr. 1
Gebäude: 24.31
Etage/Raum: 02.01
40225 Düsseldorf
Tel.: +49 211 81-10248

Mail: Marius.wehner@hhu.de


Abgeschlossene Projekte

Verbundvorhaben zwischen der HTW Berlin und der Heinrich-Heine-Universität Düsseldorf

Beschreibung des Verbundvorhabens:
Das Projekt "LADi - Learning Analytics und Diskriminierung" hat sich damit beschäftigt, ob und inwieweit implizite Diskriminierung nach Geschlecht, Alter, Herkunft oder Lerntyp durch den Einsatz von algorithmischen Auswertungen in digitalen Lernsystemen und -prozessen begünstigt oder verhindert werden kann. 

Bei der Verwendung digitaler Lernplattformen entstehen Daten über Lernende, ihr Nutzungsverhalten und ihre Lernprozesse (z.B. demographische Daten, abgelegte Tests, Aktivitätsdaten). Diese Daten können mittels Learning Analytics ausgewertet und für die Messung und Vorhersage des Lernerfolgs oder für eine Individualisierung von Lernprozessen genutzt werden – zum Beispiel durch Interventionen durch Lehrende oder durch Anpassung des Lehrmaterials. Gleichzeitig birgt Learning Analytics die Gefahr der Benachteiligung und Diskriminierung, zum Beispiel wenn Lernenden aufgrund bestimmter Merkmale ein geringerer Lernerfolg prognostiziert wird. 

Ergebnisse des Verbundvorhabens:
Die Ergebnisse der durchgeführten Studien im Rahmen des Projekts „LADi“ zeigen, dass eine mögliche Diskriminierung bestimmter Gruppen bei der Anwendung von Learning Analytics im Blick behalten werden muss. So zeigen die Ergebnisse, dass die Unter- oder Überrepräsentation bestimmter Gruppen in den Ausgangsdaten zu Verzerrungen in der Entscheidung des verwendeten Algorithmus führt. Außerdem konnten Diskriminierungspotenziale anhand von demographischen Daten, Lernverhalten und Grad der Behinderung bei Anwendung von Learning Analytics identifiziert werden. Mit mehreren durchgeführten Experimenten konnte zudem gezeigt werden, dass sich durch das Verlassen auf Learning Analytics als einzige Entscheidungsentität diverse Gefahren ergeben. Beispielsweise hat eine Conjointanalyse gezeigt, dass sich Lehrende stark auf die automatischen Bewertungsempfehlungen auf Lernplattformen verlassen, wohingegen z. B. das dort abgebildete Lernverhalten oder die ethnische Herkunft der Lernenden nicht oder nur kaum für die Bewertung einbezogen wird. Während eine Studie mit Lernenden demonstrierte, dass Lernende den Einsatz von Learning Analytics zwar grundsätzlich als fair empfinden, konnte in einem weiteren Experiment analysiert werden, dass sich Lehrende durch die Empfehlung eines Algorithmus insoweit beeinflussen lassen, als dass sie bei einer negativen Empfehlung der Plattform (Warnung) ihre Bewertung eher herabsetzen, allerdings bei einer positiven Empfehlung ihre Bewertung nicht heraufsetzen würden. Die Ergebnisse zeigen somit sowohl die Vorteile als auch die Problematiken auf, die sich aus dem Einsatz von Learning Analytics ergeben können.

Die Ergebnisse des Projektes LADi bereichern damit unter anderem die wissenschaftlichen und gesellschaftlichen Diskussionen rund um die Themen Fairness und Transparenz im Rahmen algorithmischer Entscheidungsfindung und Maßnahmen zur Diskriminierungsprävention.

Projektlaufzeit: 1.11.2018 – 28.02.2022

Projektleitung: Prof. Dr. Katharina Simbeck
Jun.-Prof. Dr. Marius Wehner

Mittelgeber: Bundesministerium für Bildung und Forschung

Externe Projektwebsite: https://digi-ebf.de/learning-analytics-und-diskriminierung

Veröffentlichungen aus dem Verbundprojekt:

Yun, H., Riazy, S., Fortenbacher, A. & Simbeck, K., (2019). Code of Practice for Sensor-Based Learning. In: Pinkwart, N. & Konert, J. (Hrsg.), DELFI 2019. Bonn: Gesellschaft für Informatik e.V. (S. 199-204). DOI: 10.18420/delfi2019_326

Riazy, S. & Simbeck, K., (2019). Predictive Algorithms in Learning Analytics and their Fairness. In: Pinkwart, N. & Konert, J. (Hrsg.), DELFI 2019. Bonn: Gesellschaft für Informatik e.V. (S. 223- 228). DOI: 10.18420/delfi2019_305

Köchling, A. & Riazy, S. (2019). Fluch oder Segen? Big Data und Learning Analytics im Lernkontext. weiter bilden, (4), 17–20. www.die-bonn.de/id/37212/about/html/

Riazy, S.; Weller, S. and Simbeck, K. (2020). Evaluation of Low-threshold Programming Learning Environments for the Blind and Partially Sighted.In Proceedings of the 12th International Conference on Computer Supported Education - Volume 2: CSEDU, ISBN 978-989-758-417-6, pages 366-373. DOI: 10.5220/0009448603660373

Riazy, S.; Simbeck, K.; Woestenfeld, R. and Traeger, M. (2020). Prior Knowledge as a Predictor for Persistence.In Proceedings of the 12th International Conference on Computer Supported Education - Volume 1: CSEDU, ISBN 978-989-758-417-6, pages 137-144. DOI: 10.5220/0009324201370144

Riazy, S.; Simbeck, K. and Schreck, V. (2020). Fairness in Learning Analytics: Student At-risk Prediction in Virtual Learning Environments. In Proceedings of the 12th International Conference on Computer Supported Education - Volume 1: CSEDU, ISBN 978-989-758-417-6, pages 15-25. DOI: 10.5220/0009324100150025

Köchling, A. and Riazy, S. (2020) “Big Data et Learning Analytics: bienfait ou fléau?” Education Permanente (2) 2020. 20 Köchling, A., Riazy, S., Wehner, M. C., & Simbeck, K. (2021). Highly Accurate, But Still Discriminatory. Business & Information Systems Engineering, 63(1), 39-54.) DOI: 10.1007/s12599-020-00673-w

Riazy, S., Simbeck, K., Schreck, V. (2021). Systematic Literature Review of Fairness in Learning Analytics and Application of Insights in a Case Study. In: Lane, H.C., Zvacek, S., Uhomoibhi, J. (eds) Computer Supported Education. CSEDU 2020. Communications in Computer and Information Science, vol 1473. Springer, Cham. doi.org/10.1007/978-3-030-86439-2_22

Riazy, S., Simbeck, K., Traeger, M., Woestenfeld, R. (2021). The Effect of Prior Knowledge on Persistence, Participation and Success in a Mathematical MOOC. In: Lane, H.C., Zvacek, S., Uhomoibhi, J. (eds) Computer Supported Education. CSEDU 2020. Communications in Computer and Information Science, vol 1473. Springer, Cham. doi.org/10.1007/978-3- 030-86439-2_21

Rzepka, N., Müller, H.-G., and Simbeck, K. (2021). What you apply is not what you learn! Examining students' strategies in German capitalization tasks. In Proceedings of the 14th International Conference on Educational Data Mining.

Mai, L., Köchling, A., and Wehner, M. C. (2021). ‘This Student Needs to Stay Back’: To What Degree Would Instructors Rely on the Recommendation of Learning Analytics? In Proceedings of the 13th International Conference on Computer Supported Education - Volume 1: CSEDU, ISBN 978-989-758-502-9; ISSN 2184-5026, 189-197. DOI: 10.5220/0010449401890197.

Mai, L., Köchling, A., Schmodde, L., and Wehner, M. C. (2021). Teacher vs. Algorithm: Learners’ Fairness Perception of Learning Analytics Algorithms. In Lingnau, Andreas (Hg.) (2021). DELFI 2021 - 19. Fachtagung Bildungstechnologien der GI: Hochschule Ruhr West. ISBN: 978-3- 946757-03-0, urn:nbn:de:hbz:1393-opus4-7338. S.130-145.

Mai, L.; Köchling, A. & Wehner, M. C. (2022) ”This Student Needs to Stay Back”: To What Degree Would Instructors Rely on the Recommendation of Learning Analytics?, SN Computer Science 3, 259 (2022). doi.org/10.1007/s42979-022-01137-6

Rzepka, N., Simbeck, K., Müller, H.-G. and Pinkwart, N. (2022). Keep It Up: In-session Dropout Prediction to Support Blended Classroom Scenarios. Proceedings of the 14th International Conference on Computer Supported Education - Volume 2: CSEDU,, SciTePress, 2022, ISBN 978-989-758-562-3

Rzepka, N., Simbeck, K., Müller, H.-G. and Pinkwart, N. (2022). Fairness of In-session Dropout Prediction. Proceedings of the 14th International Conference on Computer Supported Education - Volume 2: CSEDU CSEDU, SciTePress, 2022, ISBN 978-989-758-562-3

Praxisbeiträge aus dem Verbundprojekt:

Köchling, A. and Riazy, S. (2020). Learning Analytics: Wann ist Personalisierung diskriminierend? www.forumbd.de/blog/learning-analytics-wann-ist-personalisierung-diskriminierend

Köchling, A. and Kaiser, H. (2020). Learning Analytics: Die digitale Zukunft des Lernens. www.netzwerk-digitale-bildung.de/learning-analytics-die-digitale-zukunft-des-lernens/

Köchling, A. and Nieter, A. (2020). Wie digital ist die Bildungspraxis? www.codingkids.de/wissen/status-quo-wie-digital-ist-die-bildungspraxis-1

Interview mit Jun.-Prof. Dr. Marius Wehner in der DUZ - Magazin für Wissenschaft und Gesellschaft. Die finale Entscheidung sollten immer Menschen treffen www.duz.de/media/duzDe/issues/d0c2kw/cff7y8/web/html5/index.html

Sporn, Z. and Rzepka, N. (2021). How Babbel Kept Students Learning Languages Through the First Lockdown www.babbel.com/en/magazine/how-babbel-kept-students-learning-languages-throughlockdown

Das Projekt „Manchot KI“ beschäftigt sich mit der Frage, wie die Förderung von Talenten in einem Unternehmen durch den Einsatz von Algorithmen und künstlicher Intelligenz (KI) zu Diskriminierung und Compliance-Verstößen führen kann. 

Durch die zunehmende Verwendung von KI und digital verfügbaren Daten im HR-Bereich ergeben sich vermehrt neue Informationen für das Talent Management:

  • Tätigkeitsbezogene Daten: z.B. Fehlzeiten, Leistungskennzahlen, Organisationskennzahlen,
  • Persönliche Daten: z.B. demografische Merkmale, Beziehungsstatus, Kinder, Religion,
  • Subjektive Daten: z.B. Bewertungen der Führungskraft, Daten aus sozialen Netzwerken.

Neben diesen neuen Möglichkeiten entstehen beim Einsatz von KI zur Identifikation von Talenten aber auch neue Probleme und Rechtsfragen. Bereits bei der Online-Stellensuche und der Personalauswahl mittels KI wurden in der Vergangenheit Fälle identifiziert, in denen es zur impliziten Diskriminierung der Bewerber kam. Diese Art der Diskriminierung ist auch im Rahmen von Personalmaßnahmen zum beruflichen Aufstieg denkbar.

Im Projekt „Manchot KI“ werden zunächst Unternehmen interviewt, die in ihrer betrieblichen Praxis bereits algorithmische Verfahren zur Talentförderung einsetzen, um so Erfahrungen von Experten in Bezug auf den Einsatz von KI zur Talentförderung in der Praxis zu gewinnen. 

Anschließend werden realistische Szenarien zur Nutzung von KI im Rahmen des Talent Managements entwickelt, die in unterschiedlichem Ausmaß die Nutzung von algorithmischen Verfahren darstellen.

Weitere Informationen zu diesem Projekt finden Sie unter www.heicad.hhu.de

Wenn Sie als Unternehmen Interesse an diesem Forschungsprojekt haben und uns mit Ihrer Erfahrung unterstützen möchten, melden Sie sich gerne bei uns. 

Ansprechpartner an der HHU Düsseldorf: Jun.-Prof. Dr. Marius Wehner

Projektlaufzeit: 01.01.2019 - 31.12.2021

Verantwortlichkeit: