Was bedeutet es für den menschlichen Schaffensdrang, wenn wir mit KI-Werkzeugen arbeiten, die wir nicht durchschauen? KI-Systeme treffen heute Vorauswahlen in der Personalrekrutierung, generieren Texte und unterstützen strategische Entscheidungen. Zunehmend handeln sie auch als autonome Agenten, die eigenständig Aufgaben planen, Werkzeuge auswählen und mehrere Arbeitsschritte hintereinander ausführen. Im Arbeitsalltag bedeutet das, dass wir mit Werkzeugen arbeiten, die für uns eine Black Box bleiben.
Genau hier setzt das DFG-Forschungsprojekt GAIO (Human Generative Drive in the AI-Opaque Workplace) an. Im Zentrum steht das, was wir den menschlichen Schaffensdrang nennen: der innere Antrieb, eigenständig kreative Lösungen zu entwickeln, Verantwortung für die eigene Arbeit zu übernehmen und einen sinnvollen Beitrag zu leisten. Beispielsweise beschreibt es die Orientierung von Nutzenden, ein Informationssystem (IS) nicht nur routiniert anzuwenden, sondern auch aktiv neue Nutzungsmöglichkeiten und Praktiken zu erzeugen.
Doch wie wirkt sich die Undurchsichtigkeit von KI, ihre Opazität, auf diesen Antrieb aus? Denkbar ist, dass sie ihn gefährdet. Wenn Menschen KI-Ergebnisse weder verstehen noch daraus lernen oder darauf aufbauen können, könnten das Gefühl der Urheberschaft, die Bereitschaft zur kritischen Reflexion und die kreative Problemlösungsfähigkeit erodieren. Ebenso möglich ist jedoch, dass Opazität den Schaffensdrang kaum beeinflusst, etwa weil Menschen eigene Strategien im Umgang mit intransparenten Systemen entwickeln.
KI-Opazität hat nicht nur eine Ursache, sondern drei. Erstens verschleiern KI-Anbieter aus Wettbewerbs- und Haftungsgründen bewusst, wie ihre Modelle funktionieren. Zweitens fehlt Nutzenden häufig das technische Wissen, um die Funktionsweise zu durchdringen. Und drittens bleibt selbst mit vollständigem Zugang und Expertise eine grundlegende Hürde: Menschliches Denken kann mit der Komplexität heutiger KI-Modelle schlicht nicht Schritt halten. Es gibt eine kognitive Grenze, die sich nicht einfach durch mehr Wissen überwinden lässt.
Besonders ausgeprägt wirken diese Quellen bei KI-Agenten. Sie planen ganze Aufgabenketten selbstständig, wählen Werkzeuge eigenständig aus und treffen Zwischenentscheidungen, die für Nutzende meist unsichtbar bleiben. Dadurch verstärken sie alle drei Opazitätsquellen zugleich. Selbst bei vollständigem Verständnis des zugrunde liegenden Modells bliebe unklar, welche Schritte das System tatsächlich ausführt und warum es bestimmte Entscheidungswege anderen vorzieht. Jede Opazitätsquelle wirkt somit auf eigene Weise auf den Schaffensdrang – und verlangt nach eigenen Antworten.
Im Arbeitsalltag wird häufig davon ausgegangen, dass sich KI reibungslos in bestehende Abläufe einfügt, dass mehr Transparenz automatisch besser ist und dass technische Erklärungen ausreichen, um Vertrauen und Verständnis herzustellen. GAIO stellt diese Annahmen auf den Prüfstand und verfolgt drei Forschungsziele:
GAIO verbindet qualitative und quantitative Methoden in drei aufeinander aufbauenden Schritten. Zunächst begleiten die Forschenden Mitarbeitende in drei Partnerorganisationen im Arbeitsalltag durch Beobachtungen und Interviews, um zu verstehen, wie Opazität konkret erlebt wird und wo sie den Schaffensdrang berührt. Darauf aufbauend prüft das Team mit einer breit angelegten Befragung und mit Laborexperimenten, welche Transparenzmaßnahmen tatsächlich wirken und welche nicht. Im dritten Schritt entwickeln und erproben die Forschenden gemeinsam mit den Partnerorganisationen drei bis fünf praxistaugliche Interventionen.
Die Ergebnisse münden in ein evidenzbasiertes Toolkit, das Organisationen konkrete Strategien an die Hand gibt, um KI-Transparenz differenziert und wirksam zu gestalten. Ziel ist eine Arbeitswelt, in der KI, auch in Form autonomer Agenten, den menschlichen Schaffensdrang nicht verdrängt, sondern Raum dafür schafft.
Wenn Teams heute gemeinsam an einer Aufgabe arbeiten, sitzt häufig ein zusätzliches „Teammitglied“ mit am Tisch: eine generative KI. Sie liefert Ideen, formuliert Argumente, strukturiert Inhalte und verändert damit, wie Gruppen denken, diskutieren und Entscheidungen treffen. Gerade in kollaborativen Kontexten entsteht dadurch eine neue, bislang nur teilweise verstandene Dynamik, da bestehende Theorien zu Teamdynamiken, Macht und kritischem Denken ohne diesen technologischen Akteur entwickelt wurden. Zugleich sind KI-Outputs oft opak, probabilistisch und rhetorisch überzeugend, was ihre gemeinsame Einordnung und Bewertung in Teams besonders anspruchsvoll macht.
Das Projekt widmet sich der Frage, wie generative KI die Zusammenarbeit in Teams prägt. Im Mittelpunkt stehen dabei die Innovationskraft entwickelter Lösungen, Spannungen und Aushandlungsprozesse in Teams, Machtdynamiken sowie kollektives kritisches Denken. Darüber hinaus wird der Zusammenhang zwischen KI-Nutzungsmustern, Teamdynamiken und Teamleistung untersucht. Ein weiterer Schwerpunkt liegt darauf, wie Teams mit generativer KI kommunizieren, wie sie KI-Outputs interpretieren und wie sich dadurch Rollen, Verantwortlichkeiten und Entscheidungsprozesse verändern.
Methodisch verfolgt das Projekt einen primär qualitativen, multi-methodischen Forschungsansatz, der durch quantitative Elemente ergänzt wird. Grundlage ist ein mehrjähriges, in Lehrveranstaltungen eingebettetes Lehr- und Trainingssetting, in dem Studierende generative KI in Gruppenarbeiten einsetzen. Die Datenerhebung erfolgt pseudonymisiert und im Einklang mit den ethischen und datenschutzrechtlichen Vorgaben.
Mithilfe computergestützter Analysen von Prompts und KI-Antworten mittels LIWC (Linguistic Inquiry and Word Count) geht das Teilprojekt der Frage nach, wie Teams mit generativer KI kommunizieren.
Generative KI erzeugt Spannungen in Teams. Das Teilprojekt beleuchtet, wie Aushandlungsprozesse in Team-KI-Kontexten verlaufen und gestaltet werden.
Machtdynamiken
Wer gewinnt an Einfluss, wenn KI-Outputs als Argumentationsgrundlage genutzt werden? Das Teilprojekt untersucht, wie generative KI die Machtverteilung in Teams verändert.
Kritisches Denken
Kritisches Denken im Umgang mit KI ist keine rein individuelle Fähigkeit. Das Teilprojekt betrachtet, wie Teams KI-Outputs gemeinsam hinterfragen oder unkritisch übernehmen und welche Rolle die KI dabei einnimmt.
Teamperformance
Aufbauend auf den qualitativen Erkenntnissen nimmt dieses Teilprojekt den Zusammenhang zwischen KI-Nutzungsmustern, Teamdynamiken und Teamleistung mit quantitativen Methoden in den Blick.
Wie gehen Mitarbeitende mit KI-Systemen um, deren Entscheidungen sie nicht vollständig nachvollziehen können, und was verändert sich dadurch in Organisationen? Mit diesen Fragen beschäftigt sich das Forschungsprojekt im Kontext KI-gestützter Transformationsprozesse in Unternehmen.
Im Mittelpunkt der Forschung stehen KI-gestützte Arbeits-, Kommunikations- und Entscheidungsprozesse, insbesondere im Kontext von Recruiting und datenbasierter Entscheidungsunterstützung. Untersucht wird, wie Mitarbeitende und Organisationen KI-Systeme wahrnehmen, interpretieren und in bestehende Arbeitspraktiken integrieren. Dabei betrachtet das Projekt den Umgang mit KI-Systemen bereits vor ihrer Einführung sowie im Verlauf organisationaler Veränderungsprozesse. Ein besonderer Fokus liegt auf sogenannten opaken KI-Systemen, deren Entscheidungslogiken und Funktionsweisen für Nutzende häufig nur begrenzt nachvollziehbar sind. Zudem wird analysiert, wie Organisationen mit diesen Unsicherheiten umgehen und wie sich Wahrnehmungen von Verantwortung, Vertrauen und Kontrolle im Zusammenspiel von Menschen und KI verändern. Darüber hinaus wird betrachtet, welche neuen organisationalen Dynamiken durch den Einsatz KI-gestützter Technologien entstehen.
Methodisch verfolgt das Projekt einen qualitativen und interpretativen Forschungsansatz mit ethnographischen Tendenzen. Zum Einsatz kommen unter anderem semi-strukturierte Interviews, Beobachtungen organisationaler Praktiken sowie qualitative Analysen organisationaler Veränderungsprozesse. Die Kooperation mit Volkswagen ermöglicht es, KI-bezogene Transformationsprozesse in realen Arbeitskontexten zu untersuchen und dadurch wissenschaftliche wie praxisorientierte Erkenntnisse zur Gestaltung zukünftiger Mensch-KI-Zusammenarbeit zu gewinnen.
Projektbeteiligte: Prof. Dr. Marina Fiedler, Pauline Bergmann, Abinaya Fernando, Daniel Zaglmann
Rwanda zählt heute zu den technologisch dynamischsten Ländern Afrikas. Durch gezielte Investitionen in digitale Infrastruktur, IT-Ausbildung und künstliche Intelligenz entwickelt sich das Land zunehmend zu einem internationalen Innovationsstandort. Beispiele hierfür sind autonome Lieferdrohnen im Gesundheitswesen, digitalisierte Verwaltungssysteme sowie der starke Ausbau technologischer Ausbildungs- und Hochschulprogramme. Gleichzeitig bietet Rwanda einen spannenden Kontext für neue digitale Technologien und KI-basierte Anwendungen. Dieser Kontext ist wissenschaftlich bislang vergleichsweise wenig erforscht.
Das Forschungsprojekt untersucht die Entwicklung zentraler Kompetenzen in technologieorientierten Lern- und Arbeitsumgebungen. Im Mittelpunkt steht ein intensives softwareentwicklungsorientiertes Trainingsprogramm für Studierende parallel zu ihrem Bachelorstudium. Über einen Zeitraum von zwölf Monaten absolvieren die Teilnehmenden tägliche praxisnahe Trainingseinheiten von rund fünf Stunden.
Neben technischen Fähigkeiten im Bereich Softwareentwicklung stehen insbesondere Kommunikations-, Interaktions- und Teamfähigkeiten im Fokus. Analysiert wird, wie sich diese Kompetenzen in kollaborativen und projektbasierten Arbeitssettings entwickeln und welche sozialen Dynamiken dabei entstehen.
Ein zentraler Bestandteil des Projekts ist die Entwicklung und Erprobung neuer KI-gestützter Auswertungsmethoden für sozialwissenschaftliche Forschung. Hierfür werden über einen längeren Zeitraum hinweg unterschiedliche Datenquellen kombiniert und gemeinsam analysiert. Zum Einsatz kommen unter anderem:
Diese multimodalen und longitudinalen Daten werden sowohl mit klassischen sozialwissenschaftlichen Methoden als auch mithilfe moderner Open-Source Large Language Models ausgewertet. Ziel ist es, neue Möglichkeiten zur Analyse komplexer sozialer Interaktionen, Kommunikationsmuster und Teamdynamiken zu erforschen.
Zugleich geht das Projekt der Frage nach, wie KI-Systeme verantwortungsvoll und sinnvoll in die sozialwissenschaftliche Forschung integriert werden können und welches Potenzial multimodale KI-Analysen für zukünftige Forschungsansätze bieten.
Zur Vorbereitung und Durchführung der Datenerhebung fanden mehrere Forschungsaufenthalte in Rwanda statt. Im Rahmen dieser Aufenthalte wurden Hochschulen, Technologiezentren sowie Unternehmen aus dem digitalen Innovationsumfeld besucht. Ziel war es, ein vertieftes Verständnis des lokalen technologischen, kulturellen und institutionellen Kontexts zu gewinnen und so die empirische Datenerhebung gezielt vorzubereiten.
Projektbeteiligte: Prof. Dr. Marina Fiedler, Christina Schäfer, Bianca Danczul, Abinaya Fernando
