Wie eine mazedonische Kleinstadt Trump zum Wahlsieg verhalf
In einem kleinen Provinzstädtchen in Mazedonien entdeckte eine Gruppe von Jugendlichen eine attraktive Einnahmequelle: Sie setzten während des US-Wahlkampfes 2016 hunderte von Websites auf, auf denen sie diffamierende Falschinformationen über die damalige Präsidentschaftskandidatin Hillary Clinton veröffentlichten. Via Facebook wurden die Beiträge dann mit knalligen Titeln weiterverbreitet und generierten sehr hohe Klickzahlen auf die Werbeanzeigen - und Einnahmen in Höhe von bis zu mehreren Tausend US-Dollar monatlich, die in die Hände der Jugendlichen flossen. Solche Summen entsprechen mehr als dem durchschnittlichen Jahresgehalt in Mazedonien. Bezeichnend für diese Geschichte ist, dass die jungen Webseitenbetreibenden nicht etwa von einer politischen Motivation getrieben wurden, sondern vorrangig einfach nur Geld verdienen wollten. Ihnen war es egal, welche Qualität die von ihnen geteilten Informationen hatten und wer die Wahl letztendlich gewinnen würde. Dennoch beeinflusste ihre »Geschäftsstrategie« demokratische Prozesse einer ganzen Gesellschaft am anderen Ende der Welt und leistete einen Beitrag zum Wahlsieg von Donald Trump.
Dies ist nur eine von unzähligen Vorfällen, in denen digitale Technologien und Social Media gravierende Auswirkungen auf gesellschaftliche und politische Dynamiken entfalten - und der wie in diesem Fall nur zufällig entdeckt wurde.
Bei der Entwicklung von digitalen Produkten wird der Fokus oftmals primär auf Faktoren wie die Ausdehnung technologischer Grenzen, Wirtschaftlichkeit und Skalierbarkeit gelegt - und zu wenig auf die möglichen Auswirkungen auf unsere sozialen Systeme. Mit der Weiterentwicklung und dem flächendeckenden Zugriff auf mächtige KI-Tools, mit denen sich künftig zahlreiche Prozesse automatisieren lassen werden, wird die Abschätzung und Steuerung der Auswirkungen von Technologien immer wichtiger. Insbesondere dann, wenn KIs perspektivisch in Entscheidungsprozesse mit hohem ethischen Anspruch - wie z.B. Gerichtsurteile - eingebunden werden.
Genau an diesen hochspannenden Schnittstellen zwischen Informatik und Gesellschaft bewegt sich der deutschlandweit bislang einzigartige Studiengang »Sozioinformatik« der RPTU Kaiserslautern-Landau.
Welche Kerninhalte werden den Studierenden der Sozioinformatik vermittelt?
Die Sozioinformatik beschäftigt sich vorrangig mit der Analyse und Modellierung der Wechselwirkungen von Gesellschaft und Informatik, der Co-Evolution von gesellschaftlichen Normen und Prozessen, und der Software, die sie dabei unterstützt. Folgende Inhalte werden im Studium vermittelt:
- Grundlagen der Informatik
- Methoden aus der empirischen Sozialforschung und der Psychologie
- mikroökonomische und spieltheoretische Modelle der Wirtschaftswissenschaften
- einen profunden ethischen Standpunkt im Dialog mit der Philosophie
- ein gutes Verständnis der Rechtslage
Fundierte Programmierkenntnisse bilden die Voraussetzung, um Funktion und Auswirkungen von Programmcodes kritisch zu hinterfragen. Die Studierenden werden befähigt, bei der Entwicklung von Programmen Aspekte wie den Schutz von Persönlichkeitsrechten und Informationsfreiheit zu vereinbaren mit wirtschaftlichen Zielen wie Profitabilität.
Die theoretischen Fähigkeiten werden im Rahmen von zahlreichen Projektarbeiten in der Praxis erprobt: Die gesellschaftsrelevanten Inhalte und Berührungspunkte können Themen wie Barrierefreiheit, die Eliminierung von diskriminierenden Effekten in IT-Anwendungen, z.B. bei Einstellungsverfahren oder der Kredit- oder Wohnungsvergabe, umfassen.
Den Absolvent:innen stehen nach dem Abschluss vielfältige berufliche Perspektiven offen, u.a. in der Software-Entwicklung, in der Wirtschaft, Politikberatung sowie in der Bildung.
Angeboten wird Sozioinformatik sowohl als Bachelor- als auch als Master-Studiengang. Mehr Informationen findest du auf der Webseite der Hochschule.
Prof. Katharina Zweig hat den Studiengang Sozioinformatik gegründet und leitet zudem das »Algorithm Accountability Lab« an der RPTU Kaiserslautern-Landau. Für ihre Expertise im Bereich KI wurde sie mehrfach ausgezeichnet, bis 2020 war sie Mitglied der Enquetekommission »Künstliche Intelligenz«, und sie hat zwei Bestseller geschrieben, die allgemeinverständlich erklären, was es mit KI und Algorithmen auf sich hat.
Im Interview haben wir mit Prof. Katharina Zweig über die Zukunft von KI und deren mögliche Auswirkungen auf unsere Arbeitswelt gesprochen:
Ist KI nur ein überschätzter Hype?
Schon seit Jahren werden verheerende Auswirkungen durch KI auf den Arbeitsmarkt vorhergesagt - ein großer Anteil der heutigen Jobs könnte bald durch digitale Technologien erledigt werden und unzählige menschliche Arbeitskräfte überflüssig machen. Dieses Szenario scheint sich - zumindest bislang - nicht zu erfüllen. Im Gegenteil, der KI-Hype scheint ein wenig abzuflachen. Zunächst vielversprechende Start-ups bleiben weit hinter ihren Umsatzerwartungen zurück und viele Unternehmen scheinen nicht so recht zu wissen, was sie mit dem Haufen an digitalen Tools, die innerhalb kurzer Zeit auf den Markt geworfen wurden, konkret anfangen sollen. Wurde KI Ihrer Meinung nach überbewertet oder steht uns der große Umbruch noch bevor?
Prof. Katharina Zweig: Ich glaube, dass hier der typische Gartner-Hype-Cycle durchlaufen wird: Es wird kurzfristig überschätzt, was die Technologie tun kann und langfristig unterschätzt, wie viel sie verändert.
In den Medien wurde im Laufe der letzten Monate viel darüber diskutiert, welche Berufe die großen Sprachmodelle wie ChatGPT ersetzen werden. Ganz so einfach ist das eben nicht, weil diese Maschinen nicht denken können und auch kein Wissen haben - aber Texte schreiben, die so aussehen, als hätten sie beides. Hier wurde also überschätzt, was KI tun kann. Gerade durch die langsam entstehenden Kombinationen von nicht immer zuverlässigen Sprachmodellen mit zuverlässigen Komponenten, z.B. mathematischen Funktionen, wird sich über die nächsten Jahre aber zeigen, dass eine Vielzahl von Prozessen automatisiert werden kann. Hier steckt die langfristige Unterschätzung der Technologie; Ich freue mich sehr darauf, die nächsten Jahre mit zu erleben.
Das Zukunftsinstitut hat im Rahmen einer Studie einen »globalen KI-Index« erstellt, der 62 Länder dahingehend untersucht hat, wie gut die Voraussetzungen für eine erfolgreiche Etablierung von KI sind. Zentrale Faktoren sind u.a. Infrastruktur, Forschung und Regierungsstrategie. Deutschland landete auf Platz 8. Da ist also durchaus noch Luft nach oben. An welchen Stellen hapert es da noch besonders, z.B. im Vergleich zu den USA, China und Singapur, die auf den ersten 3 Plätzen landen?
Zweig: Viele Prozesse sind noch nicht einmal digitalisiert - dann ist es auch nicht möglich, sie zu automatisieren. Die Menschen in Deutschland sind generell eher skeptisch - hier würde ich vorschlagen, dass die Bundesregierung ähnlich wie in Singapur Fortbildungsmöglichkeiten für alle Erwachsenen schafft und die Länder die Inhalte auch in die Schulen und Universitäten bringen. Ich hoffe, dass das kein frommer Wunsch bleibt - hier müssen wir nacharbeiten. Mit einer geeigneten Ausbildung hätten wir jede Menge »KI-Scouts«, die in jedem Unternehmen nach Prozessen suchen könnten, die man mit KI automatisieren kann. Das würde für viel Schwung in der Anwendung von KI sorgen, die dann auch Geschäftsmodelle erzeugt.
Was passiert, wenn KI sich selbst mit Falschinformationen traniniert?
Ein weiteres Problem, das jetzt schon Auswirkungen hat, sind Falschinformationen, die - unbewusst oder auch zielgerichtet - durch KI generiert werden. Diese Informationen fluten dann das Netz, was wiederum negative Auswirkungen auf die Qualität der Ergebnisse klassischer Suchmaschinen hat, die wiederum die Datengrundlage für die Weiterentwicklung der KI sind, die diese fragwürdigen Informationen überhaupt erst produziert hat. Ein Teufelskreis, dessen Folgen man sich noch nicht einmal ausmalen will. Haben wir vielleicht vorschnell etwas ins Leben gerufen, auf dessen Auswirkungen wir in keinster Weise vorbereitet sind?
Zweig: Tja, eine solche Softwareentwicklung wird vermutlich niemand verhindern können - hier haben ja nun wirklich nicht »wir = die Menschheit« etwas ins Leben gerufen, sondern einzelne Firmen. Es handelt sich bei den großen Sprachmodellen wie ChatGPT definitiv um eine sogenannte »disruptive Technologie«, also eine, die viele soziale Prozesse gründlich umkrempeln wird.
Es ist auf jeden Fall klar, dass gute Trainingsdaten für die nächsten Generationen von Sprachmodellen schwerer zu finden sein werden - was vielleicht dazu führt, dass menschliche Autor:innen doch für ihre Texte bezahlt werden werden. Mir machen auf jeden Fall die Falschinformationen oder auch schlechten Informationen mehr Sorgen als die Frage, ob die Trainingsdatenmenge dadurch schlechter wird.
Der diskriminierende Algorithmus
Dass Algorithmen zudem oftmals bestehende diskriminierende Strukturen (z.B. gegen Frauen, PoC oder Menschen mit Migrationserfahrungen) verstärken, etwa im Rahmen von Bewerbungsprozessen, ist keine neue Information. Dabei ist ja das eigentliche Ziel eine möglichst »objektive« und vorurteilsfreie Analyse. Was müsste sich im Entwicklungsprozess dieser technischen Tools verändern, um die Teilhabe und Repräsentation von marginalisierten Gruppen in der Gesellschaft zu stärken, anstatt bestehende Ungleichheiten zu verstärken?
Zweig: Es stellt sich heraus, dass sich diese Frage gar nicht von der Informatikseite her lösen lässt: Am Ende können Informatiker:innen nur das programmieren, was ihnen die jeweiligen Kund:nnen vorgeben. Informatiker:innen haben zwar über 25 verschiedene sogenannte »Fairnessmaße« entwickelt, die bewerten, wie »gerecht« eine Maschine entscheidet. Aber wann man welches davon anwenden sollte, dazu gibt es wenig systematische Vorschläge. Jedes Fairnessmaß deckt eine andere Facette von Gerechtigkeit ab und viele dieser Maße widersprechen einander, d.h.,man kann ein System nicht gleichzeitig fair auf Weise A und auf Weise B machen. Daher muss die Gesellschaft vorgeben, welche Form von Gerechtigkeit erzielt werden soll.
Auch sehr interessant fand ich die Einsicht, dass das natürlich auch in Situationen so ist, in denen Menschen entscheiden: Wir haben als Gesellschaft aber bisher nicht in dieser Art und Weise darüber gesprochen. Sollte ein:e Richter:in lieber dem Fairnessmaß A zufolge urteilen oder dem Fairnessmaß B zufolge? Hier ergeben sich also spannende Fragen aus der informatischen Forschung für die Gesellschaftswissenschaften. Und umgekehrt forsche ich gerade mit einem Sprachphilosophiekollegen zu der Frage, ob uns sprachliche Analysen dabei helfen können, ein geeignetes Fairnessmaß zu wählen.
Wie sehr können wir KI bei ethischen Entscheidungen vertrauen?
Was ist, wenn wir noch ein paar Schritte weitergehen und uns aus ethischer Sicht enorm kritische Prozesse anschauen, in denen heute schon KI für die Entscheidungsfindung eingesetzt wird - ich denke da an die Bewertung von Kreditwürdigkeit oder Gerichtsurteile. Sind diese Technologien denn überhaupt schon so weit, dass wir deren Entscheidungen vertrauen können? Und ist es Ihrer Meinung nach überhaupt gesellschaftlich erstrebenswert, dass solche Entscheidungen von Menschen auf Maschinen übertragen werden?
Zweig: Das habe ich mich in meinem letzten Buch »Die KI war’s« auch gefragt und komme zu dem Schluss, dass die von Ihnen genannten Beispiele »Werturteile« benötigen: Werturteile sind solche, bei denen verschiedene Qualitäten bewertet und gegeneinander abgewogen werden müssen. Die Psychologen Kahnemann, Sibony und Sunstein haben solche Situationen in ihrem Buch wie folgt charakterisiert: Bei diesen Entscheidungen dürfen sich Expert:innen nicht beliebig uneinig sein. Das gilt eben für Gerichtsurteile, ärztliche Diagnosen oder Noten. Dies kann heutige KI, basierend auf dem sogenannten maschinellen Lernen, also Statistik, nicht leisten. Und zwar aus meiner Sicht ganz grundsätzlich nicht. Wir sollten also lieber die vielen Chancen bei solchen Entscheidungen suchen, die faktisch überprüfbar sind. Davon gibt es insbesondere in Industrieprozessen jede Menge. Hier muss die Skepsis endlich überwunden werden.
Wofür braucht es die Sozioinformatik?
Sie haben an der Rheinland-Pfälzischen Technischen Universität Kaiserslautern-Landau einen Studiengang namens “Sozioinformatik” mit initiiert, in dem es um gesellschaftliche Aspekte und das Design einer Gesellschaft mit Hilfe digitaler Technologien geht. Das klingt äußerst spannend und ist in Deutschland bislang einzigartig. Warum braucht es aus Ihrer Sicht zwingend eine stärkere Verknüpfung von Sozialwissenschaften und Informatik?
Zweig: Das »Sozio« steht für die Frage, wie Software soziale Prozesse verändert. Sozioinformatiker:innen suchen dabei nach Mustern auf Bevölkerungsebene, die durch Software verursacht werden. Ein einfaches Beispiel ist die Flut an Informationen, der wir uns seit der Erfindung der E-Mail ausgesetzt sehen - eine erst später nach der Einführung erkenntliche Technikfolge, die man mit geeigneten Methoden der Sozioinformaitk aber hätte voraussagen können.
Oder die Geschichte, dass sich (unpolitische) mazedonische Jugendliche im Wahlkampf 2016 in den USA für Trump eingesetzt haben, weil sie nach einem Experiment festgestellt haben, dass üble Fake News über Hillary Clinton zu einem hohen Traffic auf ihre Webseiten führte. Damit haben die Jugendlichen bis zu $10.000 pro Monat verdient, bis Facebook das entdeckt hat. Solche Muster zu finden, ist spannend. Noch besser ist es natürlich, schon beim Design der Software solche möglichen Technikfolgen identifizieren zu können und sie dann zu vermeiden, wenn sie ungewollt sind. Darum geht es im Studiengang Sozioinformatik und daher werden hier Softwareingenieur:innen ausgebildet, die aber auch Grundlagen in Wirtschaft, Recht, Ethik, Soziologie und Psychologie bekommen. Es ist also eine sehr interdisziplinäre Tätigkeit.
In welchen Tätigkeitsbereichen stehen den Absolvent:innen der Sozioinformatik Berufschancen offen? Was sind mögliche konkrete Berufsfelder oder Einsatzbereiche? In welchem Umfang werden hier Programmierkenntnisse vermittelt?
Zweig: Tatsächlich entspricht die praktische Ausbildung im Programmieren exakt dem der Informatiker:innen - die Sozioinformatiker:innen beschäftigen sich aber weniger mit den theoretischen Grundlagen der Informatik und gar nicht mit den Hardware-Aspekten. Daher sind die meisten der noch jungen Absolvent:innen erst einmal in einer Softwareentwicklungsabteilung, steigen dann aber schnell in das Projektmanagement auf. Unser erster Doktorand in der Sozioinformatik betreut jetzt zum Beispiel mehrere KI-Projekte der Bundesregierung und sorgt dafür, dass sie nach ethischen Leitlinien erstellt werden.
In den Informatik-Branchen sind Frauen nach wie vor unterrepräsentiert. Woran liegt das Ihrer Meinung nach? Sind stereotype Erziehungsmuster nach dem Motto: »Jungs sind besser in Mathe« ein möglicher Faktor? Und wie können wir mehr junge Frauen dazu ermutigen und begeistern, einen Tech-Beruf zu ergreifen?
Zweig: Wenn ich das wüsste. Interessanterweise ist der Frauenanteil unter unseren internationalen Studierenden sehr hoch - es muss also etwas spezifisch Europäisches sein.
Wie war Ihr persönlicher Weg in die Informatik und in die wissenschaftliche Forschung? Wodurch wurde Ihre Begeisterung geweckt?
Zweig: Mich hat besonders gereizt, Algorithmen zu designen und deren Korrektheit zu beweisen. Im Moment schauen wir uns zum Beispiel die mathematischen Möglichkeiten an, Diskriminierungen durch Software unauffindbar zu machen - damit wollen wir zeigen, dass Methoden, die solche Diskriminierungen aufzeigen sollen, immer auch ihre Schwächen haben und es dadurch nicht ausreicht, nur eine zu verwenden.
Das ist nun aber gerade der Bereich, der sich »Theoretische Informatik« nennt und der in der Sozioinformatik nicht vorkommt. Im Studiengang geht es um etwas, das man im Informatikstudium weniger lernt: Die direkten Auswirkungen auf die Gesellschaft. Und das habe ich zwar nicht selbst studiert, aber das halten meine Kolleg:innen und ich für so wichtig, dass ich daraus einen Studiengang gemacht habe.
Über Frau Prof. Katharina Zweig
Katharina A. Zweig ist Professorin an der RPTU in Kaiserslautern. Dort leitet sie den deutschlandweit einzigartigen Studiengang Sozioinformatik und das Algorithm Accountability Lab, in dem sie erforscht, wie Entscheidungen mit Computern möglichst zuverlässig und vertrauenswürdig unterstützt werden können. Sie berät die Bundesregierung zur Künstlichen Intelligenz und deren Regulierung aus technischer Sicht, daneben aber auch Betriebsräte, Firmen und NGOs. Für ihre Wissenschaftskommunikation wurde sie 2019 mit dem DFG Communicator-Preis ausgezeichnet. Sie hat mit »Ein Algorithmus hat kein Taktgefühl« und »Die KI war’s« zwei Sachbuchbestseller geschrieben.
