#KI2019 – Menschen zwischen Social Scoring und Big Data: KI Talks & Teams

Das lebendige Raumkonzept des ersten Workshops hatte sich bewährt, und so wurden auch diesmal Tische und Stühle aus dem Raum verbannt und durch Hocker und Stehtische ersetzt. Wieder konnten die Besucher*innen an mehreren Touchpoints im Raum KI-Anwendungen ausprobieren, mit den Studierenden in Kontakt kommen und ihre Meinung äußern. Diesmal lag der Fokus vor allem darauf, wie viel Nutzen smarte Anwendungen der Gesellschaft bringen, wie viel Schaden sie anrichten können und wie sie sich auf persönliche Empfindungen auswirken. Den Einstieg in das Thema bereiteten die Impulsvorträge von Dr. Andrea Schiff, Professorin für Pflegewissenschaft an der KatHo in Köln über KI in der Pflege, sowie von Dr. Aleksandra Sowa, Datenschutzbeauftragte und Expertin für Social Scoring. Dr. Sebastian Klaßmann, Musikwissenschaftler an der Universität zu Köln, zeigte den Einsatz von KI und Deep Learning in der Musik und stellte damit die Frage, ob KI auch menschliche Kreativität ersetzen kann. Die Moderatorin und Online-Redaktion-Absolventin Silke Wiegand moderierte das Event, das die rund 60 Besucher*innen zu aktiven Teilnehmer*innen machte – und das in mehrfacher Hinsicht.    

Die Studierenden im Studiengang Online-Redaktion, die den Workshop im Rahmen eines Semester-Projektes mitgestaltet hatten, hatten in Teams mehrere Touchpoints vorbereitet.

Nicht nur auf Instagram, sondern auch live vor Ort konnte das Publikum eine Meinung zu den gezeigten Aussagen loswerden (Bild: Jan Aimene)

Das Instagram-Experiment: "Ich impfe meine Kinder nicht." 

Gino Fischer brachte den Besucher*innen ein Experiment mit, das er im Vorfeld auf Instagram durchgeführt hatte: Vier fiktive Profile von Menschen. 24 Statements, zu denen jede/r sofort und intuitiv eine Meinung hat, ob positiv oder negativ. Eine Bewertungskala von -2 bis +2. Und dann die Aufforderung, ohne Kontext und langes Nachdenken zu bewerten – eben so, wie Menschen das auch im Alltag zu tun pflegen. Am Ende wurden 24 Statements, die den vier Personen zugeordnet waren, von über 120 Followern des Studiengangs sowie im privaten Account von Gino Fischer bewertet, so dass sich vier unterschiedliche Social Scores ergaben. Methode und Ergebnis waren bewusst zufällig und intransparent. Am Ende wurden der Website thispersondoesnotexist.com vier Personenportraits entnommen und den fiktiven Profilen nach dem Zufallsprinzip zugeordnet. Die Bilder auf dieser Website von einer Künstlichen Intelligenz entworfen, die zuvor von echten Gesichtern gelernt hat. Im Barcamp waren alle Besucher aufgefordert, ebenfalls einen Score für die dargestellten Aussagen zu vergeben. Es ergab sich ein sehr diverses Bild – ein erstes Zeichen dafür, dass über positive und negative Bewertungen nicht unbedingt Einigkeit in der Gesellschaft besteht. 

In der Moral Machine mussten Besucher*innen Dilemmata lösen, vor denen selbstfahrende Autos stehen können (Bild: Linn Frütel)

Die Moral Machine oder "das Trolley-Problem unserer Zeit"

Marie Koytek, Melissa Vogel und Lukas Gehlken stellten dem Publikum eine besondere Aufgabe: An mehreren Rechnern wurde die „Moral Machine“ des Massachusetts Institute of Technology (MIT) bereitgestellt, an der Besucher*innen das Verhalten eines selbstfahrenden Autos steuern sollten. Ganz im Sinne des traditionellen moralischen Gedanken-Experiments, in dem ein Trolley (englisch für Bahn) entweder seinen geplanten Weg fortsetzt, obwohl Personen auf den Gleisen sind, oder umgeleitet wird, obwohl andere Personen auf den Gleisen sind, können Todesfälle durch das selbstfahrende Auto nie verhindert, sondern immer nur durch andere Todesfälle ersetzt werden. Die eigenen Antworten wurden am Ende mit den durchschnittlichen Antworten der anderen Teilnehmer*innen verglichen, und dann luden die drei Veranstalterinnen zur Gruppendiskussion über KI und Moral ein.

Am Stand konnten die Besucher*innen auch eine App ansehen, die von Selina Krieger an der FH Aachen entwickelt wurde (Bild: Linn Frütel)

Smart Farming – die Zukunft der Landwirtschaft?

Jana Hielscher stellte den Besucher*innen einen Wirtschaftszweig vor, der von KI sehr stark profitieren könnte, bislang aber nur zögerlich ins Thema einsteigt. Lediglich 31 Prozent der deutschen Landwirte fühlen sich laut einer Studie der Unternehmensberatung PWC gut über Smart Farming informiert – und das, obwohl durch künstliche Intelligenz eine ertragreichere und ressourcenschonendere Bewirtschaftung möglich ist. Verschiedene Helfer wie Dronen, Satelliten und selbstständig arbeitende Landmaschinen senden Informationen über den Zustand des Feldes an ein System, dass die Daten auswertet. Die KI trifft, unter Berücksichtigung der Auswertung dieser Informationen und Bodenproben aus dem Labor, Entscheidungen über den Einsatz von Saatgut, Dünger und Spritzmitteln, die Bewässerung und den Zeitpunkt der Ernte. 

Trotz der Skepsis gegenüber der künstlichen Intelligenz und den damit verbundenen Kosten für neue Technologien, sprechen viele Argumente für ein Umdenken. Gerade im Bezug auf Umweltaspekte, wie Einsparung von Dünge- und Spritzmitteln, Kostenersparnis durch optimierte Bewässerung und der Bewirtschaftung karger Flächen und somit der Bekämpfung von Hungersnöten, können intelligente Helfer in Zukunft die Landwirtschaft sichern.

Auch an diesem Stand war das Publikum aufgefordert, Einschätzungen zur Technologie abzugeben (Bild: Simone Dahmen)

"Ich sehe eine blonde Dreißigjährige. Sie lacht" – Künstliche Intelligenzen als Sehhilfen und Alltagsassistenten

Carina Tillmann und Simone Dahmen zeigten dem Publikum, welche Alltagshilfe Apps für Menschen sein können, die eingeschränkt oder gar nicht sehen. Dazu luden sie an ihrem Stand dazu ein, vier verschiedene Apps auf Smartphones oder Tablets auszuprobieren. Die Apps können – mehr oder weniger gut – Produkte und Banknoten erkennen, Bilder erklären und Texte vorlesen, und vor allem ihre unmittelbare Umgebung erfassen und der Nutzerin zugänglich machen. Auf große Begeisterung stieß beim Publikum natürlich die Gesichtserkennung. Den beiden Studentinnen war es aber auch wichtig, auf die aus ihrer Sicht mangelhafte Transparenz in der Datenverarbeitung hinzuweisen. Das Publikum war entsprechend aufgefordert, Nutzen und Risiken dieser Technologie anhand von drei Selbstaussagen gegeneinander abzuwägen. Wie schon in anderen Situationen des Tages, fällt das Publikum auch hier kein einheitliches Urteil. 

Wie Cookies funktionieren, wurde im Stop-Motion-Film anhand einer Amazon-Bestellung erklärt (Bild: Jan Aimene)

Kekskrümel auf der Datenautobahn

Wenn ein Barcamp sich einerseits an sehr diverse Zielgruppen richtet und andererseits das Publikum auffordert, sich zu Technologien zu positionieren, dann müssen erstmal gemeinsame Grundlagen geschaffen werden. Julia von Witzenhausen und Nina Frede hatten es sich deswegen zur Aufgabe gemacht, auf unterhaltsame und innovative Weise zu erklären, wie man im Internet Spuren hinterlässt, wer diese Spuren auswertet und was man tun kann, um sich zu schützen. Mithilfe eines Stop-Motion-Films wurde das Konzept der Cookies erläutert, und auch hier waren die Besucher*innen aufgefordert, selbst aktiv zu werden: Auf der "Datenkrake" konnte man raten, welche Daten den Internetriesen über uns bekannt sind. 

Prof. Dr. Gernot Heisenberg kam aus der Maschine und erläuterte, wie Predictive Profiling mit großen Datenmengen funktioniert (Bild: Jan Aimene)

Deus ex Machina: Prof. Dr. Heisenberg im Interview

Prof. Dr. Gernot Heisenberg, Kollege am Institut und Experte für Fragen von Big Data and Predictive Analytics, hatte den Gästen natürlich viel zu erzählen, konnte aber leider nicht teilnehmen. Die Lösung von Philipp Fielauf: Er führte ein Interview mit seinem Professor, zeichnete dieses auf Video auf und produzierte einen "Stummfilm", der am Barcamp-Tag in Dauerschleife gezeigt wurde. So erfuhren die Gäste unter anderem, von wem Predictive Profiling eingesetzt wird, ob diese Verfahren unsere Gesellschaft sicherer machen, wann datengestütztes Social Scoring eine gute Idee ist – und wann nicht. 

Social Scoring: Das Experiment 

Madeleine Winand und Jasmin Langenberg hatten – neben der Betreuung des Instagram-Kanals am Barcamp-Tag – eine ganz eigene, zunächst unsichtbare Agenda: Social Scoring erlebbar zu machen. Mit Hilfe von Line Lorenzen, Suska Gutzeit und Andreas Jansen wollten sie das, was wir sonst eher theoretisch diskutieren und in die weit entfernte Kultur Chinas schieben, in die TH Köln bringen. Sie wollten den Besucher*innen des Barcamps zeigen, wie beunruhigend es ist, nach intransparenten und nahezu willkürlichen Maßstäben bewertet zu werden. Und das ganz ohne ihr Wissen. Alle Besucher*innen bekamen am Eingang eine Nummer aufgeklebt, erhielten aber keine Erklärung. Während der Impulsvorträge und der Interaktiv-Phase wurden dann neun Scorer aktiv und notierten live das Verhalten (und Fehl-Verhalten!) der Gäste: Wer bediente sich zu oft am Buffet? Wer sprach während der Vorträge, wer war höflich und interessiert? Wer trank ungesundes Bier und wer gesundes Wasser?

Noch ahnen unsere Gäste nicht, dass sie unfreiwillige Teilnehmer*innen eines Experiments geworden sind (Bild: Jan Aimene)

Nach einiger Zeit wurde das Experiment zur Hälfte aufgelöst, indem der aktuelle Score auf der Bühne gezeigt wurde. Die Reaktionen waren eindeutig: Die Besucher waren verwirrt, verblüfft, neugierig – und teils empört. Wie sind meine Minuspunkte zustande gekommen? Wieso habe ich einen besseren Punktestand als mein Freund, obwohl wir uns das gleiche angesehen haben? Und natürlich die wichtigste Frage: „Was, ich wurde beobachtet!?“ Die Studentinnen waren sehr gut darin, die Situation noch etwas zu verschärfen, indem sie denjenigen mit dem schlechtesten Score öffentlich identifizierten. Die Kriterien, nach denen die Scores zustande gekommen waren, blieben weiter geheim. Ab diesem Moment erhielten die Gäste aber immerhin die Chance, ihre Werte am "Glücksrad" zu verbessern, das Madeleine Dehus, Jessica Diedenhofen und Andreas Breuer entwickelt hatten. Besucher*innen mussten nach dem Zufallsprinzip Wissensfragen zu KI beantworten oder Alexa dazu bringen, bestimmte Dinge zu sagen. Auch hier war eine Falle eingebaut: Falsche Quizz-Antworten führten ebenfalls zu Minuspunkten! 

Mit dem Glücksrad-Quiz konnte man nicht nur seinen Score aufwerten, sondern auch kleine Gewinne einstecken (Bild: Jan Aimene)

Am Ende des Events wurde dann aber doch noch Klarheit geschaffen: Zunächst wurde wieder der aktuelle Stand der Scores gezeigt, die besten und schlechtesten Performer "geehrt" – die sich wie beabsichtigt etwas ratlos und verlegen über ihr Abschneiden zeigten –, und dann wurden auch die Bewertungskriterien aufgelöst. Außerdem erklärten die bedien Studentinnen, dass die Scham über das eigene Ergebnis, die Ratlosigkeit und Empörung über die unfaire Bewertung und die Überraschung über das ganze Experiment an sich genau die Reaktionen waren, die sie hatten erreichen wollen: "Wir haben es geschafft, mit einfachen Tricks unsere Gäste aus der Reserve zu locken und sie auf eine ganz persönliche Art und Weise Social Scoring erleben zu lassen. Ein Experiment, was hoffentlich noch in unseren Köpfen bleiben wird."

Wissenschaftsjahr des BMBF zur Künstlichen Intelligenz (Bild: BMBF)

Das Projekt KI-TT – KI Talks & Teams ist einer der Preisträger des Hochschulwettbewerbs 2019. Mit Hilfe des Preisgeldes sollen im Wissenschaftsjahr 2019 interaktive Workshop-Tage realisiert werden, deren Ziel es ist, Studierende und Forschende in den interdisziplinären und öffentlichen Dialog mit Experten aus Wissenschaft, Politik und Wirtschaft zu bringen. Ausgangspunkt der KI-TT-Reihe ist ein multimediales Web-Magazin, das von Studierenden des Studiengangs Online-Redaktion bis März 2019 realisiert wurde. Auf der Website zum Event gibt es in nächster Zeit eine multimediale Rückschau auf das Barcamp 2.0, mit Podcasts, Videos und Texten rund um die Themen Social Scoring und Big Data.