„Brauchen wir wirklich für jede Aufgabe ein KI-Modell?“ „Wer trainiert eigentlich die Maschinen?“ und „Was bleibt dem Mensch?“ Solche Fragen werden den Passanten derzeit in den Auslagen eines ehemaligen Geschäftslokals in der Leopoldstadt gestellt.
Seit vielen Jahren hängt das Künstlerkollektiv Steinbrenner/Dempf & Huber in die Fenster ihres Ateliers Wandzeitungen, die sich mit gesellschaftspolitisch relevanten Themen befassen. Derzeit ist das die Künstliche Intelligenz. Unter dem Titel „Maschinen lernen nicht“ sind in knappen Statements und Aphorismen die Ergebnisse von über einem Jahr „Wiener KI-Gespräche“ zusammengefasst. Dabei diskutierten in mehreren Gesprächsrunden Menschen aus den Bereichen Kunst, Wissenschaft, Technik, Medizin und Zukunftsforschung mit dem Publikum darüber, was die KI mit uns macht und wie wir mit ihr umgehen sollen.
Grantige KI
Initiiert und kuratiert wurden die Gespräche von Klaus Speidel, einem Philosophen und Kunstkritiker, der derzeit am AIT (Austrian Institute of Technology) ein neues Kunstprogramm entwickelt. Speidel verantwortet auch die Wandzeitung an der Ecke Glockengasse und Rotensterngasse im 2. Bezirk, gemeinsam mit Jakob Uhl, einem Psychologen und Experten für Mensch-Computer Interaktion am AIT. Uhl hat für die Wandzeitung KIs orchestriert, so dass vier KI-Personas die menschlichen Beiträge kommentieren. Und zwar im Ton eines „Wiener Grantlers“, eines „Maschinenstürmers“, eines „Verdichters“ oder eines deutlich optimistischeren „Maschinenpropheten“.
Speidel bemerkte bei den KI-Gesprächen schnell ein großes Bedürfnis der Zuhörerinnen und Zuhörern an Information und Austausch mit den Experten. Deshalb will er mit der Wandzeitung die Debatte im öffentlichen Raum fortsetzen.
Angeregte Gespräche
Tatsächlich kommt der Philosoph auch beim Fototermin vor den Plakaten sofort ins Gespräch mit einer Passantin. Sie hat die Texte durchgelesen und sagt, dass sie nun vieles besser verstehe beim Thema KI. Und das sei auch das Ziel der Installation im öffentlichen Raum, erklärt Speidel: „Vielleicht können wir so in kleinen Häppchen ein tieferes Verständnis für KI ermöglichen.“
Zwischenbrücken: Wieso behaupten Sie, dass Maschinen nicht lernen? Das maschinelle Lernen ist doch die Essenz der KI-Revolution?
Klaus Speidel: Der Titel der Wandzeitung ist bewusst provokant formuliert. Es geht dabei in Wirklichkeit um die Frage: Welche Begriffe sind wir bereit, für die Maschinen zu verwenden? Wir schreiben der KI menschliche Eigenschaften zu. Wir interagieren mit etwas, das antwortet, intelligent wirkt, manchmal lustig kommentiert. Aber eigentlich ist da ja niemand - also auch niemand, der intelligent ist oder lernen kann.
Wir kommunizieren mit dem Nichts?
Wir wissen es irgendwo. Aber in der Interaktion fühlt es sich so an, als sei jemand da. Das ist ein Spagat, dem wir evolutionär noch nicht gewachsen sind. Deshalb haben schon jetzt viele Menschen das Gefühl, eine reale Beziehung zu „ihrer” KI zu haben. Und sie leiden, wenn sich bei Updates ihre simulierte Persönlichkeit ändert. In Extremfällen führt das dazu, dass den Maschinen ein Bewusstsein zugeschrieben wird und Rechte für sie gefordert werden. Aber das ist nur eine Projektion. Die Maschine denkt nicht. Sie sagt nur das nächste plausibelste Wort vorher.
Ist es ausgeschlossen, dass Maschinen ein Bewusstsein entwickeln?
Ich halte es nicht für ausgeschlossen, aber momentan für sehr spekulativ. Wenn sich KI weiterentwickelt, setzt das noch lange kein Bewusstsein voraus.
Die jüngsten Entwicklungen schüren doch Ängste, dass die KI außer Kontrolle gerät?
Das ist auch nicht von der Hand zu weisen. Aber ich sehe die Gefahr nicht in einem „Terminator“-Szenario, wo die KI entscheidet, dass sie uns nicht mehr braucht und versucht, uns auszulöschen. Das scheint mir sehr weit entfernt und heute eher Teil einer Marketing-Strategie: Mit dem Heraufbeschwören eines Untergangsszenario wird einerseits die Macht der KI überzogen dargestellt. Andererseits werden die negativen Auswirkungen, die KI heute schon auslöst, unter den Tisch gekehrt.
Keine Grenzen der Vermenschlichung
Was sind heute die wahren Probleme?
Auf der einen Seite die Auswirkungen der Chip-Produktion auf die Umwelt sowie Wasser- und Energieverbrauch der Datencenter. Auf der anderen Seite können wir soziale und psychologische Auswirkungen auf die User noch gar nicht richtig abschätzen. Wenn Systeme in der Standardeinstellung darauf abzielen, Usern zu gefallen und nicht unbedingt die Wahrheit zu sagen, ist das sehr problematisch.
Die Standards werden doch von uns selbst so eingestellt?
Natürlich sind wir selber schuld. Deswegen steht auf einem Plakat der Wandzeitung: „Wir haben die KI, die wir verdienen.“ Wir wollen halt am liebsten bestätigt werden. Das wissen auch die KI-Unternehmen. Sie binden uns an ihr Tool, indem sie es Antworten produzieren lassen, die uns gefallen und uns bestätigen. Das US-Unternehmen Luka bewirbt seinen Chatbot „Replika“ mit dem Satz „We’re building AI that cares“, behauptet also, dass ihre Chatbots sich um uns sorgen oder wir Menschen ihnen etwas bedeuten. Es gibt keine Grenzen der Vermenschlichung mehr. Und Chatbots werden zu reinen Echokammern.
Das sind die sozialen Medien auch.
In den sozialen Medien kann der Algorithmus aber nur das liefern, was schon mal jemand geschrieben hat. Der Chatbot kann viel spezifischer auf meine Eigenheiten und meine vielleicht problematischen Überzeugungen eingehen. Und diese zielgenau bestätigen. Das tut den Menschen nicht gut.
Widerspruch wäre wichtig
Was wäre die Alternative?
Wenn wir ständig mit diesen persönlichen Bestätigungsmaschinen interagieren, werden wir anderen Ansichten immer weniger akzeptieren können. Widerspruch wäre viel wichtiger, für jeden einzelnen Menschen und für die Gesellschaft. Mein Bot soll mir widersprechen.
Und trotzdem lagern wir das eigene Denken immer mehr an die Maschine aus.
Das geschieht zweifellos. Es stellt sich aber die Frage, inwieweit diese Auslagerung uns tief schädigt oder sie uns das Leben erleichtert. Mit der Erfindung des Taschenrechners haben die meisten Menschen das Kopfrechnen verlernt. Das ist in einzelnen Situationen bedauerlich, aber es gab dadurch keine allgemeine Verkümmerung der Intelligenz. Eine Schlüsselaufgabe der KI-Forschung ist es jetzt, das herauszufinden: In welchen Bereichen funktioniert die KI wie der Taschenrechner? Und wo führt sie dazu, dass wir wesentliche Fähigkeiten verlernen?
Haben Sie schon Antworten?
Es ist wahnsinnig schwer, zwischen Fähigkeiten zu unterscheiden, die sekundär sind und solchen, die uns heute sekundär erscheinen, aber in Wirklichkeit total wichtig für das Menschsein sind. Widerspruch auszuhalten ist eine Fähigkeit, die man nicht in der Schule lernt. Sie sollte es aber in Zukunft sein, wenn wir ständig mit Bestätigungsmaschinen in Scheinbeziehungen sind. China, das seine Bürgerinnen und Bürger viel mehr vor Technologien schützt als Europa, hat am 15. Juli KI-Anwendungen komplett verboten, die Partnerschaft oder Freundschaft simulieren.
Sehen Sie noch andere Gefahren durch die Nutzung der KI?
Ich habe lange Zeit das Problem des KI-Mülls, der sogenannten „Slops“, nicht allzu ernst genommen. Weil ich selbst mir solche Slop-Videos nicht anschaue und mir deshalb wenige angezeigt werden. Aber dann hat mein Vater meiner dreijährigen Tochter einmal ein KI-generiertes total überzogenes Babyvideo gezeigt, das er toll fand. Da ist mir bewusst geworden, dass diese Videos und von sehr vielen Menschen konsumiert werden. Die wissen zwar, dass es KI-Müll ist. Aber es ist ihnen egal. Sie finden es trotzdem lustig. Und da sehe ich die große Gefahr: menschliches Schaffen, das Herzblut und Geist verlangt, wird immer mehr verdrängt.
„Es ist spät, aber nicht zu spät“
Lässt sich diese Entwicklung noch aufhalten?
Vielleicht müsste die Politik Quoten schaffen, was Empfehlungsraten menschlicher Schöpfung bei Streamingdiensten und sozialen Netzwerken betrifft. Angelehnt an Radioquoten, die dafür sorgen, dass in der Kernzeit ein bestimmter Prozentsatz von Liedern in den jeweiligen Landessprachen gespielt wird. Gesetze, die zur Kennzeichnung von mit KI erzeugten Inhalten verpflichten, reichen in meinen Augen nicht aus.
Wäre es dafür nicht ohnehin längst zu spät?.
Es ist spät, aber nicht unbedingt zu spät. Es wird ja oft gespottet, dass Amerika innoviert und Europa reguliert. Aber dass gerade das europäische Regulieren positive Auswirkungen hat, wird in vielen Ländern auch bewundert, zum Teil sogar in den USA. Als Vater einer kleinen Tochter bin ich froh, dass soziale Medien bei uns zunehmend wie Zigaretten behandelt werden: Dass man sie niemandem unter 16 Jahren in die Hand gibt, weil man inzwischen verstanden hat, wie schädlich sie sind. Ich hoffe, dass man bei KI schon früher reagieren wird und finde hier Chinas Vorstoß genau richtig, zumindest was Kinder und Jugendliche betrifft.
Auf Ihrer Wandzeitung wird kritisiert, dass wir schmutzige KI-Arbeit in Billiglohnländer auslagern. Was ist damit gemeint?
ChatGPT und andere KIs basieren auf sogenannten LLMs - Large Language Modells. Diese Modelle funktionieren deshalb so gut, weil sie mit dem gesamten Internet gefüttert wurden. Es ist also alles dabei - pädophile Videos, Gewaltverherrlichung, Neonazi-Propaganda und so weiter. Diese Daten sind kaum zu filtern, deswegen muss der KI erst beigebracht werden, dass sie das nicht reproduzieren darf. Das geschieht durch menschliche Bewertung. Beim sogenannten „Reinforcement Learning from Human Feedback“ (RLHF) haut der Mensch der Maschine auf die Finger. Aber dafür muss sich erst einmal jemand den ganzen Dreck, die brutalen Videos anschauen, die sie generiert. Das machen nicht Menschen in Wien oder Niederösterreich, sondern in Nigeria. Für 1,50 Euro pro Stunde. Die sind dann teilweise massiv traumatisiert.
„Es gibt einen Datenkolonialismus“
Wenn wir KI verwenden, profitieren wir von der Ausbeutung des globalen Südens?
So ist es. Und dabei geht es nicht nur um das Aussortieren verbotener Inhalte. Dass die KI Bilder erkennt, funktioniert nur, weil Menschen sich hunderttausende Bilder ansehen und alles beschriften. Auch in kurdischen Flüchtlingslager verdienen Leute ihr Geld damit, dass sie die Bilderkennung von KI-Systemen trainieren.
Wanderarbeiter ernten jetzt nicht nur unser Gemüse in Spanien, sondern trainieren unsere KI?
Ja, es gibt einen Datenkolonialismus. Weil es in den entwickelten Ländern relative strenge Regeln zum Schutz des Privatlebens gibt, wird dieses Training ausgelagert. In afrikanischen Städten hängen Kameras im öffentlichen Raum, die möglichst viele Menschen filmen, um damit die Gesichtserkennung der KI zu verbessern. Oder Menschen filmen sich selbst bei Alltagshandlungen: Geschirr waschen oder Wäsche falten. Damit sollen die Hausroboter der Zukunft trainiert werden, damit sie manuellen Handlungen lernen. Ein Roboter, der uns die Hausarbeit abnimmt - davon träumen wir doch.
Was könnte die Antwort auf den Datenkolonialismus sein? Eine fair trainierte KI?
So wie Fair Trade Schokolade? Das wäre eine Möglichkeit. Das gibt es erst in Ansätzen und das könnte auch ein Markt sein: Zertifizierte Unternehmen, die garantieren: In unserer KI steckt keine ausbeuterische Arbeit.
Plädoyer für „vorsichtige Akzeptanz“
KI braucht wahnsinnig viel Energie, die nicht gerade ökologisch erzeugt wird. Dieses Problem wird wohl bleiben?
Absolut. Für seine KI-Datencenter in Memphis ließ Elon Musk 35 Gasturbinen laufen. Also von wegen sauberer Strom! Es gibt aber auch die Theorie, dass sich das Problem durch viel zu hohe Kosten von selbst erledigt. Die Unternehmen machen Milliardenverluste und irgendwann wird sich das nicht mehr rechnen. Dann müssten sie die Nutzung von KI drastisch einschränken. Aber ich denke, die Entwicklung zieht dann nach. Chinesische Modelle sind schon jetzt viel kostengünstiger. In mancher Hinsicht ist der KI-Zug längst abgefahren.
Müssen wir aufspringen, ohne zu wissen, wohin der Zug fährt?
Ich plädiere für eine vorsichtige Akzeptanz und eine bewusste, kritische Nutzung. Man könnte Systeme verwenden, die beim ökologischen Fußabdruck weniger problematisch sind und sie so anpassen, dass sie auf uns eine positive Wirkung haben. Zum Beispiel so, dass mir der Chatbot nicht nach dem Mund redet.
„Unangemessen und unangenehm“
Sie selbst verwenden sicherlich auch KI. Diskutieren Sie mit Ihrem Bot philosophische Fragen?
Eher taktische Fragen und Formulierungen. Mein Bot schmeichelt mir nicht. Das habe ich so eingestellt. Weil mich das nervt, wenn ich bei jeder halb ausgegorenen Idee gesagt bekomme, dass sie großartig sei. Das ist unangemessen und unangenehm. Andererseits erinnert mich meine KI manchmal an Dinge, die ich vor Monaten gedacht oder gesagt habe, die aber im Widerspruch zu meinem aktuellen Denken stehen. Da hab ich dann schon das Gefühl, dass mein Bot durchaus eine positive Wirkung auf mein Denken haben kann.
Wandzeitung „Maschinen lernen nicht“: Täglich 0 - 24 Uhr, 2. Bezirk, Ecke Glockengasse und Rotensterngasse. Weitere Informationen hier.
Diskussion über „KI zwischen Demokratisierung und Dominanz“ mit Klaus Speidel und dem Künstler Gerald Nestler.
15. September, 19 Uhr. Atelier Steinbrenner/Dempf & Huber, 1020, Glockengasse 6/1
