Vier re:publica-Sessions über die blinden Flecken der KI-Debatte: Wie viel Wachstum braucht KI? Wer schützt uns vor Deepfakes? Warum antwortet ein Sprachmodell zu Milch für jeden anders? Und wie behalten wir das Denken selbst in der Hand?
„Less rockets, more bicycles!“
Mit diesem Bild fasst die Journalistin und Autorin Karen Hao ihre zentrale Botschaft auf der re:publica zusammen: KI muss nicht immer größer werden.
Die KI-Debatte kreist vor allem um Wachstum: mehr Daten, mehr Rechenleistung, größere Modelle. Die gesellschaftlichen Kosten dieses Ansatzes geraten dabei oft aus dem Blick.
In Nairobi sichten Content-Moderator*innen traumatische Inhalte für niedrige Löhne. Rechenzentren entstehen in Regionen mit Wasserknappheit und verbrauchen mehr Strom als viele Städte. Gleichzeitig kontrollieren wenige Konzerne einen Großteil der KI-Forschung – und prägen damit, wie wir über diese Technologie denken.
Karen Hao hält diese Logik nicht für alternativlos. Für viele Anwendungen reichen kleinere Sprach- und Machine-Learning-Modelle aus – etwa in der Bildung, im Gesundheitswesen oder im Klima- und Umweltschutz. Sie leitet daraus vier konkrete Vorschläge ab:
„Break up the Empire!“
- Abhängigkeiten von einzelnen Anbietern reduzieren, etwa durch Open Source
- Die Ideologie des grenzenlosen Wachstums hinterfragen
- Mehr Transparenz schaffen, beispielsweise durch Explainable AI
- Unabhängige Forschungseinrichtungen stärken
Wer von KI profitiert und wer die Kosten trägt, ist keine technische Frage. Es ist eine politische Entscheidung. Wie viel Wachstum braucht KI wirklich?
Deep Fakes: Die Verantwortung muss die Seite wechseln
Eckart von Hirschhausen möchte seine Identität zurück. Im Internet gibt es ihn über 2.000 mal als Deepfake. Darin empfiehlt er vermeintlich Heilmittel. In der ARD-Doku Hirschhausen und die Deepfake-Mafia erzählt er seine Geschichte.
Im Vortrag auf der re:publica machen Hirschhausen und die Rechtsanwälte*innen Chan-jo Jun und Jessica Flint auf unterhaltsame Art klar, wie erst die Lage ist. Aktuell sei es schwierig, Menschen vor Deep Fakes zu schützen. Hierfür bräuchte es Gesetzesänderungen und eine Abschaffung des Providerprivilegs, das Techplattformen davor bewahrt, Verantwortung für gefälschte Inhalte zu übernehmen.
Hat KI eine Meinung zu Milch? Das kommt darauf an, wer fragt.
Du stehst im Supermarkt vor dem Milchregal und bittest ein KI-Sprachmodell, dir ernährungswissenschaftliche Fakten zu Milch und ihren Alternativen zu geben.
Mit diesem Beispiel hat Jacob Vicari unterschiedliche KI-Modelle getestet: Je nach Nutzerprofil geben die KI-Systeme unterschiedliche und teils verzerrte Antworten auf identische Fragen. Wer als „vegan-affin“ eingeloggt ist, bekommt negative Informationen über Milch. Wer als „milchfreundlich“ gilt, bekommt positive.
Dieser Confirmation-Bias ist Nutzer*innen nicht bewusst. Sie bekommen nur die Antworten auf ihre eigenen Fragen zu sehen und wissen nicht, wie die Antworten für andere aussehen.
So verstärken KI-Systeme bestehende Überzeugungen der Nutzer*innen, statt ausgewogene Perspektiven zu liefern. Das gefährdet gesellschaftliche Debatten, insbesondere rund um Ernährung, die ohnehin stark polarisiert ist.
Mindful Friction: kritisch denken mit KI
Mit generativer KI geben wir das anstrengende Denken gerne ab. Karine Gromada benennt in ihrem Vortrag „Deep Learning vs. Non-deep Thinking: Wie uns Reibung aus kognitiven KI-Fallen hilft“ drei Biases:
Kognitive Faulheit: Warum selbst nachdenken, wenn die KI es übernimmt?
Automation Bias: Wir vertrauen der Maschine und überhören Störgefühle
Kognitive Kapitulation: Wir übernehmen KI-Antworten ungeprüft.
Kritisches Denken verkümmert dabei wie ein Muskel, den niemand mehr trainiert. Mindful Friction baut bewusst Hürden ein:
Slowdown Friction: Nutzende bewusst abbremsen. Sie sollen bewusst nachdenken, auch wenn es länger dauert.
Uncertainty Friction: offenlegen, auf welchen Daten ein Modell beruht
Metacognition Friction: sokratische Rückfragen stellen, die mich zwingen, meine Entscheidung zu begründen