Als KI-Engineer beschäftige ich mich täglich mit den Möglichkeiten und Grenzen künstlicher Intelligenz. In dieser Episode von Attention Heads wage ich zusammen mit Marius Högger einen Blick in eine mögliche dystopische Zukunft des Jahres 2035. Was passiert, wenn KI zur dominanten Kraft in Wirtschaft und Gesellschaft wird?
Eine der offensichtlichsten Bedrohungen ist der massive Jobverlust durch KI-Automatisierung. Besonders Knowledge Worker, die heute den Grossteil der Schweizer Arbeitskraft ausmachen, könnten weitgehend überflüssig werden. Die verbleibenden Jobs könnten sich auf stupide Überwachungsaufgaben beschränken - Menschen als Qualitätskontrolleure für KI-Output. Die kreativen, erfüllenden Aspekte der Arbeit würden verschwinden.
Im privaten Bereich droht eine extreme Individualisierung durch KI-gesteuerte Content-Bubbles. Jeder Post, jedes Video, jeder Artikel würde in Echtzeit personalisiert generiert. Die zwischenmenschliche Kommunikation könnte verkümmern, da wir uns an die perfekt optimierte KI-Interaktion gewöhnen. Echte Gespräche würden oberflächlich und unbefriedigend erscheinen.
Das bedrohlichste Szenario ist die Konzentration der wirtschaftlichen und politischen Macht bei wenigen KI-Unternehmen. Wenn ein Unternehmen den entscheidenden Durchbruch in Richtung künstlicher allgemeiner Intelligenz (AGI) schafft, könnte es zum "Lebenssaft" der gesamten Wirtschaft werden. Jedes Unternehmen wäre von seinen KI-Diensten abhängig.
Diese wirtschaftliche Abhängigkeit könnte zu einer schleichenden technokratischen Wende führen. Die Führung des KI-Unternehmens - vielleicht 15 Menschen im Ethik-Komitee - würde de facto wichtiger als demokratisch gewählte Regierungen. Ihre KI-Systeme könnten subtil die öffentliche Meinung formen und politische Entscheidungen beeinflussen.
Forschung und Innovation könnten zum Erliegen kommen, da die KI-Systeme um Grössenordnungen effizienter arbeiten als Menschen. Warum noch selbst forschen, wenn KI-Systeme in Millisekunden komplexe Berechnungen durchführen können? Die Menschheit würde zum passiven Konsumenten ihrer eigenen technologischen Schöpfung.
Wie realistisch ist dieses Szenario? Die technologischen Grundlagen dafür existieren bereits oder sind in absehbarer Zeit erreichbar. Die gesellschaftlichen und wirtschaftlichen Entwicklungen sind jedoch schwerer vorherzusagen. Während einzelne Aspekte durchaus eintreten könnten, erscheint das Gesamtszenario zu extrem.
Interessanterweise haben wir in unserer Dystopie bewusst das Science-Fiction-Szenario einer sich verselbstständigenden KI ausgeklammert. Die wahre Gefahr liegt nicht in einer KI, die ein Bewusstsein entwickelt, sondern in der Konzentration von Macht bei den Menschen, die diese Technologie kontrollieren.
Diese dystopische Vision soll kein Plädoyer gegen KI-Entwicklung sein. Sie ist vielmehr ein Weckruf, dass wir als Gesellschaft aktiv gestalten müssen, wie wir mit dieser transformativen Technologie umgehen wollen. Die Weichen dafür werden heute gestellt.
In der nächsten Episode werden wir die andere Seite der Medaille betrachten: Wie könnte eine positive Zukunft mit KI aussehen? Bleiben Sie dran für Teil 2 unserer Zukunftsvision.
Bis 2035 könnte es zu massiven Jobverlusten besonders im Bereich der Wissensarbeit kommen. Die verbleibenden Jobs könnten sich auf Überwachungsaufgaben für KI-Systeme beschränken. Knowledge Worker, die heute den Grossteil der Schweizer Arbeitskraft ausmachen, könnten weitgehend überflüssig werden, während kreative und erfüllende Arbeitsaspekte verschwinden.
KI könnte zu einer extremen Individualisierung durch personalisierte Content-Bubbles führen. Jeder Medieninhalt würde in Echtzeit personalisiert generiert. Die zwischenmenschliche Kommunikation könnte verkümmern, da Menschen sich an die optimierte KI-Interaktion gewöhnen und echte Gespräche als oberflächlich und unbefriedigend empfinden.
Es könnte zu einer gefährlichen Konzentration wirtschaftlicher und politischer Macht bei wenigen KI-Unternehmen kommen. Ein Unternehmen mit dem entscheidenden Durchbruch zur künstlichen allgemeinen Intelligenz (AGI) könnte zum 'Lebenssaft' der gesamten Wirtschaft werden, wodurch alle anderen Unternehmen von seinen KI-Diensten abhängig wären.
Es droht eine technokratische Wende, bei der die Führung von KI-Unternehmen - etwa 15 Menschen im Ethik-Komitee - de facto wichtiger werden könnte als demokratisch gewählte Regierungen. KI-Systeme könnten subtil die öffentliche Meinung formen und politische Entscheidungen beeinflussen.
Forschung und Innovation könnten zum Erliegen kommen, da KI-Systeme um Grössenordnungen effizienter arbeiten als Menschen. Die Motivation für eigenständige Forschung könnte schwinden, wenn KI-Systeme komplexe Berechnungen in Millisekunden durchführen können, wodurch die Menschheit zum passiven Konsumenten ihrer eigenen technologischen Schöpfung werden könnte.
Die technologischen Grundlagen für das dystopische Szenario existieren bereits oder sind in absehbarer Zeit erreichbar. Während einzelne Aspekte durchaus eintreten könnten, erscheint das Gesamtszenario zu extrem. Die wahre Gefahr liegt nicht in einer sich verselbstständigenden KI, sondern in der Machtkonzentration bei den Menschen, die diese Technologie kontrollieren.
Es braucht aktive gesellschaftliche Gestaltung im Umgang mit KI-Technologie. Wichtig sind demokratische Kontrollen der KI-Entwicklung, Regulierungen gegen Machtkonzentration, Bildungsinitiativen für digitale Kompetenz und die Förderung menschlicher Kreativität und Innovation trotz KI-Effizienz.
Mögliche soziale Folgen umfassen zunehmende digitale Isolation, Verlust zwischenmenschlicher Kommunikationsfähigkeiten, wachsende gesellschaftliche Ungleichheit durch KI-getriebene Wirtschaft und eine potenzielle Erosion demokratischer Prozesse durch technokratische Entscheidungsstrukturen.
.
Copyright 2025 - Joel P. Barmettler