Don`t fear the Reaper: Von Superintelligenz und warum wir uns davor nicht fürchten sollten

«Don’t fear the Reaper« ist ein Song von «Blue Oyster Cult», der durch eine Parodie in Saturday Night Life zu noch grösserer Berühmtheit gelang. In der Persiflage besteht der Produzent darauf, dass die sonst schon laute Kuhglocke noch lauter gespielt wird. «More Cowbell!» wurde dadurch zum geflügelten Wort. Schön, wirklich, aber was hat das mit KI zu tun? Manchmal, hören wir einfach auf die lautesten Signale und verstärken sie dann, bis der Eindruck entsteht, dass das – und nur das – zählt. Aktuelles Beispiel ist «Superintelligenz».

Superintelligenz

Eine gute, schon lange bestehende Kategorisierung von Künstlicher Intelligenz (KI) ist:

1. Schwache KI, Artificial Narrow Intelligence (ANI): Darunter versteht man Systeme, die einen eng definierten Bereich gut können. Texte schreiben, Bilder malen, Chatten.
2. Starke KI, Artificial General Intelligence (AGI): Eine solche kann flexibel unterschiedliche Aufgaben lösen und das auf dem Niveau eines Menschen. Solche Systeme können sich zudem (selbständig) weiterentwickeln.
3. Superintelligenz, Artificial Super Intelligence (ASI): Diese künstliche Intelligenz übertrifft sämtliche Bereiche des Menschen. Sie kann sich selbst trainieren. Skynet lässt grüssen.

Was wir heute haben ist leistungsfähige, aber schwache KI. Die Systeme – und auch Agenten – sind eine Aneinanderreihung von einzelnen Systemen, die über Algorithmen gesteuert sind. Von Starker KI sind wir noch weit entfernt.

Wer laut ist, bekommt Aufmerksamkeit

Ist Technik kompliziert und entwickelt sich schnell, schafft das Ungewissheit, die unheimlich wird, wenn sie auf die Aufmerksamkeits-Ökonomie trifft (More Cowbell!). So erstaunt es nicht, dass mit KI – und vor allem mit Superintelligenz – Angst und Schrecken verbreitet wird.  Zum Beispiel hat ein renommiertes Konsortium den Beitrag AI-2027 zu einer möglichen Entwicklung der Superintelligenz geschrieben, mit fürchterlicher Entwicklung. Zum Schluss kann man zwischen «Slowdown» und Beschleunigung als Ende wählen. Man ist gewillt auf «Slowdown» zu drücken, im Wissen, dass es anders käme – für dieses Szenario. Schauerliches wurde auch früher prognostiziert, aber Video did not kill the Radio Star, Diener-Roboter wurden oft besungen, angekommen sind sie nie und man ist nach einer mRNA-Impfung nicht nach sechs Monaten gestorben.

Don’t Fear the (KI-) Reaper

Alles halb so wild also? Vermutlich nicht. Die KI wird unsere Arbeits- und Berufswelt verändern. Gartner meint, dass generative KI bald im Tal der Tränen und «AI ready Data« und «AI Agents« (immer noch Schwache KI) auf dem Gipfel der überzogenen Erwartungen ist. Das heisst, es wird sich erst noch abzeichnen, wie sich diese Technologie etabliert. Der Durchbruch zur starken oder gar Superintelligenz kann morgen erfolgen, oder in fünf Jahren oder gar nie. Eins ist klar: Die Strategie des Aussitzens wird für KI nicht helfen; sie ist da, um zu blieben und man muss sich aktiv damit auseinandersetzen: Genau hinsehen, evaluieren, anpassen. Dabei hilft es, den richtigen Umgang zu finden – nicht von Ängsten getrieben, sondern von Chancen geleitet. Genau daran erinnert auch der Song «Don’t fear the Reaper»: Keine Angst vor dem Sensemann, denn Liebe ist unsterblich.

Was nehmen wir mit?

• Prognosen sind schwierig: Es wird spannend, wie sich KI entwickelt. Schwache KI macht heute schon Spass. Ob und wann starke oder Superintelligenz kommt, das steht noch in den Sternen.
• Less Cowbell: Bei der Währung Aufmerksamkeit gewinnt der oder die Lauteste. Neben den lauten Kuhglocken, lohnt es sich auch, den leiseren Instrumenten zu horchen.
• Adler, nicht Strauss: Aussitzen wird bei KI keine Strategie sein, sich aktiv damit auseinandersetzen (hinsehen, evaluieren, anpassen) ist wichtig.
• Filmtipp: An verregneten Herbsttagen wieder mal «War Games» gucken. Der unglaublich visionäre Film aus 1983 zeichnete schon damals das Schreckensszenario der Superintelligenz.  Ein junger, heller Kopf konnte sie mit TIC-TAC-TOE bändigen. Aber nur, weil der erfahrene Wissenschaftler auf ihn hörte.

Alle Bernetblog-Beiträge zur KI

PS: Douglas Adams (der Autor von «Hitchhikers Guide to the Galaxy») hatte unsere Reaktion auf neue Technologie humorvoll in drei Regeln beschrieben:

1. Anything that is in the world when you’re born is normal and ordinary and is just a natural part of the way the world works.
2. Anything that’s invented between when you’re fifteen and thirty-five is new and exciting and revolutionary and you can probably get a career in it.
3. Anything invented after you’re thirty-five is against the natural order of things.

Bilder: Generiert durch Google Gemini / Nano Banana