Autonome Techniken für alle: Segen oder Fluch?

Technik, die selbstständig agieren kann, ist ein lange gehegter Menschheitstraum. Allerdings liegen Wohl und Wehe hierbei ähnlich dicht beieinander wie bei der Atomkraft mit ihrer CO₂-Freiheit einerseits und dem strahlenden Abfall andererseits.

Es ist wohl eine der größten Stärken des modernen Menschen: Die Kombination aus Drang und Fähigkeit, sich das Leben immer weiter erleichtern zu wollen – egal, wie viel Entwicklungsarbeit nötig ist. Nur so lässt sich erklären, dass bereits im antiken Griechenland, und in überraschender Detailtreue, Dinge erträumt und entwickelt wurden, die sich aus heutiger Sicht problemlos als autonome Technik erkennen lassen. Etwa im Epos „Ilias“ von Homer, in dem selbstständige Roboter sehr komplex beschrieben werden.

Doch während autonome Techniken über weite Teile der Geschichte weitgehend Wunschträume blieben, stehen wir derzeit erstmals in der Menschheitsgeschichte am Beginn eines Zeitalters, in dem es anders laufen wird. Eine Epoche, in der autonome Systeme machbar geworden sind und eine wirkliche Chance haben, unser Leben in vielerlei Hinsicht völlig zu verändern.

Sowohl im Privaten als auch im Beruf; in der Wirtschaft ebenso wie in Forschung, Entwicklung und Lehre. Allerdings haben Positiva und Negativa dieser Systeme dabei gleichermaßen das Potenzial, zum bestimmenden Effekt zu werden.

Autonome Systeme: Selber machen – weitgehend

Eigentlich ist „autonome Systeme“ ein Begriff aus der Netzwerktechnik. Mittlerweile allerdings hat sich die allgemein- und fachsprachliche Bedeutung beträchtlich gewandelt. Gemeint sind technische Systeme, die selbstständig agieren können. Doch wie nicht zuletzt das Fraunhofer-Institut anmerkt, gibt es dazu eine breit- und eine enggefasste Definition:

• Autonomes System nach breiter Definition: Jedes System, das eine irgendwie geartete Tätigkeit ohne menschliche Steuerung erledigen kann. Wobei nach dieser Definition beträchtliche Überschneidungen zu „lediglich“ vollautomatisierten Systemen bestehen.
• Autonomes System nach enger Definition: Systeme, die ohne menschliche Steuerung agieren können und dazu keine komplexe Programmierung benötigen.

Die Schwierigkeit besteht zudem in der Definition, ab wann eine Programmierung „komplex“ gilt. Das Fraunhofer-Institut schreibt daher:

„Ab wann wir bei autonomen Systemen nicht mehr von detaillierter Programmierung sprechen, wird aktuell noch kontrovers diskutiert, aber viele Methoden aus dem Bereich der Künstlichen Intelligenz – wie maschinelles Lernen – kann man sicherlich dazu zählen. Wenn man die genannten KI-Methoden allerdings nur sehr dediziert einsetzt, um bestimmte Teilaufgaben wie eine Fußgängererkennung zu implementieren, dann ist die Implementierung wieder recht nah bei einer detaillierten Programmierung zu verorten.

Autonomie ist generell als graduelles Konzept zu verstehen. Auch in Bezug auf die Abwesenheit von menschlicher Steuerung kann man Autonomie als graduelles Konzept betrachten. Oft ist der Mensch eine Rückfallebene und muss in die Steuerung eingreifen. Zusätzlich gibt es häufig bestimmte Betriebsmodi, bei denen das System manuell gesteuert werden kann.“

Ob ein solches System physisch vorhanden ist (etwa ein Roboter) oder lediglich virtuell (beispielsweise eine Chat-KI) ist dabei gleichgültig. Wichtig ist nur, dass das System hochkomplexe Dinge erledigen kann, ohne dass menschliche Benutzer:innen andauernd eingreifen müssen. Dinge, die mitunter zudem weit über die menschliche körperliche und/oder geistige Leistungsfähigkeit hinausgehen.

Die Welt im losbrechenden Autonomzeitalter

Praxistaugliche autonome Techniken sind keine Erfindung dieses Jahrtausends. Denken wir an den Fertigungsroboter, der schon in den frühen 1960ern Marktreife erlangte und ab dem darauffolgenden Jahrzehnt insbesondere die Fahrzeugproduktion revolutionierte.

Was jedoch unsere Gegenwart diesbezüglich auszeichnet, sind zwei Elemente:

1. Die sich mit hohem Tempo steigernde Vielfalt autonomer Technologien für ganz unterschiedliche Anwendungen und Anwender:innen.
2. Die großen Leistungssprünge zwischen Modellgenerationen bei gleichzeitig sehr kurzen Abständen dazwischen.

Nehmen wir eines der bekanntesten Beispiele dafür, ChatGPT. GPT-1 wurde 2018 vorgestellt, war damals durchaus leistungsfähig. Doch obwohl seitdem bis heute (Ende 2024) gerade einmal sechs Jahre vergingen und derzeit GPT-4.5 das Maß der Dinge ist (bei insgesamt sechs Haupt- und Zwischenversionen), sind die Unterschiede in der Leistungsfähigkeit gigantisch. Trotz nur eines guten halben Jahrzehnts erscheint GPT-1 deshalb aus heutiger Sicht ziemlich limitiert, egal wie revolutionär es seinerzeit war.

Dabei ist der KI-Chatbot nur ein Beispiel von vielen. Tatsächlich ist es nicht falsch, davon zu sprechen, die Menschheit stünde derzeit zu Beginn der ersten Phase des „Autonomzeitalters“. Was derzeit schon (marktreif) ist oder es in den nächsten Jahren werden wird, ist atemberaubend. Einige Beispiele dafür:

• autonome Roboter und Drohnen im Liefer- und Wartungsbereich
• allgemein autonomes Fahren im Bereich Personen- und Warentransport sowie Landwirtschaft
• selbsttätige Reinigungssysteme zwischen Saugroboter und Fensterputzer
• intelligente, adaptive Leit- und Steuerungssysteme, etwa im Straßenverkehr oder der Energiedistribution
• selbstständige Analysen und Bewertungen, beispielsweise im Finanzbereich oder Risikomanagement, aber auch in der Online-Moderation
• autonome Erkennung und Übersetzung
• menschenähnliche Chats – sogar mit seinem zukünftigen Ich
• selbsttätige Erstellung und/oder Bearbeitung von Text, Bild und Ton

Zumal all das nur Oberkategorien sind, hinter denen sich teilweise Dutzende einzelne Anwendungen finden. Allein über den Themenkomplex autonomes Fahren ließen sich ganze Bücher verfassen. Angefangen bei PKW, die dank Sensor-Input und intelligenter Verarbeitung selbsttätig einparken bis hin zu bodengebunden Lieferdrohnen, die teilweise eigenständig ihre Routen hinsichtlich solcher Parameter wie etwa Verkehrsdichte berechnen können.

Sehr vieles, was noch über weite Teile der 2010er hinweg lediglich in Sci-Fi-Medien praktikabel erschien, wurde mittlerweile Realität oder steht kurz davor, es zu werden. Natürlich, das alles wäre nicht ohne menschliche Fachkräfte zu leisten. Denn bislang ist keines der Systeme auch nur annähernd dazu befähigt, seine jeweiligen Grundlagen selbstständig zu erarbeiten – oder sich gar aus dem Nichts zu erschaffen. An irgendeinem Punkt sind immer noch Menschen involviert.

Verschiedene Stellen zwischen Hochschulen und IT-Recruiter sind deshalb die „Speerspitze“, um den Bedarf nach Fachpersonal für die verschiedenen Disziplinen hinter der Autonomie zu decken. Hochschulen schaffen Lehrstühle, versuchen die involvierten IT- und Ingenieursfächer möglichst attraktiv zu gestalten. IT-Recruiter sind für die beteiligten Firmen oft die wichtigsten Kooperationspartner:innen, wenn es darum geht, gleichermaßen befähigte Expert:innen und Führungskräfte zu beschaffen. Dafür nutzen sie unter anderem einen semantischen Suchalgorithmus und greifend auf ein umfassendes Kandidatennetzwerk zurück.

Längst ist der „Autonom-Boom“ so groß, dass einige IT-Recruiter praktisch nur noch solche Firmen bedienen (können), die mit selbstständigen Systemen zu tun haben. Und umgekehrt integrieren sich diese Systeme ebenso immer tiefer in die menschliche Welt der Anwender:innen und anderer Benutzer:innen:

So gibt es bereits einige Menschen, die sich in Chatbots verliebt haben. Während westliche Armeen noch im Irak und Afghanistan standen, mussten bereits Soldat:innen mitansehen, wie ihr/e „Kamerad:in“ der Entschärfungsroboter im Einsatz zerstört wurde. Nicht zuletzt hat ChatGPT Auswirkungen auf Hausarbeiten und andere Lernerfolge.

All das zeigt, wie schnell autonome Systeme in unserer Mitte ankommen und wie sich ihre Bedeutung in den kommenden Jahren noch steigern wird – aber ebenso, wie sie in verschiedener Hinsicht wirken können.

Zwischen Effizienz, Sicherheit und Komfort: Die vielfältigen positiven Effekte der autonomen Revolution

Warum setzte sich der Produktionsroboter zunächst in West-Deutschland und Japan durch – nicht etwa in den USA, wo er maßgeblich entwickelt wurde? In den beiden genannten Ländern waren die industriellen Personalreserven zu diesem Zeitpunkt bereits erschöpft, wohingegen die USA noch aus einem reichhaltigen Pool schöpfen konnten.

Damit ist bereits einer der wichtigsten Vorteile der Autonomie angesprochen: Die Systeme sind, je nach Aufbau und Anwendung, dazu in der Lage, eine große Menge von (nicht verfügbaren) Fachkräften zu ersetzen – und das obendrein zu meist wesentlich geringeren Kosten, teils sogar völlig kostenlos. Dieser Vorteil kratzt jedoch buchstäblich nur an der Oberfläche einer viel längeren Liste.

Effizienz

Sehr viele Systeme ermöglichen eine bislang noch nicht dagewesene Effizienzmaximierung. Das gilt sowohl bezüglich der schon angesprochenen Kosten als auch solcher Faktoren wie Zeit und Aufwand.

Wo beispielsweise ein/e menschliche/r Dolmetscher:in mitunter mehrere Wochen benötigt, um ein Buch nicht nur sprachlich und fachlich korrekt, sondern ebenso sinngemäß zu übersetzen, benötigt eine KI nur Minuten. Vielleicht ist das Ergebnis (noch) nicht perfekt. Doch selbst wenn der/die Übersetzer:in nacharbeiten muss, so kann er/sie sich zumindest auf eine umfassende Grundlage stützen, die lediglich noch Feinarbeit benötigt.

Effektivität

Ein Lieferroboter, der selbstständig immer den schnellsten Weg findet und der niemals je nach Tagesform und schon geleisteter Arbeit langsamer wird. Oder eine KI, die in der Lage ist, gigantische Datensätze durchzuarbeiten und darin die Muster zu finden, nach denen die menschlichen Bediener:innen explizit suchen.

Wenn es um höchste Effektivität geht, sind autonome Systeme in ihrem jeweiligen Anwendungsgebiet oft an der Spitze der verfügbaren Techniken.

Sicherheit

Gefahren sind sowohl ein Risiko für den Menschen als auch etwas, das aus der menschlichen Natur hervorgeht. Beides durch maschinelle Sicherheit zu ersetzen, gehört ebenfalls zu den großen Stärken vieler autonomer Systeme:

1. Dinge bei mindestens gleicher Leistungsfähigkeit übernehmen, wodurch Gefahren für Menschen verringert bis völlig eliminiert werden. An dieser Stelle sind diverse Roboter und etwa vorausschauende Bremsassistenten in Fahrzeugen trotz aller Unterschiede enge Verwandte.
2. Dinge sicherer machen, denen durch die menschliche Natur ein Unsicherheitsfaktor anhaftet. Beispielsweise, weil Personen Sachverhalte unterschiedlich bewerten, nicht immer gleichschnell reagieren und ebenso wenig alles stets korrekt erkennen und interpretieren.

Das ist beispielsweise einer der Gründe, warum die Medizin sehr innovationsfreudig dabei ist, KI in der Diagnostik zu implementieren. Die Künstliche Intelligenz ist darin extrem leistungsfähig. Ebenso ist es ein Grund, wieso ebenfalls KI immer stärker eingesetzt wird, um Entscheider:innen fundierte, unbestechliche Grundlagen zur Verfügung zu stellen.

Anpassungsfähigkeit und Skalierbarkeit

Bis ein Mensch eine bestimmte Tätigkeit sicher beherrscht, können Jahre vergehen. Damit etwa ein/e Radiolog:in MRT-Scans fachgerecht auswerten kann, sind große Qualifikationshürden zu nehmen.

Autonome Systeme hingegen, selbst wenn sie nur eingeschränkt selbst lernfähig sind, beherrschen solche Fähigkeiten binnen kürzester Zeit. Zudem lassen sie sich häufig umfassend erweitern – ohne jedoch ihr „Altwissen“ mangels Routine zu vergessen.

Weit mehr als nur Hollywood und Verschwörungsglaube: Die realen Gefahren autonomer Technik

Was passiert, wenn intelligente Maschinen befinden, der Mensch sei die größte Gefahr für den Planeten – und sich dazu entschließen, ihn auszulöschen? Noch vor zehn, fünfzehn Jahren wäre diese Frage primär etwas für Drehbuchautor:innen gewesen – beispielsweise die der „Terminator“-Filmreihe.

Heute hingegen warnen Personen vor derartigen Szenarien, deren Fachgebiet nichts mit dem Kreieren spannender Geschichten zu tun hat – sondern die vielfach selbst in die Entwicklung autonomer Systeme involviert sind. Allerdings sind solche fast apokalyptischen Szenarien nur eine reale Gefahr der Technik und dabei nicht einmal die naheliegendste.

Soziale Verwerfungen

Schon heute haben KI und Robotik nachweislich viele Arbeitsplätze überflüssig gemacht oder bedrohen diese zumindest. Noch befinden wir uns an einem Punkt, an dem die Effekte nicht dramatisch sind. Indem autonome Techniken jedoch in den kommenden Jahren eine noch viel größere Rolle spielen werden, könnte sich daraus ein viel größeres Problem entwickeln – das zudem wie ein Schneeball wirkt.

Denn je mehr der Mensch „überflüssig“ wird, desto weniger funktionieren die klassischen Modelle von Steuergenerierung, sozialer Absicherung und Ähnlichem. Zwar erschaffen die Techniken neue Arbeitsplätze – jedoch nicht 1:1. Durch das Tempo von Entwicklung und Implementierung sind zudem die bislang bei solchen Wandlungen praktizierten „sozialverträglichen Maßnahmen“ in Gefahr – etwa das vorzeitige Verrenten.

Da Autonomie zudem so viele Branchen betrifft, handelt es sich dabei um eine Gefahr, die sogar staatsübergreifend besteht.

Mittelfristiger Fähigkeitsverlust

Was einer Gesellschaft droht, in der bestimmte Tätigkeiten nach und nach nicht mehr benötigt werden, lässt sich durch einen Blick in die Vergangenheit erkennen. Es muss nicht einmal die ferne Vergangenheit sein. Warum beispielsweise seit 1972 kein Mensch mehr den Mond betreten hat, lässt sich mit solchen Verlusten erklären: Das Apollo-Programm wurde aufgrund der immensen Kosten beendet. Viele Beteiligte wanderten daraufhin ab. Ab den 1980ern waren deshalb wichtige Kernfähigkeiten verloren gegangen, um die nötigen Systeme zu konstruieren.

Wo autonome Technik so vieles übernimmt, würden immer weniger Menschen derartige Fähigkeiten erlernen. Je nach Komplexität gäbe es bereits nach wenigen Jahren keine Anknüpfungspunkte mehr. Davon ausgehend entstünde eine weitere Gefahr:

Massive Abhängigkeiten

Wenn KI und Roboter eine solche Rolle spielen, kommt es automatisch zu Abhängigkeiten. Das gilt sowohl bezüglich der dahinterstehenden Unternehmen als auch der von den autonomen Systemen gelieferten Fähigkeiten. Sehr reale Gefahren:

• Monopole: Die bisherige Tech-Geschichte beweist, wie rasch und stark sich einige wenige Konzerne als gigantische Machtfaktoren etablieren können – mit allen Nachteilen.
• Kontrollverluste: Wer autonome Systeme nutzt, ist fast zwangsläufig auf die dahinterstehenden Firmen angewiesen. Besonders kritisch, da viele dieser Techniken nach dem Blackbox-Prinzip funktionieren – Arbeits- und Funktionsweisen sind nur Eingeweihten bekannt.
• Alternativlosigkeiten: Indem immer weniger Personen die dahinterstehenden Fähigkeiten beherrschen, wird die Nutzung autonomer Systeme immer alternativloser.

Denken wir etwa an eine Epoche, in der Ärzt:innen seit Jahren bei der Diagnostik auf KI vertrauen. Demenstsprechend würde dann die Fähigkeit, beispielsweise MRT-Bilder selbst zu interpretieren, fast zwangsläufig verkümmern.

Ethisch-moralische Herausforderungen

Autonom bedeutet mit steigendem Entwicklungsgrad, dass die Technik immer mehr Entscheidungen fällt. Damit fällt zwangsläufig ein maßgeblicher Faktor weg: Jenes hochkomplexe Feld namens menschliche Ethik und Moral. An diese Stelle tritt eine buchstäblich maschinell nüchterne Kalkulation.

Ein oftmals dafür herangezogenes Beispiel kommt aus der autonomen Mobilität: Wenn ein Unfall unvermeidlich ist, wen muss das Fahrzeug dann schützen und wen opfern?

• Die Insass:innen?
• Die Insass:innen des restlichen Verkehrs?
• Oder die Passant:innen?

Natürlich, der Mensch muss ebenfalls solche Entscheidungen treffen. Bislang gab es in seiner Geschichte jedoch trotz aller Technisierung niemals eine Situation, in der er dabei Konkurrenz hatte.

Das ist schon heute eine massive Herausforderung, wo solche Systeme noch maßgeblich von Menschen gestaltet und mit menschlichen Daten trainiert werden. Denn diese Personen sind weit weg, wenn die Technik basierend auf ihren Eingaben entscheidet. In einer mittelfristigen Zukunft, in der autonome Systeme vollumfänglich selbst lernen, wird es noch schwieriger – daran können auch Vorgaben wie die oft herangezogenen Asimov’schen Robotergesetze nichts ändern.

Mangelnde Vorhersagbarkeit

Der Mensch ist keineswegs perfekt. Aber er ist stets eines: menschlich-verlässlich in seinen Denk- und Handlungsmustern. Denn für gewöhnlich verhalten sich Menschen in den meisten Situationen im Rahmen gewisser vorhersagbarer Muster.

Kein/e Autofahrer:in käme beispielsweise auf die Idee, angesichts eines kleinen Steines auf der Fahrbahn eine Vollbremsung zu vollziehen – weil die Person am Steuer genau weiß, dass der Stein keine Gefahr für das Fahrzeug oder irgendetwas bzw. irgendwen anderen bedeutet.

Ein autonomes Fahrzeug hingegen könnte durch eine nicht nachvollziehbare (Stichwort Blackbox-Prinzip) Kette von Entscheidungen zum Ergebnis kommen, der Stein auf der Fahrbahn sei ein Risiko. Woraufhin die Technik eine Vollbremsung oder ein hektisches Ausweichmanöver veranlassen würde – mit eventuell gravierenden Folgen.

Mangelnde Flexibilität

Dieser Punkt wird sich mit gewisser Wahrscheinlichkeit in absehbarer Zeit zumindest abmildern. Dennoch muss er genannt werden, weil er heute noch prominent ist. Alle bisherigen autonomen Systeme sind nur für einen fest eingegrenzten Bereich konzipiert.

Selbst der allwissend scheinende GPT-Chatbot konnte beispielsweise lange Zeit keine Antworten zu Dingen geben, die nach Veröffentlichung der jeweils aktuellen Version geschahen. Hierzu sei auf den Unterschied zwischen starker und schwacher KI verwiesen.

Höchstwahrscheinlich wird es in den kommenden Jahrzehnten gelingen, eine starke KI zu erschaffen. Also ein autonomes System, das in ähnlich multiplen Themen- und Fähigkeitsgebieten lernen und agieren kann wie der Mensch. Bis dahin werden solche Systeme jedoch nicht die Fähigkeit aufweisen, „out of the box“ zu denken und zu handeln.

Vor allem in Extrem- bzw. Ausnahmesituationen kann das ein Nachteil sein. Denn die Technik schafft es nicht, kreative, unkonventionelle Lösungen zu finden. Dabei muss man nicht nur an Notlagen denken. Es kann bereits dann ein Nachteil werden, wenn ein System schlichtweg etwas anderes als eine Standardantwort liefern soll.

Autonome Balance: Die wichtigsten Faktoren

Autonome Technik ist weder nur positiv noch nur negativ. Die Waage kann lediglich stärker in eine Richtung ausschlagen. Doch was ist nötig, damit das zur positiven Seite hin geschieht?

• Globale Zusammenarbeit zwischen den Hersteller:innen und Regierungen.
• Festverdrahtete Schranken, damit autonome Systeme gewisse Dinge physikalisch nicht machen können.
• Einheitliche Kodexe, die in allen Ländern durch entsprechende Gesetze abgesichert werden. Etwa zu Haftbarkeit oder Ethik.
• Offene Systeme, damit stets zumindest für (externe) Expert:innen Transparenz gewahrt bleibt.

Die Schwierigkeit daran: Eine Welt mit so vielen unterschiedlichen Ländern, in denen autonome Systeme mehrheitlich durch profitorientierte Unternehmen entwickelt, betrieben und genutzt werden, ist für diese Punkte denkbar schlecht aufgestellt.

Definitiv kann autonome Technik die Menschheit in ein Zeitalter atemberaubender Prosperität führen. Erwartungsgemäß dürfte der Weg dorthin jedoch von vielen Irrtümern gekennzeichnet sein. Dafür liegen bei autonomen Systemen Vor- und Nachteile zu dicht beieinander.

Titelbild: unsplash.com © ZHENYU LUO

Marlene

Korrekturleserin

Marlene ist seit 25 Jahren Fotografin und Künstlerin. Ihre Leidenschaft für Sprachen und interkulturelle Kommunikation entwickelte sie durch internationale fotojournalistische Arbeiten. Heute nutzt sie ihre weitreichende Erfahrung auch als Korrekturleserin und übersetzt journalistische Artikel vom Französischen ins Deutsche. Marlene stellt sicher, dass jeder Text seine Authentizität bewahrt und an die sprachlichen sowie kulturellen Besonderheiten des deutschsprachigen Publikums angepasst wird.