KI: Nicht Bewusstsein ist das Problem, sondern Kontrolle

Rubrik: Technologie & KI
Format: Analyse
Autor: Sinisa Brkic (sb)

Transparenzhinweis: newsmedia.report und sapcora™ sind Projekte der sapcoCompanies. Der Autor Sinisa Brkic ist Eigentümer der Unternehmensgruppe.

Die Vorstellung, künstliche Intelligenz könnte eines Tages ein eigenes Bewusstsein entwickeln, gehört zu den hartnäckigsten Zukunftsbildern der digitalen Ära. Für Staaten, Unternehmen und Gesellschaften liegt die entscheidende Herausforderung jedoch wesentlich näher: KI muss weder fühlen noch einen eigenen Willen besitzen, um Entscheidungen zu beeinflussen, Prozesse zu verändern und neue Abhängigkeiten zu schaffen. Entscheidend ist deshalb nicht, ob die Maschine irgendwann erwacht, sondern wer ihre Grenzen bestimmt.

Die Debatte beginnt an der falschen Stelle

Seit künstliche Intelligenz für Millionen Menschen unmittelbar erlebbar geworden ist, begleitet eine Frage nahezu jede Diskussion über ihre Zukunft: Könnte eine Maschine irgendwann ein eigenes Bewusstsein entwickeln? Die Vorstellung ist faszinierend, weil sie technologischen Fortschritt mit einer der ältesten philosophischen Fragen verbindet, nämlich jener nach dem Wesen des Denkens und des eigenen Ich. Für die praktische Gestaltung künstlicher Intelligenz ist diese Frage allerdings weit weniger entscheidend, als ihre öffentliche Aufmerksamkeit vermuten lässt. Schon heutige Systeme können große Informationsmengen strukturieren, Zusammenhänge herstellen, Texte und Bilder analysieren, Handlungsoptionen entwickeln und menschliche Entscheidungen vorbereiten, ohne dass daraus ein belastbarer Nachweis eines eigenen Bewusstseins folgt. Gerade darin liegt die eigentliche Herausforderung. Eine Maschine muss nichts fühlen, um innerhalb eines Systems Wirkung zu entfalten, und sie benötigt keinen eigenen Willen, damit Menschen beginnen, sich auf ihre Ergebnisse zu verlassen.

Intelligenz ist nicht Bewusstsein

Moderne KI Systeme erzeugen Sprache in einer Qualität, die schnell den Eindruck eines denkenden Gegenübers entstehen lässt. Sie können Unsicherheit formulieren, Argumente gegeneinander abwägen und selbst über ihre vermeintliche Existenz sprechen, weil sie gelernt haben, wie Menschen über solche Dinge kommunizieren. Das ist etwas grundlegend anderes als der Nachweis eines inneren Erlebens. Selbst die Wissenschaft verfügt bislang über keine allgemein akzeptierte Methode, mit der sich ein mögliches Bewusstsein künstlicher Systeme zuverlässig feststellen ließe. Eine breit angelegte wissenschaftliche Untersuchung kam bei den analysierten bestehenden Systemen zu keinem Hinweis, der die Einordnung als bewusst rechtfertigen würde, schloss eine künftige technische Entwicklung in diese Richtung aber ebenfalls nicht grundsätzlich aus. Die Fähigkeit, Bewusstsein überzeugend zu beschreiben, ist deshalb noch kein Bewusstsein. Genau diese Unterscheidung dürfte für die kommende Phase der KI Entwicklung wesentlich wichtiger werden als die spektakuläre Vorstellung einer plötzlich erwachenden Maschine.

Die Maschine muss nichts wollen

Eine KI benötigt keine eigenen Interessen, um eine problematische Empfehlung zu erzeugen. Sie braucht keine politische Überzeugung, um Informationen unterschiedlich zu gewichten, und keine Absicht, um aufgrund ungeeigneter Daten, fehlerhafter Modellierung oder falsch gesetzter Zielgrößen zu einem fragwürdigen Ergebnis zu gelangen. Solange KI hauptsächlich Texte formuliert, Dokumente zusammenfasst oder Bilder erzeugt, bleiben viele Fehler vergleichsweise leicht korrigierbar. Die Bedeutung verändert sich jedoch erheblich, sobald dieselben Technologien in Verwaltungsabläufe, Unternehmensprozesse, Risikoanalysen oder andere entscheidungsrelevante Systeme eingebunden werden. Dann lautet die entscheidende Frage nicht mehr, wie menschlich eine Maschine wirkt. Entscheidend ist, welche Aufgaben und welche Befugnisse ihr innerhalb eines realen Systems übertragen werden.

Aus Assistenz kann schleichend Autorität werden

Technologische Delegation geschieht selten in einem einzigen großen Schritt. Zunächst fasst ein System Dokumente zusammen, danach sortiert es Informationen, später bewertet es Sachverhalte und irgendwann schlägt es konkrete Entscheidungen vor. Jeder einzelne Schritt kann sinnvoll erscheinen. In ihrer Summe können solche Entwicklungen jedoch dazu führen, dass sich die tatsächliche Entscheidung immer weiter in technische Vorstufen verlagert, während der Mensch formal weiterhin als verantwortliche Instanz erscheint. Genau an diesem Punkt reicht es nicht, einen Menschen lediglich am Ende eines Prozesses zu platzieren. Wer eine maschinelle Empfehlung bestätigen soll, muss verstehen können, auf welcher Grundlage sie entstanden ist, welche Unsicherheiten bestehen und welche Alternativen möglicherweise unberücksichtigt geblieben sind. Menschliche Kontrolle muss deshalb eine reale Möglichkeit zur Prüfung, Korrektur und Ablehnung beinhalten. Eine bloße formale Bestätigung maschinell vorbereiteter Ergebnisse erfüllt diesen Anspruch nicht automatisch.

Österreich macht aus der Theorie Praxis

Diese Diskussion ist längst keine abstrakte Zukunftsfrage mehr. Österreich hat 2026 mit seiner Public AI Initiative begonnen, künstliche Intelligenz systematisch in die Bundesverwaltung zu integrieren. Im Juli startete der Rollout von GovGPT als verwaltungsinternem KI Assistenten. Das System soll unter anderem Texte vorbereiten, umfangreiche Dokumente zusammenfassen und Bedienstete bei ersten Analysen unterstützen. Die Verarbeitung erfolgt innerhalb einer vom Bundesrechenzentrum bereitgestellten Infrastruktur. Seit Ende September geht die Integration einen Schritt weiter. KI Funktionen werden direkt in den elektronischen Akt der Bundesverwaltung eingebunden. Informationen aus Akten und Dokumenten sollen dadurch schneller erschlossen, Inhalte zusammengefasst und Fragen innerhalb der bestehenden Arbeitsumgebung bearbeitet werden können. Damit beginnt eine neue Phase. KI steht nicht mehr lediglich neben dem Verwaltungsprozess, sondern wandert zunehmend in ihn hinein.

Genau hier beginnt die Kontrollfrage

Die Vorteile liegen auf der Hand. Behörden arbeiten mit erheblichen Dokumentenmengen, komplexen Rechtsmaterien und zahlreichen wiederkehrenden Tätigkeiten. Systeme, die Informationen schneller erschließen und Fachkräfte von Routineaufgaben entlasten, können Verwaltung effizienter machen. Je näher künstliche Intelligenz jedoch an reale Verwaltungsprozesse heranrückt, desto wichtiger wird die Architektur der Verantwortung. Wer kontrolliert die Datenbasis, wie werden Fehler erkannt, welche Entscheidungen darf ein System lediglich vorbereiten und welche Tätigkeiten dürfen automatisiert durchgeführt werden? Die entscheidende Frage lautet deshalb nicht, ob KI in der Verwaltung eingesetzt werden sollte. Sie lautet, wie ein Staat solche Systeme gestaltet, wenn aus einem hilfreichen Werkzeug schrittweise ein Bestandteil seiner institutionellen Entscheidungsstruktur wird.

Souveränität endet nicht beim Rechenzentrum

Die Diskussion über souveräne künstliche Intelligenz konzentriert sich häufig auf Infrastruktur. Wo werden Daten verarbeitet, wer betreibt die Systeme, welche Modelle werden eingesetzt und welche Informationen verlassen einen bestimmten Rechtsraum? Diese Fragen sind zentral, beschreiben aber nur einen Teil technologischer Souveränität. Ein Staat kann seine Daten vollständig auf eigener Infrastruktur halten und dennoch schrittweise Entscheidungshoheit verlieren, wenn komplexe Systeme zunehmend bestimmen, welche Informationen relevant erscheinen und welche Optionen Menschen überhaupt noch präsentiert bekommen. Souveränität bedeutet deshalb mehr als technische Kontrolle über Server und Daten. Sie umfasst auch die Fähigkeit, Entscheidungsprozesse zu verstehen, Grenzen festzulegen, Systeme unabhängig zu prüfen und menschliche Verantwortung wirksam aufrechtzuerhalten. Datenhoheit ohne Entscheidungshoheit wäre am Ende nur eine halbe Form digitaler Souveränität.

Human in the Loop darf kein Etikett werden

Der Begriff Human in the Loop beschreibt den Grundsatz, Menschen in automatisierten Prozessen als kontrollierende Instanz einzubinden. Doch entscheidend ist nicht die bloße Anwesenheit eines Menschen, sondern seine tatsächliche Funktion. Ein Mitarbeiter, der eine große Zahl maschinell vorbereiteter Entscheidungen bestätigt, ohne die zugrunde liegenden Informationen sinnvoll prüfen zu können, befindet sich zwar formal innerhalb des Prozesses. Von wirksamer Kontrolle kann trotzdem kaum gesprochen werden. Menschliche Beteiligung muss deshalb früher beginnen. Datenbasis, Modellierung, Qualitätssicherung, Fehleranalyse und kontinuierliche Evaluierung benötigen fachkundige menschliche Bewertung, bevor ein System in entscheidungsrelevante Prozesse gelangt. Daraus entsteht zugleich ein anderes Verständnis der Zusammenarbeit zwischen Mensch und Maschine. KI ersetzt menschliche Kompetenz nicht zwangsläufig, sondern kann sie dort erweitern, wo Informationsmengen und komplexe Zusammenhänge die Grenzen menschlicher Aufmerksamkeit erreichen.

Frühwarnung ist keine Prophezeiung

Besonders deutlich wird diese Grenze bei Systemen zur Risikoanalyse und Prävention. Moderne Datenanalyse kann ungewöhnliche Entwicklungen erkennen, mehrere Faktoren miteinander verbinden und Veränderungen sichtbar machen, die in großen Informationsmengen leicht übersehen würden. Daraus darf jedoch nicht die Vorstellung entstehen, künstliche Intelligenz könne individuelles menschliches Verhalten zuverlässig vorhersagen. Ein verantwortungsvoll entwickeltes Prevention Intelligence System sollte Bedingungen und Risikokonstellationen sichtbar machen, nicht Menschen zu vermeintlich berechenbaren Objekten erklären. Analyse zeigt, welche Faktoren sich verändern und welche Entwicklungen deshalb einer genaueren menschlichen Prüfung bedürfen. Sie behauptet nicht zu wissen, was zwangsläufig geschehen wird. Genau diese Begrenzung entscheidet darüber, ob künstliche Intelligenz Erkenntnis erweitert oder lediglich technische Gewissheit simuliert.

Auch Gesellschaft lässt sich nicht berechnen

Eine ähnliche Vorsicht ist erforderlich, wenn KI gesellschaftliche Meinungsbildung analysieren soll. Menschen reagieren auf Informationen nicht isoliert, sondern innerhalb komplexer psychologischer, sozialer, wirtschaftlicher und kultureller Zusammenhänge. Simulationen können hier wertvoll sein, weil unterschiedliche Annahmen und Szenarien miteinander verglichen werden können. Sie ermöglichen es, mögliche Dynamiken sichtbar zu machen und zu untersuchen, wie Veränderungen einzelner Faktoren das Verhalten eines größeren Systems beeinflussen könnten. Solche Modelle sind jedoch keine Maschinen zur Vorhersage dessen, was einzelne Menschen denken werden. Ihr Wert liegt vielmehr darin, mögliche Entwicklungen und Abhängigkeiten besser zu verstehen, ohne aus Wahrscheinlichkeiten vermeintliche Gewissheiten zu konstruieren.

Wenn Nachrichten zu Signalen werden

Eine weitere Entwicklung entsteht dort, wo Journalismus, Datenanalyse und künstliche Intelligenz zusammengeführt werden. Nachrichten berichten zunächst darüber, was geschehen ist. Werden Informationen langfristig strukturiert betrachtet, können dieselben Meldungen jedoch zusätzlich als Signale verstanden werden. Industrielle Kapazitäten, Energieversorgung, militärische Fähigkeiten, politische Entscheidungen, wirtschaftliche Entwicklungen und logistische Veränderungen erscheinen zunächst als voneinander getrennte Nachrichtenlagen. Werden sie systematisch über längere Zeiträume miteinander verglichen, können daraus Muster entstehen, die strategisch relevant werden. Das bedeutet nicht, Zukunft vorherzusagen. Es bedeutet, Bedingungen sichtbar zu machen, unter denen bestimmte Entwicklungen möglich oder wahrscheinlicher werden können. Genau darin liegt ein wesentlicher Unterschied zwischen Prognose und Intelligence. Seriöse Analyse verspricht keine Gewissheit über morgen, sondern versucht besser zu verstehen, welche Kräfte heute bereits wirken.

Ein Entwicklungsfeld jenseits des KI Hypes

An dieser Schnittstelle bewegt sich auch sapcora™, eine Entwicklungs und Innovationsplattform innerhalb der sapcoCompanies. Im Mittelpunkt steht die Frage, wie künstliche Intelligenz, Datenanalyse, Simulation und automatisierte Systeme praktisch eingesetzt werden können, ohne menschliche Verantwortung aus dem Prozess zu entfernen. Der Ansatz umfasst KI gestützte Entscheidungsunterstützung, Human in the Loop Modelle, Anwendungen für Verwaltungsprozesse, Risikoanalyse, gesellschaftliche Simulation sowie strategische Frühaufklärung. Gemeinsam ist diesen Feldern die Grundannahme, dass künstliche Intelligenz nicht als autonomes Orakel verstanden werden sollte, sondern als Werkzeug zur Erweiterung menschlicher Analysefähigkeit. Diese Perspektive wirkt weniger spektakulär als die Vision einer denkenden Maschine. Für Staaten, Unternehmen und Institutionen könnte sie jedoch wesentlich relevanter sein, weil sie dort ansetzt, wo KI tatsächlich Wirkung entfaltet: innerhalb menschlicher Entscheidungsstrukturen.

Die nächste KI Debatte wird institutionell

Mit zunehmender Integration künstlicher Intelligenz entsteht deshalb eine neue Kategorie von Fragen. Welche Entscheidungen dürfen Systeme lediglich vorbereiten, welche Aufgaben können sie selbstständig durchführen und welche Entscheidungen sollten grundsätzlich einem Menschen vorbehalten bleiben? Ebenso wichtig wird die Frage, wie Unsicherheit sichtbar gemacht wird. Ein System, das eine Antwort sprachlich überzeugend formuliert, kann dennoch auf unvollständigen Daten oder problematischen Annahmen beruhen. Institutionen benötigen deshalb nicht nur leistungsfähige Modelle. Sie benötigen Regeln für deren Einsatz, technische Prüfmechanismen, klar definierte Verantwortlichkeiten und Menschen, die befugt und qualifiziert sind, einer Maschine zu widersprechen. Die Qualität zukünftiger KI Infrastruktur könnte sich gerade daran messen lassen, wie konsequent dieser Widerspruch technisch und organisatorisch möglich bleibt.

Die eigentliche Machtfrage

Vielleicht liegt darin einer der größten Widersprüche der gegenwärtigen KI Debatte. Während intensiv darüber diskutiert wird, ob Maschinen eines Tages einen eigenen Willen entwickeln könnten, bauen Menschen gleichzeitig Systeme auf, denen sie freiwillig immer größere Teile ihrer Informationsverarbeitung und Entscheidungsvorbereitung übertragen. Dafür benötigt die Maschine kein Bewusstsein. Sie braucht lediglich eine bedeutende Position im Prozess und Ergebnisse, die überzeugend genug erscheinen, damit ihre Empfehlungen zunehmend selbstverständlich übernommen werden. Die Frage nach Kontrolle ist deshalb keine technikskeptische Gegenposition. Sie ist eine Voraussetzung dafür, künstliche Intelligenz in größerem Maßstab verantwortungsvoll einsetzen zu können. KI kann menschliche Fähigkeiten erheblich erweitern. Sie kann Informationen schneller strukturieren, Zusammenhänge früher sichtbar machen und Entscheidungen auf eine bessere Grundlage stellen. Zwischen einer besseren Entscheidungsgrundlage und der Entscheidung selbst muss jedoch eine erkennbare Grenze bestehen.

Die wichtigste Frage der kommenden Jahre lautet deshalb möglicherweise nicht, wann künstliche Intelligenz ein Bewusstsein entwickelt. Entscheidend wird sein, wie viel Kontrolle der Mensch behält, bevor technische Assistenz unbemerkt zu institutioneller Autorität wird.