In Stanley Kubricks Filmklassiker „2001: A Space Odyysey“ war das 1968 noch eine wilde Fantasie: dass der Computer mittels einer Überwachungskamera Menschen von den Lippen ablesen kann, was sie sprechen – und das auch versteht. Heute beherrschen manche Computer diese Fertigkeit besser als jeder menschliche Lippenleser. Die Debatte dreht sich nun darum, was ein Computer davon „versteht“ – ob und wie er Rückschlüsse aus dem Gesagten zieht, wie selbstständig er darauf reagiert, ob und wie und was er aus dem lernt, was er belauschen und beobachten kann.
Schlagworte wie Big Data, Maschinenlernen, Data Mining und Künstliche Intelligenz schwirren in zwei verschiedenen gesellschaftlichen Debatten umher. In der einen wird verhandelt, was Menschen, Firmen und Behörden eigentlich mit den Datenauswertungen anfangen, die komplexe Systeme ihnen liefern. In der anderen, vielleicht noch viel brisanteren, geht es darum, wie sich lernfähige Systeme entwickeln, wie viel Souveränität, wie viel Eigenständigkeit sie entwickeln und wozu wir sie künftig einsetzen können. Und natürlich auch, was wir künftig von ihnen vielleicht zu befürchten haben.
Festzustellen bleibt in einer Ära immer sprunghaft wachsender Rechenleistung Algorithmen-Cleverness zunächst ein greller Widerspruch: Die Furcht vor totaler Kontrolle, Entmenschlichung und Manipulation geht mit einer umfassenden Bereitschaft des Publikums einher, seine eigenen Daten im Austausch für Bequemlichkeit an große Internet-Konzerne abzugeben.
Das kann unter den entsprechenden Bedingungen zu furchterregenden Entwicklungen führen. In China entsteht beispielsweise ein politisch-ökonomisch-informationeller Komplex ohne demokratische Kontrolle, dessen Auswirkungen weit über China hinausreichenwerden. Das fängt bei KI-Nachrichtensprechern an und hört noch lange nicht bei einem Social-Credit-System auf, das den „sozialen Wert“ der chinesischen Bürger einschätzen wird, ganz offen disziplinatorischen Charakter hat und bereits 2020 betriebsfertig sein soll.
Aber vielleicht wird ein Aspekt immer noch zu wenig beleuchtet. Was wird es eigentlich mit uns anstellen, wenn wir eines Tages auf Systeme treffen, die den Turing-Test locker bestehen? Die sich also von einem menschlichen Gegenüber nicht mehr unterscheiden lassen. Bei denen wir nicht sicher sein können, ob maschinelle Intelligenz hier nicht die Grenze zur Psyche mit eigenen Rechten und Ansprüchen überschreitet. Der Schock, den das auslösen würde, könnte mit jenem vergleichbar sein, den die Begegnung mit einer außerirdischen Intelligenz hervorrufen würde. Forschung und Technik könne uns diesem Schock in großen Schritten näher bringen. Auf ihn vorbereiten und ihn jetzt schon durchdenken können ihn Literatur, Filme und Serien. In keinem anderen Bereich ist das Ineinander von Science Fiction und Realität so spannend und nötig wie bei den Intelligent Systems.