Digitale Sklaven 2: Technologie-Paternalismus oder wie dumm ist eigentlich die KI? 

Algorithmen der Künstlichen Intelligenz (KI) sind intransparente Regelfolgen des logischen Denkens. Intransparent insofern, da die Programmierer die Regelfolgen selbst nicht mehr nachvollziehen können. In dieser Weise hat sich die KI selbstständig gemacht. Damit kann man erstaunliche und rasante Rechenleistungen erzielen. Aber alles Ungewisse und Unvorhersehbare lässt sich jedoch nicht in Algorithmen fassen. Der Mensch ist in seinem Denken und handeln flexibler und freier und nicht so starr an Regeln gebunden, wie dies bei den programmierten Algorithmen der Fall ist. Wir Menschen können Regeln brechen und improvisieren. Die KI kann dies nicht, da ihr Algorithmus immer nur mögliche Erwartbarkeitsszenarien berechnet. Diese künstlichen Rechenleistungen finden im geschlossenen System der Gewissheit statt. Alles was erwartbar ist, kann auch programmiert werden. Es müssen nur genügend viel Datenmengen vorhanden sein, damit die KI entsprechend "gefüttert" werden kann. So kann seit einigen Jahren die KI besser Go spielen, als der Go-Weltmeister. Bei diesem Spiel gibt es nur logische und somit erwartbare Spielzüge und die können eben mittels immenser Datenmengen im Vorfeld berechnet werden. Es war also nur eine Frage der Zeit, bis auf diesem Feld die KI über den Menschen triumphiert hat.

Da unser menschliche Verhalten zutiefst vom Unbewussten und von Emotionen bestimmt wird, führt dies oft zu irrationalen und unerwartbaren Handlungen. Und letztendlich ist doch das ganze menschliche Leben im Ungewissen angesiedelt. Ein ähnliches Phänomen bezüglich nicht erwarteter Antworten kann man beim Ausfüllen von so manchem Online-Formular sehen. Wer hat noch nicht erlebt, dass seine Antwort nicht in das vorgegeben Raster passt, weil diese Antwort eben so nicht erwartet werden? Auch im Straßenverkehr können wir nur darauf vertrauen, dass sich alle Verkehrsteilnehmer logisch und erwartbar verhalten. Es bleibt also immer ein Rest an Ungewissheit vorhanden. Diese Ungewissheit lässt sich nicht mittels einer KI berechnen. Daher wird auch die Idee von selbst fahrenden Autos im öffentlichen Stadtbereich wohl nie flächendeckend umgesetzt werden können. Zudem kommt hinzu, dass die technologischen Grenzen und die Fehleranfälligkeit von Softwaresystemen weitgehend tabuisiert werden. So weist ein Softwaresystem, dessen Zeilencode eine Million Zeichen umfasst eine durchschnittliche Fehlerquote von 0,6% auf. Dies erscheint auf den ersten Blick gering, doch bedeutet dies in absoluten Zahlen ausgedrückt, dass darin 6000 Fehler enthalten sind.  Wem man weiß, dass bei einem selbst fahrenden Auto das gesamte Softwaresystem hundert Millionen Zeilen aufweist, dann sind darin bei einer Fehlerquote von 0,6% 6000 Softwarefehler enthalten. Das damit verbundene Sicherheitsrisiko ist also offenkundig. Darf man dann eigentlich noch von Künstlicher Intelligenz sprechen? Oder ist die KI nicht sehr reduziert in ihren Möglichkeiten und im Vergleich zum Menschen eigentlich eindimensional und dumm? 

Die KI braucht Hunderte von Datensätzen um einen Elefanten zu erkennen. Ein kleines Kind muss einen Elefanten nur einmal gesehen haben, dann weiß es, was ein Elefant ist. Die Eindimensionalität der KI gründet nicht zuletzt im kapitalistischen Denken, das rein profit- und zweckorientiert ist. Und nichts anderes wollen die großen, digitalen Tech-Konzerne des Silicon Valley. Aber auch so mancher Regierung schmeckt die digitale Kost, die der Überwachungskapitalismus serviert. Sie alle wollen möglichst viele Daten von und über uns erlangen, um unser alltägliches Verhalten einschätzen und in Erwartbarkeitsmodellen berechnen zu können. Dies betrifft unser Konsumentscheidungen genauso wie unser politisches Wahlverhalten. Dadurch sollen wir manipulierbar und steuerbar werden, der große Traum des Social Engineerings. So werden in China die Bürger mittels eines perfides Social-Scoring-Systems überwacht. Wer nach Meinung der chinesischen Regierung ein fehlerhaftes Sozialverhalten an den Tag legt wird mit Punktabzügen auf einer sozialen Skala bestraft. Das hat zur Folge, dass damit Nachteile im Berufsleben, in der Bewegungsfreiheit oder in der Wahl des Wohnungsortes einhergehen können. Weltweit wird derzeit die gesamte Lebenswelt mittels KI auf die digitale Denkweise umgestellt. 

Zudem befinden wir uns schon längst inmitten eines Technologie-Paternalismus. D.h. die Geräte selbst werden so gestaltet, dass sie uns zu Sklaven machen und uns unsere Entscheidungen über unser eigenes Handeln abnehmen. So gibt es in den USA mittlerweile Autos nicht mehr losfahren, wenn der Fahrer Alkohol getrunken hat. Mittels Sensoren im Fahrerraum wird der Alkoholgehalt des Fahrers gemessen und ein Losfahrsperre aktiviert. Die Technologie zwingt uns also ganz bestimmte Verhaltensweisen auf. Da mittels Sensoren auch ein genaues Geschwindigkeit- und Ortungsprotokoll erstellt werden kann, könnten z.B. Autoversicherer in Zukunft höhere Versicherungsbeiträge verlangen, wenn Geschwindigkeitsbe-schränkungen nicht eingehalten werden. Das gleiche könnte auch im Bereich der Krankenversicherung geschehen. Wenn mit sogenannten "Gesundheitsarmbändern" unsere Schritte gemessen werden - und viele Menschen verwenden diese Armbänder bereits - dann könnten Arbeitgeber auf die Idee kommen - was in den USA auch bereits geschieht - von Mitarbeiter zu verlangen, dass sie zehntausend Schritte am Tag gehen um sich fit und gesund zu halten. Ansonsten werden vom Arbeitgeber die Krankenversicherungsbeiträge nicht bezahlt. Aber auch die Krankenkassen selber könnten auf die Idee kommen, dann höhere Versicherungsbeiträge von "Sofa-Potatoes" zu kassieren.

Das alles macht uns jetzt schon zu digitalen Untertanen. Ob dies in einer digitalen Sklaverei und einem gnadenlosen Überwachungsstaat mündet, wird sich zeigen. Wir sollten jedoch gewappnet sein und mit aller Macht unsere Persönlichkeits- und Freiheitsrechte verteidigen. Dazu bedarf es mündiger und aufgeklärter Bürger. Jeder sollte die positiven Möglichkeiten, aber auch die Gefahren und Risiken der digitalen Welt erkennen und realistisch einschätzen können. Dazu müssen zuallererst die Algorithmen der KI transparent und der Technologie-Paternalismus zurück gedrängt werden.

Lese- und Hör-Tipps dazu:

Lorraine Daston – Regeln: Eine kurze Geschichte (Suhrkamp Verlag 2023)

Lorraine Daston - https://www.srf.ch/play/tv/sternstunde-philosophie/video/lorraine-daston---die-regeln-unseres-lebens?urn=urn:srf:video:6c4fdcb0-ca5e-4554-954a-8d619f5884ee

Gerg Gigerenzer - Der Umgang mit Ungewissheit im digitalen Zeitalter https://www.youtube.com/watch?v=6Hs3mrJgeEY

Herbert Marcus - Der eindimensionale Mensch (Luchterhand Verlag 1967)

https://oe1.orf.at/programm/20250912/807114/Spiekermann-Hoff-Wir-brauchen-klare-Regeln-fuer-die-digitale-Welt