KI‑Suchmaschinen und persönliche KI‑Agenten, keine andere Computertechnik hat es bislang geschafft, sich so schnell in der breiten Masse zu etablieren. Innerhalb kürzester Zeit werden Bilder, Videos und Musikstücke problemlos auf Smartphone & Co. erstellt, Dokumente und Finanzen analysiert und Diskussionen entspinnen sich um Fragen wie: Wie lässt sich mit KI Geld verdienen? Wie verändern sich Arbeitsbereiche und -abläufe der vergangenen Jahre durch ihren Einsatz?
Für mich stellt sich allerdings noch eine weitere Frage, der in der Öffentlichkeit meines Erachtens zu wenig besprochen wird: Wie hoch wird der Preis sein, den wir als Nutzer zu zahlen haben, wenn diese Systeme irgendwann nicht nur unsere Suchergebnisse, sondern auch unsere politischen und wirtschaftlichen Überzeugungen mitsteuern?
Schon jetzt lassen wir KIs unzählige Arten von Dokumenten sichten, analysieren und einordnen. Firmeninterne Unterlagen von der Kundenanfrage bis hin zur Gewinnanalyse können auf firmeneigenen Servern bearbeitet werden.
Aber wie sieht es aus, wenn Google seine klassischen Suchalgorithmen endgültig zu Gunsten seiner KI-Suchmaschine Gemini einmottet?
Der freundliche und hilfsbereite Ton der heutigen Agenten ist angenehm, unterstützt, aber nicht nur einen dialoggestützten Arbeitsablauf, sondern verführt auch dazu mehr von sich preiszugeben, als man es bei echten fremden Personen tun würde.
Firmen wie Google beteuern solche Chats nur zur Weiterentwicklung ihrer Modelle zu nutzen, um die Interaktion mit Menschen noch effizienter zu machen. Aber eine weitere KI ist schon heute in der Lage die Chats eindringlich zu analysieren und sehr scharf geschnittene Psychogramme des Nutzers anzulegen. Das Ergebnis: Big Data hoch 2!
Was passiert denn, wenn solche Agenten eines Tages nicht nur unsere Suche verbessern, sondern im Hintergrund testen, welche Geschichten uns am stärksten emotional packen – und uns genau diese dann erzählen? Gerade in Kombination mit KI‑gestützter Desinformation und personalisierter Propaganda ist das mehr als ein theoretisches Risiko, mehr als eine Schauergeschichte für’s Lagerfeuer. *
Und wie weit ließe sich das treiben, wenn Firmen Datenbestände aufkaufen und zusammenführen?
Ist das der endgültige Schritt, mit dem wir uns selbst und freiwillig zum vorhersagbaren, gläsernen Konsumenten machen?
