Viele Produktseiten geben den Nutzern die Möglichkeit, die gekauften Produkte zu bewerten und ein paar Worte darüber zu schreiiben. So auch Google in seinem Play-Store. Vor langer Zeit habe ich da mal eine Rezension für Samsung Health geschrieben, heute kam eine Mail, dass diese Rezension entfernt wurde „weil über automatisierte intern Mechanismen erkannt wurde“ dass sie gegen die Richtlinien verstößt.

Sprich Google lässt wohl gerade eine KI über die gesammelten Rezensionen laufen und wenn diese KI dann „Fehler“ meldet, dann wird die Rezension entfernt.

Der Stein de Anstoßes

Schauen wir uns also mal die Rezension an:

An und für sich eine schöne App, vor allem in Verbindung mit der Gear S3. Ein wenig nervig sind die Hinweise „Beweg dich mal“ wenn man in einem Meeting sitzt oder die Frage, ob man seine Ziele nicht höher stecken will. Leider musste ich ein paar Sterne entfernen, denn seit neuestem will die App von mir dass ich meine Kontakte „synchronisiere“ bevor ich irgendwelchen Community-Events beitreten kann. Damit würde ich aber eindeutig gegen die DSGVO (Datenschutzgrundverordnung) verstoßen, denn meine Kontakte wollen womöglich gar nicht, dass Samsung weiß dass sie meine Kontakte sind.

Sprich, am Anfang war die App noch relativ gut, aber später wollte man dann die Teilnahme an irgendwelchen Community-Events mit dem Zwang zur Synchronisierung der Kontakte verbinden. Und das ist gemäß der Datenschutzgrundverordnung nur dann legal, wenn ich von allen meinen Kontakten eine Einverständniserklärung habe, dass ich ihren Kontakt mit Samsung synchronisieren darf. Ansonsten würde ich gegen die DSGVO verstoßen.

Was sagt nun die Google-KI zu dieser Rezension? Die Mail enthält folgende Hinweise:

Im Detail, Ihre Rezension enthält nicht lesbare oder unverständliche Inhalte, z. B. unsinnige oder bedeutungslose Zeichenfolgen. Rezensionen sollten hilfreich und informativ sein. 

Unverständliche oder bedeutungslose Zeichenfolgen? Was kann das sein? Dass „Gear S3“ der Produktname einer Smartwatch ist sollte auch die Google-KI „wissen“. Bleibt also noch „DSGVO“ was ja dann auch gleich in Klammern als (Datenschutzgrundverordnung) erklärt wurde. Reagiert Google etwa allergisch auf die Erwähnung von Datenschuzrichtlinien?

Lustig auch wenn Google mir dann erklärt, ich solle „Grammatik und Rechtschreibung“ prüfen, was sie selbst bei der Formulierung „automatisierte intern Mechanismen“ nicht hin bekommen.

Und nun?

Nun stellt sich die Frage was ich daraus für mich ableite. Google bietet mir an, dass ich Einspruch einlegen könnte wenn ich die Richtlinie gelesen habe un der Meinung bin, dass Google einen Fehler gemacht hat. Aber ganz ehrlich, will ich mir diese Diskussion tatsähclich antun? Eher nicht, ich würde meine Rest-Lebenszeit lieber für konstruktivere Dinge nutzen als mich hier um so einen Bullshit zu streiten.

Auf der anderen Seite trägt so ein Ereignis natürlich auch dazu bei, meine Motiviation weiterhin irgendwelche Produktbewertungen bei Google einzustellen drastisch zu senken. Warum soll ich mir die Mühe machen etwas mit meinen Worten zu bewerten, wenn dann irgend eine dämliche KI das am Ende einkassiert, weil sie zu doof ist, die Worte zu verstehen.

Natürlich ist mir klar, dass es bei Google auch jede Menge Spam-Bewertungen gibt und manche suspekte Dienstanbieter wittern hier sogar ein Geschäftsmodell, erst neulich bekam ich ein Angebot, dass man eine negeative Google-Rezension für unsere Vereinswebseite für nur 170€ anwaltlich wegmachen könne. Nein, das brauche ich nicht, denn ein oder zwei negative Rezensionen sind nun kein Beinbruch und anhand der Wortwahl in diesen Kommentaren kann man durchaus auch erkennen, dass das Problem nicht die Webseite oder der Verein sind, sondern der Kommentarschreiber.

Aber langfristig werden solche „Bereinigungen“ einfach dazu führen, dass man den Rezensionen nicht mehr besonders vertrauen kann, denn wenn berechtigte Kritik ausgeblendet wird, dann ist das eben eiine rosa Brille die ich mir hier aufsetzen lasse.

Und natürlich muss man auch überlegen, was passiert, wenn diese „Kontrollen“ sich nicht nur auf so was Unbedeutendes wie eine Rezension bei Google beziehen, sondern die KI über Dinge entscheidet die unser Leben massiv beeinflussen könnten. Also z.B. die zum Glück gerade im EU-Parlament durchgefallene Chat-Kontrolle bei der wohl mit KI versucht werden sollte in irgendwlechen Chats illegale Ding zu finden. Und wie jeder der sich mit der Materie ein wenig befassen tut wird so etwas einfach an der gigantischen Datenflut scheitern, denn je mehr Beiträge „überprüft“ werden umso mehr „Treffer“ wird es geben, die einen Beitrag als illegal erkannt werden, obwohl sie es gar nicht sind. Und das dürften prozentual weitaus mehr Beiträge sein als tatsächlich korrekt erkannte „illegale“ Beiträge. Wollte man also basierend auf so einer Auswertung dann eine Strafverfolgung einleiten, dann müssten wir sehr viele Menschen bei den Ermittlungsbehörden damit beschäftigen zu bewerten, ob der Treffer tatsächlich einen illegalen Beitrag gefunden hat oder nicht. Was Wissenschaftlern klar ist muss aber nicht zwingend auch im Hirn der politischen Entscheider angekommen sein. Daher ist in jedem Fall höchste Vorsicht geboten, wenn wir irgendwelche tollen „KI-Verfahren“ einführen wollen die uns angeblich helfen sollen.