Diese Woche habe ich schon zweimal einen Kommentar auf meinem Blog in den Spam-Ordner entsorgen müssen. Und ich fürchte, dass mittlerweile der Kommentar-Spam automatisiert wird.
Das interessante an diesem Kommentar war, dass er in Chinesisch geschrieben war. Ja, richtig gelesen, unter einem in deutsch verfassten Blogartikel bekomme ich einen Kommentar, der dann so aussieht:
银行的新规定真是烦人，感觉不再信任我们客户了。这额外的步骤和限制，只会让事情变得更复杂，时间也浪费了。
Und ja, ich habe mir dann tatsächlich die Mühe gemacht, das mal durch den Google-Übersetzer zu schicken. Dann kommt folgendes dabei heraus: „Die neuen Vorschriften der Bank sind wirklich ärgerlich. Es fühlt sich an, als würden sie uns als Kunden nicht mehr vertrauen. Diese zusätzlichen Schritte und Einschränkungen machen die Dinge nur komplizierter und kosten Zeit.„
Also ein Kommentar, den ich durchaus freigeschaltet hätte, wäre er in Deutsch und nicht in Chinesisch verfasst gewesen. Und trotzdem ist er sehr allgemein. Also habe ich mal die Probe aufs Exempel gemacht und Gemini, die KI von Google mit der URL des Artikels versorgt und aufgefordert, einen positiven Kommentar zu schreiben. Und ja, da kommt ähnliches dabei heraus. Und man kann auch negative Kommentare verfassen, die ebenso den Turing-Test bestehen würden, also man kann nicht mehr feststellen, ob dieser Kommentar von einem Menschen aus Fleisch und Blut geschrieben wurde oder von einer KI.
Und ich habe nun die Vermutung, dass es wohl mittlerweile Bots gibt welche sich den neuesten Artikel in einem WordPress-Blog krallen und einfach zu einen solchen zustimmenden Kommentar verfassen. Natürlich landet der erst mal in der Moderations-Liste und muss freigeschaltet werden.
WordPress hat aber ein Setting, bei dem man sagen kann „wer schon mal einen freigeschalteten Kommentar erstellt hat wird zukünftig direkt freigeschaltet“. Bei mir ist das deaktiviert, ich bekomme jeden Kommentar erst mal in die Moderations-Liste, aber ich kann mir durchaus vorstellen, dass Blogs, bei denen am Tag Hunderte von Kommentaren aufschlagen hier das Setting so verändern, dass ein „vertrauter“ Kommentarschreiber dann direkt veröffentlicht wird.
Der von der KI erstellte Kommentar soll also diese Türe öffnen um dann später den Kommentarbereich mit Spam zu fluten. Daher sollte man als Blogbetreiber schon sehr vorsichtig mit seinen Kommentareinstellungen umgehen.
Moderation, außer die Mailadresse ist bekannt, ist schon lange meine Standard-Einstellung. Bisher kam da auch noch kein Spam mit einer bereits bekannten Mailadresse. Ich hab nur paarmal Mailadressen explizit für die Moderation eingetragen, wenn Leute sich später als Trolle herausstellten.
Sieben Kommentare, die ganz offensichtlich mit einem LLM erstellt worden waren, hatte ich von Anfang Juli bis Anfang August in zwei meiner kleineren Blogs. Die lesen sich in korrektem Deutsch wie eine Art Zusammenfassung der jeweiligen Artikel. Kann man also schon als Spam erkennen, zumal die verlinkten Websites schon vom Namen her seltsam aussehen. Bei einem Teil dieser Kommentare stand sogar direkt ChatGPT dabei.
Noch müssen sich Blog-Admins IMHO keine Gedanken machen. Aber ich fürchte, das könnte sich noch ändern.