Algorithmen und Redaktion: Maschinengesteuerte Zensur beim „Freitag“?

Das Bild zeigt ein paar Sicherungskästen im Stasigefängnis in Hohenschönhausen. Manchmal versuche ich mir vorzustellen, wie es in einem Zensurbüro unter Stalin/Hitler aussah oder auch nur in der entsprechenden Abteilung bei der Staatssicherheit. Bei Telepolis gibt es so ein Bild, es sieht nicht schön aus. Es geht um das neue Netzwerkdurchsetzungsgesetz, ein hässliches Monstrum. Man mag es gar nicht fassen:

https://www.heise.de/tp/features/Bundestag-winkt-Zensurgesetz-durch-3760024.html

Was haben die menschlichen Zensoren in der Vergangenheit getan, während sie in den Büchern blätterten, die andere später nicht lesen durften? Geraucht und Kaffee getrunken? Darüber nachgegrübelt, warum es immer so stinkt, wenn eine ganze Abteilung in der Pause Kohlsuppe löffelt? Was ist da drin im Wirsingkohl, dass man später am eigenen Gestank erstickt? Ich kenne keine Fotos der Schreibtische im KGB, aber ich denke, dass es sie gibt. Bücher gibt es. Zensurbehörden schreiben Kulturgeschichte: Literaturgeschichte, Theatergeschichte, Geschichte der Presse. Der Gegenentwurf heißt Meinungsfreiheit: „Jeder hat das Recht, seine Meinung in Wort, Schrift und Bild frei zu äußern und zu verbreiten und sich aus allgemein zugänglichen Quellen ungehindert zu unterrichten. Die Pressefreiheit und die Freiheit der Berichterstatttung durch Rundfunk und Film werden gewährleistet. Eine Zensur findet nicht statt.“ (Grundgesetz, Artikel 5)

Wir wissen, dass es für die Freiheit der Berichterstattung kommerzielle Beschränkungen gibt, die seit jeher dazu geführt haben, dass der Verkaufswert auf den Stellenwert von Nachrichten Einfluss ausübt. Große Nachrichtenagenturen berichten nicht ohne Grund seltener über die Innenpolitik in Afrika als über europäische und amerikanische Angelegenheiten. Hat sich hier durch die Mitwirkung von Algorithmen sehr viel geändert? Prinzipiell eher nicht, in der Durchführung sicher doch. Machen Algorithmen beim Zensieren das Gleiche wie Menschen oder gibt es tatsächlich eine neue Qualität? Ist ein „Fehler“ bei der Arbeit eines Texterkennungs/Textbewertungsdienstes wie „Deep Text“ von Facebook ein notwendiger Schritt auf dem Weg zu einer größeren Sicherheit unserer Persönlichkeitssphäre oder ein Hinweis auf einen unsichtbaren gotischen Schacht in eine Gruft mit unseren eigenen Gebeinen?

https://www.heise.de/tr/artikel/Ins-NetzDG-gegangen-3966586.html

https://www.wired.com/story/instagram-launches-ai-system-to-blast-nasty-comments/

https://code.facebook.com/posts/181565595577955/introducing-deeptext-facebook-s-text-understanding-engine/

Mich selbst hat es auf wirklich lächerliche Weise erwischt. Meine letzte Kritik aus der Berliner Volksbühne hat es nicht an den digitalen Wächtern des „Freitag“ vorbei geschafft und wurde kurzzeitig in den Arrest gesperrt. Inzwischen ist der Blogeintrag freigeschaltet, aber es bleibt die Frage, was da los war. Mir setzt die Verunsicherung zu. Ich schreibe schon eine Weile in der Community beim „Freitag“ mit, hielt das Blatt für ein linkes Presseorgan, das mir hilft, abseits vom Mainstream wichtige Impulse zu finden. Gerade jetzt steht dort das Thema Digitalisierung im Mittelpunkt und wird einer kritischen Betrachtung unterzogen. Aber was geschieht bei der Beobachtung der Bewegungen innerhalb der dem eigenen Blatt angeschlossenen Blogs? Gibt es hier eine maschinengesteuerte Vorzensur, die technisch nicht weit genug vorangetrieben ist, um eine (nicht relevante, nur ästhetisch motivierte) Theaterkritik von echter Hassrede oder hasserfülltem Kommentar zu trennen? Was eigentlich ist das? Nicht zu publizierender Inhalt innerhalb der Blogs?

Meine Kritik befasste sich mit einer Inszenierung von Susanne Kennedy. Das Stück heißt „Die Selbstmordschwestern“. Meine Vermutung war, dass eine Häufung von selbstmordbezogener Lexik zum Auslösen einer Sicherheitswarnung geführt hat. Es war wirklich keine gute Nachricht, dass im „Freitag“ so etwas zum Einsatz kommen könnte. Ein paar übermüdete Praktikanten wären mir sympathischer gewesen. Heißt das vielleicht, dass es im „Freitag“ keinerlei Berührungsängste gibt und dass man dort auch Nachrichten von Systemen verfassen lässt? Ich habe nachgefragt und sehr schnell eine Antwort erhalten. Aber meine Verunsicherung ist nicht zurückgegangen: Am Ende der Nachricht steht der Vermerk, dass der Inhalt vertraulich sei, vermutlich ebenfalls ein anonymes Formular, maschinengeneriert wie ein Serienbrief. Damit darf ich jedoch nicht posten, was mir geantwortet wurde. Und warum nicht? Wünscht die Redaktion keine Diskussion über die Digitalisierung der eigenen Kontrollmechanismen für eingereichte Texte? Benutzt man maschinelle Vorzensur, möchte jedoch vermeiden, dass es öffentlich bekannt ist?

Ich habe Semiotik studiert und maschinelle Spracherkennung gehört für mich zu den ganz großen Herausforderungen meiner Fachrichtung. Ein Teil meiner Persönlichkeit beneidet die Leute, die bei Facebook und anderswo mit so etwas befasst sind. Das ist der technische Aspekt der Sache. Zensur empfinde ich jedoch als Angriff und stufe sie als abscheulich ein. Und das sehe ich uneingeschränkt als Grundsatz. Maschinengesteuerte Zensur verzerrt das Ganze ins Absurde. Es ist lächerlich, solange man mit einer Theaterkritik hängen bleibt und nicht wirklich etwas zu sagen hat, das innerhalb kürzester Zeit kommuniziert werden soll.

https://netzpolitik.org/2018/algorithmen-regulierung-im-kontext-aktueller-gesetzgebung/#