Mark Zuckerberg stellt die Machtfrage und antwortet mit: „Mehr Facebook“

Mark Zuckerberg spricht. CC BY 2.0, via flickr/fdecomite

In der vergangenen Woche hat Mark Zuckerberg seinen Visionen zur Gestaltung der globalen Gesellschaft in einem recht länglichen Post Ausdruck verliehen, der international als „Facebook Manifest“ diskutiert wird (spannende Einschätzungen finden sich etwa bei The Atlantic und Bloomberg und Techcrunch).

Ausgangspunkt ist die Rolle der Facebook-Plattform in der Bildung einer globalen Gesellschaft. Diese hätte zwar die Möglichkeit, Wohlstand, Freiheit und Frieden voran zu bringen und den Herausforderungen von Terrorismus, Klimawandel und Epidemien zu trotzen. Die Existenz von Globalisierungsverlierern und Bewegungen, die der globalen Gemeinschaft entgegen stehen, brächten allerdings die Frage hervor, wie man eine globale Gesellschaft gestaltet, die für alle Menschen funktioniert und was Facebook dazu beitragen kann.

Die Frage ist im Angesicht von Brexit und Trump natürlich wesentlich. Zuckerberg beantwortet sie mit der Ausdehnung der Funktionen der Plattform: Bislang hätte sich das Unternehmen auf die Verbindung von Freunden und Familien fokussiert, nun wolle sie globale Gemeinschaften selbst unterstützen, dabei v.a. Isolation und gesellschaftliche Fragmentierung bekämpfen. Nun soll an dieser Stelle nicht in Frage gestellt werden, ob die Plattform tatsächlich der sozialen Vernetzung von Menschen untereinander dient oder nicht vielmehr der kapitalistischen Vernetzung der Menschen mit Facebook, dazu ausführlich Aral Balkan. Vielmehr sollen die Kernpunkte des emotionalen und sehr unübersichtlichen Vorschlags vorgestellt und eingeordnet werden, denn er erinnert doch sehr an die Strategie von Donald Trump: Nimm bekannte Probleme, trenne sie von ihrem ursächlichen Kontext und stelle ihnen Lösungen gegenüber, die das Problem verschärfen. Überholte Visionen und Narrative werden von Zuckerberg mit radikalen Innovationen verbunden, die zwar keinen Bezug zu den Problemen haben, aber den Grundfesten liberaler Demokratien zuwider laufen – der Versuch einer Annäherung.

Was tun gegen soziale Spaltung? Mehr Plattform

Wie wollen wir digital leben? Visionen für ein komplexes Problem. CC BY 2.0, via flickr/ Christine und Hagen Graf

Zunächst einmal gehe es um die Unterstützung von sozialen Gemeinschaften im Allgemeinen („Supportive Community“): Traditionelle, v.a. lokale Gemeinschaften wie Kirchen, Sportvereine und Gewerkschaften hätten an Bedeutung verloren – mit negativen Auswirkungen auf die soziale Einbindung von Menschen, die etwa Zugehörigkeit, Hoffnung und Orientierung vermittelt, sowie auf die Interessenvermittlung in Demokratien, in denen die unterschiedlichen Gemeinschaften ein wichtiges Bindeglied zwischen dem Einzelnen und der Regierung darstellten. Der daraus resultierenden Hoffnungslosigkeit vieler Individuen sei zu begegnen: Durch mehr Werbung für individuell geeignete Interessengruppen seitens Facebook, die Unterstützung ihrer Führungsfiguren sowie die Möglichkeit von hierarchischen Gruppenarchitekturen, z.B. gebildet aus Schulklasse und Schule.

Ob dem Verlust realer Bezugsgruppen und politischer Interessenvertretung durch die Erweiterung digitaler Interessengruppen wirkungsvoll begegnet werden kann, ist fraglich. Aber sinnvoll ist die Strategie mit Sicherheit für Facebook, das 2016 erhebliche Einbußen in Bezug auf seine Nutzeraktivität verzeichnen musste. Doch dieser Vorschlag ist nur ein Einstieg.

Wie tun für die Sicherheit der Gesellschaft? Staaten und Gewaltenteilung abschaffen

Soziale Gemeinschaft soll Sicherheit geben, Schäden verhindern und bei Krisen wie Terrorismus, Naturkatastrophen oder Epidemien Hilfe und Unterstützung bieten. Dem aus dem Nationalstaat bekannten Konzept möchte Zuckerberg unter dem Stichwort „Safe Community“ eine durch künstliche Intelligenz unterstützte Infrastruktur zur Verfügung stellen, die etwa die vorausschauende Identifikation von Selbstmord, Krankheit oder Kriminalität ermöglicht. Darüber hinaus sei die Weiterentwicklung von Infrastrukturen wie dem Safety Check denkbar, die es Personen im Falle von Krisen erlaubt, den Netzwerken Auskunft über das individuelle Wohlergehen zu geben, Ressourcen wie Unterkunft, Verpflegung und Spenden zu verteilen, ja selbst Organspenden zu organisieren.

Zuckerbergs Problem liegt hier im noch unzureichenden Entwicklungsstand der Technologien. Aus demokratischer Perspektive irritiert die völlige Infragestellung nationaler Souveränität und liberaler Gewaltenteilung: Völlig ungefragt und in keiner Weise legitimiert übernimmt Facebook mit dem Safety Check bereits jetzt Funktionen lokaler Polizeibehörden: Doch wer ist eigentlich für Fehlfunktionen verantwortlich, wie sie wie beim jüngsten Anschlag in Berlin auf dem Breitscheidplatz auftraten? Und wer möchte die Analyse, Prävention und Reaktion im Kontext gesellschaftlicher Risiken in den Händen eines intransparenten Medienunternehmens wissen, das bislang nicht einmal Ministern Ansprechpartner bot? Und wer möchte die bereits im Kontext legitimierter Sicherheitsbehörden bislang ungelösten Probleme des Einsatzes künstlicher Intelligenz etwa bei der Kriminalitätsprävention dubiosen weißen Geschäftsmännern aus der Filterbubble „Silicon Valley“ überantworten?

Was tun gegen Fake News und Echokammern bei Facebook? Mehr Babel

Facebook: Ein Turmbau zu Babel? babel/ CC BY-NC-SA 2.0, via flickr/ Trebor Scholz

Bekanntermaßen sind unsere gesellschaftlichen Diskurse aktuell durch Facebooks Echokammern und seine Verbreitung von Fake News gestört, die die Generierung gemeinsamer Ideen und die Entwicklung eines gemeinsamen Verständnisses behindern. Auch Mark Zuckerberg betrachtet das Problem als wesentlich. Unter dem Stichwort „Informed Community“ warnt er allerdings vor hastigen Mitteln: Ziel sei es, die Komplexität von Realität abzubilden. Die Gegenüberstellung von Perspektiven erhöhe die Polarisierung von Weltbildern. Demgegenüber biete die Verortung und Darstellung einzelner Perspektiven auf einem Meinungsspektrum eine bessere Möglichkeit, Menschen Orientierung über ihre eigene Position zu vermitteln sowie Quellen zu identifizieren und zu stärken, die eine Vielfalt von Perspektiven liefern.

Der Vorschlag ist einerseits höchst spannend, markiert er doch einen Politikwandel in Bezug auf die Verantwortung des Unternehmens als Medienplattform. Auch die Ablehnung von Zensur ist sympathisch. Allerdings bleibt ein entscheidendes Problem: Kämen die Vorschläge zur Einordnung von Inhalten in einer Art Weltbilder-Matrix aus den Händen einer transparenten, dem Gemeinwohl verpflichteten Institution, könnten sie wohl Wesentliches leisten zur politischen Bildung und Medienkompetenz. Doch Facebook trug bislang eindeutig zur Verstärkung von Echokammern und zur Verbreitung von Fake News bei, ein Aspekt, den Zuckerberg vollständig verschweigt. Die systematische und intransparente Reduktion der Varianz von Inhalten im Newsfeed, kombiniert mit manipulativem Targeting der Nutzer, verschärfte die Polarisierung der Diskursräume entscheidend. Unter Fortführung dieser Methoden brächte die Zuordnung und Bewertung von Inhalten und Quellen auf einer Meinungsskala vor allem eins: Die Möglichkeit einer noch weitaus granulareren Beeinflussung der Nutzer, auf Basis eines personalisierten Bewusstseins-Managements (Perception Management) unter Beteiligung seiner Nutzer (Crowdsourcing der Bewertung).

Was tun für den Zusammenhalt der Gesellschaft? Gemeinsame Werte abschaffen

Die zukünftige Gesellschaft könne nur dann gemeinschaftliche Werte reflektieren, wenn wir uns in gesellschaftlichen Prozessen und freiwilligen Regulierungs-Arrangements engagierten. Dazu müssten zwei Arten von Infrastrukturen aufgebaut werden: Zum einen ginge es um Technologien, die existierende politische Prozesse etwa bei der Partizipation (z.B. Austausch mit Repräsentanten), Organisation (z.B. Demonstrationen) und Wahlen selbst (z.B. Registrierung) stärken („Civically Engaged Community“).

Andererseits sollten neue Technologien aufgebaut werden, die Partizipation in Entscheidungen ermöglichen, die eine globale Reichweite haben: Unter dem Stichwort „Inclusive Community“ diskutiert Zuckerberg neuartige Prozesse der Willensbildung. Dabei nimmt die Frage nach den gemeinschaftlichen Werten, Community Standards, eine besondere Stellung ein. Da kulturelle Normen weltweit von einem Wandel sowie von einer hohen Vielfalt geprägt seien und auch einzelne Menschen sehr unterschiedlich auf Inhalte reagierten, sei ein global einheitlicher Wertekanon kaum denkbar. Daher müsse man zu lokalen Governance-Formen übergehen: Denkbar sei etwa ein System, in dem Nutzer dazu beitragen können, Community Standards zu setzen. Jede Person soll so wenig verstörende Inhalte wie möglich sehen und durch Einstellung entsprechender Settings selbst entscheiden können, wo ihre Grenzlinie etwa gegenüber Nacktheit oder Gewalt liegt. Personen, die keine Einstellungen treffen, sollten der Mehrheit der Einstellungen in ihrer Region unterliegen. Einstellungen könnten jederzeit verändert werden. Gelöscht würden lediglich solche Inhalte, die verstörender sind als es die liberalsten Einstellungen erlaubten. Das System sollte durch künstliche Intelligenz unterstützt und trainiert werden.

Neuland muss gestaltet sein. Discovery/ CC BY-NC-ND 2.0, via flickr/ Lemon_fotos

Der Vorschlag zur Personalisierung von Filtern besticht auf den ersten Eindruck durch die Stärkung der Nutzer-Autonomie in der Entscheidung darüber, welche Inhalte individuell angezeigt und heraus gefiltert werden. Allerdings steht er nicht nur konträr zu den Vorstellungen etwa der deutschen Regierung, die im Kontext der Löschung von Hatespeech eindeutige Standards in der Content-Regulierung fordert, oder der demokratischen Tradition, Gemeinschaftsstandards in demokratischen Prozessen rechtlich bindend festzulegen (Grundgesetz). Sozialwissenschaftler gingen bislang davon aus, dass funktionierende Gemeinschaften auf einem gemeinsamen Wertekanon bzw. sozialen Normen basieren – eine Annahme, die sich auch bei der Entwicklung und Erprobung alternativer Social Media Designs bewährte. Was passiert, wenn diese normative Maßgabe aufgegeben wird? Da Zuckerberg entgegen seinen Eingangsfloskeln zur Stärkung einer zivil engagierten, globalen Gemeinschaft nicht davon ausgeht, dass es möglich ist, global einheitliche Werte zu entwickeln – Bedeutet dann der Vorschlag nicht vielmehr die endgültige Eliminierung der psycho-sozialen Grundlagen von Gemeinschaft, eine Preisgabe der Zivilgesellschaft an vollständig intransparente Echokammern, offen für jede Manipulation? Bedeutet der Vorschlag dann nicht vielmehr, dass jedes Individuum völlig unterschiedliche Bilder und Weltsichten zu sehen bekommt und den Bezug zu den Weltbildern seiner Nachbarn endgültig verliert? Und ist es tatsächlich wünschenswert, die Redaktion unserer Normen und Nachrichten dem nicht nur intransparenten, sondern ob seines Datenanalysepotentials wohl mächtigsten Unternehmen zu überlassen?

Die digitale Gesellschaft gestalten: Checks & Balances für Facebook

Zuckerbergs Aufschlag zur Gestaltung einer digitalen Gesellschaft, die für alle funktioniert, zur Rolle und Weiterentwicklung sozialer Netzwerke zum Wohle der globalen Gesellschaft, ist ob der Herausforderungen unserer Zeit visionär. Allerdings: Seine konkreten Vorschläge laufen aktuell den Zielen zuwider und der potentiellen Übernahme von Verantwortung für Sicherheit, Gesellschaftsdiskurs und politischer Partizipation steht keine entsprechende Öffnung des Unternehmens gegenüber – eine solche wäre allerdings Voraussetzung für eine Weiterentwicklung der Plattform. Wenn Facebook eine tragende Rolle in der positiven Gestaltung einer globalen Gesellschaft einnehmen möchte, wären zunächst Checks & Balances gefragt, v.a. eine Transparenz im Kontext von Meinungsmanipulation (Newsfeed) und beim Targeting und außerdem natürlich: Ein Gespräch mit der Gesellschaft, wohin die Reise gehen soll – wie die Infrastruktur kontrolliert werden kann, welchen Zwecken sie dienen soll und welche Tools der Verwirklichung der Ziele gerecht werden.


Unterstütze unsere Recherchen und Berichterstattung für Grundrechte und ein freies Internet durch eine Spende.

from netzpolitik.org mehr auf http://ift.tt/2m0oT22

Fachgespräch im Bundestag: Experten halten Einfluss von Social Bots für überschätzt

Linus Neumann vom CCC machte den Politologen Simon Hegelich für den Medien-Hype um Social Bots verantwortlich. Foto: Screenshot bundestag.de

Bots, Bots, Bots – in der Bundespolitik ist die Sorge um Manipulationen durch Social Bots vor der anstehenden Bundestagswahl groß. Das zeigt sich auch in den Ausschüssen des Deutschen Bundestages. Gleich zwei nahmen sich in der vergangenen Woche dem Thema an und befragten Experten zu ihrer Einschätzung. Es zeigt sich: Fast jeder hat eine persönliche Bot-Anekdote auf dem Lager, über den Einfluss von Social Bots auf die Willensbildung ist jedoch wenig bekannt. Also viel Aufregung um nichts? Der Reihe nach.

Anhörung 1: Ausschuss für Digitale Agenda

Die Bot-Woche im Bundestag begann am Mittwoch, den 25. Januar mit einer Anhörung des Ausschusses Digitale Agenda, der fünf Sachverständige um ihre Einschätzung zu Fake News, Bots und IT-Sicherheit bat. Unter ihnen auch der netzpolitik.org-Redakteur Markus Reuter, der in seinem Statement (pdf) vor sinnlosem Aktionismus warnte:

Über die Wirkungen und Effekte von Fake News und Social Bots auf die politische Meinungs- und Willensbildung gibt es bislang weder in den USA noch in Deutschland ausreichende und ergiebige Studien, weswegen eine Regulierung zum jetzigen Zeitpunkt ohne eine empirische Grundlage passieren würde.

Anhörung 2: Ausschuss für Technikfolgenabschätzung

Am darauffolgenden Tag veranstaltete der Ausschuss für Bildung, Forschung und Technikfolgenabschätzung ein Fachgespräch mit ganzen 25 geladenen Experten (Liste). Unter ihnen Sozialwissenschaftler, Informatiker, das BKA, Politikberater und mit Marie-Teresa Weber vom IT-Verband Bitkom immerhin eine Frau. Dass so viele Sachverständige geladen wurden, kann zwei Dinge bedeuten. Entweder der Einfluss von Bots ist wahrhaftig so groß, wie von einigen behauptet wird oder wir werden Zeuge eines Medien-Hypes. Um es vorwegzunehmen: Nach dem Fachgespräch drängt sich der letztere Eindruck auf.

Grundlage der Diskussion im Ausschuss war ein Thesenpapier des Büros für Technikfolgenabschätzung, über das netzpolitik.org bereits ausführlich berichtete. Die Autoren definieren Social Bots als „Computerprogramme, die eine menschliche Identität vortäuschen und zu manipulativen Zwecken eingesetzt werden, indem sie wie Menschen im Internet kommunizieren“. Trotz der schwachen empirischen Grundlage schreibt die Studie dem Phänomen ein großes Gefahrenpotenzial zu.

Quantität bedeutet nicht Qualität

Es gebe eine umfassende empirische Grundlage, die bezeuge, dass Social Bots jeden relevanten Hashtag bei Facebook, Twitter und Co. bevölkern, erläuterte der Münchner Politikwissenschaftler Simon Hegelich. Die große Frage sei, ob jemand wirklich seine Meinung in Folge einer Bot-Nachricht ändere. Es sei schwierig diese Dinge empirisch stichhaltig zu beweisen. Hegelich warnte daher davor, aus Quantität auf die Qualität zu schließen.

Sein Münchner Kollege, Jürgen Pfeffer von der TU München, sprach sich gegen Ranglisten, die die Follower von Politikern vergleichen, aus. Da diese vor allem von Bots bevölkert seien, entstehe bei vielen ein falscher Eindruck über den Einfluss. Mehr Vertrauen in die Fähigkeiten der Nutzer von sozialen Netzwerken zeigte Alexander Sander von der Digitalen Gesellschaft. Nutzer würden erkennen, wenn Debatten von Bots zugespamt würden.

Kennzeichnungspflicht für Social Bots? „Völlig sinnlos“

Der Forderung nach einer Kennzeichnungspflicht für Social Bots erteilten fast alle Experten eine Absage. Schon jetzt gebe es bei Facebook die Pflicht seinen Klarnamen anzugeben, die nicht kontrolliert werde. Wie und wer solle dann erst eine Pflicht zum Kennzeichen von Social Bots überprüfen, kritisierte Stephan Sachweh vom IT-Sicherheitsunternehmen Pallas. Der Vorschlag sei daher „völlig sinnlos“. Vor einem „sozialen Klimawandel“, ausgelöst durch Social Bots, warnte hingegen Dirk Helbing von der Eidgenössischen Technischen Hochschule Zürich eindringlich. Helbing sprach sich als einer der wenigen Anwesenden für eine Kennzeichnungspflicht aus, die von den Grünen gefordert wird.

Unverständnis über die große politische und mediale Aufmerksamkeit für Social Bots äußerte Linus Neumann vom Chaos Computer Club. Angesichts der dünnen Faktenlage hält Neumann die Rufe nach einer Kennzeichnungspflicht für „massiv überzogen“. Nicht Bots seien das Problem, sondern der Vertrauensverlust der Bürger in Politik und Medien. Zwar könnten Bots fremdenfeindliche Tendenzen verstärken, dies sei aber aufgrund der geringen Nutzerzahlen von Twitter in Deutschland zu vernachlässigen. Wahlmanipulation befürchtet er nicht. Privatfernsehen, Bild-Zeitung und lügende Innenminister würden die Menschen viel eher politisch beeinflussen, so Neumann im Ausschuss.

Medienkompetenz stärken

Dem Vorschlag aus dem Thesenpapier ein kostenpflichtiges und paralleles Internet „von und für Eliten“ zu schaffen, widersprach der Informatiker Christian Grimme von der Westfälischen Wilhelms-Universität Münster vehement. Dies verstoße gegen die grundlegenden Prinzipien des Internets. Stattdessen müsste die informationstechnische Grundbildung in der Gesellschaft verbessert werden, schon in der Schule. Jedoch nicht durch das wahllose Verteilen von Tablets, sondern durch die Vermittlung von grundlegenden technischen Zusammenhängen.

Aufklärung und Bildung sind laut Grimme der einzige Weg um den Einfluss von Bots zu minimieren. Denn Wirkung können Bot-Accounts nur entfalten, wenn leichtgläubige Nutzer sie für echt halten. Darin waren sich alle anwesenden Experten einig.

Fazit

Das zweieinhalbstündige Fachgespräch zeigte vor allem eins: Es gibt viel Redebedarf über Social Bots und sei es nur um Geschichten über virtuelle Bot-Begegnung zu teilen. Solange es jedoch keine stichhaltigen Belege für ihre Beeinflussung gibt, scheint eine Regulierung vorschnell und ist purer Aktionismus, geschweige denn in der Praxis umsetzbar.

In der Mediathek des Bundestages findet sich eine Aufzeichnung des Fachgesprächs.


Unterstütze unsere Recherchen und Berichterstattung für Grundrechte und ein freies Internet durch eine Spende.

from netzpolitik.org mehr auf http://ift.tt/2jHvGbo