Erfolgsdeterminanten agnotologischer Strategien im Wissensmanagement

3.1 Akteur-Verbund

Eine erste Anforderung an realitätsnahe Modelle ist, die simplifizierende Fokussierung auf den 1:1-Ansatz der Wissensmanipulation zwischen einem Manipulator und einem Target, Hand in Hand mit einer einseitigen Manipulationsbeziehung und gegebenenfalls einer entgegen gerichteten Abwehrbeziehung zu überwinden: Eine Mehrfachbesetzung der beiden Rollen schlägt sich in einer von zwei Verbundformen nieder, die sich unter Erfolgsaspekten signifikant voneinander unterscheiden: Ein Alternativ-Verbund charakterisiert Akteur-Pools. Sie generieren Flexibilität in Gestalt von Auswahlmöglichkeiten, z. B. alternative Drittparteien angesichts von Zweifeln an der Unparteilichkeit vorhandener Drittparteien (etwa Bewertungsplattformen), Ausweichen auf andere Informationsquellen oder Einholen einer zweiten Meinung. Der Additiv-Verbund steht für komplementäre Akteur-Mixe, etwa zwischen Manipulatoren und ihren Unterstützern. Diese Mixe verstärken den Impact und fördern den Erfolg durch Synergien und andere Integrationseffekte. Das gilt für Manipulatoren und Zertifizierungsagenturen oder Wirtschaftsprüfungsgesellschaften (Reputationsverstärker), Komplizen, Spione, Privatdetektive, „gekaufte“ Medien, Trolle sowie Cybercrime-as-a-Service-Provider (z. B. Lockbit, REvil). Spiegelbildlich gilt dies auch für Targets einerseits und Rechtsbeistände, Provider von IT-Security-Services und Versicherungen andererseits.

Die Komplexität des Akteur-Verbunds äußert sich ferner in den quantitativen Relationen zwischen der Anzahl der Manipulatoren und der Anzahl der Targets: 1:1-Konfigurationen liegen beispielsweise vor bei der Sperrung eines Social Media-Accounts oder einem Mobbing mittels Irreführung. Bei einem Churning schichtet ein Vermögensverwalter das Depot eines Anlegers häufig um und berechnet dafür zu Lasten seines Auftraggebers mehrfach Provisionen. 1:2-Konfigurationen kennzeichnen Doppelagenten und Absatzmittler, die sowohl Hersteller als auch Kunden manipulieren können. Man denke an – die für ihre Werbung vom Hersteller bezahlten – Influencer, die gegenüber Kunden eine Schleichwerbung betreiben, ohne dass dies für die Hersteller transparent gemacht würde (Leung et al 2022). Für Anbieter entsteht dabei oft eine diffuse Intransparenz (hinsichtlich des Absatzpotenzials), für Abnehmer eine konkrete Irreführung. Spiegelbildlich bleibt für die Abnehmer oft unklar, ob bestimmte Produkte vom Hersteller oder vom Betreiber eines virtuellen Marktplatzes (wie z. B. Amazon) angeboten werden. 1:n-Konfigurationen treten auf bei einer Internet-Abschaltung, Zensur, Meinungsmanipulation durch Massenmedien, Wahlmanipulation zu Lasten mehrerer alternativer Kandidaten, beim Staatsdoping sowie durch ein induziertes Mitläufer-Verhalten unter den Konsumenten (Bandwagon-Effekt). Spiegelbildlich existieren 2:1-Konfigurationen in Gestalt von Good Guy-Bad Guy-Tandems bei Verhandlungen oder bei „unheiligen Allianzen“ von zwei Manipulatoren, etwa im Fall von Kick-Backs: Bei dieser verdeckten Provisionsrückvergütung betreiben z. B. Versicherungsunternehmen und Versicherungsmakler eine konzertierte Manipulation (das Versicherungsunternehmen zahlt dem Vermittler einen Teil der Vermittlungsprovision zurück), was für Anleger (Targets) intransparent gehalten wird, so dass für diese eine überhöhte Vermittlungsgebühr entsteht. Die m:1-Konfigurationen beschreiben die Situation, dass Mehrheiten einen manipulationsbasierten (Gruppen-)Druck zur Änderung der Meinungen und Entscheidungen einzelner Gruppenmitglieder ausüben. Schließlich finden sich m:n-Konfigurationen in forensischen Gerichtskonstellationen (wo sowohl Manipulatoren als auch Targets mit Rechtsbeiständen und Gutachtern auftreten) oder im Fall von Hacker-Kollektiven, die das Verhalten von Wechselwählern, Erstwählern oder Nicht-Wählern beeinflussen wollen. Bei kollektiven Tarifverhandlungen operieren Arbeitgeberverband und Gewerkschaften nicht selten mit irreführenden und/oder undurchsichtigen Argumenten, etwa zur Streikbereitschaft. Darüber hinaus ist zu beachten, dass einige Unterstützer der Targets einen sehr weiten Wirkungskreis besitzen. Die gilt allen voran für die Resilienzstärkung durch Verbraucherschutzorganisationen, das European Crime Prevention Network, die polizeiliche Kriminalprävention der Länder und des Bundes sowie nationale und supranationale Gesetzgeber, die Schutzgesetze in Form von Anti-Manipulationsgesetzen implementieren. Man denke etwa an Geldwäschegesetz, Anlegerschutzverbesserungsgesetz, Marktmissbrauchsverordnung (der EU), Transparenzgesetze wie das Lieferkettengesetz oder die Datenschutzgrundverordnung, Fernabsatzgesetz (Widerrufsrecht sowie Umtausch und Rückgaberecht), die Haftung von Wirtschaftsprüfern im HGB, Finanzmarktintegritätsstärkungsgesetz sowie gesetzlich geregelte Publizitäts- und Meldepflichten. Fehlende internationale Regelungen für desinformative Inhalte erlauben es dabei Manipulatoren, nationale Regelungen zu umgehen. Schleichwerbung oder unterschwellige Werbung in traditionellen Rundfunk-, Fernseh- und Filmmedien werden in Deutschland u. a. durch Medienstaatsvertrag oder Rundfunkänderungsstaatsvertrag geregelt. Sie schreiben etwa Kennzeichnungspflichten für entgeltliche Produktplatzierungen sowie für unentgeltliche Produktionshilfen von bedeutendem Wert vor. Flankierend kommen Selbstverpflichtungen wie der Pressekodex des Deutschen Presserats, der Welt Anti-Doping Code oder die Selbstregulierung mittels Community Standards von großen Social Media-Plattformen beim Kampf gegen Desinformation und manipulierende Wahlwerbung zum Einsatz.

Die skizzierten rein quantitativen Konfigurationen werden allerdings der Vielfalt des Akteur-Verbunds nicht gerecht: Eine Diversität unter mehreren Manipulatoren charakterisiert beispielsweise die Kick-Backs. Die Diversität von Targets wird besonders deutlich, wenn Unternehmen (und vorsätzlich manipulierende Abschlussprüfer) mehrere Adressatengruppen, sprich Shareholder, Lieferanten, Großkunden (Key Accounts), Kreditgeber, Mitarbeiter und den Fiskus durch geschönte Jahresabschlüsse betrügen. Diversität resultiert darüber hinaus aus verschiedenen Varianten der Betroffenheit von einer agnotologischen Strategie: Die Steuervermeidung durch einzelne Manipulatoren betrifft z. B. nicht nur den Fiskus, sondern auch die ehrlichen Steuerzahler, weil diese kompensatorisch höhere Steuern zahlen müssen, um das Steueraufkommen sicherzustellen. Offensichtlich gibt es neben den Destinataren der Manipulation, die nach dem Willen des Manipulators ein Disabling erleiden sollen, auch weitere faktische Träger des Schadens, etwa dann, wenn der Destinatar den Schaden überwälzen kann, z. B. mit einem Versicherungsvertrag (z. B. Haftpflichtversicherung von Abschlussprüfern, Rechtsschutzversicherung) auf eine Versichertengemeinschaft. Target-Vielfalt kennzeichnet ferner die heterogene Konfiguration der Targets: So hat nicht selten das Hacking eines Herstellers den Verlust von Daten seiner Abnehmer zur Folge. Lobbyismus bezweckt einerseits die manipulative Beeinflussung legislativer Instanzen (ohne deren monetäre Schädigung), andererseits den monetären Wettbewerbsvorteil gegenüber Konkurrenten eines Manipulators und seiner Klientel. Beim Mobbing werden falsche Tatsachenbehauptungen zur Irreführung des Umfelds einer Zielperson verbreitet, um das Mobbing-Opfer zu schädigen. Börsenkursmanipulationen richten sich sowohl auf eine Irreführung der Börsenaufsicht als auch von Aktionären. Ein Greenwashing durch einen Hersteller verursacht neben einem Wissensabbau bei den Käufern (Irreführung und Fehlkauf) möglicherweise auch eine Imageschädigung für die gesamte Branche. Solche externen Effekte generieren nicht nur negativ Betroffene, sondern mitunter auch positiv Betroffene: Zu den Nutznießern einer aufgedeckten Börsenkursmanipulation zählen möglicherweise die konkurrierenden Emittenten an der Börse.

Nicht nur die Existenz mehrerer Akteure, sondern auch das Beziehungsgeflecht zwischen diesen Akteur-Kategorien ist erfolgsrelevant: Das gilt etwa für intrafamiliäre Beziehungen. Hier sind Kinder die bevorzugten Targets für irreführende Werbung aufgrund von Leichtgläubigkeit (z. B. Nudgeability, De Ridder 2022) und wenigen Wissensbarrieren, die Fehl-Kaufentscheidungen treffen hingegen die durch Kinderwünsche beeinflussten Eltern. Ferner macht sich ein durch irreführende Werbung hervorgerufener Reputationsverlust bei den Kunden auch bei anderen Stakeholdern bemerkbar, z. B. bei den Mitarbeitern. Das Risiko eines Reputationsverlusts beim Greenwashing wird beispielsweisen beim Vertrieb von Green Bonds angesichts der problematischen Einstufung von Gas und Atomkraft in der EU-Taxonomie verschärft. Auf zweiseitigen Märkten (z. B. Zeitungen, TV-Sender, Internet-Plattformen) kann eine Kundenkategorie (Werbetreibende) die zweite Kundengruppe (Content-Kunden) etwa durch Werbung für Plagiate manipulieren, wenn der Plattformbetreiber dies nicht kontrolliert und unterbindet. Gesetzgeber stärken durch Hinweisgeberschutzgesetze das Engagement von Whistleblowern, die wiederum die Resilienz von Targets verbessern.

Erfolgsrelevant sind ferner wechselseitige Beziehungen. Man denke etwa an die Schadprogrammwarnungen des Bundesamts für Sicherheit in der Informationstechnik (BSI) kombiniert mit dem Incident-Reporting an das BSI. Bezüglich der Einschätzung des Resilienzförderungspotenzials von Drittparteien ist zu beachten, dass begründete Zweifel an der Unparteilichkeit einiger Intermediäre bestehen, etwa von Suchmaschinen und Bewertungsplattformen als Informationsprovider, von Automobilclubs oder Zertifizierungsagenturen. Außerdem machen auch neutrale Drittparteien mitunter Fehler, z. B. in Form einer unbeabsichtigten Misinformation: Das sogenannte Prüfungsrisiko in der Jahresabschlussprüfung beschreibt beispielsweise das Risiko, dass vom Abschlussprüfer ein Bestätigungsvermerk erteilt wird, obwohl der Jahresabschluss wesentliche Fehlinformationen enthält, die weder vom internen Kontrollsystem eines Unternehmens noch vom Abschlussprüfer erkannt wurden. Vor diesem Hintergrund sind auch Slogans wie „Corona-Märchen – nein, danke!“ aus der EU-Corona-Initiative „Kampf der Desinformation“ skeptisch zu beurteilen.

3.2 Strategie-Verbund

Erfolg kommt selten durch eine fokussierte Einzelstrategie zustande. Vielmehr bedarf es hierzu mehrerer kumulativ eingesetzter Strategien: Einen verstärkten Manipulationseffekt kann man beispielsweise durch einen Mix aus Fake News und Pseudo-Reputation erzielen, etwa durch Kauf von etablierten Facebook Accounts oder Börsen-Gurus. Induzierte Lücken in der Wissensbasis kombiniert mit Zugangsbarrieren zu alternativen Informationsquellen eignen sich als Basis für Intransparenz und Intransparenz wiederum für eine Irreführung. Hierzu zählt ferner die kombinierte wissensbasierte und anreizbasierte Verhaltensbeeinflussung durch einen Manipulator: Beim Lobbyismus kommt beispielsweise zur Einflussnahme auf die Gesetzgebung ein Paket aus Anreizen (Bestechungsgelder) und Maßnahmen zur Verschleierung der Einflussnahme zum Einsatz.

Die Effektivität der Manipulation wird ferner durch eine Kombination agnotologischer und nicht-agnotologischer Strategien gesteigert. Um das Käuferverhalten zu manipulieren, eignet sich für die Werbung in Film und Fernsehen beispielsweise eine Kombination von unterschwelliger, intransparenter Werbung (z. B. verdeckte Produktplatzierung für einen Fahrzeughersteller) und transparenten Hinweisen auf die Produktionshilfe durch ein herstellereigenes Autoleasingunternehmen: Agnotologisch wird hierbei Intransparenz erzeugt und damit Wissen abgebaut, nicht-agnotologisch liegt hingegen ein Wissenszuwachs (Informationen zu einem Leistungsangebot) vor. Analog gilt das auch für eine Kombination von transparentem Priming (Werbung für Luxusartikel im TV-Werbeblock) und intransparentem Priming, etwa mit denselben Luxusartikeln, die von den Protagonisten im fraglichen Film verwendet werden. Ebenfalls kann man bei einem Anlagegespräch eine dubiose (jedoch als sicher deklarierte) Anlageempfehlung mit einem Mirroring kombinieren, bei dem der Anlageberater etwa persönliche Erfahrungen des Targets durch eigene Erfahrungen („Ist mir genauso ergangen“) bestätigt.

Strategie-Mixe umfassen ferner den Verbund mehrerer wissensbasierter Diagnose-Tools sowie mehrerer Interventionsinstrumente. Sie erstrecken sich jeweils auf zwei Sparten: Die Akteur-Diagnose (z. B. Robotertest) zum einen und die Instrumentendiagnose (z. B. Gerüchte) zum anderen. Auf dem Gebiet der Manipulations- bzw. Resilienzinstrumente ist die Diagnose auf Wissensinhalte und Wissensinfrastrukturen (als Einsatzgebiete von Instrumenten des Wissensabbaus) einerseits bzw. auf die Resilienzstärke andererseits gerichtet. Als erfolgskritisch erweist sich dabei auch die Wahl des Verbundmusters: Das gilt etwa für simultane Verbundmuster, z. B. die manipulationsverstärkende Mischung von „Fakten und Fakes“ in ein und derselben Botschaft anstelle von „Fakten oder Fakes“. Hierfür eignen sich beispielsweise KI-Algorithmen zum Deep Learning (Cartwright et al. 2022). Das gilt gleichermaßen für die offensive Kombination von Irreführung und Intransparenz (z. B. Deklaration von Hochrechnungen als amtliche Wahlergebnisse oder von „de lege ferenda“ als „de lege lata“), flankiert durch eine Blockade von Ausweichoptionen für die Informationsbeschaffung, etwa mittels Exklusivvereinbarungen von Journalisten mit Informanten. Ein sequenzielles Verbundmuster operiert beispielsweise mit dem intermittierenden Einsatz von Irreführung und wahrheitsgemäßer Information, etwa im Rahmen eines Customer Relationship Managements zwischen Anbietern und Abnehmern. In einer subsidiären Strategiekombination kommen Angriffe auf die Wissensinfrastruktur zum Einsatz, wenn Irreführung oder Verschleierung aufgrund von vorhandener Resilienz des Targets nicht den erwünschten Erfolg erzielen. Sequenzielle Strategiekombinationen bestehen ferner aus einer irreführenden Anlageempfehlung, die im Falle von Abwehrmaßnahmen der Anleger durch ein Spamming der Anleger (z. B. mit Börseninformationen) hinterlegt wird (Frieder; Zittrain 2007).

Auch auf der Seite der Targets werden kombinierte Resilienzstrategien eingesetzt. Das klassische Vorbild stammt aus dem generischen Risiko-Management, wo präventive Maßnahmen der Manipulationsvermeidung (Ziel: Manipulationsresistenz) mit palliativen Maßnahmen der Schadensbegrenzung (z. B. mithilfe von Versicherungen) gekoppelt werden: Dabei erfolgt beispielsweise ein proaktiver Aufbau des Wissens über Strategien, Risiken und Manipulatoren (Früherkennung) in Kombination mit einer Späterkennung eines bereits eingetretenen Wissensabbaus und mit reaktiven Bemühungen um einen kompensatorischen Wissensaufbau. Hier sind auch klassische Formen des Akteur-Verbunds wie das Vieraugenprinzip oder Kreuzverhöre einzuordnen. Des Weiteren verbinden typische Kombinationen zur Vermeidung von Datenverlust eine informationstechnische Abschirmung, z. B. die Cyber-Security von Wissensinfrastrukturen (Eling et al. 2021) mit Filterblasen in sozialen Medien. Resilienz lässt sich ferner durch eine Herabsetzung des Anspruchsniveaus an die Wissensqualität (z. B. durch Akzeptanz von schwach spezifizierten Opak-Angeboten: Spezifikation der Hotelkategorie ohne Bestimmung des individuellen Hotels bei Pauschalreisen, vage Fixierung von Preisen als „Verhandlungssache“, Reiss 2020; Bovensiepen; Pelkmans 2020; Alvesson et al. 2022) kombiniert mit einem Quellencheck gegen Irreführung bewerkstelligen. In einigen Fällen kann subsidiär auf alternative Wissensquellen oder Übertragungsmedien zurückgegriffen werden, falls der Manipulator keine Zugangsbarrieren (z. B. durch Sperrung von Accounts, Sendeverbot für die Deutsche Welle in Russland) errichtet hat.

3.3 Symmetrische Strategieanwendung

Das klassische Strategie-Konzept beruht auf einer asymmetrischen Rollendifferenzierung unter den involvierten Akteuren nach einem einfachen Täter-Opfer-Muster: offensiver Manipulator und defensives Target. Nur der Manipulator betreibt dabei agnotologische Strategien, je nach Resilienz-Status der Targets mit unterschiedlichem Erfolg. Der Manipulator kennt die Opfer (deren entscheidungsrelevante Informationen und Wissensinfrastrukturen) und verfügt über target-gerechte Strategien. Für die Targets sind Übeltäter und Angriffsformen mehr oder weniger gut erkennbar. Die Targets ergreifen keine agnotologischen Gegenstrategien, ihre Unterstützer erfüllen lediglich eine passive Schutzfunktion, bestenfalls flankiert durch Strafandrohung für die Non-Compliance von Manipulatoren.

Dieser derzeit dominierende Modellansatz korrespondiert allerdings nur in ganz speziellen Kontexten mit den real existierenden oder den erfolgsverheißenden Mustern der Wissensmanipulation. Viele dieser Konstellationen sind durch eine stärkere Symmetrie von Rollen und Strategien der Manipulatoren und der Targets geprägt. Dass Manipulatoren kein Monopol auf Strategien des Wissensabbaus besitzen, lehren uns (traditionell ausgetragene) militärische Konflikte, Geheimdienstaktivitäten (Spionage und Gegenspionage), darüber hinaus auch Gerichtsverfahren zu Familienkonflikten (Ehescheidungen, Erbstreitigkeiten): Hier setzen beide Seiten ihre Potenziale zur Verteidigung und zum Angriff ein. Bei der wechselseitigen Generierung von Wissenslücken handelt es sich auch um ein typisches Verhaltensmuster von Vertragsparteien, z. B. durch ein bilaterales Verbergen von Informationen zwischen Principal und Agent, durch Gegenspionage zwischen Wettbewerbern (Competitive Intelligence) sowie ein Back-Hacking. Zu den agnotologischen Strategien der Targets gehören das Verstellen (z. B. Vortäuschen von Schwachstellen) und das Verleugnen der Identität.

Targets können Zugangsbarrieren zu Daten durch ein kreatives Reaktanzverhalten überwinden, um die durch agnotologische Strategien eingeschränkten Handlungsspielräume wieder herzustellen: So ermöglichen etwa Schmiergelder eine Information Disclosure, also das Aufdecken von geschützten Informationen. Das mündet letztlich in einer komplexen Rollenambiguität, innerhalb derer beide Akteure sowohl als Targets als auch als Manipulatoren agieren: In einer typischen Gefangenen-Dilemma-Konstellation hat es etwa ein Ermittler mit zwei Tatverdächtigen zu tun, die untereinander nicht kommunizieren können, so dass der Ermittler mit dem Pseudo-Geständnis eines Verdächtigen (Target) den zweiten Verdächtigen manipulieren kann. Targets sind also durchaus in der Lage, agnotologische Strategien zur Gegenmanipulation zu konzipieren. So eignet sich etwa ein Akteur-Verbund aus guter Bulle und böser Bulle als manipulatives Resilienz-Instrument, etwa wenn es mittels Übertreibung bzw. Untertreibung bezüglich des zu erwartenden Strafmaßes gelingt, das Geständnis eines Betrügers zu erlangen. Ferner können Targets die Wissensinfrastrukturen von Manipulatoren beschädigen, etwa durch eine Behinderung des Webtracking. Eine Resilienz-Stärkung lässt sich auch mit Kombinationen aus agnotologischen Gegenstrategien und anreiz- bzw. sanktionsbasierten Strategien bewerkstelligen: Wenn beispielsweise die Abmahnung (einer Irreführung) nicht zu einer Unterlassung führt, können Betroffene eine Strafanzeige mit Strafandrohung durch Gerichte oder einen etablierten „Pranger“ (z. B. öffentliche Rügen des deutschen Werberats) einsetzen. Dabei sind Grenzen für Sanktionsandrohungen („credible threats“) zu beachten. Sie resultieren teilweise aus nationalen Grenzen, etwa bei der Strafverfolgung von ausländischen Hackern.

Eingebettet sind diese Formen einer „Reverse Manipulation“ in eine symmetrisch angelegte Überprüfung der Reputation von potenziellen Unterstützern für beide Seiten: Sie nutzt beispielsweise ein Grey- bzw. Black-Listing. Ein Diagnosebedarf resultiert hierbei aus der Tatsache, dass Gütesiegel wie die Tierwohl-Label oder „Made in Germany“, aber auch investigative Einrichtungen und Befragungsinstitute sich nicht selten als eine weitere Quelle von Irreführung und nicht als eine Option zur Kompensation von Irreführung herausstellen. Zudem können Manipulatoren wie auch Targets gleichermaßen bei der Akteur-Diagnose beispielsweise den Fehler III. Art begehen, d. h. das falsche Problem in Angriff nehmen (Meckler; Boal 2020): Manipulatoren verwechseln möglicherweise Meinungsführer und Mitläufer in einem Target-Verbund. Spiegelbildlich gelingt es Targets mitunter nicht, Maulwürfe ausfindig zu machen. Manipulatoren laufen etwa Gefahr, unrealistische Lösegeldforderungen beim Ransomware-Einsatz zu stellen oder die Resilienz von Targets zu unterschätzen, etwa deren Kapazitäten zur Informationsverarbeitung bei Data Deluge-Angriffen angesichts einer Big Data-Infrastruktur. Das betrifft auch deren verfügbare Sanktionspotenziale, etwa im Zusammenhang mit Doping. Ferner attribuieren Targets mitunter eine Desinformation zu den falschen Manipulatoren.

Der Akteur-Verbund (vgl. 3.1) induziert mitunter spezifische Formen einer Rollenambiguität: So agieren etwa Kronzeugen zum eigenen Schutz simultan als Manipulatoren und als Targets: Sie werden der Manipulation beschuldigt, sind der Manipulation durch Komplizen ausgesetzt und verteidigen sich durch zweiseitige Gegen-Manipulation sowohl gegenüber Mitbeschuldigten als auch gegenüber Ermittlungsbehörden. Ähnlich gelagerte Doppelrollen sind ferner das Ergebnis von verketteter Manipulation: Der Steuerberater eines Mandanten mit Steuervermeidungsabsichten sieht sich möglicherweise zur Gegen-Manipulation in Gestalt überzogener, intransparenter Honorarforderungen ermutigt.

Als Katalysatoren für eine Strategie-Symmetrie fungieren einige „Dual Use-Instrumente“. Das trifft beispielsweise auf Hacker zu, die je nach Auftraggeber sowohl als Manipulationshelfer als auch als Resilienzhelfer (z. B. für Penetration-Tests, also simulierte Cyberangriffe) agieren. Ähnlich verhält es sich bei Bots: Hier unterscheidet man resilienzstärkende „Good Bots“ (Crawlers, Transactional Bots und Informational Bots), Bad Bots (Spammers, Scrapers, und Impersonators), die für manipulative Zwecke eingesetzt werden (Harringer 2018) sowie bifunktionale Bots wie etwa der ChatGPT (Generative Pre-trained Transformer).

3.4 Komponenten des Performance-Managements

Die voranstehenden Überlegungen zum komplex-symmetrischen Akteur-Verbund und Strategie-Verbund informieren im Kern über das Alternativenspektrum von Manipulations- und Resilienzinstrumenten. Sie enthalten allerdings keine konkreten Anhaltspunkte für die erfolgs- bzw. performanceorientierte Bewertung dieser Alternativen. Mit Blick auf die praktische Anwendung einzelner agnotologischen Strategien ist eine Abschätzung der Performance jedoch unverzichtbar. Grundsätzlich verbindet das Performance-Management zwei Kategorien von Komponenten: Erfolgskriterien (Maßstäbe, Indikatoren) einerseits und Erfolgsdeterminanten andererseits. Ein anspruchsvolles Performance-Management nach dem Motto „No management without measurement!“ erscheint angesichts der skizzierten Komplexität unrealistisch. Mithilfe eines einfachen ordinal skalierten Erfolgskriteriums kann man jedoch drei Erfolgsniveaus für einen Manipulator als Orientierungsdaten unterscheiden: Wissensverlust (exzellenter Erfolg), Wissenserhaltung (kein Erfolg) und Wissensanreicherung (z. B. verbesserte Validität des Target-Wissens als paradoxer Misserfolg). Je nach Wirkungsmächtigkeit und Wirkungsrichtung lassen sich zudem vier Erfolgsdeterminanten identifizieren: Erfolgsfaktoren, die den Erfolg verbessern, Erfolgsbarrieren, die den Erfolg behindern, Misserfolgsbarrieren, die einen Misserfolg verhindern sowie Misserfolgsfaktoren, die einen Misserfolg verursachen.

Der Erfolg von Wissensmanipulation ergibt sich häufig in einer Nullsummen-Konstellation zwischen Manipulation und Resilienz. Aus Sicht des Manipulators münden diese Win-Lose-Ansätze zwischen Wissensabbau und Resilienz in vereinfachende Erfolgsrezepte wie „Je mehr Resilienz, desto weniger Manipulationserfolg“ oder „Exzellenter Erfolg, wenn eine massive Manipulation auf Vulnerabilität trifft“. Anhand der Abbildung 2 lassen sich die Performance-Aussichten aus einer Aggregation der vier Erfolgsdeterminanten (unter Beachtung der Wirkungsrichtung) schematisch abschätzen. Bei einigen der Determinanten handelt es sich um Parameter der Manipulatoren („M“), bei anderen um Resilienz-Parameter der Targets („T“) oder um Einflussfaktoren aus dem Kontext („K“). Sie berücksichtigen den Strategie-Verbund, den Akteur-Verbund (angesichts von Chancen oder Risiken der Verbundbeziehungen) sowie die Rollensymmetrisierung beim Einsatz der Strategien.

Die Abbildung 2 verdeutlicht beispielsweise, dass agnotologische Gegenstrategien der Targets die Erfolgsaussichten von Manipulatoren reduzieren. Vor diesem Hintergrund sollten etwa Hightech-Resilienzverstärker aus dem KI-Sektor (Fan Xu 2021) oder die East StratCom Task Force der EU prüfen, ob ihre Anti-Desinformations-Algorithmen nicht nur zur Aufdeckung (z. B. von russischen Manipulationsoffensiven), sondern auch zu Gegenoffensiven genutzt werden können. Ferner informiert die Abbildung 2 über den erforderlichen Individualisierungsgrad, sowohl von Irreführung als auch von Warnungen vor Irreführung, der etwa durch pauschale Warnungen der Bafin vor unerlaubten Geschäften und Marktmanipulation nur ansatzweise erreicht wird.

Abb. 2:

Determinanten des Manipulator-Erfolgs (Quelle: Eigene Darstellung).