Das Manifest ist auf Spanisch, Englisch und Französisch veröffentlicht. Ich habe es ins Deutsche übersetzt. Ein Schwerpunkt der Tätigkeit von OFF liegt auf dem Schutz Minderjähriger vor der Vernetzungssucht und auf der Entdigitalisierung des Unterrichts. Das Motto der Bewegung lautet: Mobilisierung der Humanität gegen die technologische Entfremdung. Hier nun das Manifest, das Sie bei Gefallen unterschreiben können. Für die Endnoten verweise ich auf den Anhang der englischen Version:
Ein Manifest
Die Kontrolle über digitale Technologien zurückgewinnen
Wir stehen an einem historischen Wendepunkt, an dem die Macht der Technologie exponentiell wächst und eine beispiellose Herausforderung für unsere Spezies darstellt.
Der beschleunigte technologische Wandel, den wir derzeit erleben, vollzieht sich weitgehend ohne demokratische Kontrolle. Da die kurzfristigen Vorteile vieler technologischer Innovationen in der Regel leichter erkennbar sind als die damit verbundenen Risiken, ist ihre übereilte Einführung durch Einzelpersonen, Fachleute, Unternehmen, Verwaltungen und Bildungseinrichtungen eine Versuchung, der diese nur schwer widerstehen können, wenn es keine klaren Grenzen und Verfahren gibt, die die Auswirkungen bewerten und sicherstellen, dass sie die Grundrechte achten und nicht unserem allgemeinen Interesse zuwiderlaufen.
Vor diesem Hintergrund widersprechen wir der Geisteshaltung, dass wir nur Zuschauer einer unaufhaltsamen technologischen Zwangsläufigkeit sind. Wir sind im Gegenteil überzeugt, dass wir handeln müssen, um uns auf ein Rahmenwerk zu einigen, das die technologische Kontrolle über den Menschen verringert und in dem die technologische Entwicklung im Dienste der Menschheit steht und nicht umgekehrt.
Was wir beobachten
Eine beunruhigende Entwicklung
- Die zunehmende Asymmetrie zwischen den Fähigkeiten des Menschen und denen der Technologie bedeutet, dass Letztere von Einzelpersonen oder öffentlichen und privaten Organisationen genutzt werden kann, um Kontrolle über andere auszuüben, sei es zu kommerziellen, sicherheitspolitischen oder anderen Zwecken. Dadurch werden die Freiheit, der freie Wille und das Urteilsvermögen des Einzelnen eingeschränkt oder beseitigt.
- Unsere individuelle und kollektive Abhängigkeit von digitalen Infrastrukturen stellt eine Schwachstelle dar, die für kriminelle, terroristische oder ideologische Zwecke ausgenutzt werden kann, um für unsere Existenz wichtige Elemente lahmzulegen, zu zerstören oder zu beschädigen.
- Die zunehmende Autonomie der Technologie entzieht sie immer mehr der menschlichen Kontrolle. Während Maschinen bis vor kurzem noch weitgehend von Menschen gesteuert wurden, führt ihre wachsende Komplexität und Autonomie dazu, dass selbst ihre Erbauer oft nicht mehr verstehen, wie sie funktionieren, und Maschinen zunehmend den Menschen Befehle erteilen.
Diese Merkmale der technologischen Entwicklung haben bereits tiefgreifende Auswirkungen auf den Einzelnen und die Gesellschaft. Unter anderem beobachten wir:
- Eine tiefgreifende Verschlechterung sowohl der Aufmerksamkeitsspanne als auch der psychischen Gesundheit der allgemeinen Bevölkerung – und insbesondere junger Menschen – einhergehend mit einem verstärkten Gefühl der Einsamkeit und Isolation. [1]
- Ein alarmierender Verlust bestimmter Funktionen, die dem Menschen eigen sind (wie Gedächtnis, Orientierung, logisches und kritisches Denken), wodurch sich seine Natur qualitativ verändert und seine Abhängigkeit von Technologie zunimmt. [2]
- Die Verzerrung wichtiger Wahlprozesse durch Desinformationskampagnen, die von großen digitalen Plattformen angeheizt werden und zu einer starken sozialen und politischen Polarisierung führen. [3]
- Eine deutliche Zunahme der Kontrolle, die autoritäre Staaten über ihre Untertanen ausüben – durch ein ausgeklügeltes Überwachungsnetzwerk, das auf der immer umfassenderen Erfassung personenbezogener Daten basiert, die mit Hilfe künstlicher Intelligenz verarbeitet werden. [4]
- Eine Tendenz, auch seitens demokratischer Staaten, personenbezogene Daten von Bürgern zu sammeln und auf eine Weise auszuwerten, die die Privatsphäre verletzt, beispielsweise durch den Missbrauch von Gesichtserkennung. [5]
- Eine hohe Konzentration im Technologiesektor, was bedeutet, dass eine sehr kleine Anzahl von Unternehmen über unverhältnismäßig viel Macht verfügt, die es ihnen ermöglicht, ihren Einfluss auf das Leben der Bürger zu auszubauen und deren Verhalten, Überzeugungen und Entscheidungen zu beeinflussen. Diese Unternehmen nehmen auch gegenüber anderen Unternehmen und manchmal sogar gegenüber Nationalstaaten eine dominante Stellung ein. [6]
- Cyberangriffe auf kritische Infrastrukturen – wie Krankenhäuser oder Stromverteilungsnetze – verdeutlichen die Anfälligkeit einer Gesellschaft, in der alle wesentlichen Systeme miteinander verbunden sind, sowie die Tatsache, dass Sicherheitskriterien bei der technologischen Konzeption und Umsetzung nicht ausreichend priorisiert werden. [7]
- Eine zunehmende Umweltbelastung durch den wahllosen Einsatz und die intensivere Nutzung von Technologie: die schädliche Gewinnung von Seltenen Erden für die Herstellung von Geräten, ein exponentielles Wachstum der Anzahl von Satelliten, ein Anstieg der digitalen Treibhausgasemissionen, das intensive Mining von Kryptowährungen usw. [8]
Diese scheinbar unterschiedlichen Phänomene sind in Wirklichkeit eng miteinander verbunden. Sie sind die Kehrseite unserer unkontrollierten Beziehung zu einer Technologie, deren volles Potenzial wir nicht kennen.
Was wir vermeiden wollen
Die Prinzipien der vorgeschlagenen Maßnahmen
In einer Umgebung, in der die menschliche Existenz in all ihren Facetten zunehmend von Technologie bestimmt wird, lehnen wir folgendes ab:
- eine Welt, die von Maschinen beherrscht wird, in der die Technologie ein so hohes Maß an Autonomie erreicht, dass sie sich dem menschlichen Verständnis völlig entzieht und uns in Richtungen führen kann, für die wir uns nicht entschieden haben,
- dass Kriterien, die ausschließlich auf Optimierung basieren, den Umfang menschlicher Aktivitäten so einschränken, dass unsere Spezies nicht nur an den Rand gedrängt, sondern auch dessen beraubt wird, was das Leben sinnvoll macht,
- dass der Handel mit dem Willen und Bewusstsein von Menschen zugelassen wird, bei dem personenbezogene Daten und Vorhersagemodelle genutzt werden, die die Fähigkeit einer Person einschränken oder außer Kraft setzen, zu erkennen, was sie will, und dadurch ihre Freiheit schwächen oder zerstören,
dass private Organisationen Technologien exklusiv besitzen, die ihnen eine dominante Position verschaffen, wodurch sie Macht konzentrieren und einen sehr wesentlichen Teil des Lebens der Menschen kontrollieren und beeinflussen können – ein Trend, der schwer umzukehren ist, - dass es erlaubt ist, Einzelpersonen oder Gruppen von Menschen zu diskriminieren oder zu klassifizieren und ihnen auf der Grundlage von Kriterien, die von Maschinen festgelegt wurden, Zugang zu bestimmten Ressourcen zu gewähren oder zu verweigern, basierend auf der Auswertung von Daten, die nicht in direktem Zusammenhang mit dem Zweck stehen, für den diese Kategorisierung festgelegt wurde, was zu willkürlichen oder undurchsichtigen Ergebnissen führt, die nicht angefochten werden können,
- dass der künstliche Charakter einer Maschine nicht identifiziert werden kann, was zu Verwirrung zwischen Mensch und Nicht-Mensch führt, dass Technologien eingesetzt werden, die aufgrund ihrer Konzeption künstliche Darstellungen des Menschen als wahrheitsgetreu präsentieren,
- dass Staaten Technologie einsetzen, um eine übermäßige und allgegenwärtige Kontrolle über ihre Bürger auszuüben, und insbesondere Gesichtserkennung oder Technologien missbrauchen, die keine Anonymität im öffentlichen Raum gewährleisten, oder dass sie das Recht beanspruchen, Bewegungen, Transaktionen oder andere Aspekte menschlicher Aktivitäten zu verfolgen,
- dass systemische Technologien ohne ausreichende Sicherheitsvorkehrungen eingesetzt werden, was zu einer großflächigen Verwundbarkeit führen kann,
eine zunehmend dualistische Menschheit, in der die Entscheidung eines Teils der Bevölkerung, sich mit der Maschine zu verbinden, den Rest der Menschheit de facto dazu zwingen würde, entweder dasselbe zu tun oder sich der Macht des ersteren zu unterwerfen.
Letztendlich sind wir der Meinung, dass wir ein Umfeld schaffen müssen, das die Einzigartigkeit des Menschen respektiert und das Potenzial minimiert, dass Technologie dazu genutzt wird, ihn zu entfremden und seine Freiheit zu untergraben.
Was wir vorschlagen
Ein Appell an die Politik und die Öffentlichkeit
Dieses Manifest soll keine Ablehnung der technologischen Entwicklung an sich propagieren. Ihre zahlreichen Vorteile erkennen wir an. Es soll vielmehr die politischen Entscheidungsträger und die Zivilgesellschaft dazu aufrufen, sich mit den Kosten und Risiken auseinanderzusetzen, die die Menschheit zu tragen hat, wenn sie weiterhin ein Paradigma des wahllosen Technikeinsatzes ohne demokratische Kontrolle akzeptiert, und zu dringend notwendigen Maßnahmen zur Minimierung dieser Kosten anzuregen.
Um die Freiheit und Würde des Einzelnen als zentrale Werte in einem Kontext wachsender Asymmetrie zwischen Technologie und Mensch zu bewahren, müssen Demokratien ihr Handlungsrepertoire grundlegend neu erfinden und diese Rechte entschlossener verteidigen. Die Bemühungen einiger Staaten oder Regionen, sowohl im Bereich des Datenschutzes als auch bei der Ausarbeitung von Chartas oder Erklärungen zum Schutz der digitalen Rechte (spanische Charta 2021, europäische Erklärung 2023 oder iberoamerikanische Charta vom März 2023), sind lobenswert, müssen jedoch intensiviert und in viel größerem Umfang umgesetzt werden.
Wir sind uns bewusst, dass dies eine echte Herausforderung für politische Systeme darstellt, die dazu neigen, dem Einzelnen die Regulierung von als privat angesehenen Fragen zu überlassen. Wir sind jedoch mit Technologien konfrontiert, die den Nebeneffekt haben, die individuelle Freiheit außer Kraft zu setzen und das zu beeinträchtigen, was uns als Menschen ausmacht. Wir verstehen auch, dass das wirtschaftliche und geostrategische Gleichgewicht weitgehend von der technologischen Wettbewerbsfähigkeit abhängt, was jede Maßnahme erschwert, die als Einschränkung der technologischen Entwicklung wahrgenommen werden könnte. Daher erfordert diese existenzielle Herausforderung beispiellose Lösungen, die über unverbindliche Empfehlungen hinausgehen.
Unabhängig vom Ausmaß politischer Maßnahmen wird ein Paradigmenwechsel nur dann stattfinden, wenn es zu einer echten Mobilisierung der Bürger kommt, die den notwendigen Druck ausüben, um dieses Thema ganz oben auf die politische Agenda zu setzen. Derzeit ist die Öffentlichkeit eher für die kurzfristigen Vorteile der technologischen Entwicklung empfänglich als für deren Risiken, die oft kaum bekannt sind. Es bedarf einer Debatte im Parlament und in der Zivilgesellschaft, um die Risiken und Vorteile des vorherrschenden technologischen Paradigmas abzuwägen und gemeinsam die Werte zu definieren, die die technologische Entwicklung leiten und gestalten sollten.
Wir schlagen vor, ein breites Spektrum von Maßnahmen zu prüfen, um die anstehenden Herausforderungen zu bewältigen, darunter:
1. Rechtlich verbindliche Regeln, wie:
- Verbot von individualisierter Werbung (micro-targeting),
- Schutz von Neuro-Rechten in der Verfassung und im internationalen Recht (Verbot des Zugriffs auf unsere neuronale Aktivität und der Erhebung entsprechender Daten mit der Möglichkeit, unsere geistige Aktivität zu beeinträchtigen),
- eine internationale Gesetzgebung zum Verbot autonomer tödlicher Waffen.
das Streben nach einer „technologischen Deeskalation” in Bereichen, in denen Technologie nachweislich negative kollektive Auswirkungen hat und deren Einsatz ein erhebliches Risiko für die Bevölkerung darstellt, - ein Recht auf nicht-vernetztes Leben, das den Zugang zu Dienstleistungen – insbesondere öffentlichen Dienstleistungen – in nicht-digitaler Form garantiert,
- die Verpflichtung von Technologieunternehmen, Zugang zu Daten zu gewähren, der es Dritten im Rahmen der gesetzlichen Bestimmungen ermöglicht, die Funktionsweise ihrer Plattformen und Algorithmen selbstständig zu analysieren,
- die Ausweitung von Verfahren zur Überprüfung der ethischen Angemessenheit von Algorithmen, die von Unternehmen und Regierungen verwendet werden.
2. Maßnahmen in Bezug auf die Produkte und das Marketing, darunter:
- Wiedereinführung und Aufwertung der „Aus”-Funktion im Design technologischer Anwendungen und Geräte, damit Nutzer diese bewusst ein- und ausschalten können,
- bestimmte disruptive Technologien werden strengen Regulierungsverfahren unterworfen, bevor sie auf den Markt kommen, wie dies bereits in Branchen wie der Pharma- und Lebensmittelindustrie der Fall ist,
- Maßnahmen zur Aufklärung, Information und Befähigung von Verbrauchern, Investoren und Fachleuten, damit ihre Anforderungen an die Technologie mit ihren Rechten und Interessen in Einklang stehen.
3. Maßnahmen im Bereich Forschung und Bildung, wie:
- ein Moratorium für die breite Einführung von digitaler Technologie in Schulen unterhalb eines bestimmten Alters,
- mehr Schulungen für verschiedene Altersgruppen zu Programmierung und Funktionsweise von Algorithmen, um die Asymmetrie zwischen Technologie und Menschen zu verringern.
- systematische Informationsvermittlung an Eltern und Erziehungsberechtigte, um das Bewusstsein für die Risiken zu schärfen, denen junge Menschen ausgesetzt sind,
- Förderung von vertieften Studien zu den Auswirkungen bestimmter Technologien auf den Einzelnen und die Gesellschaft, insbesondere in Bezug auf kognitive und verhaltensbezogene Fragen, die körperliche und geistige Gesundheit und die Freiheit,
- altersgerechte Nutzung von Geräten, insbesondere Smartphones und anderen vernetzten Geräten.
Die Regulierung technologischer Innovationen ist komplex und stellt zusammen mit der Umweltkrise eine grundlegende Herausforderung für den Erhalt der Freiheit der Menschheit dar. Das Thema ist zu wichtig, als dass die Debatte durch sektiererische Positionen blockiert werden darf. Die Mobilisierung darf nicht so lange hinausgezögert werden, wie es bei der Umweltbewegung der Fall war, wenn wir vermeiden wollen, dass ein Punkt erreicht wird, an dem es kein Zurück mehr gibt. Deshalb ist dringend ein Konsens erforderlich, um sicherzustellen, dass schnelle und ausreichend wirksame Maßnahmen ergriffen werden, um auf eine Herausforderung dieser Größenordnung zu reagieren.
Wir müssen dringend das Notwendige tun, damit die Menschheit ihr Schicksal selbst in die Hand nehmen und ihren Fortbestand als freie Spezies sichern kann.
Mehr
