Monitoring von Zukunftsthemen für das Österreichische Parlament

(1)

Foresight und

Technikfolgenabschätzung:

Monitoring von Zukunftsthemen für das Österreichische Parlament

Berichtsversion: November 2018

(2)

(3)

Foresight und

Technikfolgenabschätzung:

Monitoring von Zukunftsthemen für das Österreichische

Parlament

Berichtsversion: November 2018

Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften AIT Austrian Institute of Technology

Center for Innovation Systems & Policy

AutorInnen: Michael Nentwich (MN) (Projektleitung) Petra Schaper-Rinkel (PSR) (Projektleitung) Leo Capari (LC)

Niklas Gudowsky (NG) Walter Peissl (WP) Dana Wasserbacher (DW)

Studie im Auftrag des Österreichischen Parlaments Wien, November 2018

(4)

IMPRESSUM Medieninhaber:

Österreichische Akademie der Wissenschaften

Juristische Person öffentlichen Rechts (BGBl 569/1921 idF BGBl I 31/2018) Dr. Ignaz Seipel-Platz 2, A-1010 Wien

Herausgeber:

Institut für Technikfolgen-Abschätzung (ITA) AIT Austrian Institute of Technology Apostelgasse 23, A-1030 Wien Giefinggasse 4, A-1210 Wien

www.oeaw.ac.at/ita www.ait.ac.at

Die ITA-Projektberichte erscheinen unregelmäßig und dienen der Veröffentlichung der Forschungsergebnisse des Instituts für Technikfolgen-Abschätzung.

Die Berichte erscheinen in geringer Auflage im Druck und werden über das Internetportal „epub.oeaw“ der Öffentlichkeit zur Verfügung gestellt:

epub.oeaw.ac.at/ita/ita-projektberichte

Projektbericht Nr.: ITA-AIT-7 ISSN: 1819-1320 ISSN-online: 1818-6556

epub.oeaw.ac.at/ita/ita-projektberichte/ITA-AIT-7.pdf parlament.gv.at/SERV/FTA/

(5)

Inhalt

Zusammenfassung ... 7

1 Einleitung: Wozu und wie Monitoring? ... 9

1.1 Themenidentifikation aus Foresight-Perspektive ... 10

1.2 Themenidentifikation aus TA-Perspektive ... 11

1.3 Relevanzprüfung und Selektion ... 12

1.4 Basisquellen des Monitorings ... 13

2 Für das Parlament und für Österreich relevante sozio-technische Entwicklungen ... 15

Vertiefungsthemen (in allen Clustern) Deepfakes – Perfekt gefälschte Bilder und Videos ... 19

Digitales Nudging und Demokratie ... 23

Datengetriebene Medizin –Zwischen Personalisierung und gläsernen PatientInnen? ... 27

Autonomer öffentlicher Verkehr ... 31

Digitalisierung und Anonymität – Ein Widerspruch in sich? ... 35

Zukunft Lieferdrohnen? ... 39

Biobasierte Zukunftsmaterialien: Vom Laborleder bis zum Superholz ... 43

Urban Mining 4.0 ... 47

Künstliches Leben ... 51

Vertrauenswürdige Blockchains ... 55

Funktionelle Nahrung aus dem Labor ... 59

Virtuelle und augmentierte Realitäten ... 63

Produktion Bergbau im All ... 67

Sensorrevolution: Smarte Städte – smarte Menschen? ... 69

Robotik in der Landwirtschaft ... 71

Häuser aus dem 3D-Drucker ... 73

Autonome Mini-Häuser ... 75

Die Zukunft von Industrie 4.0 ... 77

Dienstleistungen Gamification von Wissenschaft, Arbeit und Politik? ... 79

Zukunft der Mensch-Maschine-Interaktion: Haptische Holographie ... 81

Geldlose Tauschsysteme: Zeitbanken ... 83

Dienstleistung 4.0 ... 85

Automatisierung in der Rechtsberatung ... 87

Dezentralisierte Kollaborationsplattformen – Alternativen zu globalen Online-Monopolen ... 89

(6)

Foresight und Technikfolgenabschätzung: Monitoring von Zukunftsthemen für das Österreichische Parlament

Digitale Infrastruktur

Das Dark-Net ... 91

Cloud Computing als politische Herausforderung ... 93

Open Access – jetzt aber wirklich? ... 95

Affective Computing – Emotionale Künstliche Intelligenz ... 97

Einmal im Netz – immer im Netz? Technologien digitalen Vergessens ... 99

Transparente Algorithmen – Wie lässt sich algorithmische Diskriminierung verhindern? ... 101

Digitale Erinnerung ... 103

Social (Ro-)Bots: Maschinen als GefährtInnen? ... 105

Sicherheit Digitale Schutzengel: Technologien privater Sicherheit ... 107

Dezentrales KI-Lernen: Gesellschaft als Reallabor?... 109

Existenzielle Risiken von Künstlicher Intelligenz ... 111

Authentifizierung durch Verhalten ... 113

Fortgeschrittene Gesichtserkennung ... 115

Algorithmische Polizeiarbeit ... 117

Sicherheits-Robotik ... 119

Cybersicherheit für kritische Infrastrukturen ... 121

Demokratie und Staat Staatliche Souveränität im digitalen Zeitalter ... 123

Microtargeting – Personalisierte Nachrichten zur Beeinflussung von Verhalten ... 125

Robojournalismus und digitalisierte Medien ... 127

Ein sicheres, dezentrales Grundbuch über Blockchain ... 129

Umwelt und Energie Kommerzialisierung von Geoengineering-Technologien ... 131

CO₂-neutrale Gebäudekühlung ... 133

Peer-to-Peer(P2P)-Energiehandel ... 135

Illegaler Handel mit E-Schrott ... 137

Zwischenspeicher der Zukunft für elektrische Energie ... 139

Fliegende Windenergie ... 141

Wasserstoffspeicher der Zukunft ... 143

Industrie 4.0 und Bioökonomie ... 145

(7)

Bioökonomie

Pflanzen als vernetzte Umweltsensoren ... 147

Biomimikry und Bionik: Designprinzipien aus der Natur ... 149

Zellfabriken der Zukunft ... 151

Personalisierte Genomsequenzierung ... 153

Treibstoffe aus Sonnenlicht: Künstliche Photosynthese und bionische Blätter ... 155

Bionische Produktion der Zukunft: Selbstformende Objekte durch 4D-Druck ... 157

Quantenbiologie ... 159

Mobilität Renaissance des Radverkehrs ... 161

Infrastruktur für Elektromobilität ... 163

Offene Mobilitätsplattformen zur Unterstützung der Verkehrswende? ... 165

Das Netz der bewegten Dinge ... 167

Lieferung auf der letzten Meile unter Nachhaltigkeitsgesichtspunkten ... 169

Gesundheit und Ernährung Genome editing (CRISPR/Cas9) in der Pflanzenzucht ... 171

Künstliche Organe – 3D-Biodruck ... 173

Chips der Zukunft: Elektronische Haut ... 175

Cyborg: Gehirn-Computer-Schnittstellen ... 177

High-Tech-Nahrungsmittelsysteme ... 179

Automatisiertes Gesundheitsdaten-Monitoring ... 181

(8)

(9)

Zusammenfassung

Dies ist der dritte von sechs Monitoring-Berichten, die den Abgeordneten im Rahmen des Vertrags „Foresight und Technikfolgenabschätzung für das Österreichische Parlament“ (2017-2020) gelegt werden. Dieses Do- kument wird im Laufe der Drei-Jahres-Periode des Rahmenvertrags halb- jährlich aktualisiert und mit neuen Themen ergänzt.

Ein kontinuierliches Monitoring aktueller oder sich für die Zukunft abzeich- nender internationaler wissenschaftlicher und technologischer Entwicklun- gen im gesellschaftlichen Kontext (sozio-technische Trends) ist die Grund- lage, um zentrale Zukunftsthemen für nationalstaatliche Politik zu identifizieren sowie um vertiefende Studien im Bereich Foresight und Technik- folgenabschätzung (TA) zu beauftragen. Die Ergebnisse des Monitorings unterstützen damit nicht nur eine vorausschauende FTI-Politik, sondern dienen mit ihrer TA-Komponente auch der Maximierung positiver und zugleich Minimierung möglicher negativer Technikfolgen. Die Foresight-Kom- ponente setzt auf die Gestaltbarkeit von Innovationen: Werden die Poten- tiale von Zukunftstechnologien frühzeitig in ihrer Bandbreite analysiert, er- öffnen sich Gestaltungsspielräume für nachhaltige Innovationspfade. Wäh- rend der Foresight-Ansatz relevante Technologien aufgrund ihrer Potenti- ale zur Lösung gesellschaftlicher Herausforderungen identifiziert, orientiert sich die Technikfolgenabschätzung an einem problemorientierten Ansatz, bei dem vor allem technologieinduzierte, potentiell problematische Effekte, die durch die Implementierung entstehen können, im Vordergrund stehen.

Der vorliegende Bericht beschreibt insgesamt 70 sozio-technische Ent- wicklungen, die kurz- und mittelfristig einen Handlungsbedarf aufweisen, für die Arbeit des Parlaments als relevant identifiziert wurden und einen Österreich-Bezug haben. Die identifizierten Themen können neun, sich teilweise überschneidenden Clustern zugeordnet werden: Produktion;

Dienstleistungen; Digitale Infrastruktur; Sicherheit; Demokratie und Staat; Umwelt und Energie; Bioökonomie; Mobilität sowie Gesundheit und Ernährung.

Zwölf dieser Themen werden vertieft dargestellt, die ersten vier davon neu für diese Berichtsversion (fett gekennzeichnet), wobei jeweils Vor- schläge für die weitere parlamentarische Bearbeitung (insb. Beauftragung von Studien) gemacht werden.

• Deep Fakes (siehe Seite 19)

• Digital Nudging & Demokratie (siehe Seite 23)

• Datengetriebene Medizin (siehe Seite 27)

• Autonomer öffentlicher Verkehr (siehe Seite 31)

• Das Ende der öffentlicher Anonymität (siehe Seite 35)

• Zukunft Lieferdrohnen? (siehe Seite 39)

• Biobasierte Zukunftsmaterialien (siehe Seite 43)

• Urban Mining 4.0 (siehe Seite 47)

Dritter, dynamischer Monitoring-Bericht

Identifikation zentraler Zukunftsthemen für die österreichische Politik

Kombination aus Foresight und Technikfolgen- abschätzung

70 sozio-technische Entwicklungen mit kurz- und mittelfristigem Handlungsbedarf

davon zwölf besonders relevant und aktuell

(10)

• Künstliches Leben (siehe Seite 51)

• Vertrauenswürdige Blockchains (siehe Seite 55)

• Funktionelle Nahrung aus dem Labor (siehe Seite 59)

• Virtuelle und augmentierte Realitäten (siehe Seite 63)

Abbildung: 70 sozio-technische Entwicklungen mit kurz- und mittelfristigem Handlungsbedarf

(11)

1 Einleitung: Wozu und wie Monitoring?

Ein kontinuierliches Monitoring aktueller oder sich für die Zukunft abzeich- nender internationaler wissenschaftlicher und technologischer Entwicklun- gen im gesellschaftlichen Kontext (sozio-technische Trends) ist die Grund- lage, um zentrale Zukunftsthemen für die österreichische Politik zu identifizieren. In so einem Verfahren werden zudem wichtige wissenschaftlich- technische Treiber für Veränderungen sichtbar (drivers of change), die dem Parlament bei frühzeitiger Berücksichtigung erweiterte Handlungs- und Gestaltungsmöglichkeiten eröffnen. Ein Monitoring ist damit zugleich die Grundlage für vertiefende Studien im Bereich Foresight und Technik- folgenabschätzung (TA). Somit wird es möglich, später aufkommende, spezifische und tagesaktuell drängende Fragen in breiteren Zukunftsthemen zu verorten und die jeweilige Relevanz schneller und vorausschauend zu beurteilen. Die Ergebnisse des Monitorings unterstützen damit nicht nur eine vorausschauende FTI-Politik, sondern dienen mit ihrer TA-Kompo- nente auch der Maximierung positiver und zugleich Minimierung mögli- cher negativer Technikfolgen und sind damit auch für andere Politikfelder hochrelevant. Die potentiellen Anwendungsfelder von Zukunftstechnolo- gien sind mit hohen Erwartungen und vielfältigen Versprechen verbunden.

Während der Umsetzung zeigt sich aber oft, dass mit diesen Erwartungen und Versprechen auch Effekte einhergehen, die zunächst nicht augen- scheinlich sind. Die Foresight-Komponente setzt auf die Gestaltbarkeit von Innovationen: Werden die Potentiale von Zukunftstechnologien frühzeitig in ihrer Bandbreite analysiert, eröffnen sich Gestaltungsspielräume für nachhaltige Innovationspfade.

Das zeigt, dass eine verantwortungsvolle und zukunftsorientierte Technik- entwicklung insbesondere den Fokus auf zwei Dimensionen legen sollte, die beide mit Foresight und TA bearbeitbar sind:

•

zum einen auf den Handlungsspielraum und die Bedingungen, unter denen aus wissenschaftlich-technischen Potentialen tatsächlich wirt- schaftlich und gesellschaftlich relevante Innovationen werden;

•

zum anderen auf die möglichen Folgen sozio-technischer Entwicklungen in Hinblick auf Gesundheit, Umwelt, Wirtschaft, Recht und Gesellschaft.

Dieser Abschnitt beschreibt einleitend, wie das Monitoring durchgeführt wurde. Die beiden Partner, ITA und AIT, ergänzen sich in Hinblick auf die Identifikation von relevanten Themen und schöpfen dadurch Synergie- effekte aus: Während das AIT auf reichhaltige Erfahrung im Foresight- Bereich zurückgreift, bezieht sich das ITA auf die in der Technikfolgenab- schätzung übliche Vorgangsweise.

Der Foresight-Ansatz des AIT identifiziert relevante Technologien aufgrund ihrer Potentiale zur Lösung gesellschaftlicher Herausforderungen. Das ITA orientiert sich an einem problemorientierten Ansatz. Hierbei stehen vor allem technologieinduzierte, potentiell problematische Effekte im Vorder- grund, die durch die Implementierung entstehen können.

Identifikation zentraler Zukunftsthemen für die österreichische Politik

Unterstützung der FTI-Politik und Umgang mit Technikfolgen

zwei Dimensionen verantwortungsvoller und zukunftsorientierter Technikentwicklung

Kombination von …

… Foresight und Technikfolgen- abschätzung

(12)

Foresight hat im Hinblick auf sozio-technische Trends in der Regel einen längeren zeitlichen Horizont (ab zehn Jahren) im Blick, wohingegen TA einen kürzeren zeitlichen Horizont aufweist (bis fünf Jahre). Durch die Kombination dieser Ansätze (gestaltungsorientiert, problemorientiert, lang- bzw. kurzfristig) können Technologien identifiziert werden, die kurz- und mittelfristig Handlungsbedarf nach sich ziehen.

1.1 Themenidentifikation aus Foresight-Perspektive

Um den gesellschaftlichen Herausforderungen der Zukunft gerecht zu werden, bedürfen die Identifikation und die Bewertung von potentiell relevanten Technologien und Anwendungen eines Rahmens, der außerhalb der technologischen Entwicklungen liegt. Zusätzlich zu den etablierten Maß- stäben von wirtschaftlichem Wachstum und internationaler Wettbewerbs- fähigkeit werden gesellschaftliche Herausforderungen berücksichtigt: die Bedeutung von Zukunftstechnologien für Herausforderungen für die Bear- beitung von Klimawandel, Energieversorgung und demografischen Wan- del¹ oder auch – sehr aktuell – die Bedeutung dieser Technologien zur Bearbeitung der international vereinbarten Nachhaltigkeitsziele (SDGs)². Für die folgenden Themen wurden aktuelle technologische Entwicklungen und aktuelle Herausforderungen in eine Matrix zusammengefügt, die einerseits Technologien und andererseits Themenfelder aktueller gesellschaftlicher Herausforderungen abbildet. Um die technologischen Entwicklungen adäquat strukturieren und klassifizieren zu können, verwenden wir die OECD-Systematik der Felder von Wissenschaft und Technologie³. Diese ermöglichen es, neue wissenschaftlich-technische Entwicklungen entsprechend zu kontextualisieren. Bei neu aufkommenden Technologien kommt es dabei zu Mehrfachzuordnungen, da neue Technologien sowohl in der Forschung selbst eine hohe Anwendung haben, als auch in angewand- ten Bereichen (z. B. Gene Editing/CRISPR/Cas9 in Biologie, in der Um- weltbiotechnologie, in den Gesundheitswissenschaften).

Neue wissenschaftlich-technische Entwicklungen werden damit in Relati- on zu möglichen Anwendungsfeldern gesetzt.Als Heuristik zur Strukturie- rung relevanter Felder wurden die globalen Nachhaltigkeitsziele (SDGs) gewählt, da sie umfassender und genauer als die üblichen großen gesellschaftlichen Herausforderungen wirtschaftliche und gesellschaftliche Be-

1 So bot die Lund Deklaration (2009, Europe must Focus on the Grand Challenges of our Time, Swedish EU Presidency) die Grundlage für die Chal- lenge-Orientierung des Europäischen Forschungsrahmenprogramms Hori- zon 2020.

2 United Nations (2015) Transforming our world: The 2030 agenda for sustainable development, New York: United Nations, Department of Economic and Social Affairs, un.org/Depts/german/gv-70/band1/ar70001.pdf (zuletzt aufgerufen am 21.05.2018, so wie alle weiteren in diesem Bericht zitierten URLs).

3 Die Fields of Science and Technology (FOS) ist eine von der OECD festgesetz- te Systematik von Wissenschaftszweigen.

Zeithorizont:

5-10 Jahre

gesellschaftliche Herausforderungen im Fokus

neue wissenschaftlich- technische Entwicklungen und ihre möglichen Anwendungsfelder

(13)

darfe repräsentieren. Damit wird sichtbar, welche Technologien eine potentiell hohe Bedeutung für unterschiedliche Ziele wie nachhaltiges Wirt- schaftswachstum, nachhaltige Konsum- und Produktionsmuster, Schutz von Ökosystemen, inklusive Institutionen, Ernährungssicherheit, Gesund- heit, Bildung, Energie etc. haben.

1.2 Themenidentifikation aus TA-Perspektive

Aus Perspektive der Technikfolgenabschätzung erscheint es besonders relevant, jene Themen zu identifizieren, die kurz- bis mittelfristig politischen Handlungsbedarf nach sich ziehen könnten. Das betrifft insbesondere sozio-technische Entwicklungen, die möglicherweise problematische Auswir- kungen auf Gesundheit, Umwelt, Wirtschaft, Recht oder Gesellschaft haben könnten, aber auch solche, deren Förderung zu frühzeitigen, positiven gesellschaftlichen Effekten führen kann.

Um solche Themen zu finden, führte das ITA-Team eine komprimierte Va- riante seines laufenden [meTAscan]-Verfahrens durch. Dabei handelt es sich um eine informierte Auswahl aus spezifischen Sekundärquellen, die wichtige zukünftige Entwicklungen beschreiben (siehe Abschnitt 1.4). Im ersten Schritt wird eine Primärdatenbank sozio-technischer Entwicklungen erstellt. Bei dieser Quellenauswertung handelt es sich um einen laufenden und dynamischen Prozess, d. h. es wird in regelmäßigen Abständen nach neuen Quellen recherchiert, die dann in die Primärdatenbank der sozio- technischen Entwicklungen eingepflegt werden. Dies ist notwendig, um mit der hohen Dynamik der Technologieentwicklung mithalten zu können.

Auf diese Weise werden laufend aktuelle sozio-technische Entwicklungen gefunden und anschließend in einem Bottom-up-Prozess Clustern zugeordnet⁴. Danach wurden jene Entwicklungen ausgeschieden, die aus Ex- pertInnen-Sicht bereits ausreichend abgehandelt sind, eher Science- Fiction-Charakter haben bzw. auf den ersten Blick für Österreich irrele- vant scheinen.

Im nächsten Schritt wurden alle Einträge der aktualisierten und gecluster- ten Primärdatenbank sozio-technischer Entwicklungen parallel durch die beteiligten TA-ExpertInnen entsprechend den Kriterien für Relevanz aus TA-Perspektive eingeschätzt. Diese EHS⁵- und ELSI⁶-Kriterien können in folgenden Fragen beschrieben werden:

4 Ursprünglich: Bergbau; Big Data; Bildung; Computertechnologie; Crowdsour- cing; Digitale Wirtschaft; Energie; Genomics; Gesundheitstechnologien; Indust- rielle Produktion; Informations- und Kommunikationstechnologien; Internet der Dinge; Klimatechnologie; Künstliche Intelligenz; Landwirtschaft; Mensch- Maschine-Schnittstellen-Technologie; Messen und Visualisierung; Mobilität;

Nachahmung der Natur und Cyborgs; Neue Arbeit; Neue Werkstoffe; Neuro- technologien; Robotik; Synthetische Biologie; Überwachung.

5 EHS steht für „Environmental, Health and Safety“, also Umwelt-, Gesundheits- und Sicherheitsaspekte.

kurz- bis mittelfristiger politischer

Handlungsbedarf im Fokus

Auswertung von Studien zu zukünftigen sozio-technischen Entwicklungen

Relevanzprüfung nach TA-Kriterien: EHS & ELSI

(14)

Gibt es Hinweise auf mögliche

i. Gesundheits- oder Umweltwirkungen;

ii. ethische Implikationen;

iii. bevorstehende politische oder schleichende gesellschaftliche Debatten; oder

iv. gesellschaftliche oder kulturelle Auswirkungen?

1.3 Relevanzprüfung und Selektion

Die kritische Reflexion der gefundenen sozio-technischen Entwicklungen unter Zuhilfenahme der Fragen i-iv ermöglicht die Identifikation wesent- licher Relevanzaspekte. Die wichtigsten Aspekte wurden dokumentiert, wobei auch die Österreich- und Parlamentsrelevanz angesprochen wurden. Unterschiedliche Einschätzungen durch die beteiligten ExpertInnen wurden ausdiskutiert. Jene Entwicklungen, die übereinstimmend von den beteiligten TA- und Foresight-ExpertInnen als potenziell relevante und drän- gende Themen eingestuft wurden, bildeten das Zwischenergebnis.

In einem gemeinsamen Workshop erfolgte im nächsten Schritt die Zu- sammenführung der aus den beiden Perspektiven als wichtig erkannten sozio-technischen Entwicklungen. In der folgenden ExpertInnen-Diskus- sion erfolgte eine Prüfung und Reihung der Entwicklungen auf parlamentarische und auf Österreich-Relevanz. Hier wurden einerseits Potentiale identifiziert, die einen Beitrag zur Bewältigung der Grand Challenges bzw.

zur Erreichung der UN-Ziele einer Nachhaltigen Entwicklung beitragen können, und andererseits überprüft, wie eng der Bezug zu Österreich/zum Parlament sein kann. Es wurden folgende Fragen für potentielle Themen diskursiv beantwortet:

•

Besteht hier ein Innovationspotential in Österreich, welches über geeignete Maßnahmen ausgeschöpft werden kann?

•

Sind gewisse Bereiche der sozio-technischen Entwicklung abzusehen in denen in nächster Zeit politische Handlungen gesetzt werden könnten/

sollten?

•

Passen bestimmte Entwicklungen in soeben anstehende Agenden der parlamentarischen Ausschüsse aufgrund von Themenübereinstim- mung?

Das Ergebnis dieses Prozesses, d. h. die Auswahl von insgesamt 70 derzeit besonders relevanten und aktuellen sozio-technischen Entwick- lungen ist in Kapitel 2 dokumentiert. Dabei werden die oben gestellten Fragen pro Thema überblicksartig beantwortet.

6 ELSI steht für „Ethical, Legal and Societal Implicatons“, also ethische, rechtli- che und gesellschaftliche Wirkungen.

Auswahl durch Gruppe von TA- und Foresight-

ExpertInnen …

… anhand folgender Fragen

(15)

1.4 Basisquellen des Monitorings

Als Quellen dienten für diesen dritten Bericht folgende Sekundärquellen und Datenbanken:

•

100 Opportunities for Finland and the World (2014)

•

AIT – Foresight-Datenbank Studien

•

Cranfield Futures (Horizon scans)⁷

•

European Strategy and Policy Analysis System (ESPAS-Datenbank)⁸

•

Forbes Magazine: Gartner: Top 10 Strategic Technology Trends for 2017

•

Foresight Functional Materials Taskforce – Functional Materials Future Directions

•

Forschungs- und Technologieperspektiven 2030 – Ergebnisband 2 zur Suchphase von BMBF-Foresight Zyklus II

•

Global Change Blog (Futurist Blog)

•

Global Trendometer, European Parliamentary Research Service (2018)⁹

•

Governmental Accountability Office (GAO) – Data and Analytics Innovation

•

Dossiers & Berichte des Instituts für Technikfolgen-Abschätzung (ITA)

•

Key Enabling Technologies (KETs) Observatory

•

Metascan 3 – Emerging Technologies

•

Millenium Project: 2015-16 State of the Future, State of the Future version 19.1

•

OBSERVE Horizon Scanning Report, Fraunhofer ISI (2016)¹⁰

•

OECD Science, Technology and Innovation Outlook 2016

•

Studien und “Notes” des POST – Parliamentary Office of Science and Technology

•

Studien und Publikationen des Europäischen Parlaments/Science and Technology Options Assessment

•

Studien und Publikationen des TAB – Büro für Technikfolgen- Abschätzung beim Deutschen Bundestag

•

Teknologiradet Policy Briefs

•

U.S. Department of Health and Human Services: 2020 A New Vision – A Future for Regenerative Medicine

7 web.archive.org/web/20160914115240/http:/www.cranfieldfutures.com/horizon- scanning-database/.

8 espas.secure.europarl.europa.eu/orbis/.

9 europarl.europa.eu/thinktank/en/document.html?reference=

EPRS_STU(2018)612835.

10 horizon-observatory.eu/radar-en/downloads/deliverables.php.

(16)

•

World Economic Forum, The Global Risks Report 2016

•

World Economic Forum-Top 10 Emerging Technologies 2016, 2018

•

World Technology Evaluation Center – Report:

Applications: Nanodevices, Nanoelectronics, and Nanosensors sowie allgemein:

•

Klassische wissenschaftliche Publikationen

•

Journalistische Medien und Internetquellen

(17)

2 Für das Parlament und für Österreich relevante sozio-technische Entwicklungen

Die folgenden sozio-technischen Entwicklungen wurden als besonders relevante und aktuelle Themen für das Parlament und für Österreich identifiziert. Die Auswahl zeigt ein breites Spektrum an Themen mit weitreichen- den sozialen, ökonomischen, politischen und ökologischen Auswirkungen.

Diese lassen sich zugleich neun thematischen Clustern zuordnen:

•

Zum Themencluster Produktion zählen wir u.a. das Thema Bergbau im All, Industrie 4.0, Häuser aus dem 3D-Drucker oder Agrarrobotik.

•

Dem Cluster Dienstleistungen haben wir für diesen Bericht beispielsweise die Themen Digitales Nudging, Gamification und haptische Ho- lographie zugeordnet.

•

Im Themencluster Digitale Infrastruktur kamen in der aktuellen Be- richtsversion besonders viele neue Themen hinzu, insbesondere: Dark- Net, Cloud Computing, Open Access, Affective Computing sowie Technologien digitalen Vergessens.

•

Der Cluster Sicherheit umfasst Themen wie z.B. digitale Schutzengel, dezentrales Lernen, die Risiken der Künstlichen Intelligenz, aber auch Cybersicherheit und den Einsatz von Robotik für Sicherheitszwecke.

•

Im Themencluster Demokratie und Staat beschäftigen wir uns etwa mit Deep Fakes, der digitalen Souveränität, dem Ende öffentlichen Anonymität oder Robojournalismus.

•

Im Cluster Umwelt und Energie sind u.a. folgende Themen zusam- mengefasst: Urban Mining, Geoengineering, dekarbonisierte Gebäu- dekühlung, peer-to-peer Energiehandel oder E-Schrott.

•

Der Themencluster Bioökonomie umfasst etwa Biosensoren, Zellfab- riken, künstliche Photosynthese oder Quantenbiologie.

•

Im Cluster Mobilität kamen für diesen Bericht folgende neue Themen hinzu: autonomer öffentlicher Verkehr, die Zukunft des Radverkehrs und Infrastruktur für Elektromobilität.

•

Der Themencluster Gesundheit und Ernährung beinhaltet u.a. die datengetriebene Medizin, funktionelle Nahrung, Genome Editing für Pflanzen, 3D-Biodruck oder Gesundheitsdaten-Monitoring.

In all diesen Bereichen hat Österreich Kompetenzen vorzuweisen, die aus Sicht der Forschungs-, Innovations- und Technologiepolitik wirtschaftliche Entwicklungspotentiale darstellen. Zugleich zeigen diese sozio-technischen Entwicklungen neuen parlamentarischen Handlungsbedarf als auch parlamentarische Gestaltungsspielräume – jeweils in einem breiteren gesamt- gesellschaftlichen Kontext (z. B. KonsumentInnenschutz).

Im Folgenden werden die 70 (davon 20 neu) identifizierten sozio- technische Entwicklungen dargestellt. Am Anfang stehen dabei jene zwölf dieser Themen, die vertieft dargestellt sind und durch Vorschläge für die weitere parlamentarische Bearbeitung ergänzt wurden.

neun thematische Cluster

70 Themen, davon acht vertieft dargestellt

(18)

Abbildung: 70 sozio-technische Entwicklungen mit Relevanz für Österreich und das Parlament

Die folgenden zwölf sozio-technischen Entwicklungen wurden als besonders relevant und aktuell eingestuft und daher vertieft dargestellt (wobei die in den folgenden Listen fett-gedruckten Themen im Bericht Herbst 2018 neu hinzugekommen sind):

• Deep Fakes

• Digital Nudging & Demokratie

• Datengetriebene Medizin

• Autonomer öffentlicher Verkehr

• Das Ende öffentlicher Anonymität

• Zukunft Lieferdrohnen?

• Biobasierte Zukunftsmaterialien

• Urban Mining 4.0

• Künstliches Leben

• Vertrauenswürdige Blockchains

• Funktionelle Nahrung aus dem Labor

• Virtuelle und augmentierte Realitäten zwölf

Vertiefungsthemen

(19)

Darüber hinaus enthält der Bericht folgende weitere 58 sozio-technische Entwicklungen, die je auf rund einer Seite dargestellt werden:

• Berbau im All

• Sensorrevolution

• Agrar-Robotik

• Häuser aus dem 3D-Drucker

• Autonome Minihäuser

• Gamification

• Haptische Holographie

• Zeitbanken

• Dienstleistung 4.0

• Automatisierte Rechtsberatung

• Kollaborative Plattformen

• Dark-Net

• Cloud Computing

• Open Access

• Affective Computing

• Technologien digitalen Vergessens

• Transparente Algorithmen

• Digitale Erinnerung

• Social (Ro-)Bots

• Digitale Schutzengel

• Dezentrales KI-Lernen

• KI-Risiken

• Identifizierung durch Verhalten

• Gesichtserkennung

• Algorithmische Polizeiarbeit

• Sicherheits-Robotik

• Cybersicherheit

• Digitale Souveränität

• Microtargeting

• Robojournalismus

• Blockchain-Grundbuch

Cluster

„Produktion“

Cluster

„Dienstleistungen“

Cluster

„Digitale Infrastruktur“

Cluster

„Sicherheit“

Cluster

„Demokratie und Staat“

(20)

• Geoengineering-Kommerzialisierung

• Dekarbonisierte Gebäudekühlung

• P2P-Energiehandel

• E-Schrott

• Energie-Zwischenspeicher

• Fliegende Windenergie

• Wasserstoff-Speicherung

• Biosensoren

• Industrie 4.0 und Bioökonomie

• Biomimikry

• Zellfabriken

• Personalisierte Genomsequenzierung

• Künstliche Photosynthese

• 4D-Druck

• Quantenbiologie

• Zukunft des Radverkehrs

• Infrastruktur für Elektromobilität

• Integrierte Mobilität

• Netz der bewegten Dinge

• Nachhaltige Letzte Meile

• Genome Editing für Pflanzen

• 3D-Biodruck

• Elektronische Haut

• Cyborg

• High-Tech-Nahrungsmittelsysteme

• Gesundheitsdatenmonitoring Cluster

„Umwelt und Energie“

Cluster

„Bioökonomie“

Cluster

„Mobilität“

Cluster

„Gesundheit und Ernährung“

(21)

Deepfakes – Perfekt gefälschte Bilder und Videos

Zusammenfassung

Gefälschte Bilder sind nichts Neues. Aber die Fähigkeit Realität zu verzerren hat mit der Deepfake-Technologie einen signifikanten Sprung gemacht. Es ist mittlerweile relativ einfach möglich, Audio- und Video-Dateien von echt wir- kenden Menschen zu erstellen, die Dinge sagen und tun, die sie nie gesagt oder getan haben. Dabei werden eigenständig lernende Algorithmen wie neu- rale Netzwerke mit Audio und Bildbearbeitungssoftware kombiniert. Das Er- gebnis sind für den/die LaienIn nicht vom Original zu unterscheidende Fäl- schungen. Welche Risiken birgt das? Vor allem Videos, die als Medium ein relativ hohes Vertrauen genießen, können für Rufschädigung, Erpressung oder Marktmanipulation missbraucht werden – mit eklatanten Folgen für Ein- zelne, Unternehmen und Gesellschaft. Potenzielle Gefahr für Demokratie, sowie nationale und internationale Sicherheit könnte etwa von gefälschten Aufnahmen von Gewalt, Kriegserklärungen, Ankündigungen drohender Kata- strophen oder Beweisen für das kriminelle Verhalten eines Staatsoberhaupts ausgehen. Auch Wahlbeeinflussung oder staatlicher, z.B. polizeilicher oder geheimdienstlicher Missbrauch der Technologie sind denkbar. Außerdem könnte die unkontrollierte Verbreitung von Deepfakes zu einem starken Ver- lust von Vertrauen in politische und mediale Institutionen führen.

Überblick zum Thema

Nachdem verändertes und gefälschtes Foto- und Videomaterial so alt ist wie die Aufnahmetechniken selbst, hat der Realismus und die Einfachheit des mit Künstlicher Intelligenz „gefakten“ Bildes und Tons eine neue Stufe erreicht.

Es ist mittlerweile mit frei erhältlichen Apps und Programmen möglich, kom- plexes Material wie z.B. Gesicht und Sprache einer Person nachzuahmen und in für LaienInnen echt erscheinendes Videomaterial zu verwandeln. Sol- che „Deepfakes“ haben jüngst viel Aufmerksamkeit auf sich gezogen, z.B.

durch komplett gefälschte Reden von PolitikerInnen¹¹ oder gefälschte Porno- graphie mit berühmten Persönlichkeiten¹². Der Begriff Deepfake setzt sich dabei aus „deep learning“, einer Methode den Lernerfolg künstlicher neurona- ler Netze zu optimieren, und „fake“, also Fälschung zusammen.

Bei früheren Fälschungen wurde beispielsweise das Gesicht einer Person aus vorhandenem Bildmaterial ausgeschnitten und über das Gesicht einer anderen montiert. Der Prozess war relativ aufwendig, die Ergebnisse insbesondere bei bewegten Bildern oft offensichtlich zweifelhaft. Fälschun- gen waren oft relativ leicht an Übergangsstellen oder an Beleuchtungs- winkeln zu erkennen. Solche „face swaps“ sind mittlerweile in spieleri- schen Apps weitverbreitet und liefern nahezu ohne Verzögerung auf den

11 You Won’t Believe What Obama Says In This Video! youtu.be/cQ54GDm1eL0.

12 Künstliche Intelligenz: Auf Fake News folgt Fake Porn, Die Zeit,

zeit.de/digital/internet/2018-01/kuenstliche-intelligenz-deepfakes-porno-face-swap.

Künstliche Intelligenz kombiniert mit Audio- und Bildbearbeitungs- software

(22)

Deepfakes – Perfekt gefälschte Bilder und Videos

ersten Blick gute Ergebnisse; ähnliche Apps generieren Fake-Video- Anrufe oder verändern den Körper in gewünschter Weise¹³. Fälschungen, die mit Hilfe Künstlicher Intelligenz, größerer Rechenleistung und profes- sioneller Software erzeugt werden, sind dagegen noch viel überzeugen- der, weil hier 3D-Computergrafikmodelle, z.B. des gefälschten Gesichts, von Grund auf generiert werden.

Oft kommen dabei zwei gegnerische neuronale Netzwerke zum Einsatz, die selbstständig voneinander lernen (generative adversary networks, GAN, vgl. Goodfellow/Pouget-Abadie et al. 2014). Einer dieser lernenden Algorithmen (Generator) wird mit mehreren Stunden vorhandenen Vide- omaterials mit dem Ziel trainiert, anhand von vielen Variablen möglichst genaue Kopien erzeugen zu können. Der zweite Algorithmus, der Diskri- minator, wird dahingegen trainiert, die Ergebnisse des ersten vom Origi- nal zu unterscheiden. Der Generator versucht Ergebnisse, also z.B. das Modell eines sprechenden Menschen, zu erzeugen, die der Diskriminator nicht mehr unterscheiden kann. Dadurch nähern sich die gefakten Inhalte dem Original nach und nach immer weiter an.

Hat der erste Algorithmus alle nötigen biometrischen Parameter und Ei- genheiten wie Mimik, Mundbewegungen und Sprache einer Person in verschiedenen Situationen erlernt, kann professionelle Audio- und Bild- verarbeitungssoftware z.B. ein Gesicht perfekt digital replizieren und in ein beliebiges Video derselben oder einer anderen Person in hoher Quali- tät einfügen oder ein neues Video erzeugen. Da auch alle charakteristi- schen Stimmeigenschaften wie Frequenz, Intonation oder Pausen erlernt und digital repliziert werden, passen dann nicht nur die Lippenbewegun- gen perfekt zum vermeintlich Gesagten, sondern auch die Stimme selbst.

Dafür reichen schon wenigen Minuten gesprochenen Materials.

Für den/die LaienIn nicht zu erkennen, haben ExpertInnen verschiedene Ansätze entwickelt, um gefälschtes Bildmaterial zu entlarven. Beispiels- weise fehlt in künstlich erzeugten Videos oft das physiologisch wichtige Augenblinzeln, dies machen sich ForscherInnen zu Nutze, um wiederum lernende Algorithmen auf die Erkennung solcher Abnormalitäten zu trainieren (Li, Chang et al. 2018). Auch unsichtbare „Wasserzeichen“ die auf eine bestimmte Kamera zurückzuführen sind, sind in Planung, oder auch Blockchain basierte verifizierbare Zeitmarken. Lernende Algorithmen wurden auch benutzt, um Kunstfälschungen zu entlarven, da alle Charakteris- tika jedes Pinselstriches des Gesamtwerks eines/r Künstlers/in analysiert und Abweichungen erkannt werden können. In einem Fall produzierte ein 3D-Drucker auf Basis solcher Daten ein Portrait Rembrandts das alle Charakteristika eines echten Rembrandts aufweist, eine künstliche Intelli- genz würde dieses vermutlich als echt klassifizieren (Floridi 2018).

Offen ist dabei die Frage, wie schnell die Entwicklung von Fälschungs- technologie auf Erkennungen reagiert und z.B. künstliches Augenblinzeln

13 Gesichter spielerisch tauschen mit Apps:

play.google.com/store/search?q=deepfake&c=apps&hl=de.

Maschinelles Lernen:

Neuronale Netzwerke trainieren sich gegenseitig

perfekt gefälschte Mimik und Stimme

Erkennung von Fälschungen

Wettlauf zwischen EntwicklerInnen

(23)

einbaut. Der Wettlauf zwischen EntwicklerInnen ist in vollem Gange und es ist nicht immer klar, wer gerade die Oberhand hat und auf welcher Sei- te er/sie steht. Dass Künstliche Intelligenz auch zu solchen Zwecken genutzt wird, ist offensichtlich und verschiedene Formen der Kriminalität tre- ten heute entweder schon auf oder sind in naher Zeit absehbar (King, Ag- garwal et al. 2018, siehe auch Thema „Künstliche Intelligenz“, S. 111).

In Bezug auf Deepfakes stehen momentan strafbare Handlungen gegen Personen im Vordergrund. Die oben beschriebenen gefälschten Bilder und Videos können nicht nur rufschädigend wirken und Belästigungen hervorrufen, sondern bei Betroffenen auch zu schweren psychologischen Auswirkungen führen, insbesondere falls einzelne Fälle von den Medien ausführlich aufgegriffen werden. Auch Erpressungen und Identitätsdieb- stähle könnten sich häufen, was z.B. auch eklatante Auswirkungen auf Unternehmen haben könnte. Auch Marktmanipulationen, beispielsweise am Aktienmarkt sind mit gefakten Aussagen von CEOs denkbar.

Momentan sind noch vor allem Persönlichkeiten öffentlichen Lebens betroffen, da für einen guten Fake genug Trainingsmaterial in Form von Bildern und Videos im Internet verfügbar sein muss. Allerdings reichen für einen täuschend echten „faceswap“, also den Austausch eines Gesichts, schon wenige Hundert Bilder der betreffenden Person. Durch den allgegenwärti- gen Gebrauch von Smartphones und die weitverbreitete Speicherung von Fotos in angreifbaren Clouds oder in Sozialen Netzwerken kann potenziell jedeR NutzerIn zum Opfer werden (siehe Thema „Cloud Computing, S. 93).

Besonders Selfies eigenen sich gut als Trainingsmaterial für die Neurona- len Netzwerke. Die einfache Fälschbarkeit der Stimme könnte auch weitrei- chende Auswirkungen auf Nutzung und Missbrauch von sprachgesteuerten Geräte haben. Wenn sich Missbrauchsfälle insgesamt häufen, kann das zu einem gravierenden gesellschaftlichen Problem werden.

Relevanz des Themas für das Parlament und für Österreich

Demokratiegefährdend wird die Entwicklung dann, wenn nicht Prominente wie Filmstars Opfer von Deepfakes werden, sondern Entscheidungsträge- rInnen und PolitikerInnen. Das könnte auch Risiken für die die nationale und internationale Sicherheit bergen (Chesney and Citron 2018). Ge- fälschtes Bildmaterial kann als digitaler Beweis für beliebige Situationen genutzt werden. Nach dem gleichen Prinzip wie „Fake News“ spielt die Authentizität eines Videos oft keine Rolle mehr, nachdem es mehrfach über Social Media geteilt wurde (siehe Thema „Robojournalismus“, S.

127, und „Microtargeting“, S. 125). Aufwendige Dementikampagnen binden dann nicht nur Ressourcen, sondern führen auch oft durch die erhöh- te mediale Aufmerksamkeit zu einer noch weiteren Verbreitung der Fäl- schungen. Bislang war Österreich noch nicht stark von diesem Phänomen betroffen, doch in absehbarer Zeit könnte sich das ändern, es gibt jeden- falls keine Barriere die eine Ausbreitung in Österreich verhindern könnte.

Tatsächlich wird eine gefälschte Rede eines/r Kandidaten/in bei einer politischen Wahl, ob als solche identifiziert oder nicht, wahrscheinlich Auswirkun- gen auf seine/ihre WählerInnenschaft haben. Gefälschte Aufnahmen von Po-

Schäden für Personen und Unternehmen;

Marktmanipulation

Rufschädigung, Belästigung, Einschüchterung, Erpressung

potenzielle Gefahr für Demokratie und nationale Sicherheit

Auswirkungen auf Wahlen, Schüren von Unruhen

(24)

lizeigewalt, Kriegserklärungen, Ankündigungen drohender Katastrophen oder Beweise für das kriminelle Verhalten eines Staatsoberhaupts haben das Po- tenzial, unmittelbar zu sozialen Unruhen zu führen (EPRS 2018). Auch staatlicher, z.B. polizeilicher oder geheimdienstlicher Missbrauch der Technologie ist denkbar, etwa zur Beweismittelfälschung in illiberalen Regimen.

Ob aufwendig gefälschte Videos zum Massenphänomen werden, ist derzeit vielleicht noch fraglich, da die Technologie dafür aber reif und einfach ver- fügbar ist, steht dem wenig entgegen. Gesellschaftliches Bewusstsein für die nahezu perfekte Fälschbarkeit von Video- und Audiomaterialien zu schaffen, ist ein demokratiestärkender Ansatz. Aber auch das weit verbrei- tete Bewusstsein darüber könnte selbst zu einem gravierenden Problem werden, weil das ohnehin schon angeschlagene Vertrauen in öffentliche In- stitutionen¹⁴ und Medien dadurch noch weiter ausgehöhlt werden könnte.

Wenn jedes Video ein Fake sein könnte, was und wem glaubt man dann?

Vorschlag weiteres Vorgehen

Eine genaue Erhebung des technischen Ist-Zustandes und dessen Wei- terentwicklungspotenzials wäre die Grundlage für eine tiefergreifende Ab- schätzung und Bewertung bisheriger sowie möglicher sozialer, politischer und wirtschaftlicher Folgen. Auf dieser wissenschaftlichen Basis könnten dann Empfehlungen für Maßnahmen zum gesetzlichen, institutionellen und organisatorischen Umgang mit Deepfakes erarbeitet werden. Vor- zugsweise könnte das unter Einbindung von Stakeholdern, ExpertInnen und einer breiten Öffentlichkeit geschehen. Dieser vorausschauende Um- gang mit dem Thema könnte dabei helfen, mögliche ernsthafte Schäden von Demokratie und öffentlichem Leben abzuwenden.

Zentrale weiterführende Quellen

Chesney, B. and D. Citron (2018). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. University of Texas School of Law.

EPRS (2018). Global Trendometer. Essays on medium- and long-term global trends. Brussels, European Parliamentary Research Service - European Parliament.

Floridi, L. (2018). Artificial Intelligence, Deepfakes and a Future of Ectypes.

Philosophy & Technology 31(3): 317-321.

Goodfellow, I., J. Pouget-Abadie, M. Mirza, B. Xu, D. Warde-Farley, S. Ozair, A. Courville and Y. Bengio (2014). Generative adversarial nets.

Advances in neural information processing systems: 2672–2680.

King, T., N. Aggarwal, M. Taddeo and L. Floridi (2018). Artificial Intelligence Crime: An Interdisciplinary Analysis of Foreseeable Threats and Solutions, Oxford Internet Institute, University of Oxford.

Li, Y., et al.(2018). In Ictu Oculi: Exposing AI Generated Fake Face Videos by Detecting Eye Blinking. (preprint) arXiv:1806.02877."

(NG)

14 Standard Eurobarometer 88 – Public opinion in the European Union, ec.europa.

eu/commfrontoffice/publicopinion/index.cfm/ResultDoc/download/DocumentKy/82873.

möglicher Verlust von Vertrauen in Institutionen

(25)

Digitales Nudging und Demokratie

Zusammenfassung

Nudges sind „Anstupser“ für verändertes Verhalten. Politisches Nudging umfasst das Anstoßen von Verhaltensänderungen zum Beispiel in Berei- chen der gesünderen Ernährung, Verringerung des Energieverbrauchs oder in der Abfallvermeidung. Ein zentraler Mechanismus sind die ‚Vor- einstelllungen‘ hinsichtlich von Entscheidungen. Zum Beispiel ist in Län- dern wie Österreich, in denen BürgerInnen der potentiellen Organspende im Todesfall aktiv widersprochen werden müssen, die Zahl der Organ- spender höher als Ländern, in denen der Organspende aktiv zugestimmt werden muss. Wenn Obst in der Kantine auf Augenhöhe sichtbar ist, wird öfter zum Obst gegriffen. Andere Beispiele sind die Nutzung von Erkennt- nissen der Verhaltensforschung zur Gestaltung von Erinnerungsschreiben für noch nicht eingereichte Steuererklärungen (vgl. Beispiele in: OECD 2017). Würden diese Schreiben einen Hinweis darauf enthalten, dass in der Nähe lebende BürgerInnen ihre Steuererklärung bereits eingereicht haben, so würde die Wirksamkeit der Schreiben deutlich steigen. Nudging wird mit Big-Data-Ansätzen kombiniert zu digitalem Big Nudging, wobei daran angeknüpft wird, dass mit Big Data riesige Datensätze analysiert werden, um individuelle Muster in Konsum, Gesundheitsverhalten und po- litischem Verhalten zu identifizieren.¹⁵ Im digitalen Raum beinhaltet Nudging digitale Informationen, Warnungen, Erinnerungen und Vorein- stellungen bei der Auswahl von Online-Angeboten. Mit Echtzeitdaten lässt sich unmittelbar erfassen und darstellen, wie das individuelle Verhalten im Vergleich zu anderen abweicht spiegelt damit sofort eine eventuelle Ab- weichung von sozialen Normen mit dem Ziel der (Selbst-)Anpassung der AdressatInnen an die Norm. Für die BefürworterInnen ist Nudging die absichtsvolle Führung von BürgerInnen bei gleichzeitiger Aufrechterhaltung ihrer Wahlfreiheit und gilt als motivierender Steuerung, die statt Zwang oder Verboten eingesetzt werden kann. Die „Stupser“ sind gerade so er- folgreich, da sie unbemerkt bleiben und somit zu weniger Konflikten füh- ren als Gebote und Verbote. Zugleich schränken sie die Selbstbestim- mung ein – und damit die Grundlage der Kontrolle über das eigenen Le- ben – und unterminieren Verfassungsrecht und Demokratie. Nudging wird zudem zur Beeinflussung von WählerInnen genutzt.¹⁶

Nach Erkenntnissen der Verhaltensökonomie können Verhaltensände- rungen vielfach durch sanfte Anstöße bzw. Anreize – englisch: Nudges – herbeigeführt werden. Mittels solcher Nudges könne das Verhalten von

15 welt.de/print/welt_kompakt/print_wissen/article154584139/Manipulation-2- 0.html.

16 theguardian.com/commentisfree/2017/mar/06/big-data-cambridge-analytica- democracy.

Politisches Nudging:

das Anstoßen von Verhaltensänderungen

(26)

Digitales Nudging und Demokratie

Menschen auf vorhersagbare Weise beeinflusst werden, ohne dass dabei Verbote und Anordnungen notwendig wären (Thaler/Sunstein 2009). Cha- rakteristisch für Nudging ist in der Theorie, dass es keinen offensichtli- chen Zwangscharakter gibt und sich die Einzelnen dem Anreiz entziehen können („opting out“). Das setzt allerdings voraus, dass sie die Nudges bemerken, was in der Praxis und im digitalen Raum gerade oft nicht der Fall ist. Das Nudging-Konzept ist auf die Gestaltung (oder auch die Archi- tektur und das Design) von Entscheidungssystemen ausgerichtet. Im Fal- le von Online-Portalen geht es z.B. darum, Aufmerksamkeit zu binden, in- dem Angebote für weitere Filme, Produkte oder Dienstleistungen automa- tisch erfolgen. In der Politik geht es um Verhalten, das als für das Indivi- duum und/oder die Gesellschaft als „besser“ erachtet wird, wie zum Bei- spiel bei Anreizen zur Gesundheitsförderung.

2017 erhielt der Verhaltensökonom Richard Thaler den Wirtschaftsnobel- preis für den Ansatz des Nudgings, der auch neue Ansätze zur verhal- tensbasierten Regulierung in der Politik ermöglicht. Nudges – als Steue- rungsinstrumente verstanden – sind im Sinne Thalers Verhaltensstimuli, mit der die Freiheit des Individuums bewahrt wird und sich Autonomie und Wahlfreiheit sogar erhöhen würden. Dieses von Thaler selbst als „libertä- rer Paternalismus“ bezeichnete politische Konzept (Thaler/Sunstein 2003) hat umfangreiche Debatten über politische Steuerungsinstrumente und ihren manipulativen versus unterstützenden Charakter ausgelöst, wobei kritische Stimmen Nudging als Manipulationsinstrument auffassen.

In der heute zunehmenden Kombination von Nudging mit Big Data entstehen Instrumente des digitalen „Big Nudging“ (Helbing et al. 2015; vgl.

Grafenstein et al. 2018) und damit eine Verhaltenssteuerung mit schwer absehbaren Konsequenzen. Big-Data-Techniken erweitern die Prognose- fähigkeit von Organisationen direkt durch die sofortige Verfügbarkeit von Daten und indirekt dadurch, dass die zugrundeliegenden Modelle durch Tests und mehr Variablen permanent optimiert werden können. Big Data und digitales Nudging kombiniert, wie auch andere Formen gesellschaftlicher Steuerung, die Analyse von Verhalten mit Versuchen der Lenkung von Verhalten. Smart Meter, „intelligente“ Stromzähler, ermöglichen es, den Verbrauch von Strom datengestützt genau zu beobachten und damit auch, den Stromverbrauch durch Anreize für verschiedene Kundengrup- pen zu beeinflussen.

Big Data kann auch verwendet werden, um individuelle Verhaltensweisen umfassend zu verstehen, gegebenenfalls zu prognostizieren und mit Nudges im digitalen Raum zu beeinflussen. Unternehmen nutzen dies für ihr Marketing und staatliche Institutionen nutzen zunehmend die Kombi- nation, um BürgerInnen zu Verhaltensänderungen zu bewegen. Mittler- weile werden die politischen Nudging-Strategien von der OECD erhoben und ausgewertet (OECD 2017), wobei sichtbar wird, dass immer mehr Regierungen diese Art der Verhaltenssteuerung in so unterschiedlichen Debatten über politische

Steuerungsinstrumente und ihren manipulativen versus unterstützenden Charakter

Nudging und Big Data

(27)

Feldern wie VerbraucherInnenschutz, Bildung, Energie,¹⁷ Umwelt, Finan- zen, Gesundheit und Arbeitsmarktpolitik anwenden. Die OECD bekam die meisten Anwendungsbeispiele aus UK, Australien, Kanada, Dänemark und Spanien. Die vergleichenden Auswertungen sind darauf gerichtet, den experimentellen Ansatz breiter als Politikinstrument zu nutzen.

Nudging wird auch in Wahlkämpfen genutzt, wenn auf der Grundlage von Prognosen, wer welche Partei wählen würde bzw. noch unentschieden ist, die jeweiligen potentiellen WählerInnen durch Nudging selektiv zur Wahl ge-nudged werden (siehe Thema „Microtargeting“, S. 125).

Die digitalen Nudging-Anwendungen von globalen digitalen Plattformen werden stark wachsen, da die Erwartungen, damit Verhalten steuern zu können, für Unternehmensziele sehr attraktiv sind. Experimente mit personalisierten Preisen können von KonsumentInnen nur aufwändig nach- gewiesen werden und eine personalisierte Werbung der Zukunft kann auf immer mehr Daten aufbauen. Das Nudging der KonsumentInnen im Kon- text der digitalen Verhaltensüberwachung ist eine Frage des Konsumen- tInnen- und des Datenschutzes, während es im politischen Bereich weit- gehender um Freiheitsrechte insgesamt geht. Im Bereich der Politik sind zentrale Fragen zum Verhältnis von Freiheitsrechten und evidenzbasierter Politik noch offen. Bei Nudging geht es um die Verhaltenssteuerung durch

„Anstupsen“, wobei die Grenzen zur Manipulation von Verhalten fließend sind. Digitales Nudging wird von denen, die es als Steuerungsinstrument sehen und entwickeln, als eine zwar absichtsvolle Lenkung von Individu- en gesehen, doch würde bei Nudging gleichzeitig die Wahlfreiheit bestehen bleiben, da das Prinzip mit motivierender Steuerung statt mit Zwang oder Verbot arbeiten würde. In der Politik könnten Nudges eine hohe Wirksamkeit zeigen und erzeugen dabei, verglichen mit Gesetzen oder Verordnungen, weniger Konflikte. Die Kritik bezieht sich darauf, dass Nudges eine Form der Bevormundung und Manipulation der Einzelnen darstellen, dass die Beeinflussung intransparent ist und die Nudges somit die individuelle Freiheit beschränken, ohne das klar wird, wer dafür die Verantwortung hat und wie die Einschränkungen legitimiert sind.

Mit dem Nudging im Kontext von Digitalisierung und Big Data sind Gefah- ren für die Freiheit der für die Demokratie konstitutiven freien BürgerInnen verbunden: Denn Verhaltensveränderungen werden gerade unterschwel- lig und unsichtbar initiiert, womit die Nudging-Akteure zu selbsternannten und häufig unerkannten Auswahl-DesignerInnen (die das „Choice Design“

und das „Default-setting“ entwerfen) oder Auswahl-ArchitektInnen (die die „choice architecture“ entwickeln) von wirtschaftlichen und politischen Entscheidungen werden, ohne als solche erkennbar zu sein und ohne das diese Entscheidungsarchitekturen als politische Maßnahmen erscheinen.

17 Z.B. Verbrauchsfeedback durch Heizenergiesparkonten: umweltbundes- amt.de/sites/default/files/medien/1410/publikationen/2017-08-22_texte_69- 2017_nudgeansaetze_nach-konsum_0.pdf.

Nudging in Wahlkämpfen

Gefahren für die Demokratie

(28)

Auf grundsätzlicher Ebene stellen sich Fragen nach der Menschenwürde, wenn über Big-Data-gestützte Verhaltensbeeinflussung Menschen als Da- tenquellen zu Zwecken der Steuerung durch Dritte benutzt werden, aber auch Fragen nach Handlungsautonomie und wie die Freiheit von Fremd- beeinflussung gewährleistet werden kann. Diese Fragen zu bearbeiten, wäre die Voraussetzung, um langfristig zu breit akzeptierten Anwendun- gen in unterschiedlichen Politikfeldern zu kommen. In Österreich wird Nudging in der Öffentlichkeit vielfältig diskutiert,¹⁸ jedoch gibt es keine Studien zu konkreten Anwendungen oder Voraussetzungen für die An- wendung von Nudging.

Im Rahmen einer Langstudie wäre es sinnvoll, zunächst systematisch die aktuellen technologischen Entwicklungen und die internationalen Anwen- dungsgebiete zu identifizieren. Der internationale und vor allem der euro- päische Rechtsrahmen wäre daraufhin zu untersuchen, wie privatsphä- renorientierte Prinzipien trotz der hohen globalen Dynamik durchgesetzt werden können (z.B. die Möglichkeit Standardvorgaben zu setzen und andere zu verbieten). Die zweite Ebene wäre es, partizipativ Innovations- pfade, Infrastrukturen und Software-Ebenen zu analysieren, die individuelle Datenprofile effektiver dezentral schützen können. Dazu gehören Möglichkeiten einer automatischen Sichtbarbarmachung von Nudging, die es BürgerInnen ermöglichen, auf Grundlage ihres Grundrechts auf infor- mationelle Selbstbestimmung zu entscheiden, ob und welche Formen der digitalen Verhaltenssteuerung sie aktiv unterstützen bzw. dulden.

Grafenstein, M. v. et al., 2018, ABIDA - Assessing Big Data, Berlin.

Helbing, D. et al., 2015, Das Digital Manifest, Spektrum der Wissenschaft, 5- 39.

OECD, 2017, Behavioural Insights and Public Policy: Lessons from Around the World: OECD Publishing.

Thaler, R. H. und Sunstein, C. R., 2003, Libertarian paternalism, American Economic Review 93(2), 175-179.

Thaler, R. H. und Sunstein, C. R., 2009, Nudge. Wie man kluge Entscheidungen anstößt, 4. Aufl. Aufl., Berlin: Econ.

(PSR)

18 Siehe z.B. trend.at/wirtschaft/nudge-wie-menschen-8359578 (Ausgabe 4/2017); vben.at/wp-content/uploads/2016/10/102016-5.pdf.

Menschenwürde, Autonomie

(29)

Datengetriebene Medizin –Zwischen Personalisierung und gläsernen PatientInnen?

Zusammenfassung

Die datengetriebene Medizin – die umfangreiche Nutzung von Big Data in der Medizin und der Pharmaindustrie – verspricht sowohl bessere Diag- nosen und schnellere Herstellung neuer Medikamente als auch passge- naue Therapien und maßgeschneiderte, personalisierte Behandlung.

Möglich wird sie mit der Etablierung von elektronischen Gesundheitsak- ten, kostengünstiger Genomsequenzierung, Biobanken, molekularer Bild- gebung, PatientInnenportalen und gesundheitsrelevanten Sensoren in Smartphones. Damit wächst aber auch der „digitale Fußabdruck“ von Pa- tientInnen rasant. Dazu kommen die digitalen Spuren aller Menschen, die im öffentlichen Gesundheitssystem und auf den Märkten für Gesund- heitsdienstleistungen ihre Daten zu Präventions- und Forschungszwecken Dritten überlassen. Weitere relevante Daten entstehen bei der online- Suche nach gesundheitsrelevanten Informationen, beim Kauf gesund- heitsbezogener Produkte und Dienstleistungen und schließlich in der Kombination: wenn direkt gesundheitsrelevante Daten mit Daten gekoppelt werden, die den Lebensstil identifizierbar machen, wie Daten aus sozialen Netzwerke und Daten der Online-Nutzung. Wie eine datengetriebene Medizin langfristig einen hohen Nutzen generieren kann, ohne dass Gesundheitsdaten zur Diskriminierung (zum Beispiel durch Versicherun- gen) genutzt werden, ist bisher nicht absehbar.

Mit dem Zugang zu enormen Mengen an heterogenen Daten (Big Data) und dem Zuwachs an Rechenleistung und ihren Verarbeitungsmöglichkei- ten (Künstliche Intelligenz) verändert sich die Medizin und erschließt bei- spiellose Möglichkeiten für eine datengetriebene medizinische Forschung, die zu kostengünstigeren und personalisierten Behandlungen führen könnte. Damit könnte auch der beginnenden Paradigmenwechsel in der Medizin von kurativen Maßnahmen hin zu prophylaktischen, präventiven Gesundheitsservices unterstützt werden. Die Versprechen der datengetriebenen Medizin sind hoch, denn ihre VerfechterInnen versprechen nicht weniger als proaktive, prädiktive, präventive, partizipative und patienten- orientierte Ansätze in der Medizin der Zukunft (Shah/Tenenbaum 2012).

Diese Form der datengetriebenen Medizinforschung geht über die Kapa- zitäten nationalstaatlicher Forschung hinaus und ist nicht selten von Kon- zernen getrieben, wie z.B. von der führenden US-amerikanischen Ge- nomsequenzierungs-Firma 23andme, an der Alphabet/Google beteiligt ist.

Welche Auswirkungen die Geschäftsmodelle der führenden Unternehmen auf die zukünftige medizinische Forschung haben und worin die Treiber und Barrieren hinsichtlich der Potentiale bestehen, ist bisher unklar.

digitaler Fußabdruck von PatientInnen wächst

Paradigmenwechsel in der Medizin von kurativen Maßnahmen zu prophylaktischen, präventiven

Gesundheitsservices

(30)

Datengetriebene Medizin –Zwischen Personalisierung und gläsernen PatientInnen?

Die rasante Entwicklung der datengetriebenen Medizin besteht insbesondere darin, Datensätze unterschiedlicher Herkunft und unterschiedlicher Struktur zu verbinden: So werden DNA-Repositorien mit elektronischen Gesundheitsakten gekoppelt, um die Genomforschung voranzutreiben (McCarty et al. 2011), und elektronische Gesundheitsakten werden mit Biomarker-Datenbanken gekoppelt, um anhand der Biomarker Krank- heitszusammenhänge zu identifizieren (Mosley et al. 2018)

Wenn neues medizinisches Wissen aus Millionen von Datensätzen Wis- sen generiert wird, das dann für die individuelle Diagnose und Therapie von spezifischen PatientInnen genutzt wird, stellen sich völlig neue Anfor- derungen an die Ausbildung und Praxis in den Gesundheitsberufen. Ins- besondere die Interdisziplinarität an der Schnittstelle von Medizin, Daten- wissenschaft und Informatik würde aus den Nischen der Spezialisierung in das Zentrum von Medizin und Gesundheitsforschung wandern. Diese datengetriebene Medizin erfordert interdisziplinäres Knowhow, eine ver- änderte Ausbildung wie auch Rahmenbedingungen für den Umgang mit Daten, d.h. Maßnahmen, die das Vertrauen in diese Form von Medizin und Medizinforschung langfristig sichern. Mit der steigenden Relevanz von Daten in der Medizin werden Krankenhäuser und Institutionen des öf- fentlichen Gesundheitswesens zugleich Angriffsziele von Hackern.¹⁹ Immer mehr Menschen nutzen aktiv eigene Gesundheitsdaten für die Op- timierung ihrer Gesundheit oder für die eigene medizinische Behandlung, angefangen von personalisierten Gesundheitsprofilen aus den Daten von Fitness- und Aktivitäts-Trackern bis zur Genomsequenzierung. NutzerIn- nen, die über Sensoren und Smartphone ihre Daten mit anderen verglei- chen, haben vor einigen Jahren in der sogenannten Quantified-Self- Bewegung die elektronische Selbstvermessung zu einer Optimierung ihrer Leistungsfähigkeit genutzt (Lupton 2013). KritikerInnen sehen darin das Ende von Freiheit und eine Gefahr für Datensicherheit. Heute ist die Nutzung von Geräten der Selbstvermessung weit verbreitet und über- schneidet sich mit dem Gesundheitsmonitoring. Die Beteiligung von Pati- entInnen und potentiellen PatientInnen an der medizinischen Forschung verbindet Self-Tracking-Tools mit umfassenden Datenportalen, wobei unklar ist, ob den Einzelnen die Tragweite ihrer Datenweitergabe bewusst ist. Gerade bei Gesundheitsdienstleistungen ist das „Privacy Paradox" relevant: Zwar würden die meisten in einer Befragungssituation den Daten- schutz hier als extrem wichtig ansehen, im Anwendungsfall dagegen werden Datenschutzerklärungen oft pauschal akzeptiert und sensible Daten preisgegeben. Denn der Nutzen einer gesundheitsrelevanten Dienstleis- tung erscheint im Gegensatz zu den abstrakten und langfristigen Folgen einer Datenweitergabe hoch.

19 2017 wurden Computersysteme mehrerer Krankenhäuser in Großbritannien im Zuge eines weltweiten Angriffs mit sogenannter Ransomware blockiert. Die Computer wurden über sogenannte Erpressungstrojaner verschlüsseln und dann Lösegeld zur Entschlüsselung verlangt.

derstandard.at/2000057473193/Loesegeld-gefordert-Hacker-greifen-englische- Spitaeler-an.

Verbindung von Datensätzen unterschiedlicher Herkunft und Struktur

Krankenhäuser werden Angriffsziele von Hackern

Quantified-Self- Bewegung

(31)

Diese Ansätze einer „Crowdsourced Gesundheitsforschung“(Swan 2012) verbindet die Tradition klinischer Studien mit strukturierten Selbstversu- chen. Die Dynamik wird durch globale PatientInnenplattformen wie Pati- entsLikeMe²⁰ vorangetrieben, die PatientInnen vernetzen, ihre Daten sammeln, diese Daten aber auch an Pharmaunternehmen verkaufen und im Auftrag von Pharmaunternehmen auch spezifische Daten sammelt.

Neben den ethischen Fragen hinsichtlich einer solchen partizipativen Me- dizin,²¹ stellen sich Fragen langfristiger Folgen, die heute nur begrenzt absehbar sind. Einige der möglichen Risiken zeigen sich heute bereits in Ländern mit privaten Krankenversicherungen, die Preise nach Risiken gestalten. Deren flexible datengetriebene Tarife sind darauf ausgerichtet, Versicherte dazu zu bekommen, ihre Gesundheitsdaten über Geräte wie die Apple-Watch täglich an die Versicherungen zu übertragen. Vielfach sind diese Programme, die z.B. die Fitnessleistungen der Versicherten verfolgen, noch als Bonusprogramme konzipiert; können aber auch absehbar zu Diskriminierung führen.²²

Wie es möglich ist, an der globalisierten, datengetriebenen Medizinfor- schung teilzunehmen und trotzdem langfristig ein hohes Datenschutzni- veau aufrechtzuerhalten, ist weitgehend unerforscht, jedoch zentral für die Wirksamkeit und das Vertrauen in die Gesundheitssysteme der Zukunft.

Da es sich um sensible, personenbezogene Daten handelt, muss die Er- hebung und Verarbeitung unter Berücksichtigung der geltenden daten- schutzrechtlichen Regelungen erfolgen. Das Spannungsverhältnis besteht darin, dass unklar ist, wie wirksam die heute geltenden Rechtsvorschriften sein können, wenn die Zusammenführung unterschiedlicher Daten tech- nisch immer einfacher wird. In Bezug auf die heterogenen gesundheits- bezogenen Daten und ihre zukünftig immer leichtere Kombinierbarkeit ist keine absolute Datensicherheit möglich. Wesentlich ist allerdings, festzustellen, ob und welche Grade von Sicherheit heute möglich gemacht werden können, wenn zukünftige Entwicklungen gleichzeitig bereits antizipiert werden. Insbesondere die mögliche Re-Identifizierung der Daten durch zukünftige Künstliche-Intelligenz-Technologien und der Verlust von Ano- nymität tangieren die Privatsphäre sowie Eigentums- und Persönlichkeits- rechte und kann zu Diskriminierungen führen.

Aufgrund der Langfristigkeit der Fragen und der potentiellen Konfliktträch- tigkeit wäre eine umfassende, auf Österreich fokussierende Foresight- Studie mit partizipativen Elementen sinnvoll, die über die Analyse heutiger Technologien und ihrer Folgen hinaus zukünftige Entwicklungen umfas-

20 patientslikeme.com.

21 bundeskanzleramt.gv.at/

documents/131008/549639/MedizinInternet_Ansicht.pdf.

22 netzpolitik.org/2018/tracking-durch-die-versicherung-zu-risiken-und- nebenwirkungen/.

flexible datengetriebene Tarife bei

Krankenversicherungen

Aufrechterhaltung des hohen

Datenschutzniveaus

Langfristigkeit und potentielle Konfliktträchtigkeit

(32)

send antizipiert. Eine transdisziplinäre Studie würde das Wissen von Ex- pertInnen aus Medizin, Datenwissenschaften und KI-Forschung mit den Wissensbeständen und Interessen der verschiedenen Stakeholder (Ge- sundheitswesen, Pharmaindustrie, PatientInnengruppen) verbinden, um insbesondere die langfristigen Folgen von aktuellen Ansätzen zu analysieren und unterschiedliche Zukunftsoptionen des Umgangs mit Daten festzustellen. Ziel wäre es auch, wirksame Lösungsansätze für die globale Dimension der datengetriebenen Medizin zu erarbeiten.

Lupton, D., 2013, Quantifying the body: monitoring and measuring health in the age of mHealth technologies, Critical Public Health23(4), 393-403.

McCarty, C. A., et al., 2011, The eMERGE Network: A consortium of

biorepositories linked to electronic medical records data for conducting genomic studies, Bmc Medical Genomics 4.

Mosley, J. D., et al., 2018, A study paradigm integrating prospective

epidemiologic cohorts and electronic health records to identify disease biomarkers, Nature Communications 9.

Shah, N. H. und Tenenbaum, J. D., 2012, The coming age of data-driven medicine: translational bioinformatics' next frontier, Journal of the American Medical Informatics Association19(E1), E2-E4.

Swan, M., 2012, Crowdsourced Health Research Studies: An Important Emerging Complement to Clinical Trials in the Public Health Research Ecosystem, Journal of Medical Internet Research14(2).

(PSR)

(33)

Autonomer öffentlicher Verkehr

Zusammenfassung

Der Öffentliche Personen-Nahverkehr (ÖPNV) wird sowohl von schienengebundenen Systemen (U-Bahn, Straßenbahn, Zug) als auch von auf Straßen betriebenen Bussen und Sammeltaxis bedient. Aufgrund der zunehmenden Verfügbarkeit der Technologie und erwarteten Effizienzge- winnen, gibt es international und in Österreich zahlreiche Initiativen, den ÖPNV (teilweise) zu automatisieren. Dabei ist der automatisierte schie- nengebundene ÖPNV mit 55 U-Bahn Linien in 37 Städten weltweit derzeit wesentlich weiter entwickelt. Straßengebundene autonome Fahrzeuge werden vor allem in Pilotprojekten in Randbereichen großer Städte und auf wenig genutzten Kurzstrecken getestet. Die Erwartungen sind vor allem, dass autonome Systeme im öffentlichen Verkehr eine Brücke zwischen Individualverkehr und ÖPNV bilden sollen. Bei autonomen Syste- men stellt sich jedoch eine Reihe von grundsätzlichen Fragen nach Si- cherheit, Verantwortung, Maschinenethik und Akzeptabilität sowie nach Art und Kosten der Infrastruktur und den Auswirkungen auf die zuliefern- de Industrie und die Arbeitsplätze im Mobilitätssektor. Für eine zukunftsorientierte Befassung und proaktive Gestaltung kann das Parlament ein zentraler Ort sein.

Wenn man vom autonomen Fahren spricht, wird meist an selbstfahrende Autos und den autonomen Individualverkehr gedacht. Allerdings können durch die autonome Steuerung von Fahrzeugen auch effizienzsteigernde Potentiale für den öffentlichen Verkehr erzielt werden. Von den Befürwor- terInnen werden vor allem Personaleinsparungen und eine möglicher- weise höhere Sicherheit ins Treffen geführt. Derzeit werden autonome Systeme vor allem im schienengebundenen ÖPNV breiter eingesetzt. Ei- ne großflächige Anwendung, im straßengebundenen Bereich ist derzeit nur auf Pilotanwendungen beschränkt. Dort ist die Automatisierung bereits weiter fortgeschritten. In vielen Städten verkehren seit Jahren fahrer- lose U-Bahn Garnituren im Linienverkehr. Im Juli 2016 gab es 55 vollau- tomatische U-Bahn-Linien in 37 Städten auf der ganzen Welt, die insgesamt 803 km befuhren. Das entspricht gegenüber 2014 einem Anstieg von 14,2%. Es wird prognostiziert, dass bis 2025 2.300 km automatisierte Metrolinien in Betrieb sein werden.²³

Auch Züge im Überlandbereich könnten in Zukunft fahrerlos unterwegs sein. Erste Tests mit Güterzügen sollen noch 2018 zwischen Rotterdam und Deutschland anlaufen.²⁴ Durch die klar abgegrenzte und direkt kon- trollier- und beeinflussbare Systemumgebung können die schienenge-

23 uitp.org/world-report-metro-automation.

24 mobilitymag.de/autonome-zuege-lokfuehrer/.

Effizienzgewinne vs.

Sicherheit,

Verantwortung, Ethik und Akzeptabilität

Vorreiter:

schienengebundener ÖPNV