Annalee Newitz, Amerikanische Journalistin und Autorin, hat einen faszinierenden Roman über unser Leben in 125 Jahren geschrieben. Einige der heutigen Grenzen zwischen Mensch und Roboter haben sich dann verschoben. Biohacking führt zu Menschen mit Roboterteilen und Robotern mit Menschenteilen. Bestehende Staaten haben sich in Wirtschaftszonen aufgelöst und Immaterialgüterrechte dominieren, da produzieren einfacher geworden ist und es vorwiegend um das Recht zu produzieren geht. Das Verständnis von Geschlechterverhältnissen ist anders. Gewisse menschliche Bedürfnisse sind gleich geblieben, wie der Bedarf nach Beziehungen und der Drang nach Autonomie und die Frage der Gerechtigkeit.
Die zentrale Figur ist die idealistische Bio-Piratin Jack. Sie hat ein noch nicht öffentliches Medikament zur Leistungs- und Fokussteigerung reverse-engineert. Sie ist der Überzeugung getan, dass alle Menschen den gleichen Zugang zu Medikamenten haben sollen. Das Medikament führt jedoch zu Komplikationen, bspw. indem Studenten nur noch studieren, Angestellte hinter dem Bürotisch während der Bearbeitung von Anträgen verdursten oder Zugsverkehrsleitende ununterbrochen Züge umdisponieren. Jack wird von einem Bio-Roboter Paladin verfolgt und die Rechteinhaber des Medikaments versuchen die Spuren zu verwischen und den Zugang zu Medikament und Gegen-Medikament zu kontrollieren.
Der Roman thematisiert mehrfach die sich verändernde Grenzen zwischen Menschen und Roboter.
Werden es Roboter einfacher als Menschen ihr Verhalten zu verändern und frei zu handeln?
“Families with nothing would sometimes sell their toddlers to indenture schools, where managers trained them to be submissive just like they were programming a bot. At least bots could earn their way out of ownership after a while, be upgraded, and go fully autonomous. Humans might earn their way out, but there was no autonomy key that could undo a childhood like that.
Im Roman müssen sich Menschen für eine gewisse Zeit komplett für eine Organisationen vertraglich verpflichten. Sie werden dann für die Ziele der Organisation konditioniert und verlieren ihre Autonomie. Roboter haben vergleichbare Verpflichtungen. Am Ende der Verpflichtung haben sie aber einen entscheidenden Vorteil. Roboter könnten einfach das Software-Modul “Autonomie” aktivieren. Menschen müssen im Gegensatz “neu lernen” und “bereits gelerntes Verhalten” vergessen. Wandel ist für Menschen nicht nur ein “Switch”, sondern eine ständige Arbeit an sich selber.
Wer entscheidet überhaupt noch und wann?
But a local alert grabbed control of her display, painting the windshield with an urgent report about a bizarre crime underway at the train control center in Calgary. Though trains ran autonomously throughout the Free Trade Zone, human operators still made decisions about schedules and changes in service. That afternoon, one of the operators had suddenly started making a lot more decisions than she should have. She completely revised the northern Zone’s train schedules, sending out hundreds of notices and updates, flooding the system with contradictory commands. When her colleagues tried to stop her, she barred herself in the operations room and isolated the train software code from the rest of the net. It was impossible to prevent the operator’s updates from going through, and impossible to shut the trains down instantly.
Autonome Autos, Züge, Flüge könnten kommen. Trotzdem sind Menschen noch involviert. Sie sind eng verzahnt im System und erst wenn etwas aus dem Ruder läuft, merken wir da noch jemand involviert war. Damit wir nicht in solchen Situationen landen, ist es wichtig nicht nur die Technik zu Gestalten, sondern das ganze System bestehend aus Mensch, Technik und Organisation zu gestalten.
Wie gestalten wir unsere Chatbots? Männer, Frauen? Geschlechtlos? Folgsam?
As a robot, he didn’t care what pronoun people used; as Fang had pointed out, gender was something humans projected onto robots. Changing his pronoun would make absolutely no difference at all. It would merely substitute one signifier for another. But then Paladin considered the implications of Eliasz’ facial expression, which at that moment hovered between desire and fear. Of course: If Paladin were female, Eliasz would not be a faggot. And maybe then Eliasz could touch Paladin again, the way he had last night, giving and receiving pleasure in an undocumented form of emotional feedback loop.
Als Menschen tendieren wir dazu menschenähnliche Züge in Robotern zu sehen und überzubewerten. Dazu gehört auch das Geschlecht, die Herkunft und der Status. Zu häufig gehen wir das Thema nicht bewusst an und bedienen Stereotypen. Ist es wirklich sinnvoll, dass fast alle Sprachbots Frauenstimmen und Namen haben? Müssen wir sie als folgsame freundliche Personen gestalten?
Wie durchsichtig sollen Menschen und Roboter sein?
Every time she encrypted her memories, she was reminded of the limits to her autonomy. Anyone on base with the proper access level could use the Federation’s escrowed key to read the full contents of her mind.
Der nun weibliche Roboter Paladin wird sich einer zentralen Frage bewusst und zwar wer alles ihre Erinnerungen kennt. Wenn wir immer mehr Daten über uns haben und vielleicht auch einmal Teile unserer Erinnerungen in elektronischen Systemen speichern können, dann stellt sich eine wirklich spannende Frage zum Recht auf Privatsphäre an unsere Erinnerungen und unsere Daten in der Cloud.
Der Roman thematisiert einige weitere netzpolitische Fragestellungen, insbesondere zu Patentrechte, Überwachung und Privatsphäre. Das Buch empfehle ich als spannende Ferienlektüre für die Sommerpause. Der Roman liefert keine Antworten, aber wirft spannende Fragen mit denen wir uns auseinandersetzen sollten, um nicht in dieser eher dystopischen Zukunftsvision zu landen.
