Folkemord og krigsforbrydelser

Lad os hyggesnakke om “Crime and Punishment in Star Trek: Genocide and War Crimes“, Victor Grech, New York Review of Science Fiction.

Nogle er bare nogle skurke.

  • “The Conscience of the King”. Der er for lidt mad på den her planet, så lederen af kolonien, Kodos, beslutter at slå halvdelen ihjel. Den halvdel, han alligevel ikke kunne lide. Han angrer vist nok en lille smule til sidst, lige før han dør.
  • “Jetrel”. Der var en enkelt mand bag opfindelsen, der slog en masse af Neelix’ artsfæller ihjel. Kan han gøre det godt igen ved at finde en kur for de overlevende? Det er nok ikke tilfældigt, hvis noget her minder om atombomber, Japan og Oppenheimer.
  • Hele serien Deep Space Nine viser igen og igen, at planeten Bajor blev besat. Dukat var godt med. Han føler sig frygtelig misforstået. Han var jo nødt til at sulte dem! Mishandlingerne var deres egen skyld.

Læger kan godt udøve tortur.

  • “Nothing Human”. Moset er/var en dygtig læge, men nogle af hans resultater udsprang af frygtelige eksperimenter. Er der okay at bruge hans viden?

voyethics.jpg

Massakrer sker jo.

  • “The Wounded”. Det viser sig ved nærmere eftersyn, at den her gruppe civile ikke i virkeligheden var noget andet. De var bare civile. Og nu er de døde.

Folkemord har en bestemt gruppe som mål.

  • “Hunters”. En grænse mellem mennesker og cardassianere fører til en vågen modstandsbevægelse i området. Den cardassianske politik er at slå dem alle ihjel.
  • Insurrection. Planen er at flytte en befolkning på 600 til en anden planet. Desværre er erfaringen, at den slags går galt.
  • “Let That Be Your Last Battlefield”. 2 grupper har set sig gale på hinanden, fordi de ikke er stribede på samme måde. De må jo ellers nærmest være fætre? Men nu er de altså i stedet døde, næsten alle sammen.
  • “The Survivors”. Han har kræfter på en målestok, det er svært at forstå. Han forelsker sig i en jordisk kvinde. Da hun dør, slår han hele morderens art ihjel.
  • “Dear Doctor”. Forskning afslører, at disse 2 arter ikke lever fredeligt sammen, men at den enes død vil være den andens brød. Kaptajn Archer beslutter ikke at gribe ind i sygdommen/deres evolution.
  • “Year of Hell”. Nogle gange kan man udrydde en art, ved at den aldrig har eksisteret.
  • Serien Deep Space Nine har fat i, at man kan slå alle Odos artsfæller ihjel. Faktisk er planen sat i gang. Men Odo vælger at afværge det.
  • De er dog ikke bedre, end at de selv prøvede at slå cardassianerne ihjel. Men det er jo ikke det, det kommer an på.

Minderne har vi da lov at have.

  • “Remember”. Pludselig kan Torres huske, hvordan en bestemt gruppe bare blev slået ihjel. De var for mærkelige.
  • “Memorial”. Her kan alle på Voyager pludselig huske en bestemt massakre.

Lad os udradere hele planeten.

  • Generations. Soran vil et bestemt sted hen, og han er ligeglad med, at en beboet planet så får ørerne alvorligt i klemme.
  • “By Inferno’s Light”. Dominion er trætte af Bajor og forsøger at destruere den.
  • Nemesis. Den her gang har skurken blikket rettet mod Jorden.
  • The Search for Spock. Genesis kan bruges som et planet-våben.
  • Star Trek. Vulcan bliver faktisk sprængt i luften. (Er det det rigtige udtryk? Sprængt i vakuum?) Nogle gange lykkes det faktisk for skurken.

Borg-Star-Trek

Borger vil bare assimilere.

  • “I, Borg”. Picard får udviklet et våben, der kan slå alle borger ihjel, men han vælger ikke at bruge det.
  • “Child’s Play”. Andre har fået samme idé. Her er våbnet et barn, der bærer en virus. Han bliver stoppet.
  • “Scorpion”. Borgerne planlægger at fjerne Jorden.

Uheld sker også.

  • “Friendship One”. Det var egentlig meningen, at den her planet skulle have en gave, men det gik frygtelig galt. Heldigvis kan de reddes.

Konklusion.

  • Typisk sejrer det gode over det onde. Og der er ingen tvivl om, at folkemord osv. er af det onde.
  • Typisk angrer skurken ikke.
  • Det er muligt for almindelige folk at blive monstre.

Ond doktor og etisk android

Lidt småsnak om Evil doctor, ethical android: Star Trek’s instantiation of conscience in subroutines, Victor Grech, Mariella Scerri, David Zammit, MOSF Journal of Science Fiction.

  • Det er vigtigt, at sådan nogen som Data og Doktoren har etiske underprogrammer (ethical subroutines). Det er i praksis deres samvittighed.
  • Er de bevidste væsener, på højde med mennesker? Det undlader Star Trek omhyggeligt at svare på.
  • “Descent”. Lore får slået Datas etiske underprogrammer fra og lokker ham til at skade bl.a. Geordi. Lore er en dårlig indflydelse.
  • “Latent Image”. Doktoren har etiske underprogrammer, men de slår ikke altid til. Hvordan vælger man, hvem der skal dø, når der ikke er ressourcer nok til at holde alle i live?
  • “Equinox”. Her er der en ligesom Doktoren, men uden etiske underprogrammer. Derfor er der ingen problemer i, at dette rumskib kan bruge bevidste væsner som drivkraft. De synes faktisk slet ikke, at de gør noget forkert. Men det gør vores Doktor og hans kollegaer jo. Hvem har ret? Er etiske underprogrammer nok til at løse sådan en konflikt?
  • “Darkling”. Doktoren har forbedret sig selv lidt, nappet nogle brugbare egenskaber fra forskellige andre programmer. Han har klart udviklet sig og mener nu, at han ikke længere har brug for etiske underprogrammer. Måske har han ret? Måske behøver ægte bevidste væsener ikke den slags. Har vi etiske underprogrammer indbygget i os?

Abstract

Machine intelligence, whether it constitutes Strong Artificial Intelligence (AI) or Weak AI, may have varying degrees of independence. Both Strong and Weak AI are often depicted as being programmed with safeguards that prevent harm to humanity, precepts which are informed by Isaac Asimov’s Laws of Robotics. This paper will review these programs through a reading of instances of machine intelligence in Star Trek, and will attempt to show that these “ethical subroutines” may well be vital to our continued existence, irrespective of whether machine intelligences constitute Strong or Weak AI. In effect, this paper will analyse the machine analogues of conscience in several Star Trek series, and will do so through an analysis of the android Data and the Emergency Medical Hologram. We will argue that AI should be treated with caution, lest we create powerful intelligences that may not only ignore us but also find us threatening, with unknown and inconceivable consequences.


Jeg har da i øvrigt skrevet om Star Trek før, på engelsk og dansk.