Ond doktor og etisk android

Lidt småsnak om Evil doctor, ethical android: Star Trek’s instantiation of conscience in subroutines, Victor Grech, Mariella Scerri, David Zammit, MOSF Journal of Science Fiction.

  • Det er vigtigt, at sådan nogen som Data og Doktoren har etiske underprogrammer (ethical subroutines). Det er i praksis deres samvittighed.
  • Er de bevidste væsener, på højde med mennesker? Det undlader Star Trek omhyggeligt at svare på.
  • “Descent”. Lore får slået Datas etiske underprogrammer fra og lokker ham til at skade bl.a. Geordi. Lore er en dårlig indflydelse.
  • “Latent Image”. Doktoren har etiske underprogrammer, men de slår ikke altid til. Hvordan vælger man, hvem der skal dø, når der ikke er ressourcer nok til at holde alle i live?
  • “Equinox”. Her er der en ligesom Doktoren, men uden etiske underprogrammer. Derfor er der ingen problemer i, at dette rumskib kan bruge bevidste væsner som drivkraft. De synes faktisk slet ikke, at de gør noget forkert. Men det gør vores Doktor og hans kollegaer jo. Hvem har ret? Er etiske underprogrammer nok til at løse sådan en konflikt?
  • “Darkling”. Doktoren har forbedret sig selv lidt, nappet nogle brugbare egenskaber fra forskellige andre programmer. Han har klart udviklet sig og mener nu, at han ikke længere har brug for etiske underprogrammer. Måske har han ret? Måske behøver ægte bevidste væsener ikke den slags. Har vi etiske underprogrammer indbygget i os?

Abstract

Machine intelligence, whether it constitutes Strong Artificial Intelligence (AI) or Weak AI, may have varying degrees of independence. Both Strong and Weak AI are often depicted as being programmed with safeguards that prevent harm to humanity, precepts which are informed by Isaac Asimov’s Laws of Robotics. This paper will review these programs through a reading of instances of machine intelligence in Star Trek, and will attempt to show that these “ethical subroutines” may well be vital to our continued existence, irrespective of whether machine intelligences constitute Strong or Weak AI. In effect, this paper will analyse the machine analogues of conscience in several Star Trek series, and will do so through an analysis of the android Data and the Emergency Medical Hologram. We will argue that AI should be treated with caution, lest we create powerful intelligences that may not only ignore us but also find us threatening, with unknown and inconceivable consequences.


Jeg har da i øvrigt skrevet om Star Trek før, på engelsk og dansk.

Is it okay to force you to open your iPhone?

Case: SB didn’t want to open his iPhone, wanting to consult with his lawyer first. Suddenly 5-10 cops sat on him, twisted his arms to handcuff him and forced his thumb against his phone. Then they left.

The cops have been charged with violence (?).

2 levels of courts have agreed with the police, that the procedure was legal. Now the 3rd and highest level will look at the case.

The question is: Can you compare a phone to a locked cabinet, and therefore it’s okay to open it by force? Or should the same rules apply to a phone password/pin and to a thumb print, where the police accept, that you can withhold your cooperation?

Is the supreme court the right place for this decision? Or should it be decided by law?

Is a procedure like the one described against the human rights, where you can’t be forced to incriminate yourself?

Source: Nu skal det afgøres i Højesteret: Må politiet med magt tvinge dig til at åbne din mobiltelefon?

Det fjederdrevne luftskib

Teaser for “Biografiske noter til ‘En afhandling om kausalitetens natur (med luftfartøjer)’ af Benjamin Rosenbaum” af Benjamin Rosenbaum, Start uret.

Fortælleren (der også var forfatter) var pr. luftskib på vej hjem fra Plausfab-Wisconsin (hvor alle læste plausibel-fabel). Livvagterne for Rajajen bar sabler og nålekastere. Der var bestilt en historie om en verden uden zeppelinere, en skyggehistorie, og Visdomsmyrerne måtte jævnligt smage på kladden. Rajahen kommenterede på en skitse: ”Din idé smager af demokritisk materialisme – som om verdens begivenheder udelukkende blev skabt af lineær årsag og virkning, den simpleste af de Fem Former for kausalitet.”

Østen sejrede dengang. Så vi har Visdomsmyrer og Visdomstjenere. Da Rajajen pludselig blev angrebet, kastede forfatteren sig sært nok ind i kampen. Måske fordi Israels nederlag stadig trykkede. (Templet havde ligget i ruiner i 2000 år.) Pirater sluttede sig til selskabet. Og de havde ikke bare fjedre til fremdrift, men også en damp-generator. Kaptajnen bar hjorteskind og fjer og røde fletninger og var tydeligvis en efterkommer af en vikinge-fjende, i nyere tid personligt en fjende af Texas. Og så kom et endnu større fartøj tilsyne, utvivlsomt ejet af en af Magterne – Cathay, Gabon eller den ariske Raj. – Nogle ting er konstante – pf var en smal genre. – Forfatteren skriver en historie. Eller er det omvendt?

Damp-automobil

Teaser for “Øverste Tandhjul” af Glen Stihmøe, Efter fødslen.

Publikum er placeret, og “orkesteret sætter i med kendingsmelodien Københavns damp-automobil galop.” Gaslysene dæmpes. Konferencieren “byder velkommen og slår ud med den ene hånd, hvorefter et mellemtæppe langsomt hæver sig og afslører to vogne på hver sit podie.” Den ene er en ny Benz, der kan noget smart med kul. Og så bliver filmen fra prøvekørslen startet pr. håndkraft. Hvordan klarede vognen sig på Valby Bakke?

Gæsten har prøvekørt den nye Hammermobil X4. Forresten har han også hørt noget om Hammers planer for en flyvemaskine! Selvom luftskibe selvfølgelig er fremtiden. Selvfølgelig.

Tandhjulscomputeren

Teaser for “Som et urværk” af Flemming R.P. Rasch, Som et urværk.

Året er 2015. Forsvarets missiler har urværk. Leonard Nimoy spillede med i Sea Trek. Der har været drama på C. F. Richs Vej: “Julie Thomsen, typograf på en eller anden lokal avis, var blevet anholdt efter at hendes mand, Arthur Thomsen, fuldmægtig i sundhedsministeriet, var fundet død.” Fortælleren har indkodet sagens akter og skal nu fortælle retten, at det er gjort korrekt.

“Nogle forfattere har skrevet fantasifulde fortællinger, hvori en teknologi baseret på radiorør kunne udføre de samme ting. Denne såkaldte radiopunk-genre er ganske populær i visse kredse.” Men her kører vi altså på tandhjul. “Et moderne hulkort kan rumme teksten for en hel roman!” Naturligvis forsker fortælleren videre, da det bliver antydet, at fru Thomsens id-kort kan være blevet kopieret. Og naturligvis stirrer han pludselig ned i løbet på en fjeder-pistol. I sidste ende kommer det hele an på, hvad der er indkodet og hvad den analytiske maskine beslutter på det grundlag, helt perfekt, uden at blande menneskelige svagheder ind i sine procedurer. Får fru Thomsen en behandlingsdom?

Den dampdrevne kat

Teaser for “Komtessen, opfinderen, direktøren og baronen – og Emma” af Glen Stihmøe, De sidste kærester på Månen.

forside-luo9midt

Da komtesse Irene af Kærbylund opsøger L. Hammers mekaniske Etablissement er det ikke pga. hendes dampbil (selvom den selvfølgelig også får et eftersyn), men for at invitere opfinderen til et møde med hendes onkel, der er direktør for Telegrafvæsnet. Der er desværre også tid til at strejfe komtessens økonomiske problemer og baron Ulvefods tilnærmelser. Til gengæld møder vi også den dampdrevne kat.

Telegrafen er optisk drevet og kræver høje tårne. En leverandør med monopol kan drive prisen i vejret, og det prøver baronen, for ham er det, naturligvis på. Måske kan Hammer hjælpe. Dampkatten Emma indeholder udover damp også fjedre, tandhjul og pneumatik, og hun kan se lidt. Baronen er lidt taktløs, da han prøver at imponere med en dampdrevet robot. Senere prøver han at bruge en zeppeliner på Amager til sine nedrige planer. Men Hammer er snu.

How Denmark treats refugee children

Child refugee arrives at the Danish border alone. If a lot of refugees are arriving at the same time (it happened in 2015), it should be possible to refuse them entry. (I can’t figure out whether this rule is in effect. But it has certainly been debated.)

Child refugee from Afghanistan is not granted asylum. There are plans to create centers for these children in Afghanistan. This applies when no family can be found.

Family is not granted asylum. They have to be sent home, but home won’t accept them, so they can’t be forced. So they live in a center in Denmark. 90 children live here. The recommendation is they should live here at most 2 weeks. They live here a lot longer. Parents and children have no idea when that situation will change. The parents feel insecure. Of course the children can sense that. Meals are eaten in large, noisy rooms. There is no access to a world free of fear, like regular school.

OVERBLIK: Her er SF og S uenige om udlændingepolitik

Liten tro på omsorgssenter i Afghanistan

Udrejsecenter Sjælsmark er ikke et sted for børn