Ja, mee eens. Er hoeft maar een klein foutje in het programma te zitten, bijvoorbeeld (voor de programmeurs onder ons):

if (enemy = true)

in plaats van

if (enemy == true)

en dan vermoordt hij iedereen in plaats van alleen maar de vijand!

Tijd voor de drie wetten van Isaac Asimov

@Emmo: Nooit de film 'I Robot' gezien?

We zijn al aardig op weg voor een Terminator

Als die robots elkaar afmaken, heb ik er verder geen problemen mee...

@Madarian: Nog beter, ik heb de boeken.

De boeken en de wetten van Asimov zijn ooit de reden geweest dat ik ooit informatica ben gaan studeren aan de (toen nog) TH (nu TU) van Delft.
Ik had de romantische en idealistische opvatting dat ik door kon gaan in Robotica en de drie wetten kon vastleggen.
Maar ja: toen kwam Lennon's Law in actie:
"Life is what happens to you when you're busy making plans".
Dus die TU heb ik afgemaakt, maar nooit meer richting Robotica werk gevonden

skynet en de AI in ghost in the shell evolueerden op eigen houtje

Zelfdenkende moordrobots gaan er zeker wel komen, ondanks dit krabbeltje onder de oproep.

Kijk maar eens naar de Maeslantkering. Als die zich sluit kost dat miljoenen aan gemiste inkomsten en schade voor vrachtvervoerders, havens en bedrijven. Zou jij die keus kunnen maken, wetende wat er op het spel staat als je te vroeg de kering sluit? Of te laat?

Dus is er geen mens die bepaalt of de kering zich sluit, maar een computer (de BOS). Op die manier is er niemand verantwoordelijk en is het menselijk falen uit het systeem.

Op dezelfde manier: zou jij de keus kunnen maken om op de 'moord'-knop van de moordrobot te drukken, wetende wat er op het spel staat? Kan je met jezelf leven nadat je hoort hoeveel levens jouw actie heeft gekost?

En dus is het een kwestie van tijd voordat die robots zelf bepalen of ze moeten schieten of niet. Geen menselijk falen, geen menselijke verantwoordelijkheid.

Die zelfdenkende moordrobots komen er heus wel. Misschien niet als looprobots, dan wel als drones.

1 probleem, hoe herkent een robot de vijand???, en hoe zit het met die robot. die is vast echt (op het plaatje)

@thecrafter: je herkent (de nieuwe) robocop toch wel een beter plaatje bij dit artikel was de 'ed 209' robot uit de 1e originele robocop geweest, een terminator ligt er weer te dik bovenop

@thecrafter: Hoe doen we dat nu?

Sommige mensen zijn uitvinders maar hebben niets met ethiek - zie de drone - een paar pukkelhoofden- sophomores van een universiteit bedachten een stukje speelgoed - niet eens origineel - en de hotshots van het leger denken dan nog betere helden te zijn.

Nu zitten goed getrainde gespierde standvastigen achter een bedieningspaneel met enjoy-stick.. enjoy the killing.

Beter voorkomen (al komt het toch wel) dan als dat gezeik later met wie verantwoordelijk is, straffen enz. Zio'n gevalletje voor het rechtsysteem is bijgewerkt.

"Kap met het het ontwikkelen vn zelfdenkende moordrobots"

Zijn we die aan het ontwikkelen dan ? Met wat als doel? Sturen we ze op terroristen af? Zetten we ze in bij gijzelingen? En kunnen we ze met de afstandsbediening uitzetten bijvoorbeeld?

HAL9000?

@Lennox: Nog niet, maar ik heb het donkerbruine vermoeden dat in het Pentagon of in vergelijkbare gebouwen ergens anders er al driftig op gestudeerd wordt.

@Eelcootje: Die had geen knalapparatuur ter beschikking. Die kon alleen het verkeerde deurtje openzetten.

@Emmo: Nou "er driftig op aan het studeren" beschouw ik min of meer het zelfde als "ontwikkelen" . We zijn er dus mee bezig kennelijk, maar met wat als doel? Waar worden ze voor ingezet?

79 films over evil robots en nog leren we er niet van.

@Lennox: Net als drones: "Insurgents" plus "Collateral damage" afknallen met minder of geen risico voor de afknaller.

de geleerden hebben gelijk....
iedere leek kan verzinnen dat de risico's van zulke apparaten niet te overzien zijn
alleen, of het erg is als de mensheid uitsterft doordat er machines op wordt losgelaten die de mens zelf heeft gemaakt
natuur en milieu zijn er bij gebaat

Die gaat in één moeite door naar z'n grootje als "Collateral damage".

@Emmo:
als de mens en die dingen weg zijn dan herstelt de natuur zich wel weer. de natuur rond Tsjernobil is tenslotte ook zeer uitbundig sinds er geen mensen meer komen....

botte bijl: Dat hangt er van af of die robots, of wat dan ook, wel of niet verdwijnen.
Lees "Prey" van Michael Crichton, dat geeft een suggestie op dat gebied...

Zolang Windows nog de primaire leverancier van software is, zit het wel goed. Dan lopen die robots binnen 1 dag vast en kunnen niks meer tot iemand ze reboot.

@Juju:

Ik mag hopen dat een programmeur beter weet Met defensief programmeren vergelijk je omgekeerd: if (true = enemy) Je krijgt nu keurig netjes een foutmelding, omdat deze toekenning onmogelijk is. Die knullige fouten voorkom je dan