Literatur Kill Decision - von Daniel Suarez
Anlässlich des letzten Themenabends des ZDFs mit einem Spielfilm über den "Drohnenkrieg" mit anschließender Dokumentation sowie der immer heftiger werdenden Diskussion um autonome Roboter sowie der von Kirk angestoßenen Diskussion um autonome Waffen[/url] mit dem Link zu der Warnung von über 1000 KI-Forschern vor autonomen Tötungsmaschinen habe ich mich an den Autor Daniel Suarez erinnert, der 2012 in seinem Thriller "Kill Decision" dieses Thema bereits aufgegriffen hatte. Der leider verstorbene Frank Schirrmacher hatte Daniel Suarez den Jules Verne des digitalen Zeitalters genannt.
Das erste Buch von Suarez " Daemon" hatte ich bereits gelesen und wusste, dass er spannend schreiben kann. Deshalb hatte ich mir nun zwei weitere Suarez Bücher (" Kill decision" und das neuere Werk " Control") bei Amazon bestellt. "Kill Decision" wurde am Samstag geliefert und heute morgen um 1 Uhr hatte ich das 499 Seiten umfassende Buch ausgelesen.
Daraus kann man ersehen, dass es ein spannender Thriller war. Kern der Geschichte ist die Bemühung des militärisch-industriellen Komplexes Fördergelder für die Entwicklung von autonomen Kampfdrohnen zu erhalten. Hierzu werden Terroranschläge mit Drohnen auch auf dem Staatsgebiet der USA verübt und die gekauften Medien stellen dann autonome Kampfdrohnen als effektive Verteidiger gegen diese terroristischen Drohnenangriffe dar.
Die "guten Helden" in der Geschichte sind die Biologin Linda McKinney und der Spezialagent Odin. Linda hat das Schwarmverhalten von Ameisen studiert und verstanden, wie der Superorganismus der Ameisenkolonie durch einige ganz einfache Grundregeln durch die Interaktion der Individuen aufgebaut wird. Ohne ihr Wollen und Wissen sind ihre Algorithmen zur Beschreibung des Ameisenverhaltens von kriminellen Militärs für die Konstruktion von Kampfdrohnen verwendet worden, bei denen die einzelne Drohne recht simpel und billig konstruiert ist, aber die Bedrohung durch die große Zahl der Drohnen und deren Schwarmverhalten zustande kommt.
Am Ende siegen nach viel Action natürlich die "Guten", aber deren eigene realistische Interpretation ist, dass damit nur Zeit gewonnen sei - Zeit in der eventuell die Zivilgesellschaft Gesetze schaffen könnte, die die Entwicklung autonomer Tötungsmaschinen kontrollieren.
Spannend war das Buch und es wird sicherlich verfilmt werden. Trotzdem bin ich persönlich von dem Gehalt des Buches enttäuscht, nicht unbedingt weil die "Action" teilweise wie bei James Bond unrealistisch war (der "Held" überlebt immer) und die Personen doch arg klischeehaft daherkommen, sondern weil ich in Bezug auf das Schlagwort "Kill decision" mehr Tiefgang erwartet hatte.
Zwar wird in einer Passage auf moderne Entwicklungen in der Künstlichen Intelligenzforschung eingegangen, auf das automatische Erfassen und [u]Verstehen von Szenen, aber die im Buch als Bedrohung dargestellten Drohnen haben diesen Level von Kognition eben gerade nicht, sondern funktionieren reflexhaft, nach extrem einfachen Regeln.
Die Schwarmdrohnen im Buch treffen eben keine ethische oder unethische Entscheidung, sondern sie töten instinktiv, sie sind bestenfalls Insekten, keine zur Reflexion befähigten "Säuger".
Ich bin der Meinung, dass die Entwicklung der Künstlichen Intelligenz in eine andere Richtung geht. Die eigentliche Bedrohung ist die hoch entwickelte, autonome Soldatenmaschine, die nicht mehr von einem "Joystick" aus gelenkt wird, sondern selber sehr komplexe Entscheidungen trifft, darunter auch diejenige zu töten oder nicht zu töten (s. Roboterethik).
Die Drohnen im Buch handeln triebhaft. Sie treffen keine ethisch bewertbaren Entscheidungen, so wie auch die Handlungen einer einzelnen Ameise nicht ethisch bewertbar sind.
Deshalb halte ich den Titel des Buches "Kill decision" eher für irreführend. Eingebettet in ein die moderne Welt beschreibendes Szenario wird ein Konzept in Bezug auf autonome Killerdrohnen entwickelt, das m. E. an der sich abzeichnenden Realität weit vorbei geht. Die Killerdrohnen werden nicht "einfach" sein, sondern hoch komplex und wirklich Entscheidungen treffen können. Die Vernetzung wird zudem über Intra- und Internet wesentlich effektiver sein als über die bei Ameisen und den Kampfdrohnen von Suarez verwendeten chemischen Botenstoffe.
Karl
Das erste Buch von Suarez " Daemon" hatte ich bereits gelesen und wusste, dass er spannend schreiben kann. Deshalb hatte ich mir nun zwei weitere Suarez Bücher (" Kill decision" und das neuere Werk " Control") bei Amazon bestellt. "Kill Decision" wurde am Samstag geliefert und heute morgen um 1 Uhr hatte ich das 499 Seiten umfassende Buch ausgelesen.
Daraus kann man ersehen, dass es ein spannender Thriller war. Kern der Geschichte ist die Bemühung des militärisch-industriellen Komplexes Fördergelder für die Entwicklung von autonomen Kampfdrohnen zu erhalten. Hierzu werden Terroranschläge mit Drohnen auch auf dem Staatsgebiet der USA verübt und die gekauften Medien stellen dann autonome Kampfdrohnen als effektive Verteidiger gegen diese terroristischen Drohnenangriffe dar.
Die "guten Helden" in der Geschichte sind die Biologin Linda McKinney und der Spezialagent Odin. Linda hat das Schwarmverhalten von Ameisen studiert und verstanden, wie der Superorganismus der Ameisenkolonie durch einige ganz einfache Grundregeln durch die Interaktion der Individuen aufgebaut wird. Ohne ihr Wollen und Wissen sind ihre Algorithmen zur Beschreibung des Ameisenverhaltens von kriminellen Militärs für die Konstruktion von Kampfdrohnen verwendet worden, bei denen die einzelne Drohne recht simpel und billig konstruiert ist, aber die Bedrohung durch die große Zahl der Drohnen und deren Schwarmverhalten zustande kommt.
Am Ende siegen nach viel Action natürlich die "Guten", aber deren eigene realistische Interpretation ist, dass damit nur Zeit gewonnen sei - Zeit in der eventuell die Zivilgesellschaft Gesetze schaffen könnte, die die Entwicklung autonomer Tötungsmaschinen kontrollieren.
Spannend war das Buch und es wird sicherlich verfilmt werden. Trotzdem bin ich persönlich von dem Gehalt des Buches enttäuscht, nicht unbedingt weil die "Action" teilweise wie bei James Bond unrealistisch war (der "Held" überlebt immer) und die Personen doch arg klischeehaft daherkommen, sondern weil ich in Bezug auf das Schlagwort "Kill decision" mehr Tiefgang erwartet hatte.
Zwar wird in einer Passage auf moderne Entwicklungen in der Künstlichen Intelligenzforschung eingegangen, auf das automatische Erfassen und [u]Verstehen von Szenen, aber die im Buch als Bedrohung dargestellten Drohnen haben diesen Level von Kognition eben gerade nicht, sondern funktionieren reflexhaft, nach extrem einfachen Regeln.
Die Schwarmdrohnen im Buch treffen eben keine ethische oder unethische Entscheidung, sondern sie töten instinktiv, sie sind bestenfalls Insekten, keine zur Reflexion befähigten "Säuger".
Ich bin der Meinung, dass die Entwicklung der Künstlichen Intelligenz in eine andere Richtung geht. Die eigentliche Bedrohung ist die hoch entwickelte, autonome Soldatenmaschine, die nicht mehr von einem "Joystick" aus gelenkt wird, sondern selber sehr komplexe Entscheidungen trifft, darunter auch diejenige zu töten oder nicht zu töten (s. Roboterethik).
Die Drohnen im Buch handeln triebhaft. Sie treffen keine ethisch bewertbaren Entscheidungen, so wie auch die Handlungen einer einzelnen Ameise nicht ethisch bewertbar sind.
Deshalb halte ich den Titel des Buches "Kill decision" eher für irreführend. Eingebettet in ein die moderne Welt beschreibendes Szenario wird ein Konzept in Bezug auf autonome Killerdrohnen entwickelt, das m. E. an der sich abzeichnenden Realität weit vorbei geht. Die Killerdrohnen werden nicht "einfach" sein, sondern hoch komplex und wirklich Entscheidungen treffen können. Die Vernetzung wird zudem über Intra- und Internet wesentlich effektiver sein als über die bei Ameisen und den Kampfdrohnen von Suarez verwendeten chemischen Botenstoffe.
Karl
Mitglied_b12f0f2
Mitglied
Re: Kill Decision - von Daniel Suarez
geschrieben von ehemaliges Mitglied
Karl,
ich kann nur ganz unwissenschaftlich mein Grauen zum Ausdruck bringen,
daß immer wieder neue,noch grausamere Vernichtungsmöglichkeiten erdacht,erfunden,verfilmt
und be-schrieben werden!
Gudrun
ich kann nur ganz unwissenschaftlich mein Grauen zum Ausdruck bringen,
daß immer wieder neue,noch grausamere Vernichtungsmöglichkeiten erdacht,erfunden,verfilmt
und be-schrieben werden!
Gudrun
Liebe Gudrun,
ich gebe Dir vollkommen Recht. Die Entwicklung der Kriegsführung ist grässlich. Wichtig ist es aber, Entwicklungen im Voraus wahrzunehmen, damit die Zivilgesellschaft nicht einfach überrollt wird, sondern versuchen kann, Einfluss zu nehmen.
Liebend gern würde auch ich Unrecht und Fehlentwicklungen verdrängen, aber das dürfen wir nicht. Nur das Bewusstmachen von Entwicklungen kann dazu führen, geeignete Gegenmaßnahmen zu ergreifen. Deshalb begrüße ich den Aufruf der KI-Forscher, die vor der Entwicklung autonomer Waffen warnen.
Karl
ich gebe Dir vollkommen Recht. Die Entwicklung der Kriegsführung ist grässlich. Wichtig ist es aber, Entwicklungen im Voraus wahrzunehmen, damit die Zivilgesellschaft nicht einfach überrollt wird, sondern versuchen kann, Einfluss zu nehmen.
Liebend gern würde auch ich Unrecht und Fehlentwicklungen verdrängen, aber das dürfen wir nicht. Nur das Bewusstmachen von Entwicklungen kann dazu führen, geeignete Gegenmaßnahmen zu ergreifen. Deshalb begrüße ich den Aufruf der KI-Forscher, die vor der Entwicklung autonomer Waffen warnen.
Karl
Mitglied_b12f0f2
Mitglied
Re: Kill Decision - von Daniel Suarez
geschrieben von ehemaliges Mitglied
Liebe Gudrun,
ich gebe Dir vollkommen Recht. Die Entwicklung der Kriegsführung ist grässlich. Wichtig ist es aber, Entwicklungen im Voraus wahrzunehmen, damit die Zivilgesellschaft nicht einfach überrollt wird, sondern versuchen kann, Einfluss zu nehmen.
Liebend gern würde auch ich Unrecht und Fehlentwicklungen verdrängen, aber das dürfen wir nicht. Nur das Bewusstmachen von Entwicklungen kann dazu führen, geeignete Gegenmaßnahmen zu ergreifen. Deshalb begrüße ich den Aufruf der KI-Forscher, die vor der Entwicklung autonomer Waffen warnen.
Karl
Karl,
glaubst du allen Ernstes,daß so ein "Aufruf" tatsächlich bewirken könnte,diese Waffen nicht zu entwickeln oder gar einzusetzen?
Hiroshima
wäre Warnung genug!
...und.... ???
Liebe Gudrun,
an ein "Verhindern" kann ich auch nicht glauben, aber die Zivilgesellschaft sollte Regeln festlegen, Gesetze erlassen etc. Zwar hat die Genfer Konvention Grausamkeiten in Kriegen nicht verhindert, aber doch einen nachhaltigen Effekt gehabt, denn "Kriegsverbrechen" sind dadurch immerhin justitiabel geworden.
In ähnlicher Weise kann eine Roboterethik Missbrauch und Fehlentwicklungen sicherlich nicht aus der Welt schaffen, aber helfen, Missbrauch und Fehlentwicklungen einzudämmen.
Auch wenn oft gegen Windmühlen gekämpft werden muss, ist dieser Kampf nicht sinnlos.
Karl
an ein "Verhindern" kann ich auch nicht glauben, aber die Zivilgesellschaft sollte Regeln festlegen, Gesetze erlassen etc. Zwar hat die Genfer Konvention Grausamkeiten in Kriegen nicht verhindert, aber doch einen nachhaltigen Effekt gehabt, denn "Kriegsverbrechen" sind dadurch immerhin justitiabel geworden.
In ähnlicher Weise kann eine Roboterethik Missbrauch und Fehlentwicklungen sicherlich nicht aus der Welt schaffen, aber helfen, Missbrauch und Fehlentwicklungen einzudämmen.
Auch wenn oft gegen Windmühlen gekämpft werden muss, ist dieser Kampf nicht sinnlos.
Karl