Innenpolitik Braucht Deutschland bewaffnete "Drohnen"?

Ich frage mich, worauf Du diese Deine, nun schon öfters wiederholten Behauptungen gründest.

Es wäre doch eher an dir zu beweisen, dass eine Maschine selbständig Entscheidungen fällen oder sich programmieren kann. Nenne doch einfach mal so ein Gerät was denken kann.

Ich kenne nicht den Stand der Technik, auf dem Du Dich bewegst. Aber offenbar hast Du nicht meinen bereits mehrmals verlinkten Text von 1981 'Künstliche Intelligenz:
Metamorphose des Maschinenbildes' gelesen. Lernen ist ein Prozess, der nach festen Regeln abläuft, nach denen tierische Gehirne im Laufe der Evolution programmiert wurden, so dass ein neugeborener Mensch gar nicht anders kann als zu lernen. Die Lernmechanismen sind in unserem Gehirn bereits vor jeder Erfahrung fest verdrahtet.

Lernregeln sind programmierbar und deshalb kann auch der Mensch Maschinen Lernalgorithmen einprogrammieren. Maschinen können lernen!

Lernfähigkeit bedeutet aber, dass sich auch Maschinengehirne verändern und sich trainieren können. Lernfähigkeit bedeutet, dass Maschinengehirne Fähigkeiten erlangen können, die weit über diejenigen des Schöpfers (des Programmierers) hinausgehen können.

Viertes Vorurteil: "Computer können nicht klüger werden als ihre Programmierer".

Was ein Computer tut und wie er es tut, hängt von seinem Programm und damit von seinem Programmierer ab. Damit ist aber kein neuer Erhaltungssatz formuliert, d.h. ein Programmierer kann mehr Information aus dem Computer erhalten als er hineingesteckt hat. Das wird besonders anschaulich bei lernfähigen Programmen. Auch hier kann uns das von Samuel programmierte lernfähige Damespielprogramm als Beispiel dienen. Wir haben nachvollziehen können, warum dieses Programm bald besser Dame spielen konnte als sein Schöpfer. Der Satz "Ein Computer kann nie intelligenter werden als sein Programmierer" verschleiert tatsächliche Entwicklungen. Er vernachlässigt darüberhinaus, daß schon heute in vielen Großcomputern Programme laufen, die von einem ganzen Stab von Programmierern über viele Jahre entwickelt worden sind.

Es sollte im übrigen angemerkt sein, daß auch wir Menschen abhängig davon sind, was Erzieher und sonstige Umwelt in uns eingepflanzt haben. Ein prinzipieller Unterschied zu lernfähigen Computern wäre hier noch nachzuweisen.

Die richtig gestellte Frage ist nicht die, ob Computer nur das tun, was ihnen aufgetragen wurde zu tun, sondern die Frage nach den Grenzen dessen, was einem Computer aufgetragen werden kann zu tun.

Nicht einmal alle Züge eines Schachcomputers sind vorgedacht. Das wäre überhaupt nicht möglich, aufgrund der fast unendlich vielen möglichen Stellungen, die die Anzahl der Elementarteilchen im Universum übersteigt.

Auch beim Schachspiel zeigt der Computer keinerlei Kreativität.

Drittes Vorurteil: "Computer sind nicht kreativ"

Beim Rückzugsgefecht darüber, was Computer nicht können, wird häufig angeführt "Computer sind nicht kreativ". Diese Behauptung wird selten von einer Definition dessen begleitet, was unter "kreativ" verstanden werden soll. Sobald kreativ nämlich in sinnvoller Weise definiert wird, ist meistens schon der Weg für eine maschinelle Nachahmung vorgezeichnet. Willwacher z.B. beschreibt einen produktiven Einfall als die Neukombination früher erlernter Informationen. Sein auf einem Computer simuliertes assoziatives Speichersystem konnte solche produktiven Einfälle produzieren.

Ich könnte den Rest der Vorlesungszeit damit füllen, aus einem Buch mit Computerlyrik zu rezitieren. Solche Computerlyrik ist nicht deshalb nicht kreativ, weil wir die Regeln kennen (können), nach denen der Computer seine Gedichte verfaßt hat. Wenn dem so wäre, würde eine notwendige Bedingung für menschliche Kreativität die Unkenntnis der Regeln sein, nach denen menschliche Gehirne Neues produzieren. Kreativität wäre dann wegforschbar.

Wir können noch keine Verantwortung auf eine Maschine abschieben.

Unüberschaubare Computerprogramme und der Verlust menschlicher Verantwortung?

Es ist nicht so, daß die heutige Entwicklung generell eine Befreiung von unwürdigen Tätigkeiten bedeutet. Computer (Roboter) verdrängen den Menschen nicht nur bei zeitaufwendigen Routinearbeiten, sie nehmen vielen auch das Gefühl, von Bedeutung zu sein. Außerdem werden Computer zunehmend bei Entscheidungsprozessen in Politik und Wirtschaft eingesetzt, bei Tätigkeiten, denen ein hohes Sozialprestige entsprechen würde. Es ist die Aufgabe von Computern geworden, optimale Verkaufsstrategien, Investitionen oder Personalbestände zu berechnen. Der Mensch, der den Entscheidungsprozeß des Computers häufig nicht mehr überschauen kann, ist oft nur noch das Computerinterface zur 'real world', das Verbindungsglied zwischen Computer und Umwelt. Dies ist notgedrungen ein Rückzug des Menschen aus der Verantwortung. Ein Mensch, der die Entscheidungen eines Computers weitergibt, ohne dessen Entscheidungsprozeß nachvollziehen zu können, fühlt sich nicht verantwortlich und - in einem gewissen Sinne - ist er es auch nicht. Da die Entscheidungen eines Computers auf so komplexen Programmen beruhen können, daß kein einzelner Programmierer, sondern nur ganze Generationen von Programmierern verantwortlich zeichnen, gibt es gar keine juristisch belangbare individuelle menschliche Verantwortung mehr, wie Joseph Weizenbaum feststellt: "...but responsibility has altogether evaporated".

Noch wird in der Computertechnologie das potentielle Lernvermögen der Computer selten eingesetzt. Was es in obigem Zusammenhang bedeuten würde, wenn Computerentscheidungen aufgrund von Erfahrungen getroffen würden, die der Computer selber gesammelt hat, ohne daß ein menschliches Interface eingeschaltet war, ist offensichtlich. Computer wären endgültig autonome Handlungszentren im Funktionsgefüge dieser Welt.

Wir brauchen eine Diskussion der Frage, was für uns als Menschen wünschenswert ist, und ob die gegenwärtige Entwicklungstendenz an diesen Zielen orientiert ist. Als denkende Menschen sollten wir die Richtung der stattfindenden Metamorphose mitbestimmen und uns nicht ahnungslos von ihrer Eigendynamik überrollen lassen.

Leider lassen wir uns überrollen. Ich bin inzwischen wesentlich pessimistischer geworden, was die gesellschaftspolitischen Auswirkungen der Computer- und Roboterentwicklung angeht.

Karl

Vielleicht hörst du dir mal meine gefundenen Hinweise unter A B C an.

Ich will mit diesen Links nicht andeuten das ich alles unter Punkt A verstehe. Trotzdem spiegelt es meine Meinung wider.

A)

Alle – Parameter werden von den Programmierern, Mathematikern oder sonstigen Fachleuten eingestellt. Das Progamm sowieso.

Die Hauptnachteile von KNN sind gegenwärtig:

Das Trainieren von KNN (im Terminus der Statistik: Das Schätzen der im Modell enthaltenen Parameter) führt in der Regel zu hochdimensionalen, nichtlinearen Optimierungsproblemen. Die prinzipielle Schwierigkeit bei der Lösung dieser Probleme besteht in der Praxis häufig darin, dass man nicht sicher sein kann, ob man das globale Optimum gefunden hat oder nur ein lokales. Obgleich in der Mathematik eine Fülle relativ schnell konvergierender lokaler Optimierungsverfahren entwickelt wurden (beispielsweise Quasi-Newton-Verfahren: BFGS, DFP usw.), finden auch diese selten optimale Lösungen. Eine zeitaufwändige Näherung an die globale Lösung erreicht man gegebenenfalls durch die vielfache Wiederholung der Optimierung mit immer neuen Startwerten.

Es müssen Trainingsdaten gesammelt oder manuell erzeugt werden. Dieser Vorgang kann sehr schwierig sein, da man verhindern muss, dass das Netz Eigenschaften der Muster lernt, die zwar auf dem Trainingsset mit dem Ergebnis in irgendeiner Weise korreliert sind, die aber in anderen Situationen nicht zur Entscheidung herangezogen werden können. Wenn beispielsweise die Helligkeit von Trainingsbildern bestimmte Muster aufweist, dann 'achtet' das Netz unter Umständen nicht mehr auf die gewünschten Eigenschaften, sondern klassifiziert die Daten nur noch aufgrund der Helligkeit.

Bei Anwendung einer ‚heuristischen‘ – nicht statistischen – Vorgehensweise bei der Netzspezifikation, neigen KNN dazu, die Trainingsdaten einfach auswendig zu lernen (Überanpassung). Wenn dies geschieht, können sie nicht mehr auf neue Daten verallgemeinern. Um Überanpassung zu vermeiden, muss die Netzarchitektur sehr ‚vorsichtig‘ gewählt werden. Dieses Problem existiert auch bei vielen anderen statistischen Verfahren und wird als ‚bias-variance trade-off‘ bezeichnet. Seit einigen Jahren werden häufig verbesserte Verfahren (Boosting, Support-Vector-Maschinen, Regularisierungsnetze) eingesetzt, die diesem Problem begegnen.

Die Kodierung der Trainingsdaten muss problemangepasst und nach Möglichkeit redundanzfrei gewählt werden. In welcher Form die zu lernenden Daten dem Netz präsentiert werden, hat einen großen Einfluss auf die Lerngeschwindigkeit, sowie darauf, ob das Problem überhaupt von einem Netz gelernt werden kann. Gute Beispiele hierfür sind Sprachdaten, Musikdaten oder auch Texte. Das einfache Einspeisen von Zahlen, beispielsweise einer .Wav-Datei für Sprache, führt selten zu einem erfolgreichen Ergebnis. Je präziser das Problem allein durch die Vorverarbeitung und Kodierung gestellt wird, desto erfolgreicher kann ein KNN dieses verarbeiten.

Die Vorbelegung der Gewichte spielt eine wichtige Rolle. Als Beispiel sei ein 3-schichtiges Feed-Forward-Netz mit einem Eingabeneuron (plus ein Bias-Neuron) und einem Ausgabeneuron und einer verdeckten Schicht mit N Neuronen (plus ein Bias-Neuron) angenommen. Die Aktivierungsfunktion des Eingabeneurons sei die Identität. Die Aktivierungsfunktion der Verdeckten Schicht sei die Tanh-Funktion. Die Aktivierungsfunktion der Ausgabeschicht sei die logistische Sigmoide. Das Netz kann maximal eine Sinusfunktion mit N lokalen Extrema im Intervall von 0 bis 1 lernen. Wenn es diese Sinusfunktion gelernt hat, kann es mit dieser Gewichtsbelegung jede beliebige Funktion - die nicht mehr lokale Extrema als diese Sinusfunktion - mit möglicherweise exponentieller Beschleunigung - lernen (unabhängig vom Lernalgorithmus). Hier sei der einfachste Backpropagation ohne Momentum verwendet. Glücklicherweise kann man die Gewichte für solch eine Sinusfunktion leicht berechnen, ohne dass das Netz das erst lernen muss: Verdeckte Schicht : i = 0..N-1, x = i % 2 == 0 ? 1 : -1 , w0i = x * pi * (N - 0.5), w1i = -x * i * pi; Ausgabeschicht : wj = 1;

wikipedia

B)

Aus dem nachfolgenden Link habe ich dir auch die beiden entscheidenden Stellen kopiert.

Im Verständnis des Begriffs künstliche Intelligenz spiegelt sich oft die aus der Aufklärung stammende Vorstellung vom „Menschen als Maschine“ wider, dessen Nachahmung sich die sogenannte starke KI zum Ziel setzt: eine Intelligenz zu erschaffen, die wie der Mensch kreativ nachdenken sowie Probleme lösen kann und die sich durch eine Form von Bewusstsein beziehungsweise Selbstbewusstsein sowie Emotionen auszeichnet. Die Ziele der starken KI sind nach Jahrzehnten der Forschung weiterhin visionär.

Im Gegensatz zur starken KI geht es der schwachen KI darum, konkrete Anwendungsprobleme zu meistern. Insbesondere sind dabei solche Anwendungen von Interesse, zu deren Lösung nach allgemeinem Verständnis eine Form von „Intelligenz“ notwendig zu sein scheint. Letztlich geht es der schwachen KI somit um die Simulation intelligenten Verhaltens mit Mitteln der Mathematik und der Informatik, es geht ihr nicht um Schaffung von Bewusstsein oder um ein tieferes Verständnis von Intelligenz. Während die starke KI an ihrer philosophischen Fragestellung bis heute scheiterte, sind auf der Seite der schwachen KI in den letzten Jahren bedeutende Fortschritte erzielt worden

wikipedia

C)

Zu deinem Schachprogramm liefere ich dir auch noch einen Kommentar von sicherlich unbestrittenen Fachleuten. Das ist zwar schon etwas länger her, aber ich habe seit damals von keinem besseren Schach Projekt gehört.

Sogar IBM selbst widerspricht Hsu in dieser Argumentation und stimmt mit Kasparow überein, dass Deep Blue kein lernendes System sei, wie das Unternehmen auf seiner Website des Deep-Blue-Projekts angibt:

wikipedia

Ciao
Hobbyradler

Deinen Beitrag des Links hatte ich bereits vor einiger Zeit gelesen.

Hier noch meine Meinung zu zwei deiner Aussagen.

Die richtig gestellte Frage ist nicht die, ob Computer nur das tun, was ihnen aufgetragen wurde zu tun, sondern die Frage nach den Grenzen dessen, was einem Computer aufgetragen werden kann zu tun.

Ich halte es für eine richtig gestellte Frage, nicht von mir, ich habe dazu ja meine Meinung.
Und die Möglichkeiten sind fast grenzenlos.

Als denkende Menschen sollten wir die Richtung der stattfindenden Metamorphose mitbestimmen und uns nicht ahnungslos von ihrer Eigendynamik überrollen lassen.

Die meisten betroffenen Menschen haben den geringsten Einfluss. Wenn man die Rationalisierungsprozesse der letzten 30 Jahre auch zur Umgestaltung zählt, haben die Betroffenen ohne Vorkehrungen der Gesellschaft weitestgehend mitgeholfen.

Über Veränderungen beim Militär und andere Einrichtungen sage ich lieber nichts.

Ciao
Hobbyradler

@ hobbyradler,

ok, ich akzeptiere, dass Du der Überzeugung bist, dass die menschliche Intelligenz etwas sei, das nicht nachgebaut werden kann. Das ist eine häufig vertretene Meinung, ziemlich sicher sogar unter Informatikern derzeit noch die Mehrheitsmeinung. Ich habe schon mehrmals mit Informatikprofessoren darüber diskutiert und festgestellt, wie vernagelt selbst intelligente Menschen sein können.

Ich bin Neurowissenschaftler und habe mich schon immer auch für Robotics und Computerentwicklung interessiert. Wenn wir einen Megatrend in den Wissenschaften derzeit haben, dann ist das die Konvergenz der Informationswissenschaften und der Neurowissenschaften. Erstere möchte von den Neurowissenschaften lernen, wie biologische Systeme ihre Probleme lösen und es gibt bereits viele Algorithmen, die den biologischen Gehirnen abgeguckt wurden und in Roboter implementiert worden sind. Andererseits kommen Neurowissenschaftler nicht mehr ohne die Sprache der Informationswissenschaftler aus. Neurowissenschaftler versuchen die Funktion des Gehirns zu entschlüsseln, d. h. nichts anderes, sie wollen verstehen, wie Information in unserem Gehirn verarbeitet wird.

Zum Bewusstsein: So lange niemand wirklich weiß, wie Bewusstsein und die subjektiven Ansichten der Welt entstehen, solange kann niemand wissenschaftlich tragfähig behaupten, dass Maschinen nie Bewusstsein entwickeln können werden. Wir werden m. M. n. einfach akzeptieren müssen, dass wir keine übernatürlichen Wesen sind und dass wir selbst nach den Gesetzen der Physik funktionieren.

Wenn diese "Kränkung" unseres menschlichen Selbstverständnisses einmal überwunden ist, werden auch Dir die Schuppen von den Augen fallen. Alle Unmöglichkeitspostulate, die z. B. in der Logik Gültigkeit haben, die gelten für Maschinen und für Menschen gleichermaßen. Es gibt keinen naturwissenschaftlichen Beweis gegen die Möglichkeit maschineller Intelligenz. Im Gegenteil, alles deutet darauf hin, dass wir bald sehr dumm aus der Wäsche gucken werden.

Karl

P.S.: Ich verlinke einmal auf eine Buchrezension von mir zu einem Buch von Ray Kurzweil. Ich teile zwar vieles nicht, was Kurzweil schreibt, aber richtig ist sein Gefühl für die Zeit des Umbruchs, in der wir leben.

Hobbyradler und ich haben jetzt zwar eine Off-Topic Diskussion geführt, aber meine Ablehnung der Drohnen ist eben auch z. T. auf meine in die Zukunft gerichteten Befürchtungen gegründet. Ich sehe mit Schrecken, dass sich fortsetzt, was schon immer der Fall war, dass sich die Militärs an die Spitze der technologischen Entwicklung setzen. Diesmal jedoch wird daraus etwas völlig Neues erwachsen, auf das die Menschheit nicht wirklich vorbereitet ist.

Karl

Diesmal jedoch wird daraus etwas völlig Neues erwachsen, auf das die Menschheit nicht wirklich vorbereitet ist.

Karl,

ich weiß nicht einen Fall, in dem die Menschheit auf die technologische Entwicklung vorbereitet war.
Und schon gar nicht auf die kriegerische.

Wenn ich Dich richtig verstanden habe, wird auf der von Dir geschilderten Ebene nach "dem Funken des Lebens" gesucht, um einer Technologie ein selbständiges Denken zu ermöglichen.

Sollte ich das falsch verstanden haben, berichtige mich bitte.

Es erscheint mir zwar unwahrscheinlich, denn noch immer ist Leben - egal ob denkend oder nicht - von der Verschmelzung zweier Geschlechter abhängig. Jedenfalls im menschlichen und höher entwickelten Bereich der Tierwelt.

Ich kann aber diese Ängste sehr gut verstehen, denn sie beschleichen mich durchaus, wenn ich mir meine zahlreiche Nachkommenschaft ansehe.

Denn bei allem, was der Mensch erfindet, ist auch der Missbrauch durch den Menschen gegeben - ohne dass ein selbständiger Funke von Leben in der Technologie vorhanden sein muss. Ebenso, wie das Versagen der Technologie mit evtl. furchtbaren Folgen.

Meli

Hobbyradler und ich haben jetzt zwar eine Off-Topic Diskussion geführt, aber meine Ablehnung der Drohnen ist eben auch z. T. auf meine in die Zukunft gerichteten Befürchtungen gegründet. Ich sehe mit Schrecken, dass sich fortsetzt, was schon immer der Fall war, dass sich die Militärs an die Spitze der technologischen Entwicklung setzen. Diesmal jedoch wird daraus etwas völlig Neues erwachsen, auf das die Menschheit nicht wirklich vorbereitet ist.

Karl

Karl,

ich habe die Diskussion natürlich mit Interesse verfolgt und die Links gelesen. Mein Fazit: Was möglich sein wird, steht in den Sternen und es kommt ersten anders und zweitens als man denkt. Bei all den Zukunftsvisionen über Technologie können heute die Faktor der menschlichen Entwicklung und vor allem zukünftige, menschliche Bedürfnisse nicht einkalkuliert werden, die aber mitbestimmend für die Richtung der technologischen Entwicklung sind.

Inwiefern sich die Militärs an die Spitze der technologischen Entwicklung stellen, ist Ansichtssache, weil die alltägliche, technologische Entwicklung innerhalb der Gesellschaft eher schleichend vor sich geht und andere Sinne anspricht als die des Militärs. Ebenso unberücksichtigt bleibt, inwiefern aus der demokratischen Gesellschaft auch militärische Bedürfnisse wachsen. Meine Vorbehalte, was die Bundesrepublik angeht, betreffen eher die Umstrukturierung der Bundeswehr in eine Berufsarmee, die sie aus der Mitte der Gesellschaft (Bürger in Uniform) entfernt und separiert. Das betrifft aber die innerstaatliche Rolle des Militärs und dies wird hier nicht diskutiert.

Hier geht es um die militärischen Interessen der demokratischen Gesellschaft gegen Gefahren von außen und die sind natürlich gegen undemokratische Bestrebungen, die Demokratien abzuschaffen, gerichtet. In der Gegenwart geht es konkret gegen den politischen Islamismus, gegen dessen militärisches Vorgehen sich Staaten mit bisherigen militärischen Mitteln nicht wehren können und die Ansicht, gegen militärische Angriffe mit demokratischen, zivilrechtlichen Mitteln vorzugehen, sprich Festnahmen und Zivilprozessen, ist unrealistisch ja illusorisch.

Bei der Betrachtung des Themas ist die internationale politische Entwicklung der Gegenwart ausschlaggebend, nicht unterschiedliche Zukunftsvisionen und Befürchtungen über Technologie.

--

adam

Hallo Karl,

sollte man irgendwann ein funktionierendes Gehirn nachbilden können, wäre natürlich ein Roboter leistungsfähiger als ein Mensch. Als Forscher ist das für dich vielleicht sogar erstrebenswert, mir würde es davor grausen. Doch ähnlich wie Eltern und die Umwelt bzw. Lebensumstände einen Menschen prägen, würde ein solcher Roboter, zumindest kurz nach dem eigenen Entstehungsprozess, durch seinen Erzeuger/Konstrukteur geprägt sein, neutral, gut oder schlecht.

Ich meine heute Nacht, über deinen Link, einen Zeitplan der Vorhersagen Kurzweils gelesen zu haben.

Dabei fand ich eine Prognose für 2045 als sehr gewagt. Zum einen würden Chips oder Computer so klein sein, dass technisch eine weitere Verkleinerung nicht mehr möglich wäre, Das wird natürlich in naher Zukunft kommen. Es würde deshalb durch Koppelungen ein umgekehrter Trend erfolgen. Um leistungsfähigere Computer zu bauen müssten sie größer werden und sinngemäß würden große Teile der Substanz der Erde in Computer umgewandelt.
Da wäre der Wüstensand zum Gewinn von Silicium sicherlich sehr gefragt. Vielleicht war ich schon zu müde um es richtig zu verstehen. Es wären ja ledich noch 32 Jahre.
Auch das Mooresche Gesetz, kein Naturgesetz, wurde schon mehrfach angepasst.

Sofern die Vorhersagen Kurzweils zutreffen, wäre HEUTE Handlungsbedarf angesagt. Vor allem die Enkel hätten sich auf ein extrem langes Leben einzurichten, den ab 2040 begänne ein genereller Organaustausch.

Ciao
Hobbyradler

So sehr ich mich freue darüber, dass eine Schweizer Forschergruppe etwa 1 Milliarde Euros für ihre Hirn/Computer-Forschungen erhält, muss ich doch daran zweifeln, dass ein künstliches Hirn je das erreichen kann, was das Hirn der Säugetiere (zu denen ich den Menschen zähle)kann. Das Hirn des Menschen kann z.B. neue Verbindungen schaffen und notfalls "Speicher anbauen". Ein Computer braucht den Menschen, der ihm diese neuen Verbindungen einbaut.

- 30 km/h ist die höchste Geschwindigkeit, die ein Mensch überleben kann.
- Es ist unmöglich, dass der Mensch fliegen kann.
- Es ist unmöglich den Atlantik zu überfliegen.

- muss ich doch daran zweifeln, dass ein künstliches Hirn je das erreichen kann, was das Hirn der Säugetiere kann [schorsch]