Aktuelle Themen Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt es an!

Zitat von Gerdd
Ein MEHR Intelligenz von Computern als Intelligenz von Menschen bedeutet nicht einfach ein mehr. Ein MEHR bedeutet immer ein ANDERS!

würde ich gerne im Zusammenhang mit folgendem Statement diskutieren:

Zitat von lalelu
aber ich frage mich, ob ich das Leben noch lebenswert finden würde, wenn eines Tages Computerintelligenz den gesamten Alltag beherrscht, besonders dann, wenn Moral und Empathie dabei auf der Strecke bleiben.

Moral und Empathie haben sich in der Evolution als Überlebensstrategien herausgebildet. Es ist von Vorteil, sich in sein Gegenüber hineinversetzen zu können (Empathie), denn dann können dessen Züge (Handlungen) vorhergesagt werden. Moral bedeutet auch den Wert des anderen anzuerkennen und ist deshalb Voraussetzung für verträgliches Sozialverhalten, für soziales Zusammenleben, für Gesellschaften ganz allgemein. "Auf die Zielsetzung kommt es an" ist Teil der Threadüberschrift. Die elementarste Zielsetzung aller lebenden Systeme ist "Überleben". Die entscheidende Frage deshalb wird es sein, welches "Überleben" eine Superintelligenz als Zielsetzung einprogrammiert bekommen hat oder sich selber setzt:
a) Das eigene Überleben?
b) Das Überleben einer Firma, z. B. Googles?
c) Das Überleben eines Staates?
d) Das Überleben der Menschheit?
e) Das Überleben des gesamten Ökosystems (zu dem Menschen und Maschinen gehören!)?

Lieber Karl,

die „Aufgabe“, welche du uns gestellt hast, ist eine harte Nuss.

Gerdds Prämisse hat es nämlich in sich. Ich bin seiner Meinung, dass das „Anders“ eine Hauptrolle spielt, wenn wir uns über Superintelligenz unterhalten wollen. Niemand weiß heute jedoch, wie anders diese Superintelligenz sein wird. Ohne dieses Wissen ist deine Frage schwierig zu beantworten – aber wir können es ja wenigstens versuchen.

Der ideale Computer von heute ist immer in Topform, funktioniert im Rahmen seiner Möglichkeiten emotionslos und tut genau das, was wir von ihm wollen. Wird eine Superintelligenz vergleichbar rational funktionieren oder wird sie, da sie bei Bedarf auch empathisch „können“ soll, zusätzlich menschliche Verhaltensmuster beherrschen? Wäre das überhaupt wünschenswert? Würde diese Superintelligenz dadurch nicht weniger berechenbar, vielleicht sogar launisch?

Menschliches Handeln wird bestimmt durch das Zusammenspiel vieler Faktoren (Nervensystem, Hormone, Bewusstsein, Unterbewusstsein, Emotionen, körperliches Wohlbefinden, Krankheit usw.) Derselbe Mensch ist heute in Topform und daher belastbar, morgen müde und schlecht drauf, und übermorgen liegt er vielleicht krank im Bett.

Wäre eine Superintelligenz in der Lage, selbst völlig unberührt von kleinen oder größeren menschlichen Unzulänglichkeiten und Gefühlen perfekt zu funktionieren, aber trotzdem empathisch in der Zielsetzung zu handeln?

Gibt es überhaupt eine zielgerichtete Empathie, die man seinem Gegenüber entgegenbringt, ohne sie selbst zu empfinden? Wäre das vergleichbar mit einem Arzt, welcher seinem Patienten Mitgefühl entgegen bringt und ihn bestmöglich behandelt, aber nicht zwangsläufig mit jedem Kranken leidet???? (Mehrere Fragezeichen).

Nach diesen Vorbemerkungen jetzt zu deiner eigentlichen Frage:

Die entscheidende Frage deshalb wird es sein, welches "Überleben" eine Superintelligenz als Zielsetzung einprogrammiert bekommen hat oder sich selber setzt:
a) Das eigene Überleben?
b) Das Überleben einer Firma, z. B. Googles?
c) Das Überleben eines Staates?
d) Das Überleben der Menschheit?
e) Das Überleben des gesamten Ökosystems (zu dem Menschen und Maschinen gehören!)?

Wie Gerdd präferiere ich Antwort e , weil ich der Meinung bin, dass auch eine Superintelligenz bessere und komfortablere Überlebenschancen hat, wenn sie in ein gut funktionierendes Ökosystem eingebettet ist. (Ich sehe gerade, das entspricht im nächsten Abschnitt auch deiner Argumentation).

Wie es zu bewerkstelligen wäre, weiß ich auch nicht – aber das kann uns die Superintelligenz bestimmt selbst erklären.

Ich möchte aber einen Satz aus deinem Abschnitt gesondert betrachten: Die elementarste Zielsetzung aller lebenden Systeme ist "Überleben".

Das ist sicher richtig, wenn die Betonung auf „elementarste“ liegt. Wenn das Individuum oder ein System zwischen Leben und Tod wählen muss, wird es sich im Normalfall für das Leben entscheiden. Von daher stimme ich deiner Aussage zu.

Wird diese elementarste Zielsetzung aber nicht schon seit Jahrtausenden durch eine andere Zielsetzung überlagert, nämlich durch das Streben nach Einfluss und Macht? In Kriegen geht es dem Angreifer doch nicht ums Überleben, sondern um Macht, Einfluss, Bodenschätze, Religionskonflikte, ethnische Probleme oder was auch immer. Durch den Krieg gefährden die Angreifer das Überleben ihres Systems sogar, falls sie nämlich den Krieg verlieren.

Eine Superintelligenz, die das rational und kühl analysiert, müsste zwangsläufig zum Schluss kommen, dass Kriege sich nicht lohnen – unabhängig davon, ob sie Empathie empfinden kann oder nicht. Oder??

Wird es im Zeitalter der Vernetzung und des Internets der Dinge nicht notgedrungen (nur!) eine Super-Superintelligenz geben? Sobald eine Superintelligenz Zugriff auf das Internet hat, wächst damit explosionsartig ihr Wissen und ihre Macht. Sie könnte - um nur ein Beispiel zu nennen - Nachrichten besser und koordinierter manipulieren als das je ein Mensch zuvor gekonnt hätte - oder an der Börse erfolgreich spekulieren, erfolgreicher als jedes System zuvor.

Eine solche Super-Superintelligenz wäre ein Segen für die Menschheit – oder ein Fluch, je nachdem, welche Absichten sie verfolgen würde und auf Grund ihres Wissens und ihrer Macht Realität werden ließe.

Da meine eigene „Superintelligenz“ leider, leider noch sehr zu wünschen übrig lässt, kann ich die angeschnittenen Fragen und Themen nicht schlüssig beantworten – aber ich bemühe mich zumindest nach Kräften.

Zitat von Carlos1
Beim besten Willen kann ich bei den Klötzchen legenden Robos noch keine übermenschliche Intelligenz erkennen. Werden Roboter irgendwann Bewusstsein entwickeln? Ich meine eher nein. Woran könnten wir erkennen, wenn er Bewusstsein entwickelte wie ein Mensch. Mit Bewusstsein meine ich die Fähigkeit eigene Gedanken zu haben und diese an sich selbst beobachten und beschreiben und zeigen zu können, ohne dass sie einprogrammiert wären.
Nun, m. E. hat AplphaGo bewiesen, dass ein Computer Gedanken haben kann, die kein Programmierer je explizit einprogrammiert hat. Bei der Frage, ob Computer "Bewusstsein" entwickeln können, muss natürlich die Frage beantwortet werden, was Bewusstsein eigentlich ist und wie es zustande kommt.

Hmmm ... Ich habe keine Ahnung vom Programmieren, aber ist es nicht auch bei einem normalen Taschenrechner so, dass er Rechenvorgänge ausführt, die kein Programmierer jemals expliziert einprogrammiert hat? Die Vielfalt der Aufgaben, die beispielsweise ein Abiturient im Mathe-Leistungskurs seinem Taschenrechner abverlangt, kann ja auch nicht Aufgabe für Aufgabe eingegeben worden sein. Selbst ein simpler Taschenrechner muss aus einer Grund-Programmierung heraus in der Lage sein, jede beliebige Aufgabe zu lösen - im Rahmen dessen, wofür er programmiert wurde.

Ich schließe daraus nicht auf vorhandenes Bewusstsein, sondern auf eine effiziente Programmierung, die den Taschenrechner befähigt, aus grundsätzlichen Informationen heraus durch blitzschnelle, logische Rechenvorgänge auch kompliziertere Aufgaben zu lösen.

Warum sollte ein leistungsstarker Computer auf einem sehr viel höheren Level nicht ebenfalls dazu in der Lage sein --- mal ganz laienhaft gefragt.

Ich liege eher auf der Linie von Carlos, der sagt:

Es ist also viel leichter Rechenprozessoren mit mit immer größeren Rechenleistung zu konstruieren als urteilsfähige Computer zu bauen, die Einsichten gewinnen und diese Einsichten operationalisieren können. Es wird in absehbarer Zeit wohl autonome Krftfahrzeuge geben, aber keinen Rechner, der uns den besten Weg aus der Klimakatstrophe weisen wird. Es wird auch in absehbarer Zeit keinen superintelligenten Rechner geben, der für jede Krebsrerkrankung die Ursachen und die richtige Heilbehandlung erforschen kann.

Kriegführung und Zerstörung allerdings sind dagegen sehr viel weniger komplex. Das Ziel Menschen zu töten ist leichter zu verwirklichen als ihnen nachhaltig zu helfen.

Schmidt-Salomon: „Wir sind die Neandertaler der Zukunft“

Der Satz gefällt mir gut, denn auch wenn ich nicht weiß, wie die Entwicklung weiter gehen wird, bin ich davon überzeugt, DASS sie weitergehen wird, und dass der Mensch Teil der Entwicklung sein wird.

Eine gute Nacht wünscht Lalelu

@ Karl
Jetzt beim Aufwachen (noch im Halbschlaf) gehen mir folgende Gedanken durch den Kopf:
Kommen eine Handvoll Menschen zusammen, könnte man bestimmt noch von einem „Haufen“ sprechen?
Reden/Schreiben diese Menschen miteinander oder gibst Du jedem einen PC und ein Seniorentreff, werden sie zum System?
Ein solches System entwickelt eine Eigendynamik durch viele „negative“ und positive Rückkopplungen (eine „negative“ Rückkopplung ist hier mit Gleichgewicht identisch).
Wie wäre es denn, wenn dieses System dem mächtigsten Wirkprinzip „EVOLUTION“ ausgeliefert ist bzw. dessen Rückkopplungen?
Wir verstehen ja unter Evolution meistens nur eine biologische Evolution obwohl es miteinschließt eine „tote“ bzw. unbelebte Natur.
Das o.g. System „Mensch mit Computer“ ist rückgekoppelt durch Biologie PLUS Physik.
Da die Evolution kein Ziel kennt sondern nur eine Richtung, sollten wir da nicht bei dem Thema dieses threads besser von „Suche nach einer Richtung“ statt von einem Ziel sprechen?
Auf die Richtung kommt es an!
So wie das Wasser nur eine Richtung hat (oder besser von höherliegend nach tieferliegend) und kein Ziel, so ist das bestimmt auch bei „Mensch mit Computer“?

Achso, da fällt mir noch ein:
Ich kann mir vorstellen, daß Computer dann beginnen zu „denken“, wenn viele Supercomputer miteinander vernetzt sind (mithilfe der Menschen oder indem Computer selbständig andere Computer erschaffen) – eine einzelne Nervenzelle kann nicht denken, wieviele mußten es sein, damit unser menschliches Denken entstand?

Soweit mal, später mehr!
Ich bin jetzt wacher, lach.....

@ lalelu
später mehr zu Deinem Beitrag!

Gerdd

Hofstdter Interview
http://www.spiegel.de/spiegel/print/d-126717981.html

"SPIEGEL: In den deutschen Feuilletons gibt es eine heftige Debatte über das Verhältnis Mensch und Computer, die Stimmung ist düster, Menschen scheinen sich immer mehr vor Google und Apple zu fürchten. Sie aber bleiben optimistisch und glauben, der Mensch sei auf lange Sicht den Rechnern überlegen?

Hofstadter: Ich bin ein durch und durch materiell denkender Mensch, der überzeugt davon ist, dass die Welt von den Gesetzen der Physik regiert wird und dass auch das Gehirn nichts Mystisches ist. Folglich ist es theoretisch sicher möglich, das Gehirn auf hinreichend schnellen und großen Computern zu simulieren. Aber zu sagen, dass dies bald gelingen wird, ist etwas ganz anderes. Ich bin überzeugt davon, dass die Leute derzeit in die völlig falsche Richtung marschieren. Google, Apple und Co. sind große Unternehmen, die von Profitdenken getrieben sind. Und um Profite zu machen, reicht es, Programme zu schreiben, die aussehen, als ob sie etwas verstünden, obwohl sie überhaupt nichts verstehen.

SPIEGEL: Wenn wir zum Beispiel den IBM-Computer "Watson" betrachten, der 2011 im US-Fernsehquiz "Jeopardy" menschliche Champions besiegt hat ...

Hofstadter: Ja, das ist ein sehr gutes Beispiel. Ich bin damals zusammen mit David Ferrucci, einem der Entwickler von Watson, zu einer Radioshow eingeladen worden. Ich kann mich noch gut entsinnen, wie fassungslos ich war, als er allen Ernstes behauptete, Watson habe all die Bücher, mit denen er gefüttert wurde, "gelesen". Genauso gut hätte Ferrucci behaupten können, ein Fleischwolf esse Fleisch. Die Leute so an der Nase herumzuführen ist unaufrichtig und kontraproduktiv.

SPIEGEL: Was muss geschehen, damit aus dem Verarbeiten von Text wirkliches Lesen wird?

Hofstadter: Genau davon handelt die Forschung, die ich hier in Bloomington seit Jahrzehnten betreibe. Wobei unser Ziel nicht darin besteht, Computer intelligent zu machen. Das wäre viel zu schwierig. Wir wollen die fundamentalen Prinzipien des Denkens verstehen.

SPIEGEL: Aber die IT-Industrie interessiert sich nicht dafür?

Hofstadter: Mit den meisten Leuten dort ist eine Verständigung unmöglich. Ihre Ziele unterscheiden sich so radikal von den meinen, dass es ist, als kämen wir von verschiedenen Planeten.

SPIEGEL:Wie weit ist es Ihnen bereits gelungen, auf Ihren Computern echtes Verständnis und echte Einsichten zu programmieren?

Hofstadter: Erlauben Sie mir zunächst noch ein Beispiel: Der Schachcomputer "Deep Blue", ein Vorgänger von "Watson", ist 1997 gegen den damaligen Schachweltmeister Garri Kasparow angetreten. Das System ging als Sieger aus der Partie hervor, weil es mit brachialer Rechenkraft Abermillionen Stellungen pro Sekunde im Voraus berechnete. Mit der Art, mit der Kasparow Schach spielt, hat das allerdings überhaupt nichts zu tun. Nun stellen Sie sich dagegen einen Computer vor, der Analogien herstellt, genau wie Kasparow es tut: Er sieht eine Gefahr auf dem rechten Flügel, er erkennt einen Bauern als Schwachpunkt seiner Stellung, er denkt darüber nach, wie er das Brett kontrollieren kann. Bisher gibt es keinen Computer, der so etwas könnte, und einen solchen zu bauen ist viel schwieriger, als immer noch schnellere Prozessoren und noch größere Speicher zu bauen. Nun aber Ihre Frage: Haben wir Programme geschrieben, die Einsichten haben? Nun, ich würde sagen: in sehr, sehr eingeschränkter Form schon.

von mir fettgedruckt

Carlos danke für das Interview. Ich habe kaum Fachwissen, was das Thema betrifft, aber es interessiert mich trotzdem sehr. Ich habe mir deshalb schon viele Sendungen, Vorträge, über das Thema angesehen, angehört und einiges gelesen. Daraus hat sich ein gewisses Grundwissen, ein Verständnis für die Thematik entwickelt, auch wenn ich es nicht, fachlich, präzise rüberbringen kann.

Das was Hofstadter in dem Interview sagt, entspricht genau dem was ich über das Thema denke u. gelernt habe. Er hat alles so verständlich erklärt, vorallem an Hand von Beispielen, dass man auch als Laie die Materie, die Thematik, Ziel u. Zweck, gut verstehen kann.
Tina

Diese Maschinen wird es geben. Die Frage aber nach der Superintelligenz (Supercomputer, Superhirn) wird hier m. E. verengt auf die schnell zugreifende Verfügbarkeit über Informationen, die weltweit in der Cloud vorhanden sind, nicht eigentlich auf einen in Zukunft technologisch ausgefeilten Supercomputer, der, wenn er auch nicht alle Probleme schnell in den Griff bekommt, doch Informationen bereitstellt, diese im Hinblick auf intelligente, politisch, gesellschaftlich, moralisch notwendige Fragestellungen hin überprüft und in Expertisen entscheidende Weichenstellungen vornimmt.

Die Vorstellung von Google als Realisator von Menschheitszielen, wie Karl sie vorgegeben hat, ist aber ganz anders strukturiert.



Diese Ziele, auf deren Ausrichtung und Verarbeitung bei Superintelligenten Maschinen zu achten wäre, sind m. E. in der Gesamtheit nur erreichbar wenn Ziel e) primär an der Spitze der Wertehierarchie steht. In diesem Punkt sind also auch andere Ziele ebenfalls mit erfasst.

Dies Ziel e) müsste m. E. als oberste Zielsetzung kontrollierbar bei Superhirnen (wie sie auch durch Vernetzung von vielen Supercomputern möglich wäre und das Arbeitsprinzip von Google darstellt) installiert sein. Von selbst wird jedoch kein Superhirn auf die Idee kommen das komplexe Wirkungsgefüge von toter und lebender Materie in einem Ökosystem, dessen Bewohner wir sind, in dem die Evolution uns hervorgebracht hat, und von dem wir abhängen. Die Zerstörung der Ökosysteme wäre das Ende des Menschen.

Es wird bei Beachtung dieser Zielsetzungen immer zu Zielkonflikten kommen müssen. Wenn der Staat Menschenleben in einem militärischen Konflikt/internationalem Polizeiseinsatz opfert, kann die Würde des Menschen verletzt werden, wozu auch dessen seelische und körperliche Unversehrtheit gehört. Die Interessen des Staates und großer ökonomischer Einheiten (international operierende KOnzerne wie Google) haben ökonomische Interessen, die im Einzelfall den Interessen von Individuen in einem Land entsprechen im andern nicht. Google-Interessen sind nicht a priori staatliche Interessen.

Das Problem der internationalen Gerechtigkeit kann von einem Superhirn wohl auch nur nach Vorprogrammierung gerecht gelöst werden, nicht durch Empathie oder Emotion (Hass, Heimatliebe) allein.

Das Zusammenschalten von vielen Computern (auch Supercomputern) wird zunächst einmal nur eine gigantische Informationsflut als Resultat erbringen. Diese Informationsflut zu ordnen, wäre Aufgabe weiterer Superhirne. Trotz vieler und der besten Superrechner von heute ergibt die Klimaforschung und deren Voraussagen aber bei weitem noch nicht exakte Ergebnisse, es sind Hinweise auf mögliche Rückkoppelungen mit Verstärkereffekten (z. B. Methanfreisetzung in Permafrostböden, Abschmelzen der Eimassen an den Polkappen, Veränderungen der Meeresströmungen). Die Änderungen der Solarkonstanten kann nicht einmal vorhergesagt werden. Sie kann sich ändern, womikt alle Prognosen ungültig sind.

Es gibt ein besorgniserregendes Artensterben, das eher mit Achselzucken zur Kenntnis genommen wird. Das Ökosystem verändert sich rapide und wir werden in diesem Jahrhundert mit Klimaflüchtlingen (hat schon begonnen in Afrika) rechnen müssen. Staaten werden durch den steigenden Meeresspiegel verschwinden. Darauf zu warten, dass unsere Superintelligenzcomputer die Krisen nicht nur vorhersagen sondern auch lösen, während wir unsere Jugend zu Tastenklimperern verkommen lassen, erscheint mir abstrus. Wer die Evolutionsbiologie ernst nimmt, weiß, dass das Leben auf der Erde weitergehen wird, wenn je der Mensch durch seine eigenen Fehler verschwindet. Aber bevor er verschwindet (wenn überhaupt) wird seine Zivilisation zuerst verschwinden und mit ihr die Staaten. Dann stünden irgendwo verlassen die hochentwickelten Elektronengehirne in Trümmern herum. Gerdds Bild vom Neandertaler passt in den Zusammenhang

Der Begriff Superhirn ist eigentlich ein Euphemismus. Das menschliche Gehirn verändert sich auch durch die Tätigkeiten und bevorzugte Liebhabereien (Plastizität des Gehirns) immer. Geistige Tätigkeit lässt bestimmte Hirnregionen in besonderem Maße "wachsen" (sogar am Gewicht feststellbar). Werden die super-superintelligenten Elektronengehirne ebenfalls über diese Art von Plastizität verfügen? Wie soll das technisch machbar sein? Wird sich diese Supermaschinenintelligenz wenn sie je Emotionen entwickelt auch Liebe gar und einen intrinsischen Fortpflanzungsdrang verspüren ohne dass er programmiert wäre? Das setzt die künstliche Intelligenz (KI) implizit voraus. Empathie und Emotion ist nicht immer präsent, kann mal mehr oder minder auftreten. Aber gar nicht auftreten? Geht auch. Wo bleiben Emotionen wie Empathie, wenn der Bildschirm das Leben eines Jugendlichen prägt? Dessen Gehirnregionen sehen durch eine andere Vernetzung womöglich anders aus als bei Jugendlichen, die in der Vergangenheit mehr Kontakt mit der Natur und Mensch hatten. Das Internet und der Gebrauch der Medien verändert uns seelisch uind körperlich. Damit ändert sich das gesellschaftliche Klima und die Politik.

Wenn es um technische Realitäten geht, so wird in den Beiträgen vom biologischen Hirn, das Bewusstsein generiert gesprochen oder es seien physikalische Vorgänge im Hirn, die uns die Welt zeigen, wie wir sie kennen. Es wird aber nicht getrennt zwischen physikalischen Informationen, die das Gehirn erreichen (z. B. Licht bestimmter Wellenlänge und den elektrischen Strömen in den Neuronen. Die Sehzellen senden elektrische Signale an das Sehzentrum. Wir sehen aber nicht Lichtblitze, sondern Bilder. Das Gehirn arbeitet mit Hologrammen.

Wir müssen also trennen zwischen physikalischen Vorgängen und mentalen (holistischen Repräsentationen). Wie erfolgt nun also die Informationsverarbeitung im Hirn und wie in der Maschine? Ich weiß es nicht. Der Sprung von den elektrischen Stromstößen (physikalischer Vorgang) an den Synapsen und in den Neuronen und der Repräsentation (mental), die wir sehen, ist groß. Es wird auch wohl kein Bild abgespeichert, das wir dann erinnernd betrachten (u. U. mit Emotionen), nachdem wir es aus dem "Speicher" geholt haben. Wie physisch ist das Bewusstsein also?

Emotionen haben wir. Haben wir sie aber immer? Wohl eher in wechselnder Stärke und manchmal gar nicht. Wie soll diese Ziele alle von einer Maschine mit ihren Verdrahtungen und Schaltungen und Speicher bewältigt werden? Reicht die Architektur eines Über-Computers aus, auch wenn er mit vielen anderen Rechnern zusammen geschaltet ist, um die Leistung des menschlichen Hirns zu übertreffen? Wir stehen erst am Anfang einer technischen Entwicklung.


Danke an alle Mitdiskutanten.
c.

Dann verweise ich hier einmal, weil es passt, auf frühere Diskussionen im ST über Bücher von Hofstadter, von denen ich ziemlich begeistert bin.

1. Zu Gödel, Escher Bach

2. Zu 'The Mind's I: Fantasies And Reflections On Self & Soul: Fantasies and Reflections on Self and Soul'



Karl

Danke Karl. Ich werde mich bei deinen genannten Quellen mal durchlesen.
Tina

Die Gefahr, die von Superhirnen ausgehen kann:

- Da sie ja zuerst von "normalen Menschenhirnen" erfunden und programmiert werden, werden sie nach Bedarf programmiert.

- Ein humaner Mensch wird sie so programmieren, dass sie dem Menschen UND der Natur dienen.

- Ein böser Mensch wird sie so programmieren, dass sie IHM dienen.

- Es wird also zwangsläufig zu einem Kampf der Superhirne kommen.

- Ebenso zwangsläufig wird der Mensch und die Natur darunter leiden müssen. Das könnte bis zur Ausrottung führen.

- Trost: Wenn der Mensch sich - und damit alle anderen "Höheren Lebewesen" - ausgerottet hat, kann die Evolution von Neuem beginnen.

Meiner Ansicht nach ist in der Argumentation von Hofstadter ein gewaltiger Schwachpunkt.

Hofstadter: Erlauben Sie mir zunächst noch ein Beispiel: Der Schachcomputer "Deep Blue", ein Vorgänger von "Watson", ist 1997 gegen den damaligen Schachweltmeister Garri Kasparow angetreten. Das System ging als Sieger aus der Partie hervor, weil es mit brachialer Rechenkraft Abermillionen Stellungen pro Sekunde im Voraus berechnete. Mit der Art, mit der Kasparow Schach spielt, hat das allerdings überhaupt nichts zu tun. Nun stellen Sie sich dagegen einen Computer vor, der Analogien herstellt, genau wie Kasparow es tut: Er sieht eine Gefahr auf dem rechten Flügel, er erkennt einen Bauern als Schwachpunkt seiner Stellung, er denkt darüber nach, wie er das Brett kontrollieren kann. Bisher gibt es keinen Computer, der so etwas könnte, und einen solchen zu bauen ist viel schwieriger, als immer noch schnellere Prozessoren und noch größere Speicher zu bauen. Nun aber Ihre Frage: Haben wir Programme geschrieben, die Einsichten haben? Nun, ich würde sagen: in sehr, sehr eingeschränkter Form schon.

Das klingt auf den ersten Blick logisch, doch er hat einen wichtigen Schritt weggelassen. Wie kommt Kasparow zu der Erkenntnis, daß der rechte Flügel in Gefahr ist? Die Erkenntnis entsteht ja nicht aus dem Nichts, sondern daraus, daß er eine bestimmte Folge von Zügen im Voraus denkt und die daraus resultierende Gefahr abschätzt. Natürlich spielt auch eine Menge Erfahrung dabei mit, die ihn manche Züge von vornherein ausschließen läßt, weil sie ohne Not Figuren in Gefahr bringen. Doch meines Wissens nach werden bei Schachprogrammen ebenfalls solche Züge verworfen und nicht in allen Konsequenzen durchgerechnet.

Dieser Absatz im Interview ist meiner Ansicht nach sehr einseitig, weil er behauptet, daß das Schachprogramm strunzdumm alle Möglichkeiten durchrechnet, während ein Mensch aus welchem Grund auch immer Züge nur selektiv durchdenkt. Und das glaube ich nicht ....

Vielleicht liegt es auch nur daran, daß ich "Gödel, Escher, Bach" zum Einschlafen langweilig fand.

det

@ carlos1

Ganz herzlichen Dank carlos1
Ich habe mir die 3 Seiten ausgedruckt, um sie noch intensiver zu inhalieren!
hzl Gerdd

@ lalelu

„Würde diese Superintelligenz dadurch nicht weniger berechenbar, vielleicht sogar launisch?“

Ich denke, mit ein bißchen „launisch“ müßten wir rechnen, weil jedes System in seiner Eigendynamik einen kleinen „Schlingerkurs“ fährt, das gehört zu seiner Rückkopplung.

„Gibt es überhaupt eine zielgerichtete Empathie, die man seinem Gegenüber entgegenbringt, ohne sie selbst zu empfinden? Wäre das vergleichbar mit einem Arzt, welcher seinem Patienten Mitgefühl entgegen bringt und ihn bestmöglich behandelt, aber nicht zwangsläufig mit jedem Kranken leidet???? (Mehrere Fragezeichen). „

Das wäre vielleicht sogar wünschenswert!?

„Antwort e , weil ich der Meinung bin, dass auch eine Superintelligenz bessere und komfortablere Überlebenschancen hat, wenn sie in ein gut funktionierendes Ökosystem eingebettet ist.“

Superintelligenz und Ökosystem wären in die Rückkopplungen der Evolution eingeflochten und gingen damit in eine gemeinsame Richtung (Der Weg ist das Ziel!).

„Eine Superintelligenz, die das rational und kühl analysiert, müsste zwangsläufig zum Schluss kommen, dass Kriege sich nicht lohnen – unabhängig davon, ob sie Empathie empfinden kann oder nicht. Oder?? „

Gefällt mir sehr!

„Hmmm ... Ich habe keine Ahnung vom Programmieren, aber ist es nicht auch bei einem normalen Taschenrechner so, dass er Rechenvorgänge ausführt, die kein Programmierer jemals expliziert einprogrammiert hat? „

Ein Gehirn ist kein Computer. Wir könnten aber eine passende Anzahl gleicher Eigenschaften von Gehirn und Computer vergleichen. Um vergleichbar zu sein, bedarf es weder zu wenige noch zu viele gleiche Merkmale.
Das Gehirn baut sich selbst, je nachdem es verwendet wird. Bei Nichtgebrauch verkümmert es aber auch.
Unser Bewußtsein beruht auf Information. Die braucht einen materiellen Träger, den wir als Nervensystem bezeichnen. Wenn unser Gehirn stirbt, verschwinden mit ihm unser Bewußtsein, Erinnerungen und Verhaltensweisen, Geist und Seele.

Der Hirnforscher Wolf Singer sagt: „Es zeigt sich mehr und mehr, daß das Verhalten der Menschen, ihre Persönlichkeit und ihre Individualität allein auf dem Zusammenspiel der Nervenzellen im Gehirn beruht.“

Egal, was man glaubt, in unserem Kopf steckt ein komplexes, vernetztes und extrem rückgekoppeltes System.
In Teilen vergleichbar mit einem Super-Supercomputer!?

Hzl Gerdd