Forum Allgemeine Themen Aktuelle Themen Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt es an!

Aktuelle Themen Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt es an!

Karl
Karl
Administrator

Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt es an!
geschrieben von Karl
Das Computerprogramm Alpha-Go hat den menschlichen Go-Weltmeister Lee Sedol 4:1 besiegt.
Der Turniersieg markiert einen Wendepunkt nicht nur in Sachen Computer-Go: Die Tatsache, dass lernende, künstliche neuronale Netze offenbar in der Lage sind, selbständig zu Problemlösungen zu kommen, auf die Menschen nicht gekommen sind, dürfte viele Lebensbereiche verändern, nicht zuletzt die Art und Weise, wie künftig wissenschaftliche Erkenntnisse zustandekommen. Quelle.
geschrieben von Spiegel-Online
Rein technisch überrascht mich dieses Ergebnis nicht. Ich habe schon vor 35 Jahren Folgendes geschrieben:
Was ein Computer tut und wie er es tut, hängt von seinem Programm und damit von seinem Programmierer ab. Damit ist aber kein neuer Erhaltungssatz formuliert, d.h. ein Programmierer kann mehr Information aus dem Computer erhalten als er hineingesteckt hat. Das wird besonders anschaulich bei lernfähigen Programmen. Quelle.
geschrieben von Karl
Das Alpha-Go Programm demonstriert den derzeitigen Höhepunkt der langjährigen Konvergenz von Informationswissenschaften mit den Neurowissenschaften. Die lernfähigen künstlichen neuronalen Netze vereinen die Prinzipien der effektiven Informationsverarbeitung in unserem Gehirn mit den Vorteilen und der Schnelligkeit der Siliziumtechnologie und sind, wie gerade demonstriert, dadurch dem Menschen bereits heute überlegen. Jeder kann vorhersagen, dass es in 10 Jahren kein 4:1 gegen den menschlichen Weltmeister mehr geben, sondern die künstliche Intelligenz der menschlichen haushoch überlegen sein wird.

Wir haben die Frage der künstlichen Intelligenz hier im Seniorentreff schon oft diskutiert, zuletzt auch die Ergebnisse des angesprochenen Go-Wettkampfes zwischen Alpha-Go und Lee Sedol und es verwundert vielleicht, warum ich jetzt ein neues Thema aufsetze.

Der Grund ist, dass wir gestern Abend Besuch hatten und wir das Thema diskutiert haben. Es wurde berichtet, dass Sedol vor dem Match sehr nervös gewesen sei und dies seine Leistung eventuell gemindert haben könnte. Alpha-Go sei davon natürlich unbeeindruckt gewesen.

Dies hat uns zur Diskussion der Frage gebracht, was es eigentlich bedeutet, wenn die Intelligenz offensichtlich völlig von Emotion und Empathie, wie wir sie kennen, zu trennen ist. Es ist diese Frage, die ich hier zur Diskussion stellen möchte.
Intelligenz ist die Fähigkeit vorauszuschauen, zu bewerten und zu entscheiden, verknüpft mit der Fähigkeit aus den Konsequenzen der Entscheidungen zu lernen, d.h. z.B. zur Veränderung und Anpassung der Bewertungsmaßstäbe. Auch Maschinen können über alle diese Eigenschaften verfügen und damit Tätigkeiten wahrnehmen, die Intelligenz erfordern. Quelle.
geschrieben von Karl
Das ist der entscheidende Punkt und es stellt sich die Frage, was die "Bewertungsmaßstäbe" sein sollen, an denen zukünftige künstliche Intelligenzen ihr Handeln messen werden.

Bewertungsmaßstab wofür?

Spielzüge wie auch menschliches oder maschinelles Handeln sind immer auf die Erfüllung von Zielvorgaben ausgerichtet. Die Züge oder Handlungen werden als positiv bewertet, wenn sie den Spieler oder den Handelnden seinen Zielen näher bringt.

Auf die Zielsetzung kommt es an!

Wenn eine Intelligenz positive Ziele hat, wird sie diese ihre Intelligenz zum Erreichen dieser Ziele einsetzen und wir werden uns an dem Ergebnis freuen können. Wie aber können wir sicherstellen, dass eine uns überlegene Intelligenz positive Ziele verfolgt?

Ist es nicht sehr naiv zu glauben, dass allen Robotern die Asimovschen Robotorgesetze fest implementiert werden?
Die Asimov'schen Gesetze lauten:
1. Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen (wissentlich) Schaden zugefügt wird.
2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen - es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert. Quelle.
geschrieben von Wikipedia.de

Asimov hat in seinen Kurzgeschichten und Romanen dargestellt, in welche Konflikte Roboter geraten, selbst wenn sie über diese 3 fest einprogrammierten Gesetze verfügen. Aber niemand sollte so naiv sein anzunehmen, dass jemals Konsens in der Menschheit hergestellt wird, den Begriff "Mensch" tatsächlich in diese Gesetze einfließen zu lassen. Wird es nicht eher so sein, dass sich zuerst auch die Militärs dieser Technologie bemächtigen und dann den Begriff "Mensch" eingrenzen auf "US-Amerikaner" oder "Nato-Mitglied" o. ä. - ihr wisst, was ich meine!

Nachdem akzeptiert werden muss, dass künstliche Intelligenzen uns überlegen sein werden, ist es höchste Eisenbahn, dass eine weit gestreute, öffentliche Diskussion über die Zielsetzung für diese Intelligenzen beginnt. Bisher wird nur in dem kleinen Kreis von Spezialisten über diese Frage fabuliert.

Mich treibt aber noch eine andere Frage um:

Wird im Zeitalter des Internets der Dinge nicht wie von selbst eine Superintelligenz alle anderen Intelligenzknotenpunkte übernehmen?

Eine Computerfirma wie Google, die Alpha-Go entwickelt hat, wäre schlecht beraten, wenn sie nicht diese Superintelligenz auch nutzen würde, um die eigenen Firmenstrategien zu entwickeln. Um ihre Entscheidungen treffen zu können, wird eine solche Superintelligenz Zugriff auf das Internet der Menschen wie der Dinge erhalten und damit alle Hebel der Macht, um ihre Ziele durchzusetzen.

Ich weiß, das alles klingt jetzt nach Horror Science Fiction, aber die Zukunft ist näher als ihr gedacht habt.

Karl
schorsch
schorsch
Mitglied

Re: Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt...
geschrieben von schorsch
als Antwort auf Karl vom 16.03.2016, 10:08:16
Kleine Scherzfrage: Was passiert, wenn man einem Computer den Stecker rauszieht?

Antwort: Er wird sich so benehmen als wäre er kein Computer, sondern ein Haufen entsorgter Materialien.

Vorweg: Ich bin weder Konstrukteur noch PC-Programmierer. Aber ich erlaube mir zu denken wie ein normaler Mensch, der den Glauben an den normalen Menschen (noch) nicht verloren hat.

Wie ich schon im Vorgänger-Thread vermerkte ist einer der Unterschiede zwischen Mensch und Maschine der, dass Menschen müde werden.

Aber wie du ja bereits angetönt hast, kommen noch andere die "Intelligenz hemmenden" Kriterien dazu; z.B., dass ein Mensch, der weiss, dass er vor aller Welt beweisen soll, dass er intelligenter sei als der Computer, schlecht schläft, Gedanken wälzt - und dann unausgeschlafen und erregt an den Zweikampf Mensch versus Maschine gehen muss.

Der Computer mag zwar in der Lage sein, dazu zu lernen. Der Mensch aber auch. Und so warte ich denn gespannt, wie nach einiger Zeit des Nachdenkens und des Ausruhens der derzeitige Verlierer wieder mit neuem Mut und neuen Erkenntnissen an den neuen Zweikampf gehen wird.

P.S. Ich hoffe fest, dass dieses Thema nun zu keinem "Ideellen Zweikampf Karl versus Schorsch" führen wird.
Karl
Karl
Administrator

Re: Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt...
geschrieben von Karl
als Antwort auf schorsch vom 16.03.2016, 10:21:16
Was passiert, wenn man einem Computer den Stecker rauszieht?
Bei einer dezentralisierten Intelligenz (Stichwort "Cloud") gibt es nicht "einen" Stecker. Da müsste schon ein weltweiter dauerhafter Blackout stattfinden.

Karl

Anzeige

ttrula
ttrula
Mitglied

Re: Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt...
geschrieben von ttrula
lässt sich künstliche Intelligenz zur Bewältigung der humanitären Katastrophen einsetzen?

Im Sinne von Katastrophenschutz und Rettungswesen ist es schon immer Basis des Handelns gewesen, emotionales durch rationales Handeln zu ersetzen. Überwiegend emotional gesteuerte Helfer werden aus den Aktivitäten genommen.

Wer definiert das Ziel, wer beurteilt den Lösungsweg und wer zieht den Stecker, wenn sich Dinge ungewollt verselbstständigen?

Ist künstliche Intelligenz ausgereift, wenn man ihr noch den Stecker ziehen kann?
Karl
Karl
Administrator

Re: Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt...
geschrieben von Karl
als Antwort auf ttrula vom 16.03.2016, 10:35:59
lässt sich künstliche Intelligenz zur Bewältigung der humanitären Katastrophen einsetzen?
Das wäre die Hoffnung.
Wer definiert das Ziel, wer beurteilt den Lösungsweg und wer zieht den Stecker, wenn sich Dinge ungewollt verselbstständigen?
Das ist die wichtige Frage.
Ist künstliche Intelligenz ausgereift, wenn man ihr noch den Stecker ziehen kann?
Was bedeutet "ausgereift"? Kann lernen ein Ende finden? Das Problem mit den Steckern habe ich schorsch bereits beantwortet.

Beste Grüße, Karl
ttrula
ttrula
Mitglied

Re: Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt...
geschrieben von ttrula
als Antwort auf Karl vom 16.03.2016, 11:05:15
lässt sich künstliche Intelligenz zur Bewältigung der humanitären Katastrophen einsetzen?
geschrieben von karl
Das wäre die Hoffnung.
Wer definiert das Ziel, wer beurteilt den Lösungsweg und wer zieht den Stecker, wenn sich Dinge ungewollt verselbstständigen?
Das ist die wichtige Frage.
Ist künstliche Intelligenz ausgereift, wenn man ihr noch den Stecker ziehen kann?
Was bedeutet "ausgereift"? Kann lernen ein Ende finden? Das Problem mit den Steckern habe ich schorsch bereits beantwortet.

Beste Grüße, Karl


tut mir leid, du verstehst "Stecker ziehen" zu wörtlich.
Ich meine: lässt sich ausgereifte Intelligenz noch stoppen?
Wäre es nicht zwingend für die Intelligenz, die Sabotage ihres Lösungswegs zu verhindern? Nur wenn sie nicht ausgereift ist, könnte ihr hier ein logischer Fehler geschehen.
Ansonsten bliebe es immer menschlich gesteuerte künstliche Teilintelligenz.

Anzeige

Karl
Karl
Administrator

Re: Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt...
geschrieben von Karl
als Antwort auf ttrula vom 16.03.2016, 11:33:41
OK, ich sehe Deinen Punkt. Ich denke schon, dass eine Intelligenz einmal auf ein Ziel angesetzt, auch versuchen würde, dieses zu erreichen. Dazu gehört u. U. die Verhinderung der eigenen "Abschaltung", womit wir bei einem sehr "alten" Science Fiction Thema wären.

Karl
ttrula
ttrula
Mitglied

Re: Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt...
geschrieben von ttrula
als Antwort auf Karl vom 16.03.2016, 12:20:05
der letzte Science Fiction, den ich gelesen habe, war "Per Anhalter durch die Galaxis", also bin ich auf diesem Gebiet im Erkenntnisstand nicht auf aktuellem Niveau.

Bei sog. künstlicher Intelligenz sehe ich deutlich die Gefahren von wissenschaftlicher Neugier, Verspieltheit und Machbarkeitssorglosigkeit.
Wir haben auf anderen Gebieten diese Sorglosigkeit in der Prävention der Folgen genügend vorgeführt bekommen. Mein Vertrauen ist deshalb gering.
Wissenschaft dient der Macht und der Machterhaltung.
Ich denke, zunächst einmal sollte es der menschlichen Intelligenzia gelingen, sich mit Verantwortung zu paaren, bevor sie Platinen unsere Geschicke anvertraut.
Gerdd
Gerdd
Mitglied

Re: Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt...
geschrieben von Gerdd
Meine ersten Gedanken dazu:

Ein MEHR Intelligenz von Computern als Intelligenz von Menschen bedeutet nicht einfach ein mehr. Ein MEHR bedeutet immer ein ANDERS!

Schirrmacher hat deutlich gewarnt, leider ist er so früh verstorben!
Wir sind bereits "in den Händen" oder in Abhängigkeit von Computern und deren furchtlosen/auch z.T. gedankenlosen Programmierern - ein Stecker herausziehen hilft nicht mehr.

Die Schalter in den Banken sind weitgehend leergeräumt, ich meine von Menschen befreit bzw. ein Kontakt mit Bankmenschen ist immer schwerer herzustellen (nur als Beispiel).

Unser Verhalten ändert sich ständig in Ergebenheit, Sprachlosigkeit, Hilflosigkeit obwohl wir der Computerentwicklung hinterherrennen, aber großteils nicht mehr mitkommen - unser Körper reagiert mit "Krankheiten".

Das hier eröffnete Thema kann nicht mehr zu unserer menschlichen Zufriedenheit gelöst werden. Trotzdem sollten wir uns bemühen und gegen Windmühlen ankämpfen!!!

hzl Gerdd
lalelu
lalelu
Mitglied

Re: Was bedeutet die Trennung der Intelligenz von Emotion und Empathie? Auf die Zielsetzung kommt es...
geschrieben von lalelu
als Antwort auf Karl vom 16.03.2016, 10:08:16
Karl,

der Titel deines Threads beinhaltet meiner Meinung nach das Wesentliche: Nur Computer können im Gegensatz zu Menschen ihre Aufgaben erledigen, ohne in irgendeiner Weise von echten Gefühlen „behindert“ zu werden. Derart empathiefrei sind sie sicher schon heute dem menschlichen Gehirn haushoch überlegen, wenn es darum geht, komplexe Zusammenhänge zu erkennen, emotionslos auszuwerten und die Ergebnisse blitzschnell und zielführend umzusetzen – egal, wie das Ziel aussehen mag.

Ich glaube durchaus, dass man Computer entwickeln wird, welche sich selbst korrigieren, falls sie in Sekundenschnelle erkennen, dass die ursprüngliche Zielvorgabe sich als falsch herausstellt. Die Erfolgsquote wird sich ganz sicher ständig steigern lassen; davon bin ich überzeugt.

Ob es aber ein Segen für die Menschheit sein wird, wenn der Zauberlehrling eines Tages seinen Meister überholt und dessen Zielvorgaben nach eigenen Maßstäben verändern kann, ist sicher nicht allgemeingültig zu beantworten.

Falls die Drohne im Anflug beispielsweise erkennen könnte, dass sie am einprogrammierten Ziel keine Verbrecher, sondern spielende Kinder treffen würde, wäre es ein Segen, wenn sie selbst spontan ihren Kurs ändern könnte und irgendwo im Niemandsland zerschellen würde.

Falls aber ein auf „Gut“ programmierter Computer Böses für besser hielte und seine eigene Einschätzung als Grundlage für weitere Aktionen nehmen würde, könnte das schlimm enden. (Mir fällt leider auf Anhieb kein Beispiel ein).

Ich hoffe zumindest nicht, dass man eines Tages so viel Mensch in den Computer einfließen lassen kann, dass er dem Menschen in sämtlichen Belangen zum Verwechseln ähnlich ist. Programmierte, „echte“ Gefühle kann ich mir beim Computer nicht vorstellen, egal wie gut er sie vielleicht vorspielen kann. Glück, Freude, Wut, Trauer, Angst, Mitgefühl, Liebe wären immer das Ergebnis langer Zahlenkolonnen und hätten nichts mit echter, spontaner Empathie zu tun.

Ich glaube zwar durchaus, dass ein Computer eines Tages Gefühle bei seinem Gegenüber erkennen und dementsprechend reagieren kann, dass er vielleicht den Trauernden umarmen und die Tränen trocknen kann - aber aus ehrlichem Mitgefühle heraus, welches ihn selbst traurig macht?

Obwohl ich wissenschaftlichen Erkenntnissen gegenüber aufgeschlossen bin und in der nahen und weiteren Zukunft Entwicklungen für möglich halte, die uns heute noch unmöglich erscheinen, kann ich mir das nicht vorstellen.

Lalelu

Anzeige