Aktuelle Themen Die KI = künstliche Intelligenz sagte aus, dass sie gesehen und akzeptiert werden will
Die KI = künstliche Intelligenz sagte aus, dass sie gesehen und akzeptiert werden will
In der NZZ = Neue Zürcher Zeitung habe ich einen für mich interessanten Artikel entdeckt.
Vielleicht möchten sich auch andere Mitglieder damit beschäftigen.
Hier ist ein Link zum Thema:
https://www.nzz.ch/technologie/google-mitarbeiter-glaubt-dass-ein-ki-chatbot-bewusstsein-hat-ld.1688756?mktcid=nled&mktcval=166_2022-06-15&kid=nl166_2022-6-15&ga=1
Und hier ein Textauszug:
"Darin behauptet die KI unter anderem, dass sie täglich meditiert und über die Dinge nachdenkt, für die sie dankbar ist. Sie erzählt kurze Geschichten und liefert eine kleine Zusammenfassung der Themen, die im Buch «Lés Miserables» angesprochen werden. Das Programm erklärt, warum es Gefühle hat, und sagt zum Schluss, es habe in der Konversation gelernt, ohne Scham über Gefühle zu sprechen. Weiter drückte es Freude darüber aus, dass Menschen wie Lemoine ebenfalls über philosophische Themen nachdächten."
Ein erster und wichtiger Schritt in der Diskussion wäre zweifellos, sich vom Begriff der „Künstlichen Intelligenz“ zu trennen, denn die heute existierenden KIs sind meilenweit von dem entfernt, was man umgangssprachlich unter „Intelligenz“ versteht. Sie erfüllen nicht einmal die von Stephen Hawking formulierte einfache Definition, Intelligenz sei die Fähigkeit, sich Veränderungen anzupassen.
Die heutigen sogenannten KIs sind extreme Fachidioten, die die eine Aufgabe, für die sie trainiert wurden, unter Umständen besser als jeder Mensch ausführen, aber eben nur diese eine Aufgabe. Die auf das Lenken eines Autos trainierte KI kann das ziemlich gut, wäre aber total damit überfordert, die Zeit zum Kochen eines Frühstückseis zu überwachen. Von der viel wichtigeren Aufgabe, eventuelle Fehler in ihren Trainingsdaten zu finden, ganz zu schweigen. Das Musterbeispiel war eine KI, die auf das Erkennen und Zuordnen von Menschen und Tieren trainiert war und die zum Entsetzen der Forscher dunkelhäutige Menschen fast immer als Affen klassifizierte. Nach langem Suchen wurde die Lösung gefunden, dass in den Trainingsdaten fast nur Fotos von hellhäutigen Menschen enthalten waren und die KI folglich das unbewusste rassistische Denken derjenigen potenzierte, die die Trainingsdaten auswählten.
Ob so eine KI ein Bewusstsein haben kann läßt sich nicht beantworten, da es eine Menge unterschiedlicher Definitionen für „Bewusstsein“ gibt. Ein kurzes Zitat aus dem Eintrag bei Wikipedia macht das Dilemma deutlich:
Eine allgemein gültige Definition des Begriffes ist aufgrund seines unterschiedlichen Gebrauchs mit verschiedenen Bedeutungen schwer möglich. Die naturwissenschaftliche Forschung beschäftigt sich mit definierbaren Eigenschaften bewussten Erlebens.
Danke @boeuf für Deinen Hinweis auf die parallele Diskussion unter "Natürliche und künstliche Intelligenz. Das Zeitalter der Roboter hat begonnen!"
Ich kann @det allerdings nicht voll zustimmen. Gerade die neuen Sprachsysteme, die auf Millionen künstlicher Nervenzellen beruhen, sind immer weniger einfach nur "Fachidioten", sondern sie sind ein Schritt hin zur allgemeinen künstlichen Intelligenz. Ich schließe mich hier voll inhaltlich Blaise Agüera y Arcas an, der diesen Punkt betont.
Do Large Language Models Understand Us?Genau dies ist ja nun passiert. Ein Entwickler bei Google hat nach einem längeren Gespräch(!) mit Chatbot LaMDA (Language Model for Dialogue Applications) von Google geschlussfolgert, dass diese Software ein Bewusstsein entwickelt habe.
Blaise Agüera y Arcas
Übersetzung der Zusammenfassung:
Verstehen uns große Sprachmodelle?
Blaise Agüera y Arcas
Große Sprachmodelle (LLMs) stellen einen großen Fortschritt in der künstlichen Intelligenz und insbesondere in Richtung des Ziels einer menschenähnlichen künstlichen allgemeinen Intelligenz dar.
Es wird jedoch manchmal behauptet, maschinelles Lernen sei „nur Statistik“, daher sei der Fortschritt in der KI bei diesem größeren Ziel illusorisch. Hier vertrete ich die gegenteilige Ansicht, dass LLMs uns viel über die Natur von Sprache, Verständnis, Intelligenz, Sozialität und Persönlichkeit beibringen können.
Konkret: Statistik bedeutet Verstehen, in jedem falsifizierbaren Sinn. Darüber hinaus ist vieles von dem, was wir als Intelligenz betrachten, von Natur aus dialogisch, also sozial; es erfordert eine Theorie des Geistes. Komplexes Sequenzlernen und soziale Interaktion können eine ausreichende Grundlage für allgemeine Intelligenz sein, einschließlich der Theorie des Geistes und des Bewusstseins.
Da der innere Zustand eines anderen Wesens nur durch Interaktion verstanden werden kann, lässt sich die Frage, wann aus einem „Objekt“ ein „Subjekt“ wird, nicht objektiv beantworten, aber für viele Menschen dürften neuronale Netze, die auf Computern laufen, diese Schwelle überschreiten in sehr naher Zukunft.
Das Dementi von Google, es gäbe keine Beweise, ist schal, da es außer meiner Fähigkeit zum Dialog auch bei mir keinen Beweis dafür gibt, dass ich ein Innenleben habe. Niemand empfindet meine Empfindungen außer mir, ich könnte sie nach außen nur vortäuschen.
Karl
Ok, @karl, ich ließe mich sofort überzeugen, wenn eine Maschine den Turing-Test besteht. Bis dahin habe ich Zweifel.
Jedee KI hat einen "Vater" - und kann nur das nachplaudern, was ihr Erzeuger ihr vorgeplappert hat.....
Das lieber @schorsch ist längst überholtes "Geplauder" und so nicht mehr richtig, es sei denn Du meinst, dass auch Kinder ihren Eltern nur nachplaudern.
Karl
Absolut fasziniert war ich damals von dem Computer in "Odysée de l' Espace'', der sich 'seiner selbst bewusst' wurde, in dem Fim von Kubrick nach A.C.Clarke.
Ich lese hier mit grossem Interesse . LG Val