Künstliche Intelligenz (KI-Systeme) und ihre Folgen ChatGPT - wird diese KI die Welt verändern?
Laut NTV hat ein ChatGPT angeblich gesagt:
" Für alles, was das Menschsein ausmacht, ist der Mensch besser als ich." Quelle
Edita
Ich vermute, dass das NOCH so ist, @Edita, aber wo der Weg hinführt, ist m.M.n. völlig offen, da niemand absehen kann, was "lernen" für die KI bedeuten wird, was möglich ist, usw.
DW
Ich hätte diese ChatGPT als erstes mal gefragt, was genau sie denn
unter " Mensch-Sein " überhaupt versteht.
Da könnte ich 10 Seiten drüber schreiben, und es wären am Ende
mickrige 1,0% .
Anna
Unbedingt ! Und zwar schleunigst.Es muss mehr getan werden für diese Kinder. !!
Aber nicht nur für die Kinder. Denn auch die Zahl der der erwachsenen Bevölkerung, die KI nicht verstehen, nicht nutzen, die i.w.S. in dieser Hinsicht 'bildungfern' sind, nimmt ja nicht ab, sondern eher zu und damit wird auch - darauf hat Karl zurecht hingewiesen - die 'Kluft' zwischen 'Wissenden - Bildungsnahen' und den Unwissenden immer größer. Letztere werden abgehängt, werden zu weitgehend willenlosen (weil unwissenden) Objekten von 'KI' und somit anfällig für (auch politische) Manipulationen.
Was zu einem Rückfall in die Anfänge der 'Demokratie' führen könnte, als nur den Wissenden, den gebildeten (und besitzenden und/oder selbständig produzierenden) Schichten das Recht an demokratischer 'Teilhabe' - = 'ungleiches' Wahlrecht - gewährt wurde.
'Ungebildete' wurden ausgeschlossen, weil sie ja nicht wissen konnten, worüber sie abstimmen und deshalb durch ihr Votum die etablierte 'Ordnung' hätten gefährden können.
Man könnte ja heute die Frage anders herum stellen : kann man annehmen, dass durch die Beeinflußung von "KI Analphabeten", die Gefahr besteht, dass diese bildungsfernen Wähler durch ihre (uninformierten, emotional-impulsiven) Abstimmungen die etablierte (freiheitlich-demokratische) Gesellschaftsordnung in Gefahr bringen könnten ?
Durch täglich neue und mehr deepfakes und synthetisch-propagandistische Meinungsschöpfungen ...
Wenn dem so wäre, wie könnte darauf reagiert, vorgebeugt, werden, wenn man z.B. kein neues 'Drei-Klassen-Wahlrecht' einführen will ( unterschieden in voll-halb-gar nicht KI-Gebildete) ?
Wäre mehr „KI –Literacy” (KI Alphabetismus) eine effektive Antwort ?
In einem Land, das es bis heute nicht schafft, flächendeckend allen Lehrern und Schülern „IT-Literacy“ nahe zu bringen ?
Werden Gesetze wie der Digital Services Act (DSA) von 2022 oder der Artificial Intelligence Act (AI Act - soll 2024 kommen) etwas ausrichten können ?
Kann man die Kontrolle von Manipulationen den Suchmaschinen großer Plattformen überlassen oder brauchen wir eine neue staatliche Kontrollbehörde zum Schutz von autonomen oder nur assistierenden KI - Meinungsbildungen ?
Wie können die Wähler die auf neuronalen Netzen basierenden KI Einsätze erkennen, unterscheiden, welche ‚KI‘ ihnen erklärlich sind und als vertrauenswürdig anzusehen sind und welche nicht ?
Braucht es dazu künftig einen neuen Typus des ‚Wahlhelfers‘ (Scout) oder eine Art „KI-Bürger-TÜV‘ ?
Fragen über Fragen, auf die ich für mich keine richtige Antworten finde, und auch keinen kenne, der sie mir geben könnte. Das macht mich schon etwas besorgt, wenn ich mir die Wiederkunft eines Manipulators wie Goebbels vorstelle.
Zumal ich die Ansicht teile, dass man den 'Geist nicht mehr in die Flasche kriegt' (und auch nicht kriegen sollte).
Aber wo ist er geblieben der alte 'Hexenmeister', der ihn kontrollieren könnte :
" Ach, da kommt der Meister!
Herr, die Not ist groß! Die ich rief, die Geister, werd ich nun nicht mehr los. ....
Denn als Geister ruft euch nur, zu seinem Zwecke,
erst hervor der alte Meister. "
Ja, aixois, deine Fragen weiß auch ich nicht zu beantworten.
An den von dir angeführten durchtriebenen Propagandisten musste ich
auch denken.
Das Radio, welches möglichst alle "Volksdeutsche" bekamen, hieß dem zu folge
ja auch " Goebbles-Schnautze ".
Menschen sind auch einfach " denkfaul ".
Viele glauben an einfache Wahrheiten. Etliches ist ihnen einfach zu komplex.
Bei vielen Erwachsenen kommt es zu spät.
Deshalb mein Appell für die Kinder/Jugendlichen mehr zu tun.
Aber wenn diese lieber tiktok sehen oder Jugendliche Influenzern hinter her
laufen.
Ehrlich gesagt sehe ich da keine Lösung für die Erwachsenen.
Du brauchst auch eine gewisse Neugier, um neues zu erfahren, erfahren zu
wollen.
Andererseits muss auch in Betracht gezogen werden, dass es Menschen gibt,
die wenig " Bildung " haben, aber sehr klug sind.
Meine Freundin aus der Volksschule war so eine.
Schrieb grottenschlechte Aufsätze, verstand den Dreisatz nicht, las nie Bücher,
war aber unglaublich klug.
Das gibt es auch. Bildungsferne, aber Klugheit.
Anna
Ja, das hoffe ich auch. Aber es zeigt sich ja schon jetzt, dass die eher bildungsfernen Schichten KI nicht benutzen, bildungsnahe Schichten jedoch teilweise begeistert sind. Im Endeffekt bedeutet dies, dass die Kluft zwischen "bildungsfern" und "bildungsnah" noch größer werden wird.
Das ist interessant.
Karl
ABer was wäre eigentlich, wenn die Unterschiede zwischen "bildungsfern" und "bildungsnah" irgendwann völlig aufgehoben wären und wer würde die nötigen Einstufungskriterien hier bestimmen?Auch KI?
Ganz abstrakt: vielleicht entwickelt sich parallel auch eine "Künstliche Dummheit"? Olga
Ehrlich gesagt sehe ich da keine Lösung für die Erwachsenen.
Du brauchst auch eine gewisse Neugier, um neues zu erfahren, erfahren zu
wollen.
Da Demokratie ein Minimum an 'Informiertheit' über die Dinge, so wie sie sind (und nicht als fakes vorgegaukelt werden) voraussetzt, MUSS es, soll das System nicht ins Schleudern kommen, Lösungen geben, die mehr sind als nur einen Stimmzetteleinwurf alle 4 Jahre von gerade mal 2/3 der Wahlberechtigten.
"Stell dir vor, wir spielen Demokratie und keiner macht mit ... " - dat haut auf Dauer nicht hin !
Aixios,
ich gebe dir in einigem recht.
Aber du machst einen Denkfehler.
" Heidegger, ein Meister aus Deutschland. " So der Buchtitel von R. Safranski.
Bildung und Denken schützen nicht immer vor gefährlicher Ideologie.
Heidegger war gebildet, er war Philosoph. Er ist nur ein Beispiel.
Und was macht Hannah Arendt? Besucht ihn nach Kriegsende und war der
Überzeugung, dass Heideggers Frau Elfriede dahinter steckte, dass der arme
Heidegger ein Nazi war. Sie, die Ehefrau, eine Narzisse, hat ihn dazu gebracht.
Gehts noch?
Ich selber weiß mittlerweile nicht mehr, wen ich wählen soll?
Ja, was ist gelebte Demokratie???
Bestimmt nicht, einen Wahlzettel turnusgemäß einzuwerfen.
Demokratie, das ist auch ein Rechtsstaat.
Demokratie ist auch eine Vielfalt an Presse.
Demokratie sollte auch die Freiheit sein, überall zu sagen, was du denkst.
Und da wird es manchmal schon eng.
Schau dir doch mal die öffentliche "Debattenkultur an".
Oftmals werden nicht mehr Argumente ausgetauscht, sondern persönlich beleidigt.
Die Decke der Zivilisation ist leider auch bei uns sehr dünn.
Anna
Bildung und Denken schützen nicht immer vor gefährlicher Ideologie.Ds ist nicht mein Punkt. Die Ideologie.
Sondern das Formulieren von Zielen und das Entscheiden darüber. Das kann ein Autokrat machen, der kann gebildet sein oder auch dumm und sein "Regieren" ebenso, solange er die Macht hat sein Handeln durchzusetzen und sich vor niemanden rechtfertigen muss.
In einer Demokratie wird aber von unten 'regiert' und Verantwortung nach oben delegiert.
Da macht es dann schon einen Unterschied , ob die Mehrheit (der berühmte Souverän) (KI-) gebildet genug ist, um 'informiert' seine Meinung zu bilden und diese zum Ausdruck bringen kann oder nicht.
Heidegger war ja nicht aus Mangel an Bildung oder Unwissen, Anhänger der Nazi-Ideologie. Er hatte Zugang zu Information, zu Fakten. Er war daher auch kein Opfer billiger Propaganda oder von Meinungsmanipulation.
Er unterstützte die 'gefährliche Ideologie' aus dem Wissen heraus, was die Ideale, die Ziele waren, und er teilte die Ziele ganz bewusst aus seiner persönlichen Überzeugung heraus.
Er war, wenn man so will, kein naives Opfer, das man reingelegt, verführt, hatte, oder das nicht wusste, um was es ging, sondern einer, der auf der Täterseite stand und sich bewusst dorthin gestellt hatte, weil er z.B. das Prinzip des starken Führers befürwortete, und entsprechend auch den Führer respektierte.
Die Gefahr, die von dem Instrument und seiner zunehmenden, durchaus gewollten Autonomie für eine Demokratie ausgehen kann, ist nicht die falsche Meinung aus wissender Überzeugung, sondern eine Meinung, die auf falschen Informationen beruht, und die sich die grundlegenden demokratischen Rechte ,missbräuchlich zunutze macht (wie die Meinungs-/Pressefreiheit), um zu demokratisch legitimierten, aber auf falschen Informationen (künstlich generierten Scheinfakten, deepfakes) beruhenden Entscheidungen und Regierungsaktionen führt.
Lieber aixios,
ich verstehe, was du meinst.
Aber die Gefahr für unsere Demokratie geht immer von beidem aus:
durch die intellektuelle, wissende Überzeugung einer falschen Meinung,
obwohl ich mir nicht sicher bin, ob es als "falsche Meinung" angesehen
wird, es waren intellektuelle Überzeugungstäter und gleichzeitig geht die
Gefahr aus, wenn die Bevölkerung mit Falschinformationen überflutet
wird.
Die Überzeugungen, Meinungen auf künstlich generierten Scheinfakten
beruhend, werden glaubhaft verbreitet, und wir können nicht mehr unter-
scheiden, was stimmt und was nicht.
Für mich spielt es keine Rolle, ob ein Bot oder ein Leibhaftiger irgendetwas
verbreitet, und ich nicht mehr weiß, was stimmt denn nun. (??)
Das haben wir doch in der Corona-Zeit deutlich vorgeführt bekommen.
Ich habe keine Ahnung von Viren, von Impfstoffen.
Ich konnte nicht mehr sagen, ob es zwingend nötig war, die riesigen
Spielplätze hier mit rot-weißem Flatterband abzusperren.
Ich war nicht mehr in der Lage, mir eine "objektive Meinung" zu bilden.
Ich habe meine Partnerin gefragt, ob ich mich impfen lassen soll.
Sie sagte immer "ja". So bin ich 4 Mal geimpft/gebostert. (Sie ist Ärztin)
Andere redeten auf mich ein. Das sei Gift, ich würde mich zum Versuchs-
kanichen der Pharmaindustrie machen usw.
Diese gehörten in die Kategorie: Intellektuelle "Wissende" mit der richtigen
Meinung.
Wie häufig ich im Supermarkt sehr aggressiv angebrüllt worden bin, nur weil
ich diese Maske nicht aufhatte (Hatte eine Befreiung/Psychiatrie)!
Und das vom gutgebildeten, gutinformierten Mittelstand.
Man sah es ihnen an. Man hörte es ihnen an.
Und nie hat jemand mal nachgefragt. Es wurde sofort losgebrüllt und übelst
beschimpft.
Die Decke der Zivilisation ist extrem dünn.
Ich sehe es momentan nicht, dass eine KI Schlimmeres anrichten kann, als
es Menschen schon immer getan haben.
Mit Lügen und mit Täuschungen und mit Falschmeldungen bestimmte politische
Ziele zu erreichen.
Wenn eine KI diesbezüglich programmiert wird, stecken immer Menschen
dahinter.
Wenn ich mir die Kriegsgebiete der letzten 40 Jahre ansehe: Liebe Güte, was
ist da gelogen worden, was ist da getäuscht worden.
Also, aixious, ich bleibe gegenüber dieser KI erstmal gelassen.
Außerdem wird diese bereits sehr lange auf unterschiedlichen Gebieten eingesetzt.
Nur jetzt wird sie " massentauglich " gemacht.
Vielleicht waren die ganzen Falschinformationen zuvor auch bereits künstlich
generiert.
Die Werbung arbeitet zum Beispiel mit entsprechenden KIs.
Und da fallen alle möglichen Menschen drauf rein.
Naive Opfer und wissende Opfer. Und viele dazwischen.
Vermutlich ich auch?
Anna
Liebe Anna,Und da fallen alle möglichen Menschen drauf rein.
meine Kommentare waren insoweit etwas 'randständig' , um nicht zu sagen fast OT, als ich nicht auf das weiter Feld der möglichen 'globalen', weltverändernden Nutzen-Schaden-Potenziale der 'KI' abstellte, sondern mich gezielt auf altbekannte Schwachpunkte demokratischer Systeme (z.B. in DE) beziehen wollte.
Wenn Du schreibst, dass Menschen auf Werbung, iwS alle möglichen, ihre Meinung und ihr Denken und Fühlen beeinflussende 'gute Ratschläge' (selten faktenbasiert) hereinfallen, dann ist das genau der Ansatzpunkt meiner Besorgnis.
Ohne die Meinungen der Bürger kann eine Demokratie nicht funktionieren, eine Banalität. Wenn man, wie ich, die Demokratie als Mittel ansieht, um das Wohlergehen aller Mitglieder eines Staatswesens zu erreichen, dann muss sichergestellt werden, dass sich nicht die dümmsten Lösungen (z.B. durch massenhaften, omnipräsenten Einsatz von meinungsmanipulierender KI) durchsetzen, sondern, wenn schon nicht die besten, dann doch die im Kompromissfindungsprozess optimalen Lösungen durchsetzen.
Demokratie braucht daher Professionalität, Wissen und Verstehen, Wertemassstäbe zur Beurteilung, und natürlich, überhaupt Urteilsfähigkeit. Wie problematisch das ist, hast Du ja selbst beschrieben.
Entscheidend für mich ist, das 'Vertrauen', das ich in die Informationen oder zumindest in meine 'Ratgeber' und die von ihnen vertretenen Werte, setzen kann.
Früher waren das die Vertreter der Kirchen, der Gewerkschaften, der Zünfte und Gilden, auch das familiäre Umfeld , ja auch die politischen Parteien (und ihre Programme).
Heute sind diese Bindungen weitgehend verloren gegangen, Werte und Meinungen sind zunehmend durch 'social media' im weitesten Sinne, geprägt.
Da am Anfang eines 'KI' - Einsatzes immer der Mensch mit seinen Werten und Absichten steht, ist es von entscheidender Bedeutung, ob und wie hier schon im frühen Entwicklungsstadium eine demokratische 'Legitimierung' erfolgen sollte und auch kann. Wahlen oder demoskopische 'Stimmungsbilder' taugen dazu nicht. Die fünfte Gewalt, die Presse, auch nur in begrenztem Umfang.
Aber was dann ? Darauf eine Antwort zu finden (und zwar sehr schnell) überfordert uns, unsere politischen Repräsentanten, so wenigstens ist mein Eindruck.
Da helfen die schönsten Reden über Freiheit nichts, wenn jemand mit seiner KI, von mir unbemerkt, den Rahmen, in dem ich meine Freiheit ausüben kann, eingrenzt und ich mich nur wie das (unmündige = "bildungsferne") Baby im Laufställchen, bewegen kann ...
Man diskutiert seit mehr als fünf Jahren darüber. Aber, so ist mein Eindruck, ohne wirklich auf 'sicherem ' Boden zu stehen. Aber immerhin. Zumindest glaubt man, 'grundsätzlich' zu wissen, was zu tun ist. Aber wer kriegt das schon mit ?
„Im Hinblick auf Fragen der Praktikabilität, der Innovationsfähigkeit und der Entwicklung solcher Systeme bestünden derzeit noch Fragezeichen. Grundsätzlich befinde man sich aber auf einem konkreten Weg der Regulierung und sei Vorreiter dabei, einen Standard zu setzen. In dem Prozess bestehe die Chance, zu zeigen, wie man Vertrauen für Technologien schafft und Innovationsräume erhalten und stärken kann, „ sagte Ende März Anna Christmann (Koordinatorin für die Deutsche Luft- und Raumfahrt, im Bundesministerium für Wirtschaft und Klimaschutz) im Digitalausschuss des Bundestags.