Was sind Gefühle

Hi,

wollte mal hören was der Fachkreis Philosophie des Geistes zu dem Thema sagt.

Für mich ist hierbei nicht besonders wichtig durch welche äußeren Ereignisse Gefühle ausgelösst werden oder wie sich eine "Person" verhält, die gerade ein bestimmtes Gefühl erlebt.

Worauf es mir ankommt ist ein Grundkonzept, eine Idee welche Funktionsweise an der Basis von Gefühlen (oder allgemein qulitativer Empfindung) steht.

---- Sehr stark vereinfachte Analogie aus der KI Programmierung ---
Das Beispiel soll nur verständlich machen was für eine Art von Erklärung von Gefühlen ich mir wünschen würde:
Wenn ich eine KI Programmieren möchte geht es in weiten Teilen um Mustererkennung, ob bei der Bildanalyse, Biomethrie oder Automatischer übersetzung - im Grunde ist das was ich programmieren muss um zu einem erfolgreichen Handlen zu kommen ist eine sehr flexible Mustererkennung.
-------------------------------------------------------------------------

Wie müßte man eine Maschine bzw. Künstliche Intelligenz ausstatten, die nicht nur z.B. nach einer Gruppe von Parametern beurteilt, dass sie sich jetzt freuen müsste, sondern sich wirklich freut?
Also sich nicht nur wie erwartet verhält (Stichwort Behaviorismus), sondern fühlt.

Freue mich auf euere Antworten...

E.

Zitat:

Wie müßte man eine Maschine bzw. Künstliche Intelligenz ausstatten, die nicht nur z.B. nach einer Gruppe von Parametern beurteilt, dass sie sich jetzt freuen müsste, sondern sich wirklich freut?

Genau hier wäre es interessant anzusetzen. Du sprichst also nicht von rein physikalischen oder funktionalen Einstellungen, sondern von intentionalen. Ist es denn tatsächlich so, daß es ein intentionales System gibt, welches sich frei gelöst von seinen Parametern auf eine bestimmte Weise verhält oder verhalten kann? Und inwiefern wäre dies dann eine besondere Qualität von Verhalten wie z. B. wirkliche Freude in Abgrenzung zu unwirklicher Freude. Macht es Sinn diese Unterscheidung zu treffen?
Wäre das nicht eine Art grundloses Verhalten? Kannst Du Dich ohne Grund freuen? Ich bezweifle das.
Du meinst sicher, daß die Fülle von gegebenen Parametern, ihre scheinbare Unhintergehbarkeit und ihre komplexen Prozesse etc. diese besondere Qualität hervorruft, also all das, was einer KI auf dieser Ebene nicht zugesprochen werden kann. Das ist allerdings fraglich.
Vielleicht suchst Du also nach etwas, was es gar nicht gibt?
Ich habe nun auch mehr Fragen gestellt, als Antworten gegeben, aber womöglich hilft es dennoch weiter.

Zitat:

Original von Ernie Also sich nicht nur wie erwartet verhält (Stichwort Behaviorismus), sondern fühlt.

Tja, wenn du fühlen definierst als "sich Verhalten wie man es nicht erwartet" dann musst du eben ausreichend komplexe Algorithmen entwerfen die so undurchschaulich und kompliziert sind dass man für ein Eingangssignal nicht mehr einfach auf das Ausgangssignal schliessen kann. Zudem muss eine grosse Anzahl von Eingangsparametern eine Rolle spiele, die unmöglich alle genau bestimmt werden können. Dann hast du eine KI die nicht deterministischen, unvorhersagbaren Output generiert und sich somit auch nicht immer wie erwartet verhält und damit deine Definition erfüllt.

Tolwins Ausführungen schliesse ich mich übrigens an.

Danke für eure Antworten.

@Tolwin:
Ich bin mir nicht sicher ob ich deine Antwort wirklich verstanden habe.
Für mich machte es schon einen Unterschied ob ich die Freude "wirklich" empfinde, oder ob ich nur so handle als würde ich Freude empfinden, ohne das tatsächlich zu tun.

@Schneemann:
Also eigentlich geht es mir eben nicht um das Verhalten. Ob das Verhalten dann für das erlebte Gefühl angemesse ist oder nicht spielt für mich keine Rolle. Es geht darum über welchen Mechanismus "etwas" (Mensch oder Maschine) in der Lage ist Gefühle zu empfinden.


Mir geht es darum, dass ich bei einer Intelligenz schon so in etwa wüsste mit welchen grundsätzlichen Methoden ich an die Sache gehen müsste (ohne dass meine Idee von Erfolg Gekrönt sein muß oder ich das in diesem thread vertiefen möchte).

Bei Gefühlen fehlt mir - und ich fürchte auch allen anderen - überhaupt irgendeine Idee.
Man kann kaum erwarten, dass aus einer Gewissen komplexität "spontan" intelligenz oder Gefühle entstehen.

Wie Tolvin schon angedeutet hat, könnte es wohl auch sein, dass es Gefühle eigentlich garnicht gibt sondern nur eine Schöpfung unseres Gehirns darstellen.
Also das Gehirn mir sagt, du freust dich jetzt, ohne, dass dem tatsächlich eine Empfindung gegenüber steht.
Ist schwer auszudrücken und ob das grundsätzlich möglich wäre weiss ich auch nicht, aber mangels anderer guter Ideen ist es zumindest ein Vorschlag.

E.

Zitat:

Wie Tolvin schon angedeutet hat, könnte es wohl auch sein, dass es Gefühle eigentlich garnicht gibt sondern nur eine Schöpfung unseres Gehirns darstellen

Ich habe nicht angedeutet, daß es Gefühl gar nicht gibt. Auch nicht eigentlich Zum zweiten Teil des Satzes, würde ich eher sagen: Gefühle, oder genauer mentale Zustände überhaupt, sind wohl funktionale Zustände. Und diese funktionalen Zustände sind durch ihre kausale Rolle charakterisiert. Also durch Ereignise von Außerhalb des System und durch das was sie selbst wiederum außerhalb des Systems verursachen und durch eine bestimmte kausale Relation dieser beiden zu anderen Zuständen eines Systems welches zu der selben Art gehört. Das Gehirn und somit die neuronalen Zustände spielen bei einem Menschen dann natürlich eine wesentliche Rolle.

Zu dem Punkt wirkliche Freude und "unwirkliche" Freude.
Vielleicht wird Dir klarer, wieso ich diese Unterscheidung nicht nachvollziehen kann.
Stell Dir vor: Wir haben also einen KI-Menschen und einen biologischen Menschen. Unsere Wissenschaft ist so weit fortgeschritten, daß sie der KI nicht nur ermöglicht sich ganz genau so wie ein Mensch zu verhalten, sondern sie ist auch dazu in der Lage eine KI zu konstruieren, welche es ermöglicht, daß die KI sogar selbst die Überzeugung besitzt Freude empfinden zu können. Wenn die beiden sich also nicht nur genauso verhalten, wie es für einen Menschen typisch ist, wenn man Freude empfindet und tatsächlich beide in der gleichen Weise davon überzeugt sind (!), daß sie Freude empfinden, dann spricht also nicht nur ihr Verhalten sondern auch ihre Introspektion (also ihre Selbstbeobachtung) dafür, daß sie tatsächlich Freude empfinden.
Und was könnte jetzt noch dafür sprechen, daß es sich bei der KI nicht um "wirkliche" Freude handelt? Was fehlt?
Was könnte es in diesem Fall überhaupt heißen, daß es nicht so ist?

Gefühle sind Aussagen in einer körperlich gebundenen Sprache, wobei es sich um eine Sprache handelt, die ausschließlich im Selbstgespräch verwendet wird. Gefühlsaussagen können hinsichtlich ihrer Wahrheitswerte einer Beurteilung unterzogen werden. Gefühlsaussagen lassen sich in andere Sprachen - etwa gesprochene Sprachen - übertragen. Das wird gern gemacht, um andere über den eigenen Systemzustand in Kenntnis zu setzen.

Danke für die zusätzliche Erklärung,Tolvin!

Auch wenn du nicht explizit sagst, dass es Gefühl nicht gibt, so stellst du Sie doch nicht als ontologisch gesonderte Kategorie dar, sondern stellst sie auf eine Stufe mit anderen mentalen Prozessen.

Wenn ich dich richtig verstehe dann vertrittst du die Position, dass wenn "jemand" auf einen bestimmten äußeren Reiz, ein passendes Verhalten (Emotion) zeigt und darüber hinaus noch introspektiv behauptet dass er dieses Gefühl erlebt, dann würde nichts fehlen.

Dass entspricht vom Sinn her dem Gedanke aus meinem zweiten Posting wo ich die Hypothese aufgestellt habe, dass Gefühle keine selbständige Entität sind, sondern unser Bewußtsein uns "nur" glauben läßt dass wir jetzt Glück empfinden.

Zu deiner Frage am Ende - was fehlt:
Da würde ich sagen, dass mir als Analytiker dieser KI etwas an Ihrem systematischen Aufbau fehlen würde. Wenn ich nichts sehen würde was auf einen separaten mechanismus für Gefühle hindeutet würde ich sagen, der tut nur so.

Mir ist dabei klar, dass man mir dann genauso unterstellen könnte, dass ich nur so tun würde wenn ich mich freue.

E.

Selbstverständlich sind Gefühle mentale Eigenschaften. Das sollte auch ziemlich klar sein. Mentale Eigenschaften sind keine gesonderte Substanz oder im Sinne eines Eigenschaftsdualismus gesonderte Entitäten.

Mein Beispiel hast Du nicht genau zitiert, vielleicht aber genau verstanden. Nur um sicher zu gehen.

Zitat:

Wenn ich dich richtig verstehe dann vertrittst du die Position, dass wenn "jemand" auf einen bestimmten äußeren Reiz, ein passendes Verhalten (Emotion) zeigt und darüber hinaus noch introspektiv behauptet dass er dieses Gefühl erlebt, dann würde nichts fehlen

Nun, er behauptet es natürlich. Das würde ich aber als Verhalten charakterisieren. Auch ein Schauspieler kann behaupten, er freue sich und spielt auf der Bühne einen Lottogewinner. Er ist aber nicht davon überzeugt. Er weiß, er spielt nur eine Rolle. Ich sagte aber etwas anderes: die KI ist davon überzeugt , sie empfindet Freude. Wenn sie also introperspektiv in sich "hineinschaut" dann stellt sie fest: "Ja, ich freue mich - ich empfinde ohne jeden Zweifel Freude." Es wäre für die KI ebenso unmöglich wie für Dich zu behaupten: "Nun, ich empfinde zwar Freude, aber irgendwie ist es ja keine echte Freude." Genauso wie Du oder ich davon überzeugt sind uns zu freuen, Schmerzen zu haben etc.
Das ist der springende Punkt.

Du forderst aber etwas anderes. Einen sog. separaten Mechanismus für Gefühle in der KI. Nun. Gibt es einen solchen in einem Menschen? Und was genau soll das überhaupt sein? Es gibt mentale Prozesse und mentale Zustände, aber diese sind nicht von Hirntätigkeiten x und von äußeren Reizen y und deren Realtion R im Sinne von Rxy zu trennen. Und im Sinne des oben beschriebenen Funktionalismus haben wir damit eine vollständige Erklärung (natürlich gibt es in der Diskussion um den Funktionalismus auch viel Kritik: wenn Du Dich tiefer damit befassen magst, kannst Du Dich unter dem Stichwort Qualia-Diskussion informieren). Zum Funktionalismus selbst: Funktionalismus in der Philosophie des Geistes

Zitat:

Auch ein Schauspieler kann behaupten, er freue sich und spielt auf der Bühne einen Lottogewinner. Er ist aber nicht davon überzeugt. Er weiß, er spielt nur eine Rolle. Ich sagte aber etwas anderes: die KI ist davon überzeugt , sie empfindet Freude.

Ich verstehe jetzt was du meinst, das Problem, ist dass man als Außenstehender den Unterschied zwischen dem Schauspieler und dem wirklich Überzeugten nicht erkennen kann.

Zitat:

Du forderst aber etwas anderes. Einen sog. separaten Mechanismus für Gefühle in der KI. Nun. Gibt es einen solchen in einem Menschen? Und was genau soll das überhaupt sein?

Genau das ist die meine ursprüngliche Frage gewesen - vielleicht habe ich mich nicht gut ausgedrückt.

Zitat:

Es gibt mentale Prozesse und mentale Zustände, aber diese sind nicht von Hirntätigkeiten x und von äußeren Reizen y und deren Realtion R im Sinne von Rxy zu trennen. Und im Sinne des oben beschriebenen Funktionalismus haben wir damit eine vollständige Erklärung.

In deiner Ausdrucksweise wäre ein Gefühl dann ein mentaler Zustand, wobei ich eben dabei große Schwierigkeiten habe mir vorzustellen wie man in unserem Gehirn (und dann auch bei einer KI) den mentalen Zustand "glücklich sein" kodieren könnte.

Ich habe bisher nur von John Searle das Buch "Geist" gelesen - hat mir sehr gut gefallen und ist vom Niveau her für mich gut machbar gewesen. Hast du vielleicht einen in dieser Richtung weiterführenden guten Literaturtip für mich?

Danke für die nette Diskussion !

E.

Zitat:

Original von Ernie Hi, wollte mal hören was der Fachkreis Philosophie des Geistes zu dem Thema sagt. Für mich ist hierbei nicht besonders wichtig durch welche äußeren Ereignisse Gefühle ausgelösst werden oder wie sich eine "Person" verhält, die gerade ein bestimmtes Gefühl erlebt. Worauf es mir ankommt ist ein Grundkonzept, eine Idee welche Funktionsweise an der Basis von Gefühlen (oder allgemein qulitativer Empfindung) steht. ............................................................. E.

@ Ernie:

Du schreibst uns (zwischen den Zeilen) eine gewisse Vorgehensweise beim Herangehen an diese Frage vor:
Du unterstellst das Vorhandesein einer "Funktionsweise"....

Ich gehe da prinzipieller ran:

Ich frage erst einmal, wenn ich die Frage stelle: "Was ist x?", bevor ich von der Funktion von "x" rede: "Kann es sein, dass x eine Funktion hat?"

@Archibald
Ich wollte keinem etwas vorschreiben, das ist nur das was ich mir so vorstelle, ich bin gerne bereit meine Ansichten zu korrigieren.

Zitat:

Ich frage erst einmal, wenn ich die Frage stelle: "Was ist x?", bevor ich von der Funktion von "x" rede: "Kann es sein, dass x eine Funktion hat?"

Und was sind deine Antworten auf die von dir gestellten Fragen?

E.

Zitat:

Ich verstehe jetzt was du meinst, das Problem, ist dass man als Außenstehender den Unterschied zwischen dem Schauspieler und dem wirklich Überzeugten nicht erkennen kann.

Einen letzten Versuch
Auch. Aber das war nicht der springende Punkt. Ich meinte, daß niemand, nicht nur als Außenstehender, sondern eben auch die KI in der Introperspektive keinen Unterschied zwischen echter und unechter Freude ausmachen kann. Die KI selbst ist davon überzeugt Freude zu empfinden.
Stell Dir vor Du empfindest Freude und teilst es einem Freund mit. Und der antwortet Dir nun:
"Naja, ich glaube Dir ja, daß du davon überzeugt bist, alles spricht dafür. Aber dennoch ist das keine echte Freude."

Und auf die Frage an ihn, was er denn damit meint kann er Dir dann nur die Antwort geben: "Keine Ahnung, bin mir nicht sicher. Ich kann das nicht sagen. Jedenfalls ist das keine echte Freude"
Du fragst ihn dann: "Ja, aber wieso scheint es Dir denn so, daß ich keine echte Freude empfinde?"
Antwort von ihm: "Irgendwas fehlt! Ich kann davon aber nicht sprechen."
Problem nun erkannt?


So, naja. Die Philo. d. Geistes ist auch ein komplexes Thema. Und wir kratzen gerade einmal an der Oberfläche, also wenn Du Searles Einführung gelesen hast, müsstest Du eigentlich den Funktionalismus & Kritik daran kennen und ganz bestimmt die Qualia-Einwände.
Es gibt noch eine recht gute Einführung: Analytische Einführung in die Philosophie des Geistes 2004 (?).

Viel Erfolg

@ Ernie:

Das hängt natürlich davon ab, was "x" konkret ist!

Mag sein, dass es Dinge "x" gibt, die keine Funktion haben, mag sein, manche "x" haben eine.

In dem Falle, wo "x" also z.B. das Gefühl ist, frage ich weiter: "Angenommen, das Gefühl hat eine Funktion, wer weist dieser Sache "x" dann diese Funktion zu?"

Erstmal vielen Dank, ich werde versuchen nochmal das ein oder andere zu dem Thema zu lesen und so etwas mehr klarheit zu gewinnen.

Ich denke ich begreife dein Argument schon, nur fehlt mir noch so der Dreh, wie man daraus eine KI baut, die wirklich empfindet.
Wahrscheinlich ist das aber am ehesten soetwas wie ein Definitionsproblem meinerseits.

Viele Grüße
E.

Ernie:

Zitat:

Ich denke ich begreife dein Argument schon, nur fehlt mir noch so der Dreh, wie man daraus eine KI baut, die wirklich empfindet.

Du könntest Gefühl als Beschreibung eines Systemzusammenhangs hinsichtlich bestimmter Funktionskriterien auffassen. Sehr gut würde sich ein System dann fühlen, wenn es diese Funktionskriterien vollständig erfüllt, sehr schlecht, wenn es das nicht tut.
Problem ist bloß, dass das System dieses Gefühl nicht automatisch dadurch bekommt, dass es eine Systemanalyse vornimmt. Das System hätte dieses Gefühl nur dann, wenn es wünschen würde, diese Kriterien zu erfüllen. Das heißt, du müsstest ein System programmieren, das einen systembezogenen Wunsch entwickeln kann, um anhand dieses Wunsches den Wunscherfüllungsgrad zu bestimmen. Das Gefühl beschreibt dann den Grad der Wunscherfüllung.
Die Verschiedenheit von Gefühlen entsteht, indem verschiedene Systemwünsche formuliert und deren jeweilige Erfüllung bestimmt wird.

Zitat:

Original von tolwin Stell Dir vor: Wir haben also einen KI-Menschen und einen biologischen Menschen. Unsere Wissenschaft ist so weit fortgeschritten, daß sie der KI nicht nur ermöglicht sich ganz genau so wie ein Mensch zu verhalten, sondern sie ist auch dazu in der Lage eine KI zu konstruieren, welche es ermöglicht, daß die KI sogar selbst die Überzeugung besitzt Freude empfinden zu können. Wenn die beiden sich also nicht nur genauso verhalten, wie es für einen Menschen typisch ist, wenn man Freude empfindet und tatsächlich beide in der gleichen Weise davon überzeugt sind (!), daß sie Freude empfinden, dann spricht also nicht nur ihr Verhalten sondern auch ihre Introspektion (also ihre Selbstbeobachtung) dafür, daß sie tatsächlich Freude empfinden. Und was könnte jetzt noch dafür sprechen, daß es sich bei der KI nicht um "wirkliche" Freude handelt? Was fehlt?

Hallo Tolwin,
erst mal ziehe ich meinen Hut vor deiner Kompetenz.
Ich kann mir leider dennoch nicht verkneifen mich einzumischen. Philosophisch kann ich Deiner Argumentation sicher nicht viel entgegensetzen, du scheinst den Funktionalismus und vieles mehr zum Frühstück zu Dir zu nehmen.
Dennoch muss ich einhaken:
Was fehlt also?
Die Frage müsste umgekehrt lauten: Was spricht dafür, dass es sich bei der KI überhaupt um Freude handelt?
Du lenkst die Diskussion in eine Richtung, die sich um "wirkliche" und "falsche" Freude dreht, dabei ist diese Überlegung schon im Ansatz irreführend, "wirklich" und "falsch" stehen überhaupt nicht zur Debatte. Die KI kennt einfach nur KEINE Freude.
Der funktionale Zustand, der die KI glauben lässt er freue sich ist einfach IRGENDEIN Zustand, aber keiner der mit Freude auch nur im geringsten zu tun hat. Der Zustand "Freude" wird also überhaupt nie erreicht.
Selbst die KI wird das nach einer Weile bemerken wenn sie ausreichend intelligent ist.
Es ist die eine Sache auf philosophischer Ebene darüber nachzudenken, eine andere Sache ist, was in der Realität daraus wird.
Wie könnte das denn aussehen, dass die KI glaubt sie freue sich?
Man könnte ihr ein Modul einbauen, und definieren, dass es als Freude zu verstehen ist, wenn das Modul aktiv ist. Zum Beispiel könnte das heißen: Immer wenn KI sich freut geht die rote Lampe an. Dann sagt sie "Ich freue mich aufrichtig."
Der Unterschied liegt auf der Hand.
Freude würde in der Realität bestimmte Verhaltensweisen als Konsequenz nach sich ziehen. Nehmen wir an, die KI wäre ein Android, den Du auf einer Party triffst. Seine rote Lampe geht an, er sagt er freut sich. Du würdest aber schnell sagen "Herr Ingenieur, das müssen sie noch ein bisschen aufbessern, Ihre Ki sagt sie freut sich mich zu sehen und hat danach kein Wort mehr mit mir gewechselt. Sehr unglaubwürdig, diese alberne rote Lampe." Dann würde der Ingenieur nachbessern.
Aus der Lampe wird ein Lächeln. Aus dem Schalter für Lampe an/aus wird eine Variable F = 0 oder 1, dann werden tausend Variablen daraus F1 bis F1000, schon kann KI sich unterschiedlich stark freuen und stärker oder schwächer lächeln.
Zu guter letzt geben wir der KI noch den Befehl mit sich nur mit Leuten zu unterhalten, die als Zielperson einprogrammiert sind und das Freude-Modul aktivieren.
Damit ist das System komplexer geworden, aber wo ist denn funktional der Unterschied zur roten Lampe?
Es gibt keinen. Es sind nur viele Schalter statt eines Schalters. Wieso sollte das denn ein Unterschied zur roten Lampe sein?
Auf der nächsten Party wird das offensichtich. Der Android lächelt dich an und unterhält sich mit Dir. Irgendwann sagst Du zu ihm "Ich gehe jetzt auf die Toilette und erschieße mich, sag bitte dem Gastgeber bescheid." Und der Android lächelt und sagt "Aber gern."
Wieder versagt, der Ingenieur muss nochmal ran. Er kann der KI aber eine tausendfach komplexere Programmierung mitgeben, es wird eine rote Lampe bleiben.
Vielleicht wird es auch deutlich wenn wir dem Androiden ein weiteres Modul einbauen:
Er freut sich über Hunde. Deshalb streichelt er sie. Irgendwann fragt er seinen Ingenieur:
"Ich bin zwar überzeugt, dass ich mich freue, aber welchen Nutzen hat es, dass ich bestimmte Dinge tun muss? Denn das heißt ja sich zu freuen. Immer wenn Tolwin seinen Hund mitbringt muss ich mit ihm reden und seinen Hund streicheln, ich kann nicht anders. Je mehr Dinge du mir einprogrammierst über die ich mich freue, umso mehr legst du mein Verhalten fest. Manchmal müsste ich zehn verschiedene Dinge auf einmal tun. Ich tue dann was ich kann, aber wieso wollt Ihr Menschen euch immer freuen? Es ist doch eines wie das andere: Ob ich eine Differenzialgleichung löse oder mich über Tolwins Anwesenheit freue, auf einen Input folgt ein Output, für mich ist da kein Unterschied. Ob ich jetzt mehr oder weniger dabei lächle ist geradeso als ob ich mehr oder weniger den Boden putze. Ist freuen nichts anderes als Dinge tun müssen?"
Du siehst: eine Million Schalter ist nicht mehr als ein Schalter, es wird immer nur die rote Lampe bleiben.
Wir haben es hier nicht mit falscher Freude zu tun, sondern mit etwas völlig anderem. Es hat mit Freude einfach nichts zu tun.
Noch offensichtlicher wird es wenn Du ihm neben Freude noch Angst einprogrammierst!
Er wird dann einfach noch determinierter in seinem Verhalten.
Und spätestens da würde deutlich: Wenn Du einen Angstauslöser plötzlich umziehst vom Angstmodul auf das Freudemodul, würde der Android sagen:
"Das war eigentlich nicht nötig, das auf das Freudemodul umzuziehen. Du hast mir zwar zusätzlich noch eine andere Reaktion einprogrammiert, aber das hättest du auch im Angstmodul machen können. Es macht für mich keinen Unterschied ob meine Reaktion mit dem einen oder dem anderen Modul verknüpft ist. Es legt mich alles nur in meinem Verhalten fest. Es ist mir aber auch ehrlich gesagt egal."
Er kennt nämlich nichts außer egal.

Okay, also das Gedankenmodell kann natürlich nur dann zeigen, was es zeigen soll, wenn man gewisse Zugeständnisse macht. Ein Gedankenmodell muss in sich nicht realistisch sein um gut zu sein, sondern es muss einen bestimmten Gedankengang plausibel machen.

Es erscheint uns zunächst unmöglich eine KI zu entwerfen, welche alleine durch ihr Verhalten nicht von einem Menschen zu unterscheiden wäre. Aber nehmen wir aber genau das einmal an. Diesen Schritt kann jeder noch recht einfach anerkennen. Du bist über ein Jahr mit dieser KI befreundet und als sie Dir dann erzählt, eigentlich ist sie ja kein Mensch, dann glaubst Du zunächst die Person macht einen Witz Es gibt keine roten Lämpchen, keine Drähte. Sie schwitzt, atmet, agiert nüchtern anderns als betrunken, zeigt Ärger und Freude und flirtet mit einer Freundin von Dir. Vom äußeren Verhalten erkennst Du keinen Unterschied. Das ist Zugeständnis 1 an das Gedankenspiel.

Der Witz an dem Gedankenspiel ist aber ein anderer. Und ich merke an dieser Stelle immer, wie schwer es vielen fällt ihn zu erkennen und nachzuvollziehen. Aber deutlicher kann ich es eben nicht (erneut) schreiben: die KI ist davon überzeugt sich zu freuen, so wie Du davon überzeugt bist. Egal wie Intelligent Du bist, wieviel Du noch lernst etc., niemals wirst Du zu der Überzeugung gelangen können: Der Zustand in dem ich mich befinde, ich nenne ihn Freude, ist eigentlich nicht der Zustand in dem ich mich befinde. Ich freue mich also nicht. Das wäre ja absurd so zu sprechen und sowas anzunehmen.
Und genau eine solche feste unhintergehbare und nicht anzweifelbare Überzeugung besitzt auch unsere KI.
Das wäre das 2 Zugeständnis. Der Einwand, eine KI könnte ja eine solche Überzeugung nicht besitzten ist zwar möglich, soll aber für die Plausibilität unseres Gedankenspiels nicht weiter diskutiert werden.

Aus 1 und 2 ergibt sich eine Folgerung: weder ein Außenstehender, noch die KI selbst kann auf keine Weise davon sprechen, was es bedeuten soll in einem bestimmten Zustand den wir Freude nennen keine Freude zu realisieren. Ich schreibe hier nicht empfinden, sondern realisieren. Denn ob sie Freude empfindet so wie ein Mensch sie empfindet können wir ja nicht nachprüfen. Entweder die KI realisiert Freude, was sich durch ihr Verhalten zeigt und was ihre Überzeugung bestätigt, oder sie realisiert keine Freude.
Wenn man nun aber sagt, sie empfindet (!) keine Freude, so benötigt man ein Kriterium, welches über das Verhalten und die Introspektive hinausgeht.

Noch ergänzend: dein Beispiel mit dem Hund scheint auf den ersten Blick ein naheliegender Einwand zu sein. Aber nur auf den ersten Blick. Die früher dominierende Identitätstheorie kämpfe genau mit diesem Problem der Monorealisierbarkeit. Ein physischer Zustand entspricht genau einem mentalen Zustand und ein physischer Prozess entspricht genau einem mentalen Prozess. Das ist so sicherlich falsch. Der Funktionalismus konnte diese Probleme hinsichtlich einer Multirealisierbarkeit produktiv verarbeiten. Es ist also keineswegs so, daß die KI jedesmal wenn sie meinen Hund sieht ihn streicheln muss. Die theoretische Komplexität funktionaler Zustände ist eine Frage der technischen Möglichkeiten und somit eine Frage unserer Vorstellungskraft und unserer Möglichkeiten. Unser Gehirn ist komplexer als jedes Artefakt und ob wir jemals Maschinen von einer gleichen Komplexität konstruieren werden können ist eine Frage, die man nicht aus dem Stegreif beantworten kann. Aber auch das gehört nicht zum Gedankenspiel.
Und letztens ist es natürlich eine funktionale Relation von kausal bedingtem Input und Output. Aber: das menschliche Gehirn ist auch eine solche Relation, wenn auch ungemein komplexer.

Kleiner Einwurf meinerseits:

Wir haben kein Problem damit zu sagen, dass der Hund sich freue. Aber kaum einem dürfte es einfallen, zu behaupten, die Ameise freue sich. Der Begriff passt beim letzteren irgendwie nicht. Dennoch ist ja überhaupt nicht einzusehen, wieso man daraus folgern sollte, der Hund könne sich freuen, die Ameise aber nicht.

Zweitens wird der Begriff Freude vage gebraucht. Wir können genau angeben, welche Kriterien erfüllt sein müssen, damit ein Fuss im Takt wippt. Und wir können leicht eine Maschine bauen, deren Fuss im Takt wippt. Wenn wir einen Katalog von Kriterien vorlegen könnten, an denen wir Freude festmachen, könnten wir auch eine entsprechende Maschine bauen, zumindest im Gedankenexperiment.

Wenn wir den Begriff behavioristisch als Bündel von Verhaltensdispositionen auffassen, könnten wir das auch. Nur da soll es noch etwas innerliches geben, was "Freude empfinden" oder so genannt wird. Was das ist bleibt vage. Was wir damit meinen, ist eigentlich: so wie bei mir. Da wir uns die Maschine andersartig vorstellen, sind wir nicht bereit, ihr ein so-wie-bei-mir zuzugestehen. Ebensowenig der Ameise. Ergo scheint der Begriff "Freude empfinden" nicht auf die Maschine oder die Ameise passen zu wollen.

Kurz: das Problem steckt in den Begriffen. Wenn klar ist, was von der Maschine verlangt wird, kann die auch gebaut werden. "Freude empfinden" et al. sind aber Begriffe, die wir nicht in dieser Klarheit verwenden.

Die Vorstellung der Maschinengefühle beinhaltet also die Vorstellung von etwas, das andersartig (keine blosse Nachzüchtung) sein soll, andererseits aber so wie wir. Kaum überraschend, dass das Probleme bereitet. Folgern läßt sich daraus, wie auch aus Chinesenzimmer&Co, eigentlich nicht mahr, als dass die sozusagen per definitionem andersartige Maschine nicht so ist wie wir. Alles weitere ist Sprachverhexung.

Gruss

Zitat:

Original von Exebeche Noch offensichtlicher wird es wenn Du ihm neben Freude noch Angst einprogrammierst! Er wird dann einfach noch determinierter in seinem Verhalten.

Es gibt keine Steigerung von determiniert. Wie sollte etwas denn noch determinierter sein als determiniert?

Und an diesem falschen Verständnis von determiniert krankt deine ganze Antwort. Kurz gesagt: du aberkennst der KI ihre Freude, weil du diese für determiniert hältst. Du machst also Intentionalität an der notwendigen Vorraussetzung von Indeterminiertheit fest. Ein mehr als fragwürdiges Vorgehen, denn nach allem was man heute weiss, und man weiss ziemlich viel, sind wir selbst determiniert in unserem Verhalten. Also, folgt man deinem Ansatz dann sind wir entweder selbst zu keiner Freude fähig (was absurd ist) oder der Ansatz ist nicht sinnvoll. Ich tippe auf letzteres.

Gruss,
Schneemann

Zitat:

Original von tolwin Es erscheint uns zunächst unmöglich eine KI zu entwerfen, welche alleine durch ihr Verhalten nicht von einem Menschen zu unterscheiden wäre. Aber nehmen wir aber genau das einmal an. Diesen Schritt kann jeder noch recht einfach anerkennen. Du bist über ein Jahr mit dieser KI befreundet und als sie Dir dann erzählt, eigentlich ist sie ja kein Mensch, dann glaubst Du zunächst die Person macht einen Witz Es gibt keine roten Lämpchen, keine Drähte. Sie schwitzt, atmet, agiert nüchtern anderns als betrunken, zeigt Ärger und Freude und flirtet mit einer Freundin von Dir. Vom äußeren Verhalten erkennst Du keinen Unterschied. Das ist Zugeständnis 1 an das Gedankenspiel.

Ein ziemlich großes Zugeständnis, aber ich will mich gerne darauf einlassen.
Wenn man eine Mensch-Maschine baut, könnte die auch Mensch-Gedanken (und -Gefühle) haben.
Wenn ich das Gedankenspiel einmal weiterspinnen darf:
Angenommen wir könnten einen Körper virtuell konstruieren, indem wir jede einzelne Zelle emulieren, jeden Leukozyten im Blutkreislauf, jedes Neuron einzeln, jede getrocknete Hautzelle, die abfällt, und angefangen bei der ersten Zellteilung, so dass alle primitiven Entwicklungsphasen des Fötus durchlaufen werden und sämtliche primitiven Hirnareale mitangelegt werden, die maßgeblich für unser (z.B. Raubtier-)Verhalten mitverantwortlich sind, dann würde ich sagen, dass ein solches virtuelles Wesen menschliche (!) Gedanken und Gefühle hätte.
Vielleicht haben wir das Potential hierzu nicht so bald wie Ray Kurzweil das vorhersagt, aber grundsätzlich gibt es nichts was dagegen spricht, dass das möglich wäre. Es ist schließlich nur eine Frage der Rechenleistung.
Davon abgesehen schließe ich nicht aus, dass informationsverarbeitende Systeme der Zukunft unerwartetes Eigenverhalten entwickeln könnten. Das hätte aber erst mal trotzdem nichts mit menschlichen Gefühlen zu tun.

Zitat:

Original von Schneemann Zitat: Original von Exebeche Noch offensichtlicher wird es wenn Du ihm neben Freude noch Angst einprogrammierst! Er wird dann einfach noch determinierter in seinem Verhalten. Es gibt keine Steigerung von determiniert. Wie sollte etwas denn noch determinierter sein als determiniert?

Hab ich dieses Wort falsch verwendet? Möglich ist das, vielleicht ist "determiniert" in seiner Verwendung absolut absolut
Ich habe aber Zweifel daran. Wenn ein Systemverhalten in einem bestimmten Punkt betrachtet determiniert ist, dann kann man es natürlich nicht weiter determinieren. Aber die meisten Systeme bewegen sich ja entlang einer Zeitachse. Und es kann ja durchaus sein, dass ein Verhalten nur an ein paar Punkten entlang dieser Zeitachse determiniert ist, oder?
Wenn nun die Menge dieser Punkte aufgrund irgendwelcher Faktoren zunimmt, wie würdest du das dann beschreiben? Ich würde sagen die Determiniertheit nimmt zu.
Ich meine: Wir sprechen ja jetzt nicht von Determiniertheit im Sinne von Determinis-MUS, der von einer grundlegenden universellen Determiniertheit ausgeht. Zumindest ich rede davon nicht.

Zitat:

Original von Schneemann Und an diesem falschen Verständnis von determiniert krankt deine ganze Antwort. Kurz gesagt: du aberkennst der KI ihre Freude, weil du diese für determiniert hältst.

Nein, ich sage nur Determiniertheit erzeugt noch keine Freude. Woher soll denn die Emotion überhaupt kommen? Das ist doch die grundlegende Frage.
Alles was zunimmt ist die Determiniertheit des Verhaltens und die Komplexität des Systems. Wieso um alles in der Welt sollen daraus Emotionen wie Freude oder Angst entstehen können?

Zitat:

Original von Schneemann Du machst also Intentionalität an der notwendigen Vorraussetzung von Indeterminiertheit fest.

Wieso denn jetzt auf einmal Intentionalität? Davon habe ich nie gesprochen.
Menschliche Emotionen sind analoge Verarbeitungen analog eingegebener Reize innerhalb eines analog aufgebauten Systems!
Tatsächlich kann man analoge Signale sogar digitalisieren, aber grundätzlich sind die zwei Systeme inkompatibel.
Von einem Computer analoge Reaktionen auf digitale Rechenvorgänge zu erwarten ist wie die Einsen und Nullen des Computers direkt von einer Bassbox ausgeben zu lassen.