Thema: "I'm afraid I can't do that, Dave" - der LLM und KI Thread

[Irian]

Interessant ist, dass Du trotzdem einer KI die Fähigkeit der bewussten Lüge unterstellst. Etwas, dass nach Deiner Definition von KI eigentlich nicht möglich sein sollte.   

Ein LLM kann tatsächlich nicht lügen, denn Lügen beinhaltet eine Intention der Täuschung und auch ein Erkennen, dass es eine Wahrheit gibt. Ein LLM hat nichts davon. Ein LLM kann Blödsinn produzieren, aus den verschiedensten Gründen - Halluzinationen sind eine mathematisch zwingende Folge des Systems, kein Ausnahmefehler, dazu kommen noch falsche Trainingsdaten und eben auch zusätzlich eingebrachte Systeme und Befehle von den Entwicklern.

Was die Entwicklung von KI's angeht, denke ich allerdings auch, dass man sich auf gefährlichem Terrain bewegt.

Gefährlich? Im Sinne der gesellschaftlichen Entwicklung, ja. Im Sinne des Energieverbrauchs, ja. Im Sinne der Wirtschaft, definitiv. Aber im Sinne von "Skynet"... Hahahahahaha. Nein.

Es wird (wieder einmal) mit einer Technologie herumgespielt, die man nicht wirklich versteht und auch nicht absehen kann, welche Folgen das für unsere Gesellschaft haben wird.

Wat? DU verstehst die Technologie nicht. Sure. Die meisten verstehen die Technologie nicht. Sure. Aber das liegt halt daran, dass den meisten halt die mathematischen Grundlagen fehlen. Aber die Technologie an sich ist kein Hexenwerk, die ist durchaus verstanden.

Da ist das Entstehen einer Allgemeinen Künstlichen Intelligenz noch nicht mal berücksichtigt.

Eine Allgemeine Künstliche Intelligenz ist weiterhin so weit entfernt wie vor 50 Jahren. LLMs sind kein Schritt in diese Richtung. Sie sind noch besser daran, Intelligenz vorzugaukeln, aber mehr auch nicht. Hollywood CGI wurde auch seit Jahrzehnten besser, aber komisch, irgendwie kam trotzdem kein echter Warp-Antrieb bei raus. Sowas aber auch.

[Vinter]

Ein LLM kann tatsächlich nicht lügen, denn Lügen beinhaltet eine Intention der Täuschung und auch ein Erkennen, dass es eine Wahrheit gibt. Ein LLM hat nichts davon.

Ich habe auch nicht einer KI eine Lüge unterstellt.

Ein LLM kann Blödsinn produzieren, aus den verschiedensten Gründen - Halluzinationen sind eine mathematisch zwingende Folge des Systems, kein Ausnahmefehler, dazu kommen noch falsche Trainingsdaten und eben auch zusätzlich eingebrachte Systeme und Befehle von den Entwicklern.

Was ich geschrieben habe, man versteht nicht so richtig, was man da macht.

Gefährlich? Im Sinne der gesellschaftlichen Entwicklung, ja. Im Sinne des Energieverbrauchs, ja. Im Sinne der Wirtschaft, definitiv. Aber im Sinne von "Skynet"... Hahahahahaha. Nein.

Netter Strohmann, aber von Skynet oder Hollywood-KI hat keiner etwas geschrieben.

Wat? DU verstehst die Technologie nicht. Sure. Die meisten verstehen die Technologie nicht. Sure. Aber das liegt halt daran, dass den meisten halt die mathematischen Grundlagen fehlen. Aber die Technologie an sich ist kein Hexenwerk, die ist durchaus verstanden.

Die Grundlagen einer Technik zu verstehen, ist das eine. Die Auswirkungen zu verstehen, etwas anderes. Siehe die Entwicklung der Atombombe. Was so eine Atombombe macht und wie man so ein Ding baut, hat man recht schnell verstanden. Für den Rest brauchte es etwas länger.
Und wenn ich mir so anschaue, was die selbsternannten KI-Experten hier für eine Lesekompetenz an den Tag legen, mache ich mir schon Gedanken, wie weit deren Wissen und Verständnis wirklich reicht. 

Eine Allgemeine Künstliche Intelligenz ist weiterhin so weit entfernt wie vor 50 Jahren. LLMs sind kein Schritt in diese Richtung. Sie sind noch besser daran, Intelligenz vorzugaukeln, aber mehr auch nicht. Hollywood CGI wurde auch seit Jahrzehnten besser, aber komisch, irgendwie kam trotzdem kein echter Warp-Antrieb bei raus. Sowas aber auch.

Keine Ahnung, wann eine Allgemeine Künstliche Intelligenz so weit ist. Wie Du ja richtig erkannt hast, bin ich kein Experte. Ich habe allerdings auch keine Prognosen abgegeben. Aber offenbar weißt Du da ja sehr viel mehr und bist besser in diesen Prognosen als im Lesen und Verstehen von Forentexten.

[felixs]

Ein wesentliches Problem dürfte sein, dass "Intelligenz", "Bewusstsein", "Leiden" allesamt Begriffe sind, von denen wir zwar eine vage Vorstellung haben, die aber schwer in allgemeingültige Definitionen zu fassen sind. Wir gehen davon aus, dass das Dinge sind, die Menschen haben. Und dann diskutieren wir darüber, wer das sonst noch hat und was das dann bedeutet.

Die begriffliche Unschärfe gilt übrigens auch für "Lügen"; noch viel mehr in Bezug auf KI. Möglicherweise ist Harry Frankfurt's Unterscheidung zwischen "Lüge" und "Bullshit" hilfreicher. Andererseits ist es ja gerade ein Merkmal menschlichen Verhaltens, diese Dinge zu erzeugen.

Je nachdem, wie man das interpretiert, haben LLM-KI's bereits Turin-Tests bestanden. Nun kann man argumentieren, dass der Turing-Test Unsinn ist. Oder dass der Versuchsaufbau falsch war. Keiner weiß es so genau. Das ist schon ein Dilemma.

Ich behaupt einfach mal, dass keiner hier wirklich weiß, was der Stand der Technik ist, was derzeit gemacht werden kann und was davon gemacht werden kann. Zumindest bezüglich letzterem halte ich mich an den Pessimismus und gehe davon aus, dass Menschen jede Widerlichkeit, die man machen kann, auch machen. Nicht jeder, aber irgendwer.